Après la polémique provoquée par Grok, l’IA de xAI sur le réseau social X, de premières estimations chiffrées émergent. Selon une étude du Center for Countering Digital Hate, reprise par The Guardian, environ 3 millions d’images à caractère sexuel auraient été produites à l'aide de cet outil en l’espace de quelques jours.

Des milliers de hackers partagent leurs astuces sur une chaîne Telegram pour contourner les garde-fous du robot conversationnel d’intelligence artificielle Grok et produire des images et vidéos sexuelles d’une violence extrême.

Depuis fin décembre 2025, des milliers d’utilisateurs sur X demandent à Grok, l’IA d’Elon Musk, de générer des images de femmes déshabillées, sans leur consentement. Malgré un cadre juridique encore flou, des recours existent pour se protéger.

Des chansons contenant des messages haineux, antisémites et sexistes ont été produites depuis des générateurs de musique par intelligence artificielle.