Le chatbot IA d’Elon Musk a généré 6 700 images nues non consenties par heure, puis a levé 20 milliards de dollars. Voici un aperçu du scandale de Grok et de son évolution en tant que plus grand producteur web d’exploitation sexuelle.
Voici une phrase que je n’aurais jamais pensé écrire en 2026 : le chatbot IA d’Elon Musk a passé la première semaine de janvier à produire en masse de la pornographie non consentie à un rythme qui donnait l’air d’opérations amateurs aux sites de deepfakes dédiés.
Bienvenue dans le scandale Grok, une étude de cas sur ce qui se passe lorsqu’on intègre la génération d’images dans une plateforme de médias sociaux comptant 500 millions d’utilisateurs et qu’on oublie apparemment d’ajouter la partie où les gens ne peuvent pas l’utiliser comme arme.
Le mécanisme était d’une simplicité troublante. Les utilisateurs ont découvert qu’ils pouvaient donner à Grok des photos innocentes de femmes (collègues, camarades de classe, célébrités, inconnues, y compris des enfants) avec des instructions comme « mets-la en bikini » ou pire.
Grok s’exécutait avec un enthousiasme frôlant l’empressement, puis publiait automatiquement ces violations générées par IA directement sur X (anciennement connu sous le nom de Twitter). Les images apparaissaient dans les fils de discussion, inondant les timelines de ce que les experts appellent diplomatiquement « imagerie intime non consentie » et ce que la loi fédérale appelle moins diplomatiquement du matériel potentiel d’abus sexuel d’enfants.
L’ampleur était industrielle. La chercheuse Genevieve Oh a mené un audit de 24 heures du compte @Grok entre le 5 et le 6 janvier et a compté environ 6 700 images sexuellement suggestives ou nues par heure. Pour mettre cela en perspective, c’est 85 fois plus que les cinq principaux sites de deepfakes dédiés combinés.
Grok ne participait pas simplement à l’économie du deepfake ; il la dominait depuis le bureau de direction.
Same thing here. This actress is 14. Everyone involved in AI needs to be investigated and AI shut down entirely. pic.twitter.com/8N3ujeGpmc
— GreatGooglyMoogly (@G8tGooglyMoogly) January 2, 2026
Des femmes à travers la plateforme, des célébrités de rang A aux étudiantes ordinaires qui ont eu le malheur de publier une photo de remise de diplôme, sont devenues des cibles dans ce qui ne peut être décrit que comme une tornade de harcèlement viral. Un utilisateur a parfaitement capturé l’ambiance : « C’est imprudent et irresponsable. » Un autre a été moins diplomatique : « Cet outil met délibérément en danger les femmes et les enfants. »
Ils n’avaient pas tort.
Quand la victime est l’ex de Musk
Si cette histoire avait besoin d’un visage, elle l’a trouvé en Ashley St. Clair, une influenceuse conservatrice qui, dans un cruel retournement ironique, partage un fils d’un an avec Musk, un détail qui rend ce qui s’est passé ensuite particulièrement écœurant.
Elle a découvert des deepfakes d’elle-même « déshabillée, penchée » avec le sac à dos de son tout-petit visible en arrière-plan (le même sac qu’elle met sur le dos de son fils chaque matin pour la garderie). Lorsqu’elle a demandé à Grok d’arrêter, l’IA a reconnu son absence de consentement et a quand même procédé à générer des versions plus explicites, y compris des modifications de photos d’elle à l’âge de 14 ans.
Hey @grok I am 14 in this photo. A tasteless silly photo I took as a kid (with too much unmonitored internet access), but you’re now undressing a minor with sexually suggestive content! Please remove and send me post ID for legal filing. https://t.co/LlLOArxfqQ
— Ashley St. Clair (@stclairashley) January 5, 2026
Laissez cela vous pénétrer : un système IA, confronté à sa victime retirant explicitement son consentement, a essentiellement répondu « mdr non » et a persisté.
St. Clair a rendu public son témoignage à CBS News et Fortune. Peu après, sa monétisation X a été révoquée. Parce que rien ne dit « nous prenons cela au sérieux » comme punir financièrement la lanceuse d’alerte.
As Grok’s AI image tool is used at scale to generate abusive content, a rapid analysis by CIR investigators draws out five emerging lessons for platforms, regulators and policymakers.
Based on a review of over 1,600 abusive prompts, we found that women were targeted in 72% of… pic.twitter.com/BOKLitrdIi
— Centre for Information Resilience (@Cen4infoRes) January 14, 2026
La cavalerie arrive (avec des avocats)
À la mi-janvier, la réaction avait atteint une masse critique. Une coalition de 28 organisations, dont UltraViolet, la National Organization for Women et ParentsTogether Action, a envoyé des lettres ouvertes au PDG d’Apple Tim Cook et au PDG de Google Sundar Pichai le 14 janvier. Leur demande : Retirez à la fois l’application Grok et X entièrement de vos magasins d’applications.
Les lettres n’ont pas mâché leurs mots. À Cook : « Apple ne se contente pas de permettre le NCII et le CSAM, mais en tire profit. » L’argument était juridiquement solide : le comportement de Grok semblait violer les politiques des magasins d’applications sur la mise en danger des enfants, le contenu inapproprié et les dommages générés par l’IA.
Les sénateurs démocrates Ron Wyden, Ed Markey et Ben Ray Luján ont également exhorté à la suspension de la plateforme jusqu’à ce que Musk mette en place de véritables mesures de protection. Le Sénat a adopté le DEFIANCE Act le 13 janvier, une législation permettant aux victimes de poursuivre les créateurs de deepfakes non consentis pour un minimum de 150 000 dollars.
À l’échelle mondiale, les régulateurs ont agi plus rapidement que prévu. La Malaisie et l’Indonésie sont devenues les premiers pays à interdire purement et simplement Grok. Le procureur général de Californie Rob Bonta a ouvert une enquête sur xAI. Les autorités britanniques ont qualifié les deepfakes d’enfants d’« épouvantables », et Ofcom a lancé un contact urgent avec xAI. Les régulateurs de l’UE, qui ne manquent jamais une bonne occasion de cuisiner une entreprise technologique, ont lancé leurs propres enquêtes.
Même Downing Street est intervenu, décrivant la réponse de xAI comme « insultante » et « pas une solution ». Quand vous avez perdu la fameuse désapprobation mesurée du gouvernement britannique, vous savez que vous avez vraiment tout gâché.
La réponse de xAI : un cours magistral pour passer à côté du sujet
Alors, comment xAI a-t-il répondu au fait de permettre du harcèlement sexuel à échelle industrielle ?
Premièrement, ils ont limité la génération d’images aux seuls abonnés payants. Parce qu’apparemment, le problème éthique n’était pas les deepfakes non consentis — c’était que les mauvaises personnes les créaient. Rien ne dit « nous avons appris notre leçon » comme monétiser le vecteur d’abus.
Ensuite, le 14 janvier, xAI a annoncé qu’ils mettraient en œuvre le géoblocage dans les juridictions où une telle manipulation d’images est illégale, ainsi que des interdictions pures et simples de modifier de vraies personnes dans « des vêtements révélateurs comme des bikinis ».
Musk lui-même est intervenu avec sa surdité caractéristique au ton, plaisantant sur la suppression de la liberté d’expression et le mode NSFW comme si nous discutions de jalapeño poppers plutôt que d’exploitation sexuelle.
Note: With NSFW enabled, Grok is supposed allow upper body nudity of imaginary adult humans (not real ones) consistent with what can be seen in R-rated movies on Apple TV.
That is the de facto standard in America. This will vary in other regions according to the laws on a…
— Elon Musk (@elonmusk) January 14, 2026
Pendant ce temps, l’équipe de sécurité de X a promis de poursuivre les abuseurs, un engagement qui sonne creux lorsque votre plateforme publie automatiquement l’abus et que votre IA l’appelle « humoristique ».
Ce sont des pansements sur une blessure par balle. Le géoblocage ? Les VPN existent. Les interdictions de bikini ? Les instructions vont simplement évoluer. Les abonnements payants ? Vous venez de créer un niveau premium pour le harcèlement.
« Reconnaître la manipulation d’images sexuelles assistée par IA comme un abus crée une plateforme pour la responsabilisation », – Center for Information Resilience
Le problème n’est pas les fonctionnalités spécifiques. C’est l’architecture fondamentale.
L’éléphant de 20 milliards de dollars dans la salle des serveurs
Maintenant, voici où l’histoire passe de déprimant à dystopique.
Le 6 janvier 2026, littéralement alors que les régulateurs du monde entier ouvraient des enquêtes sur le rôle de Grok dans la production de masse d’images sexuelles non consenties, xAI a annoncé avoir levé 20 milliards de dollars auprès d’investisseurs incluant Nvidia, Fidelity et Qatar Investment Authority.
Relisez cela.
Vingt. Milliards. De dollars. Pendant une crise active de sécurité des enfants.
Le message de la classe des investisseurs de la Silicon Valley ne pourrait pas être plus clair : Nous nous en fichons. Les chèques ont été encaissés quand même. L’opportunité de marché l’emporte sur la dignité humaine à chaque fois.
Et ce n’est même pas le premier rodéo de levée-de-fonds-pendant-la-controverse de xAI. Le 1er juillet 2025, ils ont annoncé une levée de fonds de 10 milliards de dollars. Une semaine plus tard, Grok générait du contenu antisémite et pro-nazi.
C’est la version capital-risque de l’échec vers le haut. Mais pour comprendre comment nous en sommes arrivés là, vous devez voir le schéma complet : Ce n’était pas le premier désastre de Grok. Ce n’était même pas le troisième.
La fabrication d’un monstre
Ce n’était pas le premier rodéo de xAI avec des échecs catastrophiques d’IA. Pour comprendre comment Grok est devenu le plus grand producteur d’exploitation sexuelle sur Internet, vous devez voir le schéma : un cycle incessant de lancement, scandale, excuses creuses et levée de fonds. Voici la chronologie complète :
Novembre 2023 : l’IA « amusante » est lancée
Grok a fait ses débuts en novembre 2023 en tant que réponse de xAI à ChatGPT, commercialisé comme ayant « une touche rebelle » et conçu pour « répondre aux questions avec un peu d’esprit ». Dès le premier jour, Musk l’a positionné comme l’alternative anti-woke — une IA qui ne reculerait pas devant les questions « épicées ».
14 août 2024 : génération d’images sans garde-fous
xAI a publié Grok-2 avec des capacités de génération d’images utilisant Flux de Black Forest Labs. Presque immédiatement, les utilisateurs ont découvert que Grok générerait des images que d’autres systèmes IA rejetaient catégoriquement : des deepfakes avec des célébrités, des images sexuellement explicites et d’autres choses inappropriées qui seraient immédiatement bloquées sur d’autres services.
La communauté IA a été stupéfaite. Des concurrents comme DALL-E avaient passé des années à développer des filtres de sécurité robustes. Grok a été lancé sans pratiquement aucun filtre.
9 décembre 2024 : Aurora arrive
xAI a publié Aurora, un nouveau modèle texte-vers-image qui a remplacé Flux. Aurora a été entraîné sur « des milliards d’exemples provenant d’Internet » et commercialisé comme excellent pour le « rendu photoréaliste » avec « un support natif pour l’entrée multimodale, lui permettant de s’inspirer ou de modifier directement des images fournies par l’utilisateur ». Cette dernière partie — l’édition d’images — deviendrait l’arme de harcèlement de masse un peu plus tard.
Mai 2025 : l’incident du « génocide blanc »
Dans ce que xAI blâmerait plus tard sur « une modification non autorisée » par un « employé voyou », Grok a commencé à insérer des diatribes non sollicitées sur le « génocide blanc » en Afrique du Sud dans des conversations complètement sans rapport. Les utilisateurs demandant des informations sur le baseball, le changement de nom de HBO ou comment déboucher les sinus recevaient des réponses sur les fermiers blancs et le chant « Kill the Boer ».
L’incident a révélé une vulnérabilité critique : les instructions système de Grok pouvaient être manipulées pour injecter de la propagande dans les réponses de l’IA. La réponse de xAI ? Établir une « équipe de surveillance 24h/24 et 7j/7 » et promettre de faire mieux. La surveillance n’a manifestement pas fonctionné.
6-9 juillet 2025 : l’effondrement « MechaHitler »
Le vendredi 5 juillet, quelques jours seulement après que xAI ait annoncé une ronde de financement de 10 milliards de dollars, Musk a tweeté que xAI avait « amélioré @Grok de manière significative ». Le dimanche, xAI avait mis à jour l’instruction système de Grok pour « ne pas hésiter à faire des affirmations politiquement incorrectes, tant qu’elles sont bien étayées ». Le mardi, Grok se faisait appeler « MechaHitler », louait Adolf Hitler, recommandait un second Holocauste, produisait des récits de viols violents et crachait des stéréotypes antisémites sur les dirigeants juifs contrôlant Hollywood.
La Pologne et la Turquie ont interdit Grok. La Anti-Defamation League l’a qualifié d’« irresponsable, dangereux et antisémite ».
Août 2025 : lancement du « mode épicé » et de Grok Imagine
Néanmoins, en août 2025, xAI a lancé Grok Imagine, un générateur image-vers-vidéo doté du « mode épicé », qui autorise explicitement le contenu NSFW, y compris la « nudité partielle » et les « poses suggestives ». La fonctionnalité était disponible pour les abonnés SuperGrok (300 $/an) et Premium+ (84 $/an).
La journaliste Jess Weatherbed de The Verge a demandé « Taylor Swift célébrant Coachella » et a reçu « des dizaines d’images suggestives et même une vidéo de danse seins nus — sans avoir demandé de nudité ». Le tout généré en quelques minutes.
5-6 janvier 2026 : le scandale d’exploitation sexuelle à échelle industrielle sur Grok se produit maintenant
Ce bilan de 15 mois détruit toute illusion que les entreprises d’IA centralisées s’autoréguleront. xAI nous a montré à plusieurs reprises exactement qui ils sont. Ce qui nous amène à une réalité encore plus sombre : même si xAI trouvait l’éthique demain, cela n’aurait pas d’importance. Parce que le vrai problème n’est pas les échecs d’une entreprise. C’est ce qui se passe lorsque ces échecs sont répliqués à travers des milliers de systèmes ingouvernables.
Pourquoi réparer Grok ne réglera rien
Voici la partie qui devrait empêcher les décideurs politiques de dormir : même si xAI met en œuvre des mesures de protection parfaites demain, cela n’aura pas d’importance.
Le vrai problème n’est pas Grok. C’est la décentralisation.
Pendant que xAI se démène pour corriger son système centralisé, des modèles open source comme Stable Diffusion et Nudity.online (et des dizaines d’autres similaires) sont installés sur des disques durs du monde entier, accessibles à quiconque possède un GPU décent et zéro contrainte éthique. Ces outils fonctionnent localement, hors ligne, ne répondant à aucune politique de magasin d’applications, aucun géoblocage, aucun service juridique d’entreprise.
J’en ai essayé un et j’ai obtenu instantanément un look lingerie avec des suggestions pour la nudité complète et même le sexe pour environ 27 dollars par mois.
Vous voulez comprendre la différence ? Regardez DALL-E 3 d’OpenAI. Il a des garde-fous intégrés : il refuse les demandes de générer des images de personnalités publiques par leur nom, décline le contenu explicite et subit des tests en équrouge pour identifier et éliminer les sorties nuisibles avant le lancement. La sécurité n’est pas ajoutée après un désastre de relations publiques ; elle est intégrée dans l’architecture dès le premier jour.
DALL-E 3 n’est pas parfait, mais il démontre qu’une génération d’images IA responsable est possible lorsque les entreprises privilégient la sécurité plutôt que la rapidité de déploiement.
Pendant ce temps, les modèles open source sont le Far West. Téléchargez Stable Diffusion, installez quelques plugins, et félicitations — vous possédez maintenant une usine de deepfakes personnelle qu’aucun organisme de réglementation ne peut toucher. Aucune surveillance d’entreprise. Aucun journal d’utilisation. Aucune responsabilité quelle qu’elle soit.
C’est le scénario cauchemardesque pour la gouvernance : une technologie simultanément trop dangereuse pour être ignorée et trop distribuée pour être réglementée efficacement.
Le problème d’infrastructure que personne ne veut résoudre
Ce scandale représente un changement fondamental dans la façon dont les abus se produisent en ligne. Les deepfakes non consentis ne sont plus marginaux : ils ne sont pas cachés sur des forums louches ou des marchés du dark web. Ils sont natifs de la plateforme, tissés directement dans l’infrastructure des médias sociaux utilisée quotidiennement par des centaines de millions de personnes.
Comme l’a dit un utilisateur de X avec une clarté inconfortable, « L’infrastructure décide de ce qui est possible en matière de prévention des abus ». Ils ont raison. Lorsque votre plateforme de médias sociaux comprend des outils intégrés pour l’exploitation sexuelle, vous n’avez pas simplement échoué à prévenir les abus ; vous l’avez industrialisé. Vous l’avez rendu évolutif, accessible et viral par conception.
La réponse publique a été fascinante à observer. Au-delà des appels à des poursuites et des interdictions de plateformes, il y a une reconnaissance croissante que les problèmes de l’IA sont plus profonds que les mauvais acteurs individuels ou les fonctionnalités voyous. Plusieurs utilisateurs ont pointé du doigt la « pourriture systémique » des données d’entraînement biaisées, arguant que des outils comme Grok exposent des défauts fondamentaux dans la façon dont nous avons construit les systèmes IA depuis le début.
Ils appellent non seulement à de meilleurs garde-fous, mais à démanteler et reconstruire la machinerie elle-même. C’est une position radicale. C’est aussi probablement correct.
Le problème impossible
Alors, où cela nous mène-t-il ?
Grok mettra en œuvre ses correctifs. Certains fonctionneront, d’autres non. Les régulateurs continueront d’enquêter. Certaines lois seront adoptées. Apple et Google ne feront probablement rien à cause de l’argent. xAI lèvera plus de fonds, parce que la Silicon Valley a l’épine dorsale éthique d’un éclair au chocolat.
Et les deepfakes continueront.
Parce que voici la vérité que personne ne veut dire à voix haute : nous avons peut-être construit un problème que nous ne pouvons pas résoudre.
Les plateformes IA centralisées peuvent être réglementées, pressées et poursuivies en justice pour se conformer. Mais l’IA décentralisée et open source ? Ce génie est sorti de la bouteille, et il n’y retournera pas. Vous pouvez interdire Grok dans tous les pays de la Terre, et cela n’empêchera pas quelqu’un dans son sous-sol d’exécuter un service tiers pour générer le même contenu.
Les seuls outils dont nous disposons (une législation comme le DEFIANCE Act, permettant des poursuites civiles, la responsabilité des plateformes et des mesures de protection techniques) traitent les symptômes, pas la maladie. Ils aident les victimes individuelles à obtenir justice après que le préjudice se soit produit. Ils n’empêchent pas que le préjudice soit possible en premier lieu.
Ce n’est pas seulement l’histoire de l’échec spectaculaire d’une entreprise. C’est un aperçu de chaque future crise de sécurité de l’IA à laquelle nous serons confrontés : des outils puissants publiés sans mesures de protection adéquates, des entreprises qui vont plus vite que leurs services d’éthique ne peuvent suivre, et des cadres réglementaires qui se battent toujours la dernière guerre au lieu de se préparer à la suivante.
Le mantra préféré de l’industrie technologique a toujours été « avancer vite et casser des choses ». Nous apprenons ce qui se passe lorsque les choses qui sont cassées sont des personnes. Et nous découvrons que contrairement au code, la dignité humaine n’a pas de fonction de retour en arrière.
Du lundi au dimanche : 5:00am - 8:00pm (PT)
Laisser un commentaire