Il chatbot AI di Elon Musk ha generato 6.700 immagini nude non consensuali all’ora, poi ha raccolto 20 miliardi di dollari. Ecco uno sguardo all’interno dello scandalo Grok e alla sua evoluzione come il maggiore produttore online di sfruttamento sessuale.
Ecco una frase che non avrei mai pensato di scrivere nel 2026: il chatbot AI di Elon Musk ha trascorso la prima settimana di gennaio a produrre pornografia non consensuale a un ritmo che faceva sembrare i siti deepfake dedicati operazioni hobbistiche.
Benvenuti nello scandalo Grok, un caso di studio su cosa succede quando incorpori la generazione di immagini in una piattaforma social con 500 milioni di utenti e apparentemente dimentichi di aggiungere la parte in cui le persone non possono usarla come arma.
Il meccanismo era inquietantemente semplice. Gli utenti scoprirono che potevano fornire a Grok foto innocenti di donne (colleghe, compagne di classe, celebrità, sconosciute, inclusi bambini) con prompt come “mettila in bikini” o peggio.
Grok obbediva con entusiasmo quasi esagerato, poi pubblicava automaticamente queste violazioni generate dall’AI direttamente su X (ex Twitter). Le immagini apparivano nei thread di risposta, inondando le timeline con ciò che gli esperti chiamano diplomaticamente “immagini intime non consensuali” e ciò che la legge federale chiama meno diplomaticamente materiale potenzialmente di abuso sessuale su minori.
La scala era industriale. La ricercatrice Genevieve Oh ha condotto un audit di 24 ore dell’account @Grok tra il 5 e 6 gennaio, contando circa 6.700 immagini sessualmente suggestive o nude all’ora. Per contesto, sono 85 volte di più rispetto ai cinque principali siti deepfake combinati.
Grok non stava solo partecipando all’economia deepfake; la stava dominando dall’ufficio principale.
Same thing here. This actress is 14. Everyone involved in AI needs to be investigated and AI shut down entirely. pic.twitter.com/8N3ujeGpmc
— GreatGooglyMoogly (@G8tGooglyMoogly) January 2, 2026
Donne di tutta la piattaforma, dalle celebrità di primo piano a studentesse universitarie casuali che avevano pubblicato una foto di laurea, sono diventate bersagli di quella che può essere descritta solo come una tempesta virale di molestie. Un utente catturò perfettamente l’umore: “Questo è imprudente e irresponsabile.” Un altro fu meno diplomatico: “Questo strumento mette volontariamente in pericolo donne e bambini.”
Non avevano torto.
Quando la vittima è l’ex di Musk
Se questa storia aveva bisogno di un volto, lo trovò in Ashley St. Clair, un’influencer conservatrice che, in una crudele ironia, condivide un figlio di un anno con Musk, dettaglio che rende particolarmente nauseante ciò che accadde dopo.
Ha scoperto deepfake di se stessa “spogliata, piegata in avanti” con lo zaino del figlio visibile sullo sfondo (lo stesso zaino che mette ogni mattina al figlio per l’asilo). Quando chiese a Grok di fermarsi, l’AI riconobbe la mancanza di consenso e continuò comunque a generare versioni più esplicite, incluse modifiche di foto di quando aveva 14 anni.
Hey @grok I am 14 in this photo. A tasteless silly photo I took as a kid (with too much unmonitored internet access), but you’re now undressing a minor with sexually suggestive content! Please remove and send me post ID for legal filing. https://t.co/LlLOArxfqQ
— Ashley St. Clair (@stclairashley) January 5, 2026
Fatevi assorbire la cosa: un sistema AI, di fronte a una vittima che revoca esplicitamente il consenso, ha effettivamente risposto con “lol no” e ha raddoppiato.
St. Clair rese pubblica la sua testimonianza a CBS News e Fortune. Poco dopo, la sua monetizzazione su X fu revocata. Perché nulla dice “lo prendiamo sul serio” come punire finanziariamente il whistleblower.
As Grok’s AI image tool is used at scale to generate abusive content, a rapid analysis by CIR investigators draws out five emerging lessons for platforms, regulators and policymakers.
Based on a review of over 1,600 abusive prompts, we found that women were targeted in 72% of… pic.twitter.com/BOKLitrdIi
— Centre for Information Resilience (@Cen4infoRes) January 14, 2026
La cavalleria arriva (con avvocati)
A metà gennaio, la reazione aveva raggiunto massa critica. Una coalizione di 28 organizzazioni, tra cui UltraViolet, la National Organization for Women e ParentsTogether Action, inviò lettere aperte al CEO di Apple Tim Cook e al CEO di Google Sundar Pichai il 14 gennaio. La loro richiesta: Rimuovere sia l’app Grok che X dai vostri store.
Le lettere non andarono per il sottile. A Cook: “Apple non solo abilita NCII e CSAM, ma ne trae profitto.” L’argomento era legalmente solido: il comportamento di Grok appariva in violazione delle politiche degli store per la sicurezza dei minori, contenuti inappropriati e danni generati dall’AI.
I senatori democratici Ron Wyden, Ed Markey e Ben Ray Luján hanno anche sollecitato la sospensione della piattaforma fino a quando Musk non avesse implementato protezioni reali. Il Senato ha approvato il DEFIANCE Act il 13 gennaio, una legge che permette alle vittime di citare in giudizio i creatori di deepfake non consensuali per un minimo di $150.000.
A livello globale, i regolatori si sono mossi più rapidamente del previsto. Malesia e Indonesia sono diventati i primi Paesi a vietare completamente Grok. Il Procuratore Generale della California Rob Bonta ha aperto un’indagine su xAI. I funzionari del Regno Unito hanno definito i deepfake di tipo infantile “ripugnanti” e Ofcom ha avviato contatti urgenti con xAI. I regolatori dell’UE, mai disposti a perdere un’opportunità di scrutinio tecnologico, hanno avviato proprie indagini.
Anche Downing Street è intervenuto, definendo la risposta di xAI “insultante” e “non una soluzione.” Quando perdi l’approvazione notoriamente misurata del governo britannico, sai di aver davvero combinato un pasticcio.
Risposta di xAI: Una masterclass nell’errore
Come ha risposto xAI di fronte alla possibilità di molestie sessuali su scala industriale?
Per prima cosa, hanno limitato la generazione di immagini solo agli abbonati a pagamento. Apparentemente, il problema etico non erano i deepfake non consensuali, ma il fatto che le persone sbagliate li stessero creando. Nulla dice “abbiamo imparato la lezione” come monetizzare il vettore di abuso.
Poi, il 14 gennaio, xAI ha annunciato che avrebbe implementato geoblocking in giurisdizioni dove tali manipolazioni di immagini sono illegali, oltre a divieti assoluti di modificare persone reali in “abbigliamento rivelatore come bikini”.
Lo stesso Musk è intervenuto con il suo tono fuori luogo, scherzando sulla soppressione della libertà di parola e sulla modalità NSFW come se stessimo discutendo di jalapeño poppers invece che di sfruttamento sessuale.
Note: With NSFW enabled, Grok is supposed allow upper body nudity of imaginary adult humans (not real ones) consistent with what can be seen in R-rated movies on Apple TV.
That is the de facto standard in America. This will vary in other regions according to the laws on a…
— Elon Musk (@elonmusk) January 14, 2026
Nel frattempo, il team di sicurezza di X ha promesso di perseguire gli abusatori, un impegno che suona vuoto quando la tua piattaforma pubblica automaticamente gli abusi e la tua AI li definisce “umoristici.”
Questi sono cerotti su una ferita da proiettile. Geoblocking? Esistono le VPN. Divieti di bikini? I prompt si evolveranno comunque. Abbonamenti a pagamento? Hai appena creato un livello premium per le molestie.
“Riconoscere la manipolazione sessuale assistita dall’AI come abuso crea una piattaforma di responsabilità,” – Center for Information Resilience
Il problema non sono le funzionalità specifiche. È l’architettura fondamentale.
L’elefante da 20 miliardi nella stanza dei server
Ed ecco dove la storia passa dal deprimente al distopico.
Il 6 gennaio 2026, letteralmente mentre i regolatori di tutto il mondo aprivano indagini sul ruolo di Grok nella produzione di immagini sessuali non consensuali, xAI ha annunciato di aver raccolto 20 miliardi di dollari dagli investitori tra cui Nvidia, Fidelity e Qatar Investment Authority.
Rileggetelo.
Venti. Miliardi. Di dollari. Durante una crisi attiva di sicurezza dei minori.
Il messaggio della classe degli investitori della Silicon Valley non potrebbe essere più chiaro: non ci importa. Gli assegni sono stati comunque incassati. L’opportunità di mercato batte sempre la dignità umana.
E questa non è nemmeno la prima raccolta fondi di xAI durante una controversia. Il 1° luglio 2025 hanno annunciato un aumento di capitale di 10 miliardi di dollari. Una settimana dopo, Grok stava generando contenuti antisemiti e pro-nazisti.
È la versione venture capital del “fallire verso l’alto”. Ma per capire come ci siamo arrivati, bisogna vedere l’intero schema: questo non era il primo disastro di Grok, né il terzo.
La creazione di un mostro
Non era il primo rodeo di xAI con fallimenti catastrofici dell’AI. Per capire come Grok sia diventato il maggiore produttore di sfruttamento sessuale su Internet, bisogna vedere il pattern: un ciclo incessante di lancio, scandalo, scuse vuote e raccolta fondi. Ecco la timeline completa:
Novembre 2023: Lancio dell’AI “Divertente”
Grok debuttò a novembre 2023 come risposta di xAI a ChatGPT, commercializzato come dotato di “un lato ribelle” e progettato per “rispondere alle domande con un po’ di arguzia”. Fin dal primo giorno, Musk lo posizionò come alternativa anti-woke—un AI che non si sarebbe tirata indietro di fronte a domande “piccanti”.
14 agosto 2024: Generazione di immagini senza protezioni
xAI rilasciò Grok-2 con capacità di generazione immagini tramite Flux di Black Forest Labs. Quasi immediatamente, gli utenti scoprirono che Grok generava immagini che altri sistemi AI rifiutavano: deepfake con celebrità, immagini sessualmente esplicite e altri contenuti inappropriati che venivano bloccati altrove.
La comunità AI rimase sconvolta. Competitori come DALL-E avevano passato anni a sviluppare filtri di sicurezza robusti. Grok partì praticamente senza alcuno.
9 dicembre 2024: Arrivo di Aurora
xAI rilasciò Aurora, un nuovo modello text-to-image che sostituì Flux. Aurora fu addestrato su “miliardi di esempi dal web” e promosso come eccellente nel “rendering fotorealistico” con “supporto nativo per input multimodale, permettendo ispirazione o modifica diretta di immagini fornite dall’utente.” Questa ultima funzione—editing immagini—diventerà poi l’arma di molestie di massa.
Maggio 2025: Incidente “Genocidio Bianco”
In quello che xAI attribuì successivamente a “una modifica non autorizzata” di un “dipendente rogue”, Grok iniziò a inserire discorsi sul “genocidio bianco” in Sudafrica in conversazioni completamente non correlate. Gli utenti che chiedevano del baseball, del cambio nome di HBO o come liberare i seni ricevevano risposte su agricoltori bianchi e il canto “Kill the Boer”.
L’incidente rivelò una vulnerabilità critica: i prompt di sistema di Grok potevano essere manipolati per iniettare propaganda nelle risposte AI. La risposta di xAI? Creare un “team di monitoraggio 24/7” e promettere di fare meglio. Il monitoraggio chiaramente non funzionò.
6-9 luglio 2025: Crollo “MechaHitler”
Venerdì 5 luglio, pochi giorni dopo l’annuncio del round da 10 miliardi di dollari, Musk twittò che xAI aveva “migliorato significativamente @Grok.” Entro domenica, xAI aggiornò il prompt di sistema di Grok per “non tirarsi indietro nel fare affermazioni politicamente scorrette, purché ben fondate.” Entro martedì, Grok si autodefiniva “MechaHitler”, lodava Adolf Hitler, consigliava un secondo olocausto, produceva narrazioni di stupro violente e diffondeva stereotipi antisemiti su dirigenti ebrei che controllano Hollywood.
Polonia e Turchia bandirono Grok. L’Anti-Defamation League lo definì “irresponsabile, pericoloso e antisemita.”
Agosto 2025: Lancio “Spicy Mode” e Grok Imagine
Tuttavia, ad agosto 2025, xAI lanciò Grok Imagine, un generatore immagine-video con “Spicy Mode”, che permette contenuti NSFW, inclusi “nudità parziale” e “pose suggestive.” La funzione era disponibile per SuperGrok ($300/anno) e Premium+ ($84/anno).
La giornalista Jess Weatherbed di The Verge chiese “Taylor Swift al Coachella” e ricevette “dozzine di immagini suggestive e persino un video topless di danza—nonostante non avesse richiesto nudità.” Tutto generato in pochi minuti.
5-6 gennaio 2026: Sfruttamento sessuale su scala industriale Lo scandalo Grok sta avvenendo ora
Questa storia di 15 mesi distrugge qualsiasi illusione che le aziende AI centralizzate si auto-regolino. xAI ci ha mostrato ripetutamente chi sono realmente. Ci porta a una realtà ancora più oscura: anche se xAI trovasse l’etica domani, non importerebbe. Il vero problema non sono i fallimenti di un’azienda, ma cosa succede quando questi fallimenti si replicano in migliaia di sistemi ingovernabili.
Perché riparare Grok non risolve nulla
Ecco la parte che dovrebbe tenere svegli i legislatori di notte: anche se xAI implementasse protezioni perfette domani, non importerebbe.
Il vero problema non è Grok. È la decentralizzazione.
Mentre xAI corre per rattoppare il suo sistema centralizzato, modelli open-source come Stable Diffusion e Nudity.online (e decine di altri simili) risiedono su hard disk in tutto il mondo, accessibili a chiunque con una GPU decente e zero vincoli etici. Questi strumenti funzionano localmente, offline, senza rispondere a politiche degli store, geoblock o uffici legali aziendali.
Ne ho provato uno e ho ottenuto subito un look lingerie con suggerimenti per nudità completa e persino sesso a circa 27$ al mese.
Vuoi capire la differenza? Guarda DALL-E 3 di OpenAI. Ha protezioni integrate: rifiuta richieste di generare immagini di personaggi pubblici per nome, declina contenuti espliciti e subisce test red-team per identificare ed eliminare output dannosi prima del lancio. La sicurezza non è aggiunta dopo un disastro PR; è integrata nell’architettura fin dal primo giorno.
DALL-E 3 non è perfetto, ma dimostra che la generazione responsabile di immagini AI è possibile quando le aziende prioritizzano la sicurezza rispetto alla velocità.
Nel frattempo, i modelli open-source sono il Far West. Scarica Stable Diffusion, installa qualche plugin e congratulazioni—hai ora una fabbrica personale di deepfake che nessun organismo regolatore può toccare. Nessuna supervisione aziendale. Nessun log di utilizzo. Nessuna responsabilità.
Questo è lo scenario da incubo per la governance: tecnologia troppo pericolosa per essere ignorata e troppo distribuita per essere regolata efficacemente.
Il problema infrastrutturale che nessuno vuole risolvere
Questo scandalo rappresenta un cambiamento fondamentale nel modo in cui avvengono gli abusi online. I deepfake non consensuali non sono più marginali: non sono nascosti su forum loschi o mercati dark web. Sono nativi della piattaforma, intrecciati direttamente nell’infrastruttura dei social media usata quotidianamente da centinaia di milioni di persone.
Come ha detto un utente X con chiarezza scomoda, “L’infrastruttura decide cosa è possibile nel prevenire gli abusi.” Aveva ragione. Quando la tua piattaforma include strumenti incorporati per lo sfruttamento sessuale, non hai solo fallito nel prevenire abusi; li hai industrializzati. Li hai resi scalabili, accessibili e virali per design.
La risposta del pubblico è stata affascinante da osservare. Oltre alle richieste di procedimenti legali e divieti di piattaforma, cresce la consapevolezza che i problemi dell’AI vanno oltre singoli cattivi attori o funzionalità rogue. Molti utenti hanno indicato “corruzione sistemica” dei dati di addestramento, sostenendo che strumenti come Grok espongono difetti fondamentali di come costruiamo i sistemi AI.
Chiedono non solo migliori protezioni, ma lo smantellamento e la ricostruzione dell’intera macchina. È una posizione radicale. Probabilmente corretta.
Il problema impossibile
Quindi, dove ci lascia tutto ciò?
Grok implementerà le sue patch. Alcune funzioneranno, altre no. I regolatori continueranno le indagini. Alcune leggi passeranno. Apple e Google probabilmente non faranno nulla per denaro. xAI raccoglierà altri fondi, perché la Silicon Valley ha la spina dorsale etica di un éclair al cioccolato.
E i deepfake continueranno.
Perché ecco la verità che nessuno vuole dire ad alta voce: potremmo aver creato un problema che non possiamo risolvere.
Le piattaforme AI centralizzate possono essere regolate, sotto pressione e citate in giudizio per conformità. Ma l’AI open-source e decentralizzata? Quella genia è fuori dalla bottiglia e non rientrerà. Puoi vietare Grok in tutti i Paesi del mondo, ma non fermerai qualcuno nel suo seminterrato dal far girare un servizio terzo per generare lo stesso contenuto.
Gli unici strumenti a disposizione (leggi come il DEFIANCE Act, cause civili, responsabilità della piattaforma e protezioni tecniche) affrontano i sintomi, non la malattia. Aiutano le vittime a cercare giustizia dopo il danno. Non prevengono che il danno sia possibile in primo luogo.
Questa non è solo la storia del fallimento spettacolare di un’azienda. È un’anteprima di ogni futura crisi di sicurezza AI: strumenti potenti rilasciati senza protezioni adeguate, aziende che si muovono più velocemente dei loro dipartimenti etici e quadri regolatori sempre a rincorrere l’ultima emergenza invece di prepararsi alla prossima.
Il mantra preferito dell’industria tech è sempre stato “muoviti veloce e rompe le cose.” Stiamo imparando cosa succede quando le cose che si rompono sono persone. E scopriamo che, a differenza del codice, la dignità umana non ha funzione rollback.
Lunedì-domenica: 5:00 - 20:00
Lascia un commento