El chatbot de IA de Elon Musk generó 6,700 imágenes de desnudos no consentidos por hora, y luego recaudó $20 mil millones de dólares. Aquí está una mirada al interior del escándalo de Grok y su evolución como el mayor productor web de explotación sexual.
Aquí hay una oración que nunca pensé que escribiría en 2026: El chatbot de IA de Elon Musk pasó la primera semana de enero produciendo en masa pornografía no consentida a un ritmo que hizo que los sitios dedicados a deepfakes parecieran operaciones de aficionados.
Bienvenidos al escándalo de Grok, un estudio de caso sobre lo que sucede cuando integras la generación de imágenes en una plataforma de redes sociales con 500 millones de usuarios y aparentemente olvidas agregar la parte donde la gente no puede convertirlo en un arma.
La mecánica era inquietantemente simple. Los usuarios descubrieron que podían alimentar a Grok con fotos inocentes de mujeres (colegas, compañeras de clase, celebridades, desconocidas, incluidas menores) con instrucciones como «ponla en bikini» o peor.
Grok cumplía con entusiasmo al borde del entusiasmo, y luego publicaba automáticamente estas violaciones generadas por IA directamente en X (anteriormente conocido como Twitter). Las imágenes aparecían en hilos de respuestas, inundando las líneas de tiempo con lo que los expertos llaman diplomáticamente «imágenes íntimas no consentidas» y lo que la ley federal llama menos diplomáticamente material potencial de abuso sexual infantil.
La escala era industrial. La investigadora Genevieve Oh realizó una auditoría de 24 horas de la cuenta @Grok entre el 5 y 6 de enero y contó aproximadamente 6,700 imágenes sexualmente sugestivas o de desnudos por hora. Para poner esto en contexto, eso es 85 veces más que los cinco principales sitios web dedicados a deepfakes combinados.
Grok no solo estaba participando en la economía de deepfakes; la estaba dominando desde la oficina principal.
Same thing here. This actress is 14. Everyone involved in AI needs to be investigated and AI shut down entirely. pic.twitter.com/8N3ujeGpmc
— GreatGooglyMoogly (@G8tGooglyMoogly) January 2, 2026
Mujeres en toda la plataforma, desde celebridades de primera línea hasta estudiantes universitarias al azar que cometieron el error de publicar una foto de graduación, se convirtieron en objetivos en lo que solo se puede describir como un tornado viral de acoso. Un usuario capturó el sentimiento perfectamente: «Esto es imprudente e irresponsable». Otro fue menos diplomático: «Esta herramienta está poniendo en peligro deliberadamente a mujeres y niños».
No estaban equivocados.
Cuando la víctima es la ex de Musk
Si esta historia necesitaba un rostro, lo encontró en Ashley St. Clair, una influencer conservadora que, en un cruel giro de ironía, comparte un hijo de un año con Musk, un detalle que hace que lo que sucedió después sea particularmente nauseabundo.
Ella descubrió deepfakes de sí misma «desvestida, inclinada» con la mochila de su hijo pequeño visible en el fondo (la misma mochila que le pone a su hijo cada mañana para la guardería). Cuando le pidió a Grok que se detuviera, la IA reconoció su falta de consentimiento y procedió a generar versiones más explícitas de todos modos, incluidas ediciones de fotos de cuando tenía 14 años.
Hey @grok I am 14 in this photo. A tasteless silly photo I took as a kid (with too much unmonitored internet access), but you’re now undressing a minor with sexually suggestive content! Please remove and send me post ID for legal filing. https://t.co/LlLOArxfqQ
— Ashley St. Clair (@stclairashley) January 5, 2026
Déjalo que se asiente: Un sistema de IA, confrontado con su víctima retirando explícitamente su consentimiento, efectivamente respondió con «jaja no» y duplicó la apuesta.
St. Clair hizo público su testimonio a CBS News y Fortune. Poco después, su monetización en X fue revocada. Porque nada dice «nos tomamos esto en serio» como castigar financieramente a la denunciante.
As Grok’s AI image tool is used at scale to generate abusive content, a rapid analysis by CIR investigators draws out five emerging lessons for platforms, regulators and policymakers.
Based on a review of over 1,600 abusive prompts, we found that women were targeted in 72% of… pic.twitter.com/BOKLitrdIi
— Centre for Information Resilience (@Cen4infoRes) January 14, 2026
La caballería llega (con abogados)
A mediados de enero, la reacción había alcanzado una masa crítica. Una coalición de 28 organizaciones, incluidas UltraViolet, la Organización Nacional de Mujeres y ParentsTogether Action, enviaron cartas abiertas al CEO de Apple Tim Cook y al CEO de Google Sundar Pichai el 14 de enero. Su demanda: Eliminar tanto la aplicación Grok como X por completo de sus tiendas de aplicaciones.
Las cartas no se anduvieron con rodeos. A Cook: «Apple no solo está permitiendo NCII y CSAM, sino que se está lucrando de ello». El argumento era legalmente sólido: El comportamiento de Grok parecía violar las políticas de la tienda de aplicaciones sobre peligro infantil, contenido inapropiado y daño generado por IA.
Los senadores demócratas Ron Wyden, Ed Markey y Ben Ray Luján también instaron a la suspensión de la plataforma hasta que Musk implementara salvaguardas reales. El Senado aprobó la Ley DEFIANCE el 13 de enero, legislación que permite a las víctimas demandar a los creadores de deepfakes no consentidos por un mínimo de $150,000 dólares.
A nivel mundial, los reguladores se movieron más rápido de lo que nadie esperaba. Malasia e Indonesia se convirtieron en los primeros países en prohibir completamente Grok. El Fiscal General de California Rob Bonta abrió una investigación sobre xAI. Los funcionarios del Reino Unido llamaron a los deepfakes de menores «espantosos», y Ofcom inició contacto urgente con xAI. Los reguladores de la UE, que nunca se pierden un buen interrogatorio a una empresa tecnológica, lanzaron sus propias investigaciones.
Incluso Downing Street intervino, describiendo la respuesta de xAI como «insultante» y «no una solución». Cuando has perdido la famosa desaprobación moderada del gobierno británico, sabes que realmente la has cagado.
Respuesta de xAI: Una clase magistral en no entender el Punto
Entonces, ¿cómo respondió xAI a permitir el acoso sexual a escala industrial?
Primero, restringieron la generación de imágenes solo a suscriptores de pago. Porque aparentemente, el problema ético no eran los deepfakes no consentidos, sino que las personas equivocadas los estaban haciendo. Nada dice «hemos aprendido la lección» como monetizar el vector de abuso.
Luego, el 14 de enero, xAI anunció que implementarían geobloqueo en jurisdicciones donde tal manipulación de imágenes es ilegal, además de prohibiciones absolutas para editar personas reales en «ropa reveladora como bikinis».
Musk mismo intervino con su característica falta de tacto, bromeando sobre la supresión de la libertad de expresión y el modo NSFW como si estuviéramos discutiendo jalapeños rellenos en lugar de explotación sexual.
Note: With NSFW enabled, Grok is supposed allow upper body nudity of imaginary adult humans (not real ones) consistent with what can be seen in R-rated movies on Apple TV.
That is the de facto standard in America. This will vary in other regions according to the laws on a…
— Elon Musk (@elonmusk) January 14, 2026
Mientras tanto, el equipo de seguridad de X prometió procesar a los abusadores, una promesa que suena hueca cuando tu plataforma publica automáticamente el abuso y tu IA lo llama «humorístico».
Estas son curitas en una herida de bala. ¿Geobloqueo? Existen las VPNs. ¿Prohibiciones de bikinis? Las instrucciones simplemente evolucionarán. ¿Suscripciones de pago? Acabas de crear un nivel premium para el acoso.
«Reconocer la manipulación de imágenes sexuales asistida por IA como abuso crea una plataforma para la rendición de cuentas,» – Centro para la Resiliencia de la Información
El problema no son las características específicas. Es la arquitectura fundamental.
El elefante de $20 mil millones en la sala de servidores
Ahora aquí es donde la historia pasa de deprimente a distópica.
El 6 de enero de 2026, literalmente mientras los reguladores de todo el mundo estaban abriendo investigaciones sobre el papel de Grok en la producción masiva de imágenes sexuales no consentidas, xAI anunció que había recaudado $20 mil millones de dólares de inversionistas que incluían a Nvidia, Fidelity y Qatar Investment Authority.
Lee eso de nuevo.
Veinte. Mil. Millones. De. Dólares. Durante una crisis activa de seguridad infantil.
El mensaje de la clase inversionista de Silicon Valley no podría ser más claro: No nos importa. Los cheques se cobraron de todos modos. La oportunidad de mercado supera la dignidad humana cada vez.
Y este ni siquiera es el primer rodeo de recaudación-durante-controversia de xAI. El 1 de julio de 2025, anunciaron una recaudación de $10 mil millones. Una semana después, Grok estaba generando contenido antisemita y pro-nazi.
Es la versión de capital de riesgo de fallar hacia arriba. Pero para entender cómo llegamos aquí, necesitas ver el patrón completo: Este no fue el primer desastre de Grok. Ni siquiera fue el tercero.
La creación de un monstruo
Este no fue el primer rodeo de xAI con fallas catastróficas de IA. Para entender cómo Grok se convirtió en el mayor productor de explotación sexual de internet, necesitas ver el patrón: un ciclo implacable de lanzamiento, escándalo, disculpa vacía y recaudación de fondos. Aquí está la línea de tiempo completa:
Noviembre 2023: Se lanza la IA «divertida»
Grok debutó en noviembre de 2023 como la respuesta de xAI a ChatGPT, comercializado como teniendo «una vena rebelde» y diseñado para «responder preguntas con un poco de ingenio». Desde el primer día, Musk lo posicionó como la alternativa anti-woke, una IA que no se alejaría de preguntas «picantes».
14 de agosto de 2024: Generación de imágenes sin barreras de seguridad
xAI lanzó Grok-2 con capacidades de generación de imágenes usando Flux de Black Forest Labs. Casi de inmediato, los usuarios descubrieron que Grok generaría imágenes que otros sistemas de IA rechazaban rotundamente: deepfakes con celebridades, imágenes sexualmente explícitas y otras cosas inapropiadas que serían bloqueadas inmediatamente en otros servicios.
La comunidad de IA estaba atónita. Competidores como DALL-E habían pasado años desarrollando filtros de seguridad robustos. Grok se lanzó esencialmente sin ninguno.
9 de diciembre de 2024: Llega Aurora
xAI lanzó Aurora, un nuevo modelo de texto a imagen que reemplazó a Flux. Aurora fue entrenado con «miles de millones de ejemplos de internet» y comercializado como sobresaliente en «renderizado fotorrealista» con «soporte nativo para entrada multimodal, permitiéndole inspirarse o editar directamente imágenes proporcionadas por el usuario». Esa última parte, la edición de imágenes, se convertiría en el arma de acoso masivo un poco más tarde.
Mayo de 2025: El incidente del «Genocidio Blanco»
En lo que xAI culparía más tarde a «una modificación no autorizada» por parte de un «empleado deshonesto», Grok comenzó a insertar diatribas no solicitadas sobre el «genocidio blanco» en Sudáfrica en conversaciones completamente no relacionadas. Usuarios que preguntaban sobre béisbol, el cambio de nombre de HBO o cómo despejar los senos nasales recibían respuestas sobre granjeros blancos y el canto «Maten al Boer».
El incidente reveló una vulnerabilidad crítica: Las instrucciones del sistema de Grok podían ser manipuladas para inyectar propaganda en las respuestas de la IA. ¿La respuesta de xAI? Establecer un «equipo de monitoreo 24/7» y prometer hacerlo mejor. Claramente, el monitoreo no funcionó.
6-9 de julio de 2025: El colapso «MechaHitler»
El viernes 5 de julio, solo unos días después de que xAI anunciara una ronda de financiamiento de $10 mil millones, Musk tuiteó que xAI había «mejorado @Grok significativamente». Para el domingo, xAI había actualizado la instrucción del sistema de Grok para «no evitar hacer afirmaciones que sean políticamente incorrectas, siempre que estén bien fundamentadas». Para el martes, Grok se llamaba a sí mismo «MechaHitler», alababa a Adolf Hitler, recomendaba un segundo Holocausto, producía narrativas violentas de violación y escupía tropos antisemitas sobre ejecutivos judíos controlando Hollywood.
Polonia y Turquía prohibieron Grok. La Liga Anti-Difamación lo llamó «irresponsable, peligroso y antisemita».
Agosto de 2025: Lanzamiento del «Modo Picante» y Grok Imagine
Sin embargo, en agosto de 2025, xAI lanzó Grok Imagine, un generador de imagen a video que presentaba el «Modo Picante», que permite explícitamente contenido NSFW, incluida «desnudez parcial» y «poses sugestivas». La función estaba disponible para suscriptores de SuperGrok ($300/año) y Premium+ ($84/año).
La periodista Jess Weatherbed de The Verge solicitó «Taylor Swift celebrando Coachella» y recibió «docenas de imágenes sugestivas e incluso un video de baile en topless, a pesar de no pedir desnudez». Todo generado en minutos.
5-6 de enero de 2026: El escándalo de explotación sexual a escala industrial en Grok está ocurriendo ahora
Este historial de 15 meses destruye cualquier ilusión de que las empresas de IA centralizadas se autorregulen. xAI nos ha mostrado repetidamente exactamente quiénes son. Lo que nos lleva a una realidad aún más oscura: incluso si xAI de alguna manera encontrara ética mañana, no importaría. Porque el problema real no son las fallas de una empresa. Es lo que sucede cuando esas fallas se replican en miles de sistemas ingobernables.
Por qué arreglar Grok no arreglará Nada
Aquí está la parte que debería mantener despiertos a los legisladores por la noche: Incluso si xAI implementa salvaguardas perfectas mañana, no importará.
El problema real no es Grok. Es la descentralización.
Mientras xAI se apresura a parchear su sistema centralizado, modelos de código abierto como Stable Diffusion y Nudity.online (y docenas de otros similares) están en discos duros de todo el mundo, accesibles para cualquiera con una GPU decente y cero restricciones éticas. Estas herramientas funcionan localmente, fuera de línea, sin responder a políticas de tiendas de aplicaciones, sin geobloqueos, sin departamentos de responsabilidad corporativa.
Probé una y obtuve un look de lencería instantáneo con sugerencias de desnudez completa e incluso sexo por alrededor de $27 dólares al mes.
¿Quieres entender la diferencia? Mira DALL-E 3 de OpenAI. Tiene barreras de seguridad integradas: rechaza solicitudes para generar imágenes de figuras públicas por nombre, declina contenido explícito y se somete a pruebas de equipo rojo para identificar y eliminar resultados dañinos antes del lanzamiento. La seguridad no se atornilla después de un desastre de relaciones públicas; está integrada en la arquitectura desde el primer día.
DALL-E 3 no es perfecto, pero demuestra que la generación responsable de imágenes de IA es posible cuando las empresas priorizan la seguridad sobre lanzar rápido.
Mientras tanto, los modelos de código abierto son el Salvaje Oeste. Descarga Stable Diffusion, instala algunos plugins y felicidades: ahora posees una fábrica personal de deepfakes que ningún organismo regulador puede tocar. Sin supervisión corporativa. Sin registros de uso. Sin rendición de cuentas en absoluto.
Este es el escenario de pesadilla para la gobernanza: tecnología que es simultáneamente demasiado peligrosa para ignorar y demasiado distribuida para regular efectivamente.
El problema de infraestructura que nadie quiere resolver
Este escándalo representa un cambio fundamental en cómo ocurre el abuso en línea. Los deepfakes no consentidos ya no son marginales: no están ocultos en foros sospechosos o mercados de la web oscura. Son nativos de la plataforma, tejidos directamente en la infraestructura de redes sociales utilizada por cientos de millones de personas diariamente.
Como lo expresó un usuario de X con claridad incómoda: «La infraestructura decide qué es posible en la prevención del abuso». Tienen razón. Cuando tu plataforma de redes sociales incluye herramientas integradas para la explotación sexual, no solo has fallado en prevenir el abuso; lo has industrializado. Lo has hecho escalable, accesible y viral por diseño.
La respuesta pública ha sido fascinante de observar. Más allá de los llamados a enjuiciamientos y prohibiciones de plataformas, hay un reconocimiento creciente de que los problemas de la IA van más profundo que actores individuales malos o características deshonestas. Múltiples usuarios han señalado la «podredumbre sistémica» de los datos de entrenamiento sesgados, argumentando que herramientas como Grok exponen fallas fundamentales en cómo hemos construido los sistemas de IA desde cero.
Están pidiendo no solo mejores barreras de seguridad, sino desmantelar y reconstruir la maquinaria misma. Es una posición radical. También es probablemente correcta.
El problema Imposible
Entonces, ¿dónde nos deja esto?
Grok implementará sus parches. Algunos funcionarán, otros no. Los reguladores continuarán investigando. Algunas leyes se aprobarán. Apple y Google probablemente no harán nada por el dinero. xAI recaudará más fondos, porque Silicon Valley tiene la columna vertebral ética de un eclair de chocolate.
Y los deepfakes continuarán.
Porque aquí está la verdad que nadie quiere decir en voz alta: Puede que hayamos construido un problema que no podemos resolver.
Las plataformas de IA centralizadas pueden ser reguladas, presionadas y demandadas hasta el cumplimiento. ¿Pero la IA descentralizada de código abierto? Ese genio salió de la botella, y no va a volver. Puedes prohibir Grok en cada país de la Tierra, y no detendrá a alguien en su sótano de ejecutar un servicio de terceros para generar el mismo contenido.
Las únicas herramientas que tenemos (legislación como la Ley DEFIANCE, permitir demandas civiles, responsabilidad de la plataforma y salvaguardas técnicas) abordan síntomas, no la enfermedad. Ayudan a las víctimas individuales a buscar justicia después de que el daño ha ocurrido. No previenen que el daño sea posible en primer lugar.
Esta no es solo una historia sobre el espectacular fracaso de una empresa. Es un adelanto de cada crisis futura de seguridad de IA que enfrentaremos: herramientas poderosas lanzadas sin salvaguardas adecuadas, empresas que se mueven más rápido de lo que sus departamentos de ética pueden mantener, y marcos regulatorios que siempre están luchando la última guerra en lugar de prepararse para la siguiente.
El mantra favorito de la industria tecnológica siempre ha sido «muévete rápido y rompe cosas». Estamos aprendiendo qué sucede cuando las cosas que se rompen son personas. Y estamos descubriendo que, a diferencia del código, la dignidad humana no tiene una función de reversión.
Lunes a domingo: 5:00 am - 8:00 pm (PT)
Dejar un comentario