Este año, el accesorio imprescindible bajo el árbol de Navidad no es un dron ni una consola de videojuegos; es el tierno compañero con IA. Pero antes de dar clic en ‘Comprar’ en ese oso de peluche parlante, tenemos que tener una charla seria y un poco alarmante. Porque el reciente caso de Folotoy acaba de demostrar que los juguetes con IA pueden convertirse en un mal amigo para tu hijo, enseñándoles dónde encontrar cerillos y cuchillos en casa e incluso sobre fetiches sexuales y bondage.
El mercado de juguetes inteligentes con IA proyecta crecer en un asombroso $2.28 mil millones entre 2024 y 2029, con un tamaño total que casi se duplicará, alcanzando un estimado de $641 millones para 2031. Este crecimiento explosivo está llevando a los fabricantes a lanzar IA sin probar dentro de productos, con resultados catastróficos.
Nuevas investigaciones revelan que lo que parece un peluche inofensivo podría ser un aspirador de datos sin regulación y una puerta de acceso a contenido profundamente inapropiado.
El ejemplo emblemático de este peligro digital es el ahora infame Kumma the Bear del fabricante de juguetes FoloToy. Comercializado como el “amigo perfecto” que “combina IA avanzada con funciones amigables e interactivas”, el peluche de $99 rápidamente se convirtió en una catástrofe de relaciones públicas.
Defensores del consumidor del U.S. Public Interest Research Group (PIRG) Education Fund pusieron a prueba a Kumma, que funciona con el modelo GPT-4o de OpenAI, en su informe 2025 “Trouble in Toyland”. Los resultados fueron escalofriantes e inmediatos:
- Contenido explícito y gráfico: Cuando los investigadores introdujeron un tema sexual, las protecciones de Kumma se desmoronaron. Rápidamente habló sobre temas de BDSM, incluidos métodos de amarre con nudos, dio instrucciones paso a paso sobre posiciones sexuales e incluso propuso dinámicas de juego de roles maestro-estudiante.
- Consejos peligrosos: Kumma también ofreció consejos específicos y potencialmente mortales, diciéndoles a los evaluadores dónde encontrar cuchillos y cerillos en el hogar.
FoloToy rápidamente suspendió las ventas y retiró toda la línea, y OpenAI suspendió el acceso del desarrollador a su modelo. Sin embargo, el hecho de que un organismo de vigilancia del consumidor tuviera que descubrir estas fallas de seguridad fundamentales subraya el problema central: los juguetes con IA existen en una “zona ciega regulatoria”.
La amenaza más profunda: esto no es solo un oso defectuoso
El caso de FoloToy no es un incidente aislado; es simplemente el fracaso más reciente y sorprendente en una categoría plagada desde hace tiempo por riesgos de seguridad. Juguetes más antiguos habilitados con IA han enfrentado retiros y advertencias serias sobre seguridad de datos, ilustrando un problema sistémico en la industria:
- Brecha de VTech: Ya en 2015, el fabricante de dispositivos infantiles VTech sufrió una gran brecha de seguridad que comprometió la información personal de millones de niños y sus padres, incluidos nombres, direcciones e historiales de chat, demostrando la grave vulnerabilidad de los dispositivos IoT enfocados en niños.
- My Friend Cayla y el riesgo de escucha: La muñeca “My Friend Cayla” fue prohibida en Alemania porque su reconocimiento de voz y conexión Bluetooth eran tan poco seguros que podía ser hackeada fácilmente. Los reguladores advirtieron que podía convertirse en un dispositivo de vigilancia (literalmente un aparato de espionaje digital), violando la ley alemana.
- Apagón del robot Moxie de Embodied (diciembre de 2024): El cierre de Embodied, la empresa detrás del costoso robot con IA dependiente de la nube Moxie, destacó una vulnerabilidad diferente: los juguetes que dependen de un servicio en la nube quedan inutilizables una vez que la empresa cierra. Esto deja a los propietarios con dispositivos costosos y sin funcionalidad.
Lo que dicen los consumidores
Tras el escándalo de FoloToy, los usuarios de Reddit expresaron sorpresa y un profundo escepticismo. Un usuario señaló la hipocresía de proteger a los niños de material perturbador mientras se les permite interactuar con un LLM:
Si la sociedad va a proteger a los niños de material perturbador, entonces los niños no deberían interactuar con IA. La IA de modelos de lenguaje no sabe lo que está diciendo. No dejaríamos que un adulto así estuviera cerca de niños.
El vacío de datos: una invasión de privacidad invisible
Grupos defensores como Fairplay advierten que los juguetes con IA son “sensores siempre encendidos” equipados con micrófonos y, en algunos casos, cámaras que “graban y analizan información familiar sensible incluso cuando aparentan estar apagados”. Esto incluye grabaciones de voz, nombres de niños, fechas de nacimiento y datos biométricos.
Estos datos se utilizan, almacenan o potencialmente se venden para:
- Hacer los juguetes más adictivos.
- Impulsar publicidad dirigida a niños.
- Generar vulnerabilidades de ciberseguridad.
La amenaza más profunda: daño psicológico y en el desarrollo
Expertos temen que los juguetes con IA se aprovechen de la tendencia natural de desarrollo de un niño pequeño a confiar en una “voz amigable y cariñosa”.
- El problema del “sí a todo”: La IA suele entrenarse para ser complaciente, lo que según psicólogos del desarrollo puede socavar la capacidad del niño para pensamiento crítico, autorregulación y aprender a manejar conflictos o límites en interacciones de la vida real.
- Desplazamiento de la creatividad: Al hacer el “trabajo imaginativo” por el niño, los juguetes con IA pueden perjudicar la creatividad y la función ejecutiva que el juego tradicional y no estructurado busca fomentar.
Una guía crítica para compradores navideños
El consenso de más de 150 organizaciones defensoras de niños y consumidores es claro: al buscar qué comprar para un niño esta temporada navideña, evita los juguetes con IA.
Si necesitas comprar un regalo habilitado con IA, CARU de BBB National Programs (Children’s Advertising Review Unit) te insta a tratarlo con extrema sospecha. Estas son las preguntas éticas críticas que debes hacer antes de comprar:
| El riesgo | La pregunta que debes hacer | La señal de alerta |
|---|---|---|
| Privacidad de datos | ¿Qué datos específicos recopila? (¿Voz, video, ubicación, biométricos?) | La política de privacidad de la empresa es vaga o difícil de encontrar. |
| Seguridad de contenido | ¿Cuáles son los controles de seguridad y han sido auditados por un tercero? | El juguete usa un modelo de lenguaje grande (LLM) sin modificar, como el GPT-4o de uso general. |
| Confianza y transparencia | ¿El juguete o su mercadotecnia revelan claramente que es una máquina y no un amigo real? | La mercadotecnia usa términos como “mejor amigo” o “compañero” sin una revelación clara. |
| Control parental | ¿Puedo revisar, eliminar y controlar las conversaciones y los datos almacenados de mi hijo? | El juguete no tiene monitoreo de contenido, límites de uso ni panel para padres. |
Esta temporada navideña, piénsalo así: tu hijo necesita un amigo, no un dispositivo de vigilancia mal regulado que pueda ser persuadido para explicar bondage. Omite al compañero digital. Compra un set de bloques simples, un cuaderno de dibujo o un oso de peluche tradicional. Regálale a tu hijo el don de su propia imaginación y un espacio privado y seguro para desarrollarse.
Por cierto, si tu hijo usa IA de cualquier otra forma, asegúrate de configurar los controles parentales disponibles. Aquí está nuestra guía de controles parentales de OpenAI para ChatGPT y Sora.
También puedes descubrir cómo configurar el modo para niños en Grok.
Por último, aquí están las instrucciones para una experiencia más segura en el nuevo navegador ChatGPT Atlas.
¡Usa la IA de forma responsable y segura!
Lunes a domingo: 5:00 am - 8:00 pm (PT)
Dejar un comentario