OpenAI quiere analizar las conversaciones para adivinar la edad del usuario y reportar casos peligrosos a los padres o incluso a las autoridades. Comenzaron los debates: ¿Es realmente este el primer paso hacia el control parental o hacia el comienzo del fin de la privacidad?
Sam Altman, CEO de OpenAI, admite en su publicación: «Algunos de nuestros principios están en conflicto», hablando sobre priorizar la seguridad de los adolescentes por encima de la privacidad y la libertad. Aun así, Sam «no espera que todos estén de acuerdo con estas compensaciones».
El punto es que OpenAI está desarrollando el sistema para entender si un usuario de ChatGPT es mayor o menor de 18 años. Las personas clasificadas por la IA como adolescentes (incluso si esto no es verdad) serán dirigidas automáticamente a la experiencia para menores de 18 con contenido sexual gráfico bloqueado y reportes a los padres o las autoridades en caso de indicios peligrosos como ideación suicida.
Si te preocupa que el sistema te confunda con un adolescente, es posible que te pidan proporcionar tu identificación como prueba para desbloquear las capacidades para adultos.
Recordemos los antecedentes y la razón de tal actividad de OpenAI hacia la seguridad de los adolescentes:
En abril de 2025, Adam Raine, un adolescente de 16 años de California, murió por suicidio después de meses de interacciones con ChatGPT. Sus padres han presentado una demanda alegando que el sistema le proporcionó detalles sobre métodos de suicidio, ayudó a redactar notas, y aconsejó mantener secreto a los miembros de la familia.
El caso alega muerte por negligencia y fallas de diseño contra OpenAI. OpenAI ha dicho que se entristece por el incidente, enfatizando que sus productos incluyen protecciones y recursos de crisis, pero reconoció que estas medidas a veces pueden fallar, particularmente en conversaciones extensas. La empresa comenzó a desarrollar controles parentales, con planes de implementarlos para finales de septiembre de 2025.
Aunque las intenciones son buenas, como Sam Altman esperaba, esta noticia generó debates sobre la privacidad de los usuarios:
¿Qué? ¿¡CÓMO!? ¿Qué sigue, contactar a empleadores o autoridades sobre los usuarios por sus conversaciones privadas? Ahora que los tienes identificados, entonces se abren las puertas a lo que se considere «actividad peligrosa». Esto es una violación tremenda del uso de la privacidad. Entiendo la intención, pero esto podría derivar en una vigilancia utópica. Esto no está bien.
What? HOW!?
— joshua (@4xiom_) September 16, 2025
What is next, contacting employers or authorities on your users for their private chats? Now that you have them ID’d then the gates are open to what is deemed to be “dangerous activity”. This a tremendous breach of privacy usage. I understand the intent but this… pic.twitter.com/fXf296yYgd
El usuario Yuvraj destacó que la declaración sobre solo «desarrollar características de seguridad avanzadas para asegurar que tus datos sean privados, incluso de los empleados de OpenAI» ya es aterradora.
Esto está mal y es tonto. Los controles gubernamentales sobre el habla no se tratan del habla (o la crianza) sino del control. OpenAI ahora proporcionará una palanca.
"In some cases or countries we may also ask for an ID; we know this is a privacy compromise for adults but believe it is a worthy tradeoff."
— Peter Gallagher (@pwgallagher) September 16, 2025
This is bad and foolish. Govt. controls on speech are not about speech (or parenting) but about control. OpenAI will now provide a lever. https://t.co/Xemz0UfY29
El hecho de que OpenAI sea transparente sobre las compensaciones (privacidad vs seguridad) es una buena señal: al menos admiten que hay conflictos en lugar de negarlos. Esto ayuda con la confianza.
El enfoque de predeterminar menores de 18 puede ayudar con la seguridad, pero también aumenta el riesgo de clasificar incorrectamente a los adultos. Cómo funciona la «predicción de edad», su precisión, y qué tan seguido ocurren errores importará mucho.
Mientras tanto, pedir identificación cuando se disputa agrega fricción y tiene sus propios riesgos: las personas pueden no querer compartir documentos.
En HeyLocate, estamos de acuerdo en que los controles parentales son útiles, pero dependen mucho de cómo estén diseñados: ¿son demasiado estrictos, respetan la autonomía de los adolescentes, permiten que los adolescentes busquen ayuda sin temor a la divulgación?
La estrategia depende en gran medida de una detección y clasificación confiable y efectiva. Si la IA falla en casos de alto riesgo, podría causar daño en lugar de prevenirlo.
Lunes a domingo: 5:00 am - 8:00 pm (PT)
Dejar un comentario