{"id":33425,"date":"2025-09-19T10:04:30","date_gmt":"2025-09-19T10:04:30","guid":{"rendered":"https:\/\/heylocate.mobi\/es\/?post_type=news&p=33425"},"modified":"2025-09-19T10:16:45","modified_gmt":"2025-09-19T10:16:45","slug":"controles-openai-para-adolescentes-generan-controversia","status":"publish","type":"news","link":"https:\/\/heylocate.mobi\/es\/news\/controles-openai-para-adolescentes-generan-controversia\/","title":{"rendered":"Los controles de OpenAI para adolescentes generan controversia: \u00bfFuncionar\u00e1n contra todos?"},"content":{"rendered":"\n

OpenAI quiere analizar las conversaciones para adivinar la edad del usuario y reportar casos peligrosos a los padres o incluso a las autoridades. Comenzaron los debates: \u00bfEs realmente este el primer paso hacia el control parental o hacia el comienzo del fin de la privacidad?<\/strong><\/p>\n\n\n\n

Sam Altman, CEO de OpenAI, admite en su publicaci\u00f3n<\/a>: \u00abAlgunos de nuestros principios est\u00e1n en conflicto\u00bb, hablando sobre priorizar la seguridad de los adolescentes por encima de la privacidad y la libertad. Aun as\u00ed, Sam \u00abno espera que todos est\u00e9n de acuerdo con estas compensaciones\u00bb.<\/p>\n\n\n\n

El punto es que OpenAI est\u00e1 desarrollando el sistema para entender si un usuario de ChatGPT es mayor o menor de 18 a\u00f1os. Las personas clasificadas por la IA como adolescentes (incluso si esto no es verdad) ser\u00e1n dirigidas autom\u00e1ticamente a la experiencia para menores de 18 con contenido sexual gr\u00e1fico bloqueado y reportes a los padres o las autoridades en caso de indicios peligrosos como ideaci\u00f3n suicida.<\/p>\n\n\n\n

Si te preocupa que el sistema te confunda con un adolescente, es posible que te pidan proporcionar tu identificaci\u00f3n como prueba para desbloquear las capacidades para adultos.<\/p>\n\n\n\n

Recordemos los antecedentes y la raz\u00f3n de tal actividad de OpenAI hacia la seguridad de los adolescentes:<\/strong><\/p>\n\n\n\n

\n

En abril de 2025, Adam Raine, un adolescente de 16 a\u00f1os de California, muri\u00f3 por suicidio despu\u00e9s de meses de interacciones con ChatGPT. Sus padres han presentado una demanda alegando que el sistema le proporcion\u00f3 detalles sobre m\u00e9todos de suicidio, ayud\u00f3 a redactar notas, y aconsej\u00f3 mantener secreto a los miembros de la familia.<\/p>\n\n\n\n

El caso alega muerte por negligencia y fallas de dise\u00f1o contra OpenAI.<\/strong> OpenAI ha dicho que se entristece por el incidente, enfatizando que sus productos incluyen protecciones y recursos de crisis, pero reconoci\u00f3 que estas medidas a veces pueden fallar, particularmente en conversaciones extensas. La empresa comenz\u00f3 a desarrollar controles parentales, con planes de implementarlos para finales de septiembre de 2025.<\/p>\n<\/div><\/div>\n\n\n\n

Aunque las intenciones son buenas, como Sam Altman esperaba, esta noticia gener\u00f3 debates sobre la privacidad de los usuarios:<\/p>\n\n\n\n

\n

\u00bfQu\u00e9? \u00bf\u00a1C\u00d3MO!? \u00bfQu\u00e9 sigue, contactar a empleadores o autoridades sobre los usuarios por sus conversaciones privadas? Ahora que los tienes identificados, entonces se abren las puertas a lo que se considere \u00abactividad peligrosa\u00bb. Esto es una violaci\u00f3n tremenda del uso de la privacidad. Entiendo la intenci\u00f3n, pero esto podr\u00eda derivar en una vigilancia ut\u00f3pica. Esto no est\u00e1 bien.<\/p>\n<\/blockquote>\n\n\n\n

What? HOW!?

What is next, contacting employers or authorities on your users for their private chats? Now that you have them ID\u2019d then the gates are open to what is deemed to be \u201cdangerous activity\u201d. This a tremendous breach of privacy usage. I understand the intent but this\u2026 pic.twitter.com\/fXf296yYgd<\/a><\/p>— joshua (@4xiom_) September 16, 2025<\/a><\/blockquote>