Controles da OpenAI para Adolescentes Geram Controvérsia: Funcionará Contra Todos?

A OpenAI quer analisar conversas para adivinhar a idade do usuário e reportar casos perigosos aos pais ou até mesmo às autoridades. Os debates começaram: Isso é realmente o primeiro passo para o controle parental ou para o começo do fim da privacidade?

Sam Altman, CEO da OpenAI, admite em sua postagem: “Alguns de nossos princípios estão em conflito”, falando sobre priorizar a segurança de adolescentes acima da privacidade e liberdade. Ainda assim, Sam “não espera que todos concordem com essas concessões”.

O ponto é que a OpenAI está desenvolvendo o sistema para entender se um usuário do ChatGPT é maior ou menor de 18 anos. Pessoas classificadas pela IA como adolescentes (mesmo que isso não seja verdade) serão automaticamente direcionadas à experiência para menores de 18 com conteúdo sexual gráfico bloqueado e relatórios aos pais ou autoridades em caso de sinais perigosos como ideação suicida.

Se você se preocupa que o sistema o confunda com um adolescente, pode ser solicitado que forneça seu RG como prova para desbloquear recursos para adultos.

Vamos relembrar o contexto e a razão para tal atividade da OpenAI em relação à segurança de adolescentes:

Embora as intenções sejam boas, como Sam Altman esperava, essa notícia gerou debates sobre a privacidade dos usuários:

O quê? COMO!? O que vem a seguir, contatar empregadores ou autoridades sobre os usuários por suas conversas privadas? Agora que vocês os têm identificados, então as portas estão abertas para o que for considerado “atividade perigosa”. Essa é uma violação tremenda do uso da privacidade. Eu entendo a intenção, mas isso pode desencadear uma vigilância utópica. Isso não é bom.

What? HOW!?

What is next, contacting employers or authorities on your users for their private chats? Now that you have them ID’d then the gates are open to what is deemed to be “dangerous activity”. This a tremendous breach of privacy usage. I understand the intent but this… pic.twitter.com/fXf296yYgd

— joshua (@4xiom_) September 16, 2025

O usuário Yuvraj destacou que a declaração sobre apenas “desenvolver recursos de segurança avançados para garantir que seus dados sejam privados, mesmo dos funcionários da OpenAI” já é assustadora.

Isso é ruim e tolo. Os controles governamentais sobre a fala não são sobre a fala (ou paternidade) mas sobre controle. A OpenAI agora fornecerá uma alavanca.

"In some cases or countries we may also ask for an ID; we know this is a privacy compromise for adults but believe it is a worthy tradeoff."
This is bad and foolish. Govt. controls on speech are not about speech (or parenting) but about control. OpenAI will now provide a lever. https://t.co/Xemz0UfY29

— Peter Gallagher (@pwgallagher) September 16, 2025

O fato de a OpenAI ser transparente sobre as concessões (privacidade vs segurança) é um bom sinal: pelo menos eles admitem que há conflitos em vez de negá-los. Isso ajuda na confiança.

A abordagem padrão de considerar menores de 18 pode ajudar na segurança, mas também aumenta o risco de classificar incorretamente adultos. Como funciona a “previsão de idade”, sua precisão, e com que frequência erros acontecem importará muito.

Enquanto isso, pedir RG quando contestado adiciona atrito e tem seus próprios riscos: as pessoas podem não querer compartilhar documentos.

Na HeyLocate, concordamos que controles parentais são úteis, mas dependem muito de como são projetados: são pesados demais, respeitam a autonomia dos adolescentes, permitem que os adolescentes busquem ajuda sem medo de divulgação?

A estratégia depende muito de detecção e classificação confiáveis e eficazes. Se a IA falhar em casos de alto risco, pode causar danos em vez de preveni-los.