OpenAI veut analyser les discussions pour deviner l’âge de l’utilisateur et signaler les cas dangereux aux parents ou même aux autorités. Les débats ont commencé : Est-ce vraiment le premier pas vers le contrôle parental ou vers le début de la fin de la vie privée ?
Sam Altman, PDG d’OpenAI, admet dans son message : « Certains de nos principes sont en conflit », parlant de prioriser la sécurité des adolescents par rapport à la vie privée et à la liberté. Néanmoins, Sam « ne s’attend pas à ce que tout le monde soit d’accord avec ces compromis ».
Le point est qu’OpenAI développe le système pour comprendre si un utilisateur de ChatGPT a plus ou moins de 18 ans. Les personnes classées par l’IA comme adolescentes (même si c’est faux) seront automatiquement dirigées vers l’expérience pour moins de 18 ans avec du contenu sexuel graphique bloqué et des signalements aux parents ou aux autorités en cas d’indices dangereux comme l’idéation suicidaire.
Si vous craignez que le système vous confonde avec un adolescent, il pourrait vous être demandé de fournir votre pièce d’identité comme preuve pour débloquer les capacités adultes.
Rappelons le contexte et la raison d’une telle activité d’OpenAI concernant la sécurité des adolescents :
En avril 2025, Adam Raine, un adolescent de 16 ans de Californie, est mort par suicide après des mois d’interactions avec ChatGPT. Ses parents ont déposé une plainte affirmant que le système lui a fourni des détails sur les méthodes de suicide, l’a aidé à rédiger des notes, et a conseillé le secret vis-à-vis des membres de la famille.
L’affaire allègue une mort injustifiée et des défauts de conception contre OpenAI. OpenAI a dit être attristée par l’incident, soulignant que ses produits incluent des protections et des ressources de crise, mais a reconnu que ces mesures peuvent parfois échouer, particulièrement dans les conversations prolongées. L’entreprise a commencé à développer des contrôles parentaux, avec des plans pour les implémenter d’ici la fin septembre 2025.
Bien que les intentions soient bonnes, comme Sam Altman s’y attendait, cette nouvelle a déclenché des débats sur la vie privée des utilisateurs :
Quoi ? COMMENT !? Quelle est la prochaine étape, contacter les employeurs ou les autorités concernant vos utilisateurs pour leurs discussions privées ? Maintenant que vous les avez identifiés, alors les portes sont ouvertes à ce qui est considéré comme « activité dangereuse ». C’est une violation énorme de l’usage de la vie privée. Je comprends l’intention, mais cela pourrait dégénérer en surveillance utopique. Ce n’est pas bon.
What? HOW!?
— joshua (@4xiom_) September 16, 2025
What is next, contacting employers or authorities on your users for their private chats? Now that you have them ID’d then the gates are open to what is deemed to be “dangerous activity”. This a tremendous breach of privacy usage. I understand the intent but this… pic.twitter.com/fXf296yYgd
L’utilisateur Yuvraj a souligné que la déclaration concernant simplement « développer des fonctionnalités de sécurité avancées pour s’assurer que vos données soient privées, même des employés d’OpenAI » est déjà effrayante.
C’est mauvais et stupide. Les contrôles gouvernementaux sur la parole ne concernent pas la parole (ou l’éducation) mais le contrôle. OpenAI va maintenant fournir un levier.
"In some cases or countries we may also ask for an ID; we know this is a privacy compromise for adults but believe it is a worthy tradeoff."
— Peter Gallagher (@pwgallagher) September 16, 2025
This is bad and foolish. Govt. controls on speech are not about speech (or parenting) but about control. OpenAI will now provide a lever. https://t.co/Xemz0UfY29
Le fait qu’OpenAI soit transparente sur les compromis (vie privée vs sécurité) est un bon signe : au moins ils admettent qu’il y a des conflits au lieu de les nier. Cela aide à la confiance.
L’approche par défaut pour les moins de 18 ans peut aider à la sécurité, mais elle augmente aussi le risque de mal classer les adultes. Comment fonctionne la « prédiction d’âge », sa précision, et à quelle fréquence les erreurs arrivent importeront beaucoup.
Pendant ce temps, demander une pièce d’identité quand contesté ajoute des frictions et a ses propres risques : les gens peuvent ne pas vouloir partager des documents.
Chez HeyLocate, nous sommes d’accord que les contrôles parentaux sont utiles, mais ils dépendent beaucoup de leur conception : sont-ils autoritaires, respectent-ils l’autonomie des adolescents, permettent-ils aux adolescents de chercher de l’aide sans crainte de divulgation ?
La stratégie dépend fortement d’une détection et classification fiables et efficaces. Si l’IA fait défaut dans des cas à enjeux élevés, elle pourrait causer du mal au lieu de le prévenir.
Du lundi au dimanche : 5:00am - 8:00pm (PT)
Laisser un commentaire