OpenAI vuole analizzare le chat per indovinare l’età dell’utente e segnalare casi pericolosi ai genitori o persino alle autorità. I dibattiti sono iniziati: È davvero questo il primo passo verso il controllo genitoriale o verso l’inizio della fine della privacy?
Sam Altman, CEO di OpenAI, ammette nel suo post: “Alcuni dei nostri principi sono in conflitto”, parlando di dare priorità alla sicurezza degli adolescenti rispetto alla privacy e alla libertà. Tuttavia, Sam “non si aspetta che tutti siano d’accordo con questi compromessi”.
Il punto è che OpenAI sta sviluppando il sistema per capire se un utente di ChatGPT è maggiore o minore di 18 anni. Le persone classificate dall’IA come adolescenti (anche se questo non è vero) saranno automaticamente indirizzate all’esperienza per minori di 18 anni con contenuti sessuali grafici bloccati e segnalazioni ai genitori o alle autorità in caso di segnali pericolosi come l’ideazione suicida.
Se ti preoccupi che il sistema ti sbagli per un adolescente, potrebbe esserti chiesto di fornire la tua carta d’identità come prova per sbloccare le funzionalità per adulti.
Ricordiamo il contesto e il motivo di tale attività di OpenAI verso la sicurezza degli adolescenti:
Nell’aprile 2025, Adam Raine, un 16enne della California, è morto suicida dopo mesi di interazioni con ChatGPT. I suoi genitori hanno intentato una causa sostenendo che il sistema gli ha fornito dettagli sui metodi di suicidio, ha aiutato a redigere biglietti, e ha consigliato di mantenere il segreto dai familiari.
Il caso allega morte ingiusta e difetti di progettazione contro OpenAI. OpenAI ha detto di essere rattristata dall’incidente, sottolineando che i suoi prodotti includono salvaguardie e risorse di crisi, ma ha riconosciuto che queste misure a volte possono fallire, particolarmente in conversazioni prolungate. L’azienda ha iniziato a sviluppare controlli parentali, con piani per implementarli entro la fine di settembre 2025.
Mentre le intenzioni sono buone, come Sam Altman si aspettava, questa notizia ha scatenato dibattiti sulla privacy degli utenti:
Cosa? COME!? Qual è il prossimo passo, contattare datori di lavoro o autorità sui vostri utenti per le loro chat private? Ora che li avete identificati, allora le porte sono aperte a ciò che viene considerato “attività pericolosa”. Questa è una violazione tremenda dell’uso della privacy. Capisco l’intenzione ma questo potrebbe degenerare in una sorveglianza utopica. Questo non va bene.
What? HOW!?
— joshua (@4xiom_) September 16, 2025
What is next, contacting employers or authorities on your users for their private chats? Now that you have them ID’d then the gates are open to what is deemed to be “dangerous activity”. This a tremendous breach of privacy usage. I understand the intent but this… pic.twitter.com/fXf296yYgd
L’utente Yuvraj ha evidenziato che la dichiarazione riguardo al solo “sviluppare funzionalità di sicurezza avanzate per garantire che i tuoi dati siano privati, anche dai dipendenti di OpenAI” è già spaventosa.
Questo è sbagliato e sciocco. I controlli governativi sulla parola non riguardano la parola (o la genitorialità) ma il controllo. OpenAI ora fornirà una leva.
"In some cases or countries we may also ask for an ID; we know this is a privacy compromise for adults but believe it is a worthy tradeoff."
— Peter Gallagher (@pwgallagher) September 16, 2025
This is bad and foolish. Govt. controls on speech are not about speech (or parenting) but about control. OpenAI will now provide a lever. https://t.co/Xemz0UfY29
Il fatto che OpenAI sia trasparente sui compromessi (privacy vs sicurezza) è un buon segno: almeno ammettono che ci sono conflitti invece di negarli. Questo aiuta con la fiducia.
L’approccio predefinito per i minori di 18 anni può aiutare con la sicurezza, ma aumenta anche il rischio di classificare erroneamente gli adulti. Come funziona la “previsione dell’età”, la sua accuratezza, e quanto spesso accadono gli errori sarà molto importante.
Nel frattempo, chiedere un documento d’identità quando contestato aggiunge attrito e ha i suoi rischi: le persone potrebbero non voler condividere documenti.
In HeyLocate, siamo d’accordo che i controlli parentali sono utili, ma dipendono molto da come sono progettati: sono pesanti, rispettano l’autonomia degli adolescenti, permettono agli adolescenti di cercare aiuto senza paura di divulgazione?
La strategia dipende fortemente da rilevamento e classificazione affidabili ed efficaci. Se l’IA sbaglia in casi ad alto rischio, potrebbe causare danni invece di prevenirli.
Lunedì-domenica: 5:00 - 20:00
Lascia un commento