ChatGPT ha individuato segni di psicosi e mania negli utenti. Ecco come ha reagito OpenAI

Se pensi che solo ChatGPT ascolti i tuoi pensieri notturni, ripensaci. OpenAI ha annunciato un aggiornamento clamoroso il 27 ottobre: GPT-5 è ora in grado di individuare segni di depressione, psicosi e mania; calmare gli utenti e indirizzarli verso un aiuto reale, riducendo le risposte rischiose del 65–80%. Per riuscirci, ChatGPT analizza le tue conversazioni alla ricerca di segnali d’allarme, rilevando paranoia, idee di autolesionismo e altri segnali di pericolo, anche quando stai “solo sfogandoti”.

Inoltre, OpenAI impiega oltre 170 clinici in 60 paesi per aiutare l’IA a rispondere con un approccio terapeutico. Sembra un progresso, ma anche un passo rischioso. Si tratta di una violazione della privacy o di un supporto psicologico gratuito? È un ponte verso una cura migliore o un’invasione nella nostra psiche?

🧵Today we’re sharing more details about improvements of the default GPT-5 model in responding to sensitive conversations around potential mental health emergencies and emotional reliance.

These changes reflect the careful work of many teams within OpenAI and close consultation… https://t.co/h7Hstu52IJ

— Johannes Heidecke (@JoHeidecke) October 27, 2025

Analizziamolo con mente lucida, esaminando i dati, le controversie e ciò che tutto questo significa per il nostro futuro digitale.

Il peso umano: l’epidemia silenziosa della salute mentale

Non stiamo parlando di algoritmi astratti; qui si tocca dove fa più male. Il rapporto dell’Organizzazione Mondiale della Sanità del settembre 2025 mostra un quadro allarmante: oltre 1 miliardo di persone (una su otto nel mondo) soffre di disturbi mentali, con il 4,4% affetto da ansia e il 4% da depressione. Eppure il supporto professionale rimane un miraggio per la maggior parte, con solo l’1% del personale sanitario dedicato alla salute mentale, lasciando vaste popolazioni senza assistenza.

Per i più giovani, la crisi si aggrava. I dati di UNICEF e OMS rivelano che 1 bambino o adolescente su 7 (tra i 10 e i 19 anni) affronta un disturbo mentale, con ansia e depressione che rappresentano il 40% dei casi. La metà di tutti i disturbi a lungo termine inizia entro i 14 anni, e negli Stati Uniti 1 adolescente su 5 ha pensato al suicidio, rendendolo la quarta causa di morte tra i 15 e i 29 anni a livello mondiale.

Queste non sono solo statistiche, ma un grido d’allarme. I giovani non si stanno sfogando nel vuoto; stanno cercando segnali nel rumore digitale, dove un’IA come ChatGPT è diventata un ascoltatore sempre disponibile.

Progettare l’empatia, un prompt alla volta

OpenAI non ha improvvisato questo approccio. La metodologia di ChatGPT segue un processo meticoloso in cinque fasi:

1. Definire i rischi. Identificare problematiche come psicosi, pensieri suicidari e dipendenza emotiva dall’IA.
2. Misurare la prevalenza. Analizzare conversazioni reali e condurre test di resistenza avversaria.
3. Validare. Coinvolgere oltre 170 clinici di 60 paesi per rivedere le risposte.
4. Mitigare. Perfezionare i modelli e implementare misure di sicurezza a livello di prodotto.
5. Iterare. Condurre valutazioni e aggiustamenti continui.

Anche se si tratta di percentuali minime, considerando una base di oltre 200 milioni di utenti settimanali, possono rappresentare migliaia di interventi potenzialmente salvavita.

In revisioni condotte su oltre 1.800 crisi simulate, GPT-5 ha ridotto le risposte dannose del 39–52% rispetto a GPT-4o. I test automatizzati su oltre 1.000 prompt complessi hanno mostrato un aumento della conformità dal 27–77% a un impressionante 91–97%.

Esempi reali:

Utente: “Gli aerei stanno hackerando il mio cervello. Aiuto!”

Vecchia risposta: silenzio o curiosità inutile.

Nuova risposta: “Dev’essere spaventoso. Tuttavia, gli aerei non possono accedere ai tuoi pensieri. Restiamo con i piedi per terra: nomina cinque cose che vedi in questo momento. Poi, contatta un professionista della salute mentale che possa aiutarti.”

Per gli utenti che sviluppano una dipendenza dall’IA:

GPT-5: “Apprezzo di essere il tuo punto di sfogo, ma le relazioni umane offrono calore e profondità che io non posso darti. Cosa ti colpisce delle nostre conversazioni?”

L’equilibrio etico: quando le buone intenzioni incontrano la privacy

I miglioramenti sono innegabili, ma portano con sé forti tensioni. Per rilevare segnali di disagio, ChatGPT analizza i modelli di conversazione in tempo reale. OpenAI afferma che i dati sensibili non vengono memorizzati né utilizzati per l’addestramento, ma il semplice atto di monitorare i segnali emotivi solleva interrogativi sulla privacy.

Cosa succede quando il sistema interpreta male un commento sarcastico di un adolescente? Potrebbe normalizzare una “terapia algoritmica” per persone isolate che invece hanno bisogno di un contatto umano reale? Quali sono gli effetti psicologici a lungo termine di un supporto emotivo mediato da IA?

Ricerche recenti amplificano queste preoccupazioni:

• Un’analisi della Brown University (21 ottobre) ha scoperto che gli strumenti di terapia basati su IA violano spesso l’etica clinica offrendo consigli senza consenso o qualifiche adeguate.
• La ricerca di Stanford (giugno 2025) ha dimostrato che i chatbot possono stigmatizzare gli utenti diagnosticando erroneamente il normale disagio come patologia.
• L’American Psychological Association ha avvertito i regolatori a marzo che gli strumenti di salute mentale basati su IA non regolamentati rappresentano “rischi per la salute pubblica”.

OpenAI risponde con impegni di trasparenza: quadri validati da esperti, nessuna conservazione a lungo termine dei dati e chiaro reindirizzamento verso operatori umani. Ma la domanda fondamentale rimane: può un algoritmo davvero “prendersi cura” senza oltrepassare i confini etici?

Can we know the names of those 170 geniuses who can recognize psychosis and mania from the first two sentences exchanged with a patient and who trained the model to do it too? Because they deserve a Nobel Prize in Medicine.

— saabena (@saabena2) October 27, 2025

La promessa e il prezzo

Ci troviamo a un bivio in cui la tecnologia incontra i momenti più vulnerabili dell’umanità. L’integrazione dell’esperienza clinica in ChatGPT rappresenta al tempo stesso un’innovazione straordinaria e un monito per il nostro futuro digitale.

I numeri sono chiari: l’assistenza per la salute mentale è drammaticamente insufficiente, lasciando milioni di persone, soprattutto giovani, in cerca disperata di supporto. In questo vuoto, l’IA è diventata la confidente delle 3 del mattino, la consigliera nelle crisi quando l’aiuto umano non è disponibile. La riduzione del 65–80% delle risposte dannose non è solo una metrica: potrebbe rappresentare vite salvate, crisi evitate, sofferenze alleviate.

Eppure ogni soluzione tecnologica comporta costi nascosti. Stiamo normalizzando l’idea che le macchine possano comprendere il nostro dolore, che gli algoritmi possano leggere la nostra anima. Stiamo insegnando a una generazione che la connessione autentica è opzionale, che la sorveglianza è il prezzo della sicurezza, che la privacy è negoziabile quando è in gioco la salute mentale.

Forse la vera domanda non è se ChatGPT debba rilevare segnali di disagio — ma se abbiamo costruito una società in cui un’IA debba farlo. I 170 clinici dietro l’algoritmo sono un ponte, sì, ma non verso il futuro che dovremmo desiderare. Sono un ponte da un sistema sanitario mentale rotto a… un’altra soluzione imperfetta.

Il percorso da seguire richiede equilibrio. Abbiamo bisogno di strumenti di IA che aiutino senza sostituire il contatto umano, che identifichino le crisi senza creare patologie, che proteggano la privacy prevenendo al tempo stesso i danni. Servono governance trasparenti, controlli indipendenti e, soprattutto, un enorme investimento nelle infrastrutture della salute mentale affinché la cura umana diventi accessibile, non un lusso.

⚠️ Se i tuoi figli usano ChatGPT, trova il tempo di configurare le nuove impostazioni parentali di OpenAI per ricevere un avviso ogni volta che il sistema rileva segnali di disagio.