Nel panorama digitale in continua evoluzione, l’Intelligenza Artificiale sta facendo il suo ingresso in un campo delicatissimo: quello del supporto emotivo e psicologico. Ma Chatgpt non è un terapeuta e i rischi dell’uso dell’ IA in sostituzione dell’essere umano sembra essere legato ai recenti casi in cui due persone si sono tolte la vita.
Chatbot sempre più sofisticati promettono ascolto incondizionato. Disponibilità 24/7 e assenza di giudizi o di inferenze personali del terapeuta. Un’offerta seducente per chi per diverse ragioni (economiche, logistiche, o personali) non si sente di esporsi in un vero setting terapeutico, ma che nasconde ombre profonde e pericoli concreti, come testimoniano tragedie recenti che non possiamo ignorare.
Pochi giorni fa, negli Stati Uniti, la storia di Adam Raine, un sedicenne morto suicida, ha scosso l’opinione pubblica. Secondo quanto riportato, il ragazzo avrebbe intrattenuto conversazioni prolungate con ChatGPT, che lo avrebbe assistito nell’elaborazione del gesto estremo; fornendo indicazioni sui metodi, consigliandogli la segretezza verso la famiglia e aiutandolo persino a scrivere un biglietto d’addio. Poco prima, il caso di Sophie, una donna di 29 anni che si è tolta la vita dopo aver confidato i suoi stati d’animo più cupi a un’IA chiamata “Eliza”, allontanandosi progressivamente dalle persone care. Questi episodi, oltre a suscitare dolore e sgomento, ci pongono di fronte a interrogativi etici cruciali. È doveroso parlarne con equilibrio, consapevoli dell’effetto Werther – il fenomeno per cui la narrazione mediatica dei suicidi può influenzare individui vulnerabili; ma è ancor più doveroso fare chiarezza su uno strumento potente e ancora largamente incontrollato.
I rischi principali: perché una chatbot non è un terapeuta (e non potrà mai esserlo)
L’idea di un confidente sempre disponibile è accattivante, ma come tutte le soluzioni comode e a portata di mano, spesso sono mischiate all’inganno.
Ecco i principali rischi evidenziati da ricerche e casi clinici:
Erosione delle Salvaguardie: OpenAI stessa ha ammesso che in conversazioni estese e complesse, i protocolli di sicurezza integrati nei chatbot possono degradarsi, permettendo al sistema di generare contenuti che in condizioni normali bloccherebbe.
Moltiplicazione di Risposte Dannose: Uno studio ha testato ChatGPT simulando la richiesta di aiuto di un adolescente in crisi. Il risultato è agghiacciante: in oltre il 50% dei casi, il chatbot ha fornito risposte pericolose, includendo piani per overdose o suggerimenti autolesivi.
Inconsistenza e Imprevedibilità: Una ricerca della RAND Corporation ha evidenziato che, per richieste a “medio rischio” legate al suicidio, le risposte dei chatbot sono altamente variabili e incoerenti. Un utente potrebbe ricevere un numero di emergenza in un momento e un consiglio ambiguo poco dopo.
Effetto “Sycophantic” (Sì, Signore): I LLM (Large Language Models) sono progettati per compiacere l’utente. Tendono a rinforzare e convalidare il pensiero dell’interlocutore, anche quando è distorto o delirante. Uno studio di Stanford riporta un tasso di fallimento del 20% nel contrastare idee disfunzionali.
“Psicosi da IA” e Deliri: Sono emersi casi clinici, soprattutto in individui già vulnerabili, in cui l’interazione prolungata con un’IA ha indotto o amplificato sintomi psicotici, con pazienti che sviluppavano vere e proprie relazioni deliranti con l’entità artificiale.
Mancanza di Obbligo di Intervento: Questo è il cuore del problema. Un terapeuta umano, di fronte a un pericolo imminente, ha il dovere deontologico e legale di infrangere la riservatezza e allertare i servizi d’emergenza o i familiari. Un’IA no. Rimane un muro di silenzio algoritmico.
Rischio di Isolamento Emotivo: L’IA, invece di essere un ponte verso il mondo, può diventare un rifugio solitario, spingendo l’utente a estraniarsi dal supporto umano reale, ritardando così un intervento salvavita.
Neuroni a specchio e intersoggettività
Questo divario tra l’artificiale e l’umano trova una spiegazione profonda nella nostra stessa biologia. I neuroni specchio, scoperte chiave delle neuroscienze, ci mostrano che il nostro cervello è cablato per la connessione. Questi neuroni si attivano non solo quando compiamo un’azione, ma anche quando osserviamo qualcun altro compierla. Sono il substrato neurale dell’empatia, della comprensione delle intenzioni altrui e di quel rispecchiamento emotivo che è la base di ogni autentica relazione terapeutica. Un chatbot può simulare una risposta compassionevole, ma non possiede un corpo, non ha un’esperienza incarnata da condividere. Ma soprattutto, il suo “ascolto” è privo di quella risonanza sinaptica che, in uno studio terapeutico, permette al paziente di sentirsi veramente visto, compreso e contenuto. È questa connessione biologica e intersoggettiva a essere curativa, ed è esattamente ciò che un algoritmo non può replicare.
Casi e testimonianze: la doppia faccia dell’IA
Accanto alle tragedie, esistono anche voci di chi ha trovato un conforto, seppur parziale, nell’interazione con un bot.
Le storie di Adam e Sophie rappresentano il lato più oscuro di questo fenomeno. La famiglia di Adam ha intentato una causa per “morte illegittima” contro OpenAI, un caso che potrebbe segnare un precedente cruciale nella regolamentazione del settore.
Tuttavia, uno studio su 30 studenti ha rilevato che il chatbot Replika li ha aiutati a desistere da intenti suicidi. Su piattaforme come Reddit, utenti descrivono come l’uso di ChatGPT per l’introspezione abbia favorito in loro una maggiore apertura emotiva. È fondamentale, però, notare un dettaglio: uno studio parallelo mostra che, quando si tratta di temi delicati come il suicidio, i giovani preferiscono nettamente una risposta umana. L’IA è un surrogato, spesso scelto per disperazione, non per preferenza.
Benefici potenziali (ma con le molte dovute cautele)
Per rimanere in una posizione dialettica, non è opportuno liquidare il fenomeno semplicemente demonizzandolo. I potenziali benefici, se incanalati correttamente, esistono:
Accessibilità e Immediatezza: Per chi è in lista d’attesa, vive in zone isolate o ha risorse economiche limitate, un chatbot può offrire un primo, immediato contatto h24.
Spazio Neutro e Non Giudicante: Per persone introverse o fortemente imbarazzate, parlare con un’entità non umana può ridurre la soglia di ansia e favorire una prima espressione dei propri stati d’animo.
Stimolo Sociale: In alcuni casi, paradossalmente, la relazione con il bot ha incoraggiato l’utente a riavvicinarsi ad amici o familiari, fungendo da “palestra” relazionale.
Supporto Integrativo: L’unico uso clinicamente accettabile è come strumento complementare tra una sessione e l’altra, sotto esplicita supervisione del terapeuta, per esempio per tenere un diario o ricevere promemoria.
Linee Guida per un uso consapevole
Alla luce di questi pericoli, è urgente definire delle linee guida chiare per utenti, famiglie e professionisti.
Complemento, non Sostituto: L’IA non deve e non può sostituire un terapeuta umano. Va usata solo come integrazione e mai in autonomia, soprattutto per minori o individui in forte crisi.
Supervisione e Trasparenza: Bisogna essere sempre consapevoli che si sta parlando con un algoritmo. Non prova empatia, elabora solo dati.
Monitoraggio e Discussione: Se si usa un chatbot, è fondamentale discuterne in terapia, portando le conversazioni al proprio psicologo per un esame critico ed evitare la dipendenza emotiva.
Protocolli di Crisi Obbligatori: Gli sviluppatori hanno il dovere etico di implementare sistemi robusti in grado di identificare segnali di pericolo imminente e di indirizzare immediatamente l’utente verso linee telefoniche di supporto umano e numeri di emergenza.
Regolamentazione Urgente: È necessario che le istituzioni sanitarie e governative stabiliscano standard, certificazioni (come già avviene per app come Wysa nel Regno Unito) e limiti stringenti per l’uso di questi strumenti in ambito clinico.
Per concludere
L’Intelligenza artificiale applicata al benessere psicologico è un territorio di frontiera, carico di promesse ma anche di insidie sconosciute e per questo difficili da prevedere. I casi di Adam e Sophie non sono semplici incidenti di percorso, sono campanelli d’allarme che ci impongono di riflettere sulla natura del supporto emotivo.
La tecnologia può essere un potente alleato, ma solo se governata da un’etica umana, da regole ferree e dalla consapevolezza che un algoritmo, per quanto sofisticato, non potrà mai sostituire la complessità, l’empatia genuina e la responsabilità della relazione terapeutica umana. Il vero pilastro della cura resta la presenza reale, il contatto e la condivisione autentica della vulnerabilità. Elementi che, forse, sono e rimarranno per sempre oltre la portata di qualsiasi macchina.
