Quando l’intelligenza artificiale entra nella salute mentale, la fiducia diventa una questione clinica
Bias, dati sensibili, trasparenza e perché in psicoterapia la tecnologia non può essere una scatola nera
Introduzione
Nel dibattito pubblico sull’intelligenza artificiale, una parte dell’attenzione si concentra quasi sempre sulla potenza dei sistemi: quanto sono rapidi, quanto producono bene testo, quanto sembrano intelligenti, quanto possono automatizzare o assistere attività complesse. Ma in ambito clinico la domanda decisiva non è soltanto che cosa uno strumento riesca a fare. La domanda vera è un’altra: di quali condizioni abbiamo bisogno per potercene fidare?
Questa domanda diventa ancora più delicata quando si entra nel campo della psicologia clinica e della salute mentale. Qui non si trattano solo informazioni operative o dati neutri. Si toccano vissuti soggettivi, sofferenze, vulnerabilità, storie personali, sintomi, pattern relazionali, stati emotivi, elementi biografici e contenuti sensibili che appartengono alla parte più esposta e più intima della persona. Proprio per questo l’Organizzazione Mondiale della Sanità insiste sul fatto che, in sanità, l’IA vada governata attraverso principi di tutela, trasparenza, accountability e controllo umano, e ha pubblicato sia una guida generale sull’etica dell’IA per la salute nel 2021 sia una guida specifica sui modelli generativi e multimodali nel 2025. Ethics and governance of artificial intelligence for health.
Per questo il tema dell’intelligenza artificiale, in psicoterapia, non può essere affrontato soltanto in termini di innovazione o performance. Deve essere affrontato in termini di responsabilità, trasparenza, protezione e fiducia. Il razionale del webinar SSPB lo mette chiaramente in evidenza: un uso acritico o improprio di questi strumenti può generare errori interpretativi, bias decisionali e problematiche legate alla gestione dei dati sensibili.
In salute mentale il problema non è solo “funziona o non funziona”
Quando si parla di IA in sanità, una parte del confronto tende a ruotare attorno all’accuratezza: uno strumento classifica bene? riconosce pattern? suggerisce risposte plausibili? migliora l’efficienza? Ma nella salute mentale questo criterio, da solo, è insufficiente. La review pubblicata su npj Digital Medicine nel 2025 sui large language models per compiti generativi in salute mentale conclude che esiste un potenziale rilevante, ma che l’efficacia clinica reale resta ancora incerta e che i metodi di valutazione attuali presentano limiti importanti. A scoping review of large language models for generative tasks in mental health care
Un sistema potrebbe anche risultare utile in alcuni compiti circoscritti e tuttavia restare problematico sul piano clinico. Potrebbe offrire sintesi efficaci ma semplificare eccessivamente. Potrebbe produrre output convincenti ma non far capire come vi sia arrivato. Potrebbe trattare grandi quantità di dati senza chiarire fino in fondo quali categorie implicite stia rinforzando. La stessa WHO, nella guida del 2025 sui large multimodal models, richiama rischi legati ad inaccuratezze, bias, automazione eccessiva, vulnerabilità nella protezione dei dati e insufficiente supervisione umana. Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models.
È qui che emerge il punto centrale: in salute mentale non basta che una risposta sembri valida; bisogna anche poter interrogare il processo che l’ha prodotta, i limiti che lo attraversano e i rischi che comporta per il paziente.
Il problema dei bias: quando l’errore non è casuale ma strutturale
Il programma del webinar SSPB richiama esplicitamente il tema dei bias algoritmici tra gli aspetti etici e i limiti dell’intelligenza artificiale applicata alla clinica. Questo punto è fondamentale, perché il bias non è semplicemente una svista del sistema. È una distorsione che può nascere dai dati, dalle categorie usate per interpretarli, dai criteri di selezione, dai modelli statistici e dai presupposti impliciti con cui il sistema è stato costruito. Anche la Commissione Europea, nel presentare l’AI Act, ha messo al centro l’idea che i sistemi di IA usati nell’Unione debbano essere sicuri, trasparenti, etici, non discriminatori e sotto controllo umano. AI Act enters into force.
In psicologia clinica e psicoterapia, tutto questo è particolarmente delicato. La sofferenza psichica non si presenta mai come un puro dato oggettivo. È sempre intrecciata con storia, linguaggio, contesto, cultura e relazione. Per questo un sistema basato su pattern può essere interessante, ma rischia anche di scambiare per universale ciò che è situato, o di trattare come trasparente ciò che clinicamente richiede prudenza interpretativa. La letteratura recente sui LLM in salute mentale insiste proprio su questo: possibilità promettenti, ma evidenze ancora immature e forte necessità di valutazioni più rigorose e contestualizzate.
Una “scatola nera” non basta per la clinica
Nel webinar compare anche il tema della supervisione umana e della responsabilità professionale, insieme alla centralità della relazione terapeutica. Questo ci obbliga a fare un passo ulteriore: in ambito clinico, non è sufficiente che un sistema “funzioni abbastanza bene” se non si comprende, almeno in parte, come produce ciò che produce e su quali basi.
Qui il riferimento internazionale più coerente è duplice. Da un lato, la WHO sottolinea che trasparenza, spiegabilità e accountability sono condizioni essenziali per un uso etico dell’IA in salute. Dall’altro, il quadro europeo dell’AI Act pone l’human oversight tra gli elementi centrali della regolazione dei sistemi ad alto rischio, proprio per evitare che decisioni sensibili vengano assunte o influenzate in modo opaco e incontrollabile.
Per un clinico, ricevere una risposta o una classificazione senza poterla discutere criticamente equivale a trovarsi davanti a una zona opaca. Ma la cura non può fondarsi sull’opacità. Non perché tutto debba essere perfettamente spiegabile in senso tecnico, ma perché la pratica clinica richiede argomentabilità, valutazione, confronto, possibilità di revisione e assunzione di responsabilità.
I dati sensibili non sono un dettaglio amministrativo
Nel razionale del webinar si parla chiaramente di rischi legati alla gestione dei dati sensibili. In molti settori, la questione dei dati viene trattata come un problema legale o organizzativo. In salute mentale, invece, è molto di più.
La guida WHO del 2025 sui modelli generativi per la salute richiama esplicitamente i rischi legati alla raccolta, elaborazione e possibile esposizione di dati sanitari sensibili, soprattutto quando i sistemi vengono impiegati in contesti dove le informazioni sono intime, vulnerabili e ad alto impatto personale. Nel caso della psicoterapia, questi dati possono includere traumi, contenuti emotivi, dinamiche familiari, ideazione suicidaria, storia clinica e altri elementi che il paziente condivide all’interno di un setting fondato sulla fiducia. Per questo, ogni uso ambiguo o poco chiaro dei dati non mina soltanto la sicurezza informatica: mina il patto fiduciario su cui si fonda la cura. Questa è una deduzione clinica coerente con i principi WHO su autonomia, protezione e accountability.
La fiducia in psicoterapia non si automatizza
Esiste un aspetto ancora più sottile. In psicoterapia la fiducia non coincide semplicemente con la sicurezza di un sistema. La fiducia ha anche una dimensione relazionale: si costruisce nel modo in cui il paziente sente di poter affidare parti vulnerabili di sé a uno spazio che lo accoglie, lo protegge e lo tratta con responsabilità.
Se nel setting entra una tecnologia opaca, non sufficientemente spiegata, o non adeguatamente governata, il problema non è solo tecnico. È simbolico e clinico. Perché tocca il modo in cui il paziente percepisce il contenimento, la riservatezza e la legittimità della cura. Anche l’American Psychiatric Association, nella sua position statement sul ruolo dell’augmented intelligence in psichiatria, riconosce che questi strumenti possono offrire supporto utile, ma insiste sul fatto che debbano restare subordinati al giudizio clinico umano e a standard rigorosi di qualità e responsabilità. Position Statement on the Role of Augmented Intelligence in Clinical Practice and Research.
In altre parole: una tecnologia può anche essere efficiente, ma se incrina la fiducia, tocca il cuore del processo terapeutico.
Il ruolo del professionista: non utente passivo, ma filtro critico
Uno dei passaggi più importanti del webinar SSPB è l’idea che i professionisti debbano sviluppare competenze specifiche per utilizzare questi strumenti in modo consapevole, critico e responsabile. Questo significa che lo psicologo o lo psicoterapeuta non può collocarsi come semplice utente passivo di una tecnologia “che funziona”.
La stessa APA osserva che l’IA può aiutare in documentazione clinica, identificazione di rischi, suggerimento di piani di cura e altre attività, ma non elimina la necessità di valutazione professionale, governance e limiti chiari. Tradotto nel lavoro clinico, questo significa: comprendere almeno i principi di base dello strumento, riconoscere che un output persuasivo non equivale a verità clinica, proteggere la qualità del setting e mantenere la decisione finale sotto responsabilità umana. Anche questo passaggio è perfettamente coerente con il razionale del webinar SSPB.
Per approfondire ( *sezione con i link* )
Per dare al tema una cornice scientifica e internazionale seria, questi sono riferimenti molto utili:
- WHO, 2025 — Ethics and governance of artificial intelligence for health: large multi-modal models
Quadro aggiornato su rischi, trasparenza, supervisione umana e gestione dei dati in sanità. - WHO, 2021 — Ethics and governance of artificial intelligence for health
Documento di riferimento sui principi etici generali dell’IA in salute. - European Commission — AI Act enters into force
Sintesi ufficiale del quadro europeo su sicurezza, trasparenza, controllo umano e approccio basato sul rischio. - American Psychiatric Association — Position Statement on the Role of Augmented Intelligence in Psychiatry
Documento molto utile per tenere insieme opportunità e limiti dal punto di vista clinico. - npj Digital Medicine, 2025 — A scoping review of large language models for generative tasks in mental health care
Review scientifica utile per distinguere promessa, limiti e stato reale delle evidenze.
Conclusione
Quando l’intelligenza artificiale entra nella salute mentale, non entra soltanto una tecnologia. Entrano nuove possibilità, nuovi rischi, nuove opacità e nuove responsabilità.
Per questo la domanda più importante non è se questi strumenti siano impressionanti.
La domanda è se siano governabili in modo clinicamente degno.
In psicoterapia la fiducia non è un effetto collaterale. È una condizione di possibilità della cura.
E tutto ciò che entra nel setting — umano o tecnologico — deve misurarsi con questa esigenza.
Un’occasione per aprire bene la domanda
Il webinar online “Psicoterapia ai tempi dell’IA” in programma per venerdì 24 aprile 2026 alle ore 17.00, nasce proprio dall’esigenza di aprire questo discorso in modo serio, aggiornato e clinicamente orientato. L’incontro mette in dialogo competenze differenti ma complementari: intelligenza artificiale, psicologia clinica, psicoterapia cognitivo-comportamentale e riflessione sul rapporto tra tecnologie digitali e salute mentale.
Più che offrire risposte semplicistiche, l’obiettivo è fornire criteri per orientarsi. E oggi, forse, è già molto. Perché nella velocità del discorso pubblico sull’IA, la vera competenza non consiste nell’avere opinioni forti, ma nel saper formulare domande migliori.
