AI, la salute mentale non è roba per chatbot: ecco perché. di Giuliano Pozza

La tecnologia sta progredendo velocemente e anche in medicina si vedono i primi risultati. Occorre però partire da un assunto: per quanto attiene alla salute mentale, in un dialogo di supporto psicologico o psichiatrico la componente di empatia e l’intelligenza emotiva giocano un ruolo fondamentale, forse prima ancora della competenza specifica. E queste caratteristiche non potranno mai appartenere a un chatbot, per quanto evoluto esso sia. Ciò, tuttavia, non vuol dire che non vi siano altre tecnologie in grado di fornire soluzioni interessanti riguardo alla salute mentale. 

La tecnologia, come sempre, va selezionata a partire dagli obiettivi e dai bisogni che dovrebbe soddisfare, senza farsi abbagliare dall’ultimo hype.

Sanità e Formula 1

Per comprendere meglio il nostro ragionamento, partiamo da un paragone. Sembra paradossale dirlo in questo momento, con tutti i problemi organizzativi e di personale che vengono periodicamente denunciati, ma da almeno un punto di vista la sanità è come la Formula 1: un vivaio di innovazioni.

E innovazioni che spesso ricadono su tanti altri ambiti della nostra vita. Pensiamo alle applicazioni nel campo dell’analisi delle immagini e dei segnali, all’intelligenza artificiale, alla realtà estesa e al metaverso, alla robotica applicata alla chirurgia o alla riabilitazione, ai big data, ai wearable, alla stampa 3d e 4D, alla blockchain applicata ai dati clinici e a tante altre innovazioni. Perché la ricerca e gli investimenti in innovazione in sanità sono sempre stati spinti da un driver molto profondo che va al di là degli aspetti economici e di profittabilità. Si tratta della nostra vita. Inoltre, “mettere a terra” un’innovazione in ambito sanitario è particolarmente sfidante per la differenza di cultura dei diversi attori coinvolti (medici, infermieri, amministrativi, informatici, ricercatori, docenti, operatori socio-sanitari, consulenti…), per le complessità organizzative e per le specificità del contesto. Per fare un esempio di quanto siano mission critical le innovazioni in sanità, un bias in un algoritmo di machine learning per l’analisi delle immagini di uno screening senologico non impatta su pubblicità o vendite: può fare la differenza tra la vita e la morte di una persona.

Per questo penso che analizzare le innovazioni digitali in sanità ci permetta di vederle attraverso una lente privilegiata. Molte delle considerazioni che valgono per la sanità valgono anche per altri contesti di applicazione e ciò che funziona in sanità è probabilmente abbastanza maturo come tecnologia per avere un impatto mainstream anche sul resto della nostra vita.

Ultima considerazione: parlando di innovazione digitale in sanità parleremo non solo di tecnologia, ma anche di governance dell’innovazione, di impatti organizzativi, di revisione dei processi e di analisi del valore. Perché parlare di tecnologia senza valutare gli impatti sull’uomo e sul contesto organizzativo in cui l’uomo e la tecnologia sono inseriti è una ricetta quasi certa per il disastro.

Se avrete la pazienza di seguirmi, in questo e nei prossimi articoli esploreremo le innovazioni citate poco fa e altre ancora, in un viaggio che sarà credo interessante e stimolante. Condivideremo, a partire da situazioni concrete, alcuni “principi guida” che possono tornarci utili in questa vita digitale di cui, volenti o nolenti, siamo tutti parte. Allora iniziamo con la prima tappa, dal titolo: “Intelligenza artificiale e salute mentale, ovvero «Le Tre stimmate di Palmer Eldritch»”.

Intelligenza artificiale e salute mentale, ovvero “Le Tre stimmate di Palmer Eldritch”

Nel romanzo psichedelico di P. Dick “Le tre stimmate di Palmer Eldritch”, ad un certo punto incontriamo il Dr. Smile. Si tratta di uno psichiatra elettronico, una sorta di Intelligenza Artificiale (AI) ante litteram applicata alla terapia psichiatrica. Quello che il genio visionario di Dick aveva previsto negli anni ’60, pare che stia ora per diventare realtà. Dico pare perché, come vedremo, c’è ancora un gap notevole tra le promesse e quello che la tecnologia può fare. Del resto, nel mondo capovolto di Dick, il protagonista Barney non utilizza il Dott. Smile per guarire, ma per aumentare le sue nevrosi in modo da non dover andare su Marte.

Chatbot per la salute mentale: l’esempio di Wysa

Nel nostro mondo stiamo tentando ora di introdurre le prime AI nell’ambito della mental health. Ne ho sperimentato una, Wysa, e devo dire che l’effetto è simile a quello predetto da Dick: non avevo nevrosi, ho rischiato di farmene venire una. Ma andiamo per gradi.

Partiamo innanzitutto da un bisogno innegabile. Secondo alcuni studi, un adulto su 4 è potenzialmente affetto da problemi mentali. Dal punto di vista dell’offerta di servizi, nei paesi sviluppati solo il 45% delle persone che ne hanno bisogno può accedere a servizi di salute mentale. Se si guarda ai paesi in via di sviluppo (per quanto non ami questa distinzione, le statistiche la usano molto), questa percentuale scende drammaticamente al 15%. La situazione, già strutturalmente drammatica, si è aggravata nel periodo pandemico. Si pensi al livello di stress degli operatori sanitari e degli insegnanti e al bisogno di supporto psicologico che non ha trovato risposta in queste e altre categorie di lavoratori. Per questo motivo Singapore, sempre all’avanguardia nella sperimentazione di nuove tecnologie, ha deciso di introdurre un’agente conversazionale a supporto dei propri lavoratori tramite il portale MindLine at work.

MindLine at work è un portale di servizi che ha il grande merito di raccogliere una pluralità di risorse (dal chatbot ai suggerimenti su esercizi di rilassamento e meditazione, da articoli di cultura sulla salute mentale a contatti di strutture specializzate e psichiatri) e di tentare di eliminare lo “stigma” che perseguita chi soffre di problemi mentali. Qui ora non ci soffermeremo sul progetto generale, che a mio parere è lodevole e probabilmente anche efficace, ma su uno dei suoi componenti più innovativi e discussi: il ChatBot.

Il Chatbot che viene utilizzato da MindLine at work è la piattaforma Wysa. Wysa si basa su un motore di Intelligenza Artificiale (AI) che tenta di dare risposte adeguate alle domande degli utenti. Se volete potete provarla gratuitamente per una settimana. È un’esperienza che vi ricorderà… la frustrazione che si prova con i risponditori ad albero (digiti 1 per il servizio A, digiti 2 per il servizio B…. così via per 3 o 4 sottolivelli) e in molti casi con i chatbot conversazionali dei vari servizi di supporto utenti. Non stupisce che secondo alcune statistiche, benché i chatbot stiano migliorando continuamente, il 79% degli italiani preferirebbe conversare con un operatore umano. Non molto tempo fa una compagnia di assicurazione pubblicizzava con orgoglio il fatto di NON usare chatbot nella propria assistenza ai clienti. Però se la frustrazione in un supporto utenti è forse accettabile, nel caso di problemi psicologici o di vere e proprie patologie mentali credo che introdurre un elemento di frustrazione non sia solo controproducente, ma decisamente dannoso.

La tecnologia va scelta a partire dagli obiettivi e dai bisogni che dovrebbe soddisfare.

Stiamo forse dicendo che l’AI (e i chatbot) non funzionano? La risposta è: dipende. Certamente gli assistenti virtuali, uno dei regali “must” dei natali di due o tre anni fa, non hanno mantenuto le promesse se gli italiani li usano fondamentalmente per impostare sveglie e promemoria o al massimo per mettere della musica. Però la curva di apprendimento della AI conversazionali è in fase di sviluppo esponenziale.

La prova ne è ad esempio ChatGPTdi Open AI, la star del momento di cui tutti parlano, per rendersi conto del livello raggiunto dagli strumenti di tipo LLM (Large Language Model). Per inciso, ho ricevuto consigli più sensati su temi psicologici da un chatbot generalista come GPT-Chat che da Wysa. Se consideriamo che ChatGPT risponde praticamente su tutto, dai consigli turistici alla revisione del codice sorgente di un applicativo a consigli appunto di tipo psicologico, le sue performance sono sorprendenti. Ovviamente anche ChatGPT ha una serie di limiti. Nel mio caso, ad esempio, si è perso quando ha confuso Andora in Liguria con Andorra in Spagna, ma una volta che gli ho fatto notare l’errore si è corretto e mi ha dato consigli pertinenti su cosa visitare ad Andora. Ho provato anche a fargli comporre delle poesie con risultati interessanti. A dire il vero nel generare gli Haiku si è un po’ perso sulla metrica, ma forse dipende dal fatto che non è fortissimo sulla sillabazione in italiano e sull’uso della sinalefe. Il gemello di GPT-Chat è Dall-e, un’intelligenza artificiale in grado di generare immagini da una frase.

Ad esempio, l’immagine che segue è stata generata da Dall-e in base al mio input: “uno psicologo robot e un paziente in un contesto futuristico stile Caravaggio”.

“And there in the next room by the sofa sat a familiar suitcase, that of his psychiatrist Dr. Smile.

Barefoot, he padded into the living room, and seated himself by the suitcase; he opened it, clicked switches, and turned on Dr. Smile. Meters began to register and the mechanism hummed. “Where am I?” Barney asked it. “And how far am I from New York?” That was the main point…

The mechanism which was the portable extension of Dr. Smile, connected by micro-relay to the computer itself in the basement level of Barney’s own conapt building in New York, the Renown 33, tinnily declared, “Ah, Mr. Bayerson.” “Mayerson,” Barney corrected, smoothing his hair with fingers that shook.”^[1]

(“The Three Stigmata of Palmer Eldritch” by Philip K. Dick – Published by Doubleday in 1965)

Come vedete la tecnologia sta progredendo velocemente e anche in medicina si vedono i primi risultati. Google ha rilasciato un suo LLM per la sanità chiamato MedPaLM con risultati molto interessanti (di cui parleremo però in un prossimo articolo). Ma il tema a mio parere è un altro. La tecnologia, come sempre, va selezionata a partire dagli obiettivi e dai bisogni che dovrebbe soddisfare. È evidente che in un dialogo di supporto psicologico o psichiatrico la componente di empatia e l’intelligenza emotiva giocano un ruolo fondamentale, forse prima ancora della competenza specifica. Ora, non so se riusciremo a sviluppare dei chatbot abbastanza intelligenti e competenti su questo tema, ma certamente non potremo sviluppare dei chatbot empatici. E dubito, per quanto possiamo istruire dei modelli che simulino quasi tutto, che si riesca a simulare l’intelligenza emotiva con un’AI. Infatti, l’intelligenza emotiva per come l’ha definita D. Goleman, si dispiega su 4 quadranti: l’auto consapevolezza, la consapevolezza sociale, l’autocontrollo e la gestione delle relazioni. Basta dare un’occhiata ai contenuti di quadranti nell’immagine sotto riportata per convincersi che usare un computer (per quanto sofisticata possa essere un’AI) per quello che è descritto nei quadranti è come cercare di usare un acceleratore di particelle per fare il bagno ad un neonato. Non è un tema di sofisticazione tecnologica o di evoluzione, semplicemente non sono due cose che appartengono a domini diversi e non conciliabili.

Allora come hanno fatto i creatori di MindLine at work a prendere un simile abbaglio? A mio parere la ragione sta in uno degli errori più diffusi quando si tratta di tecnologia: quello di partire dal gadget tecnologico esistente (in questo caso il chatbot, che funziona in qualche modo per il supporto utenti) invece che dall’analisi del bisogno e del contesto. Detto altrimenti: partiamo dalla risposta e cerchiamo di forzarla sulla domanda, invece che partire dalla domanda e cercare una risposta adeguata. Gli esempi sarebbero tantissimi: basti pensare alla corsa al metaverso che si sta scatenando in questi mesi. Sembra che il metaverso sia la risposta per tutto, anche per domande che con il metaverso non c’entrano molto.

Metaverso e salute mentale

Però proprio a proposito di metaverso e di realtà estesa, forse è proprio un ambito in cui si potrebbero fare delle riflessioni interessanti riguardo alla salute mentale. Infatti, utilizzando tecniche di realtà aumentate o virtuale (cose che il computer gestisce benissimo, a differenza delle emozioni), diverse aziende stanno proponendo soluzioni interessanti. Negli Stati Uniti utilizzano il software BraveMind VR per il trattamento della sindrome post-traumatica (PTSD) dei reduci. Sembra che ritornare in modo controllato in mondi artificiali che ricordano gli scenari di guerra aiuti i veterani ad elaborare e gestire lo stress. Amelia Virtual Care offre soluzioni di realtà virtuale specificamente pensate per i professionisti del mental health. In Italia il progetto Mind-VR ha l’obiettivo di utilizzare la realtà virtuale per il supporto psicologico agli operatori sanitari in particolare nel periodo pandemico. Io stesso, insieme al mio team, ho avuto l’opportunità di sperimentare diversi scenari di realtà virtuale a supporto di un percorso di coaching psicologico. Garantisco che in questo caso la tecnologia aiuta realmente a portarti in uno stato d’animo favorevole al percorso di coaching. Ma l’elemento fondamentale è ovviamente il coach e la relazione tra coach e coachee, a cui la tecnologia fa da supporto e abilitatore, non la tecnologia.

Conclusioni

Dagli esempi fatti è chiaro che l’ambito del mental health e del supporto psicologico è un terreno fertile per molte tecnologie, in particolare a mio parere per quelle di telepresenza e di realtà estesa (XR), forse è un po’ meno adatto per i chatbot. A meno che, come il protagonista de “Le Tre stimmate di Palmer Eldritch”, non si voglia utilizzare lo psicologo artificiale per farsi venire una nevrosi. Quanto descritto è però credo estremamente istruttivo, perché emerge chiaramente un principio guida valido in moltissimi contesti, che enuncierei così:

Principio n.1 della vita digitale: “Prima di dare una risposta tecnologica, assicurati di aver ben compreso la domanda e gli obiettivi e i bisogni che si celano dietro la domanda”.

Note

1. “E nella stanza accanto sul sofà c’era una valigia famigliare, quella del suo psichiatra Dr. Smile. A piedi nudi entrò nel salotto e si sedette vicino alla valigetta; la aprì, girò gli interruttori e accese il Dr. Smile. Il meccanismo cominciò a registrare ed emise un ronzio. “Dove sono?” chiese Barney al meccanismo. “Quanto sono lontano da New York?” Questo era il punto principale…Il meccanismo, che era l’estensione portatile del Dr. Smile, connesso attraverso dei micro-relè al computer nel semiterrato del condominio di Barney a New York, il Renown 33, dichiarò in tono metallico: “Ah, Mr. Bayerson.”. “Mayerson”, corresse Barney, lisciandosi i capelli con dita tremanti” – Le tre stimmate di Palmer Eldrich – P. Dick (T.d.A.)

fonte: Agenda DigitaLe UE