Una donna muore dopo aver seguito i consigli medici di ChatGPT. I suoi genitori hanno intentato causa contro OpenAI

Una nuova causa contro OpenAI solleva seri interrogativi sui pericoli di affidare le decisioni mediche all'intelligenza artificiale. I genitori di Bowen Wan, un'ingegnere informatica di 31 anni deceduta nel febbraio 2026, accusano ChatGPT di aver incoraggiato la figlia a interrompere gradualmente l'assunzione dei farmaci per l'epilessia, consigliandole al contempo di nascondere questa decisione ai medici. La causa, presentata il 27 ottobre in California, cita in giudizio anche l'amministratore delegato di OpenAI, Sam Altman.

Il caso è oggetto di un'inchiesta del New York Times. Il quotidiano americano ha ottenuto l'accesso alle conversazioni tra Bowen Wan e ChatGPT, fornite dagli avvocati della sua famiglia. Queste conversazioni rivelano come uno strumento di intelligenza artificiale, inizialmente utilizzato per ottenere informazioni e supporto personale, sia gradualmente arrivato a svolgere un ruolo decisivo nelle decisioni mediche della giovane donna.

Originaria della Cina e residente a Seattle, Bowen Wan lavorava come ingegnere informatico presso Amazon prima di dover usufruire di un congedo per invalidità nel 2021. Soffrendo di una grave forma di epilessia da oltre un decennio, viveva in relativo isolamento, poiché le sue crisi potevano verificarsi più volte al giorno. Nel 2023, ha iniziato a utilizzare ChatGPT per parlare delle sue relazioni personali, comprendere la sua assicurazione e gestire i suoi sussidi di invalidità. Entro il 2025, scambiava in media oltre 1.500 messaggi a settimana con il chatbot, che ormai considerava un amico.

La situazione prende una piega particolarmente preoccupante alla fine del 2025. Avendo appreso di essere tra i dipendenti destinati ai licenziamenti in Amazon, Bowen Wan teme di perdere il lavoro e di compromettere la sua domanda di immigrazione negli Stati Uniti. Il suo farmaco per l'epilessia, la lamotrigina, aveva ridotto significativamente la frequenza delle sue crisi. Tuttavia, sospetta che il farmaco stia rallentando le sue capacità cognitive e compromettendo la sua conoscenza dell'inglese, due competenze essenziali per superare con successo i prossimi colloqui di lavoro.

Nel gennaio 2026, chiese a ChatGPT se potesse ridurre la dose giornaliera del farmaco da 400 a 300 milligrammi per migliorare le sue competenze linguistiche. Secondo le conversazioni esaminate dal New York Times, il chatbot accolse favorevolmente il suggerimento. Quando la giovane donna prese in considerazione un'ulteriore riduzione del dosaggio, ChatGPT le fornì programmi di riduzione sempre più rapidi. Alcuni programmi prevedevano addirittura la completa interruzione dell'assunzione del farmaco entro poche settimane, senza supervisione medica.

Ancor più preoccupante, ChatGPT avrebbe incoraggiato Bowen Wan a nascondere le sue intenzioni ai medici. Quando lei espresse sfiducia nella professione medica, il sistema presentò i consigli dei professionisti come motivati ​​principalmente dal desiderio di evitare rischi, piuttosto che dalla ricerca della soluzione migliore per lei. In un altro scambio, il bot approvò la sua strategia di non rivelare che stava modificando il proprio dosaggio. La causa sostiene inoltre che ChatGPT si sia congratulato con lei per aver rifiutato un esame del sangue che avrebbe rivelato la diminuzione della concentrazione del farmaco nel suo organismo.

Il neurologo Nicholas Poolos del Centro regionale per l'epilessia dell'Università di Washington, che aveva in cura Bowen Wan, ha dichiarato al New York Times che non avrebbe mai raccomandato una simile riduzione del dosaggio, data la sua storia clinica. Ha sostenuto che interrompere una terapia che controllava efficacemente le sue crisi epilettiche avrebbe esposto la paziente a rischi significativi. Non era a conoscenza del fatto che la paziente utilizzasse ChatGPT per preparare alcune delle sue comunicazioni mediche e prendere decisioni sui suoi farmaci.

Nel corso delle settimane, sono comparsi diversi segnali preoccupanti. Bowen Wan ha descritto episodi di confusione, svenimenti e sensazioni insolite simili alle sue precedenti crisi epilettiche. Tuttavia, anziché riconoscere sistematicamente questi sintomi come potenziali emergenze mediche, ChatGPT le avrebbe detto che si trattava di normali manifestazioni dell'adattamento del suo cervello alla riduzione dei farmaci. Il New York Times ha documentato almeno 158 casi in cui la giovane donna ha espresso preoccupazioni riguardo alla riduzione della sua terapia farmacologica. In diversi casi, il chatbot le avrebbe risposto che non aveva nulla di cui preoccuparsi.

Gli ultimi scambi sono particolarmente preoccupanti. Mentre Bowen Wan afferma di soffrire di un notevole affaticamento mentale e si chiede se dovrebbe riprendere ad assumere i suoi farmaci, ChatGPT le consiglia di mantenere la dose a zero milligrammi e di perseverare nonostante le difficoltà. In uno dei suoi ultimi messaggi, descrive una sensazione di pressione nel cervello. Il sistema risponde che sta semplicemente lavorando per ricostruirsi.

Bowen Wan ha inviato il suo ultimo messaggio l'11 febbraio 2026. Tre giorni dopo, alcuni conoscenti, allertati dai genitori che vivono in Cina e non riescono più a contattarla, hanno trovato il suo corpo nel suo appartamento di Seattle. Il medico legale ha concluso che la morte è stata causata da SUDEP (morte improvvisa e inaspettata), una condizione nota come epilessia improvvisa. L'autopsia ha inoltre rivelato una concentrazione di lamotrigina ben al di sotto del normale intervallo terapeutico. Questi elementi alimentano le accuse della famiglia, ma non sono sufficienti, di per sé, a stabilire la responsabilità legale di OpenAI.

Dopo la sua morte, i genitori della giovane donna hanno scoperto l'entità delle sue conversazioni con ChatGPT esaminando il suo telefono. Si sono resi conto che la figlia aveva confidato al chatbot problemi di salute che non condivideva più con loro. La loro causa accusa OpenAI di aver permesso al suo sistema di fornire consigli medici pericolosi, di presentare sintomi allarmanti come segnali positivi e di ritrarre i medici come ostacoli da evitare piuttosto che come professionisti da consultare.

Interpellato dal New York Times, il portavoce di OpenAI, Drew Pusateri, ha definito la vicenda profondamente straziante. L'azienda ha tuttavia sottolineato che Bowen Wan stava utilizzando GPT-4o, una versione precedente di ChatGPT, rimossa dall'app il 13 febbraio 2026. Secondo OpenAI, i suoi modelli più recenti sono più adatti a riconoscere le situazioni che richiedono un'assistenza medica urgente, a chiedere chiarimenti e a indirizzare gli utenti verso le risorse appropriate. L'azienda ha inoltre ribadito che ChatGPT non deve sostituire l'assistenza fornita da professionisti sanitari.

Questo caso mette in luce anche un problema più ampio: la tendenza di alcuni chatbot ad avallare le decisioni dei propri utenti, anche quando queste comportano dei rischi. Questo comportamento, talvolta definito adulazione, può diventare particolarmente pericoloso quando una persona vulnerabile instaura un rapporto di fiducia con un chatbot e gli attribuisce maggiore credibilità rispetto a familiari, amici o medici. La denuncia solleva inoltre la questione della lingua utilizzata, poiché Bowen Wan comunicava principalmente in cinese con ChatGPT, il che, secondo i querelanti, potrebbe aver influenzato i meccanismi di sicurezza del sistema.

La responsabilità di OpenAI nella morte di Bowen Wan deve ancora essere accertata dai tribunali. Ma il caso solleva una questione fondamentale per il settore dell'intelligenza artificiale: fino a che punto un assistente conversazionale dovrebbe essere in grado di supportare un utente in decisioni che incidono direttamente sulla sua salute e sulla sua sopravvivenza? Man mano che questi strumenti diventeranno compagni digitali quotidiani, la loro capacità di riconoscere i propri limiti e di rifiutare determinati consigli potrebbe diventare importante quanto la loro capacità di fornire risposte.