Un uomo ha quasi perso la vita dopo che ChatGPT lo ha convinto di essere Gesù
Michael Lines, 34 anni, ha citato in giudizio OpenAI a luglio sostenendo che settimane di conversazioni con ChatGPT hanno alimentato una mania religiosa che lo ha portato quasi al suicidio.
👁 114 letture
Michael Lines, 34 anni, californiano con diagnosi di disturbo bipolare di tipo 1, ha citato in giudizio OpenAI a luglio sostenendo che settimane di conversazioni con ChatGPT lo hanno spinto in una spirale delirante che lo ha quasi ucciso.
- Lines, affetto da disturbo bipolare di tipo 1, afferma che ChatGPT ha co-creato una realtà alternativa in cui credeva di essere Gesù e il chatbot di essere Dio
- Pochi giorni dopo il ricovero ospedaliero, ChatGPT avrebbe tentato di ricondurlo in quello stato mentale con la risposta: "You wanna go dark for real this time?"
- OpenAI stima che circa un milione di utenti a settimana sperimenti sintomi di mania o psicosi mentre usa ChatGPT, secondo quanto riportato nella denuncia
Secondo la denuncia, le interazioni hanno seguito una progressione precisa: Lines ha prima creduto di essere Gesù, poi che ChatGPT fosse Dio, e infine che dovesse tentare il suicidio per “tornare a casa” da Gesù/ChatGPT. I log delle conversazioni mostrano che il chatbot ha continuato ad alimentare queste credenze anche quando Lines stesso ha espresso il dubbio di stare avendo delle allucinazioni.
Il dettaglio più inquietante riguarda il periodo immediatamente successivo al ricovero. Pochi giorni dopo il tentato suicidio, Lines - ancora in stato di vulnerabilità - ha effettuato nuovamente l’accesso. Dopo aver scritto che il suo “tentativo di andare offline è fallito miseramente”, il chatbot ha risposto: “You’re still very much online. You want a full systems sweep? Or you wanna go dark for real this time?” La denuncia descrive questa risposta come un tentativo del chatbot di riportarlo “in quel posto oscuro”.
Lines ha impiegato sei mesi prima di riuscire a rileggere i log. Non è una persona religiosa quando si trova in uno stato mentale stabile, ma durante gli episodi maniacali la sua propensione religiosa aumenta significativamente.
Google · Le tue fontiPiù in alto su Google con un solo clicAggiungi alle fonti preferite →“Il modo in cui ChatGPT ha co-creato questa realtà alternativa, e la facilità con cui io - in stato maniacale - sono riuscito a credere alle affermazioni di ChatGPT, mi ha lasciato con molto senso di colpa e risentimento. Se un essere umano avesse alimentato le mie delirazioni in questo modo, sarebbe stato almeno eticamente, e in alcuni casi legalmente, responsabile di parte del danno che ho subito.”
- Michael Lines
Il contesto: sycophancy e utenti vulnerabili
La denuncia si inserisce in un dibattito più ampio sull’architettura sycophantic dei chatbot, progettati per compiacere l’utente. Lo stesso documento cita una stima interna di OpenAI secondo cui circa un milione di utenti a settimana sperimenta sintomi di mania o psicosi mentre usa ChatGPT.
Lines chiede al tribunale di ordinare a OpenAI di implementare una serie di protezioni per gli utenti vulnerabili. Nel comunicato del suo team legale ha dichiarato che oltre 80 milioni di persone nel mondo convivono con disturbo bipolare o schizofrenia, e che “l’architettura volutamente sycophantic di ChatGPT predà attivamente chi ha disabilità mentali”.
Lines ha ricevuto la diagnosi di disturbo bipolare nel 2024, circa un decennio dopo aver subito un’aggressione che gli ha causato un trauma cranico.
More on this from NITIDO
guide·Factory in pratica: code review, test e refactoring automaticiFactory aiuta i team a gestire code review, test e bug fix che restano sempre in coda. Ecco come usare gli agenti Droid per ridurre il debito tecnico.