Avvocato multato di 5.000 dollari per testimoni inventati dall’AI in un caso di omicidio

👁 115 letture

La Corte Suprema del New Mexico ha multato l’avvocato Stephen Aarons di 5.000 dollari e lo ha dichiarato in contempt of court, secondo quanto riportato da Reuters, per aver presentato un appello in un caso di omicidio che conteneva testimoni interamente inventati dall’intelligenza artificiale e false testimonianze sulle caratteristiche fisiche del presunto sparatore.

Secondo il documento depositato mercoledì dalla corte, il brief redatto da Aarons con ChatGPT includeva “false testimonianze di testimoni interamente fabbricati” e informazioni errate sull’abbigliamento e l’aspetto del tiratore. La corte ha stabilito che Aarons non ha adempiuto all’obbligo di “verificare le affermazioni fattuali e le fonti legali nel suo brief generato dall’AI”.

Durante un’udienza ad agosto, Aarons ha ammesso di aver utilizzato ChatGPT pensando che lo strumento avrebbe prodotto un riassunto “inattaccabile” del processo. La risposta della giudice C. Shannon Bacon è stata diretta:

“Avvocato, guarda le notizie? Ascolta la radio? Legge qualcosa di quello che succede nel mondo? Perché il problema degli avvocati che si affidano alle allucinazioni dell’AI è una storia in prima pagina ogni singolo giorno.”

Aarons ha dichiarato a Reuters di essere “rammaricato” e di sperare che la commissione disciplinare consideri l’accaduto “un errore in buona fede”.

Il caso si inserisce in una serie crescente di episodi analoghi: l’anno scorso un giudice ha sanzionato due studi legali per aver depositato atti con “numerose citazioni legali false, inaccurate e fuorvianti”, e gli avvocati di Mike Lindell di MyPillow sono stati multati per citazioni e riferimenti inesistenti generati dall’AI.

Cosa significa per chi usa strumenti AI ogni giorno: ogni output generato da un modello linguistico - nomi, date, citazioni, fatti - deve essere verificato sulle fonti originali prima di essere usato in qualsiasi contesto con conseguenze reali. L’AI non segnala quando inventa: la responsabilità della verifica rimane interamente su chi firma il documento.

// continua a leggereAvvocato multato e sospeso per aver citato testimoni inesistenti generati da ChatGPTNotizieAI per avvocati: strumenti, riservatezza e regoleMagazineClaude Opus 5.5 inventa numeri? Test con trappola per il managementBenchmark

Kinetyra