Caso ChatGPT Sandoval: cosa è successo davvero

Sintesi

Nel ricorso State v. Sandoval un avvocato ha riconosciuto di avere utilizzato ChatGPT nella preparazione dell’atto e di non avere verificato prima del deposito le affermazioni fattuali e le autorità giuridiche generate. L’atto conteneva testimoni inventati, false testimonianze e riferimenti giuridici rappresentati in modo errato. Il caso documenta soprattutto il rischio di trasformare un output plausibile in un documento professionale senza controllo delle fonti.

✓

Fatti accertati

Il 9 settembre 2026 la Corte Suprema del New Mexico ha emesso, nel procedimento State v. Sandoval, n. S-1-SC-40845, un Dispositional Order of Direct Contempt relativo all’avvocato Stephen D. Aarons.

Fonti: NM-ORDER-01, NM-COURT-01

Aarons ha riconosciuto davanti alla Corte, per iscritto e oralmente, di avere utilizzato ChatGPT nella preparazione del brief in chief depositato nell’appello.

Fonti: NM-ORDER-01

Secondo l’ordine della Corte, l’atto conteneva false testimonianze attribuite a quattro testimoni interamente inventati — Officer Michelle Amarillo, Officer Sanchez, Manal Al-Jibury e Teresa Marquez — oltre ad altre false testimonianze e a una rappresentazione errata di autorità giuridiche reali.

Fonti: NM-ORDER-01

Aarons ha ammesso di non avere verificato le affermazioni fattuali e le autorità giuridiche contenute nell’atto prima di firmarlo e depositarlo.

Fonti: NM-ORDER-01

La Corte lo ha dichiarato in direct contempt of court, ha rinviato la questione al Disciplinary Board, gli ha temporaneamente vietato di comparire davanti alla Corte, ha nominato il Law Office of the Public Defender per l’appello, ha stralciato gli atti depositati e ha imposto una sanzione di 5.000 dollari da versare al Client Protection Fund.

Fonti: NM-ORDER-01

La Corte ha disposto questa parte della vicenda con un ordine non precedenziale, richiamando la propria discrezionalità ai sensi della Rule 12-405(B) NMRA.

Fonti: NM-ORDER-01

Reuters ha riportato che Aarons ha dichiarato di avere usato ChatGPT per riassumere il materiale processuale e di non avere compreso fino a che punto il sistema potesse produrre fatti inventati; nella stessa dichiarazione si è detto pentito e ha definito l’accaduto un errore onesto.

Fonti: REUTERS-01

OpenAI avverte che ChatGPT può produrre fatti, citazioni e riferimenti inesistenti o fuorvianti, anche esprimendoli con sicurezza, e raccomanda di verificare le informazioni importanti tramite fonti affidabili.

Fonti: OPENAI-01

?

Elementi non confermati

Le fonti consultate non indicano quale versione specifica di ChatGPT sia stata utilizzata.
Non disponiamo della conversazione completa con ChatGPT, dei prompt utilizzati o di un log tecnico che permetta di ricostruire esattamente come ciascun errore sia stato prodotto.
Le fonti disponibili non consentono di concludere che ChatGPT abbia autonomamente redatto e depositato l’atto: è documentato l’uso dello strumento nella preparazione del brief e il successivo deposito firmato dal professionista.
L’ordine non stabilisce che Aarons abbia deliberatamente voluto ingannare la Corte; documenta le misrepresentations e soprattutto l’ammissione di non avere verificato i contenuti prima del deposito.
Il caso non dimostra che ogni utilizzo professionale di IA generativa sia inaffidabile. Documenta le conseguenze di un utilizzo in cui affermazioni rilevanti non sono state verificate sulle fonti originali.

Contesto e documenti

Il procedimento nasce dall’appello di Oscar Renee Sandoval. Nel corso dell’esame degli atti, la Corte Suprema del New Mexico ha contestato al difensore una serie di rappresentazioni fattuali e giuridiche inesatte e ha convocato un’udienza di show cause il 21 agosto 2026. Il sito ufficiale della Corte elenca la registrazione dell’udienza relativa al caso S-1-SC-40845.

Nell’ordine del 9 settembre la Corte non si limita a rilevare citazioni giuridiche inesatte: elenca anche testimoni completamente inventati e false testimonianze attribuite a persone reali. È questo elemento a rendere il caso particolarmente rilevante rispetto ai più noti episodi di citazioni giurisprudenziali inesistenti.

Il caso State v. Sandoval compare inoltre tra quelli del termine 2026-2027 pubblicato dalla Corte Suprema del New Mexico.

Il documento della Corte distingue implicitamente due livelli: l’uso dello strumento di IA e la responsabilità professionale per ciò che viene firmato e depositato. La sanzione riguarda il comportamento dell’avvocato e il mancato controllo delle affermazioni presenti nell’atto, non una responsabilità giuridica attribuita al software.

◇

Analisi LIS

Il titolo sensazionalistico “ChatGPT inventa testimoni e fa sanzionare un avvocato” descrive solo una parte della catena causale. La sequenza documentata è più precisa: uno strumento generativo viene utilizzato nella preparazione di un atto; l’output contiene informazioni false; tali informazioni non vengono verificate sulle fonti processuali originali; l’atto viene firmato e depositato; la Corte interviene sulle misrepresentations e sul mancato controllo.

Il punto tecnico centrale non è quindi che un modello generativo possa sbagliare: questo limite è dichiarato anche dal fornitore. Il problema nasce quando la fluidità linguistica e la plausibilità dell’output vengono scambiate per prova di accuratezza. Un testo ben scritto può contenere dettagli falsi, citazioni errate o ricostruzioni non presenti nei documenti sorgente.

Nei contesti professionali ad alto impatto la verifica non può essere delegata allo stesso sistema che ha prodotto la sintesi. Una verifica reale richiede confronto con atti, documenti, registri o fonti primarie indipendenti. In altre parole, il controllo deve spezzare la catena dell’errore invece di ripeterla.

Questo caso mostra anche un principio generale: l’IA può accelerare lettura, sintesi e preparazione di una bozza, ma non trasferisce la responsabilità del risultato. Quando l’output viene trasformato in un documento ufficiale, la responsabilità ricade su chi lo valida, lo firma o lo pubblica.

La differenza tra assistenza e affidamento cieco è quindi operativa. Un uso responsabile può includere l’IA come strumento di lavoro, ma ogni affermazione materiale, citazione e riferimento deve essere ricondotto alla fonte originaria prima di essere presentato come fatto.

Conclusioni

Il caso Sandoval documenta un uso di ChatGPT in un’attività professionale nel quale informazioni false sono arrivate fino a un atto giudiziario perché non sono state verificate prima del deposito.

Non documenta che il sistema abbia agito autonomamente, né consente di ricostruire nel dettaglio il processo generativo senza i prompt e i log della sessione. È quindi scorretto attribuire all’IA intenzioni, autonomia o una responsabilità giuridica che le fonti non stabiliscono.

La lezione più solida è metodologica: quando l’accuratezza è importante, un output generativo va trattato come materiale da verificare, non come fonte. La verifica deve tornare ai documenti originali e la responsabilità finale resta umana.

Per Analisi LIS questo caso rappresenta esattamente il motivo per cui distinguiamo fatti accertati, elementi non confermati e valutazione tecnica: una risposta plausibile non diventa vera finché non è supportata da una fonte controllabile.

Fonti e documenti

NM-ORDER-01 Provvedimento giudiziario · testo riprodotto
State v. Sandoval — Dispositional Order of Direct Contempt, S-1-SC-40845 — Supreme Court of the State of New Mexico · riproduzione Justia, 2026-09-09.
Apri la fonte
Consultata il 20/09/2026.
NM-COURT-01 Fonte istituzionale
Recordings of Oral Arguments — Show Cause Hearing: State v. Sandoval, S-1-SC-40845 — Supreme Court of New Mexico, 2026.
Apri la fonte
Consultata il 20/09/2026.
NM-COURT-02 Fonte istituzionale
Supreme Court of New Mexico Announces its 2026-2027 Term — Supreme Court of New Mexico, 2026.
Apri la fonte
Consultata il 20/09/2026.
REUTERS-01 Fonte giornalistica · dichiarazioni successive
Lawyer cites fake witnesses in murder case and blames ChatGPT — Reuters, 2026-09-11.
Apri la fonte
Consultata il 20/09/2026.
OPENAI-01 Documentazione del fornitore
Does ChatGPT tell the truth? — OpenAI Help Center, 2026.
Apri la fonte
Consultata il 20/09/2026.

Cronologia revisioni

20/09/2026Rev. 1
Pubblicazione iniziale. Verificati il provvedimento della Corte Suprema del New Mexico, le pagine istituzionali della Corte, le dichiarazioni successive riportate da Reuters e la documentazione OpenAI sui limiti di affidabilità fattuale.