La Corte suprema del New Mexico ha sanzionato un avvocato per aver inserito in un ricorso testimonianze e dettagli polizieschi fabbricati dall’AI. Il caso mostra dove finisce l’automazione e dove comincia la responsabilità professionale.
Un ricorso legato a una condanna per omicidio, alcuni testimoni mai esistiti e una multa da 5.000 dollari. La vicenda arrivata davanti alla Corte suprema del New Mexico trasforma il dibattito sulle allucinazioni dell’AI in una conseguenza professionale molto concreta.
Secondo quanto riportato da The Verge sulla base di un resoconto Reuters, l’avvocato Stephen Aarons avrebbe inserito nell’appello del proprio cliente testimonianze e dettagli attribuiti alla polizia che erano stati fabbricati da ChatGPT. La Corte ha quindi sanzionato il legale, chiamandolo a rispondere del contenuto depositato.
Il punto centrale riguarda la responsabilità. Un sistema generativo può produrre una frase credibile, assegnarle un tono formale e inserirla con naturalezza in una ricostruzione complessa. Quella sicurezza espositiva non certifica l’esistenza di un testimone, l’autenticità di un documento o la correttezza di una citazione.
Le cosiddette allucinazioni nascono dal funzionamento stesso dei modelli linguistici: il sistema genera una continuazione plausibile sulla base dei dati e delle istruzioni ricevute. La plausibilità linguistica può assomigliare alla precisione documentale, soprattutto quando il testo è lungo, coerente e scritto nel registro giusto. Sono però due qualità profondamente diverse.
In ambito legale questa distinzione diventa decisiva. Un nome proprio inventato o un passaggio attribuito alla polizia possono alterare il significato di un atto e compromettere l’affidabilità dell’intero lavoro. La revisione umana deve quindi includere il controllo puntuale delle fonti primarie, anziché limitarsi a una rilettura stilistica del testo generato.
Il caso del New Mexico suggerisce un modello operativo più maturo per studi legali e professionisti. L’AI può aiutare a organizzare materiali, sintetizzare documenti e preparare una prima struttura. Ogni affermazione fattuale deve però restare collegata a una fonte verificabile, con una persona identificabile incaricata dell’approvazione finale. La velocità acquista valore soltanto quando viene accompagnata dalla tracciabilità.
La stessa lezione riguarda aziende, sviluppatori e fornitori di software. Inserire un chatbot in un flusso professionale è la parte facile; definire controlli, limiti d’uso e responsabilità richiede un progetto molto più serio. Le interfacce dovrebbero aiutare gli utenti a distinguere il testo generato dalle informazioni recuperate da documenti reali, rendendo più semplice verificare l’origine di ogni passaggio rilevante.
Questa vicenda segna anche un passaggio nell’evoluzione dell’AI generativa. La fase della meraviglia per la produzione istantanea di testi sta lasciando spazio alla costruzione di procedure affidabili. Nei settori regolati, il vantaggio competitivo arriverà da sistemi capaci di mostrare il percorso delle informazioni e di integrarsi con revisioni professionali solide.
La multa inflitta nel New Mexico consegna infine una regola difficile da aggirare: il documento può essere scritto con l’aiuto di una macchina, mentre la firma continua ad appartenere a una persona. È su quella firma che tribunali, clienti e organizzazioni misureranno l’affidabilità del lavoro.
Fonti
