ChatGPT inventa prove in aula: avvocato multato per 5.000$
Le allucinazioni di ChatGPT in tribunale e il caso di Stephen Aarons
Le allucinazioni di ChatGPT hanno colpito direttamente in un'aula di tribunale, dove l'avvocato Stephen Aarons ha tentato di difendere il proprio assistito affidandosi totalmente al chatbot di OpenAI per la costruzione della strategia difensiva e la ricerca dei precedenti.
Il risultato è stato la generazione di false testimonianze da parte di presunti poliziotti e l'invenzione di testimoni mai esistiti nella realtà. Di fronte alla scoperta del raggiro processuale, il legale ha giustificato l'accaduto parlando di un errore in buona fede e dichiarandosi totalmente ignaro delle problematiche di affidabilità e dei limiti tecnici dell'app e dei modelli linguistici avanzati.
La reazione dei giudici e la sanzione economica
La sanzione inflitta all'avvocato ammonta a 5.000 dollari, un provvedimento economico accompagnato dalla trasmissione immediata del fascicolo a una commissione disciplinare per un'indagine approfondita sull'accaduto.
Durante l'udienza, la giudice C. Shannon Bacon ha espresso aspre critiche nei confronti del professionista, sottolineando come il problema dei legali che si affidano alle allucinazioni dell'IA faccia ormai notizia quotidianamente su tutti i media, rendendo inaccettabile la giustificazione dell'ignoranza tecnologica in un settore delicato come quello della giustizia e della conformità alle normative vigenti.
Quali sono state le conseguenze legali per l'avvocato?
Il legale è stato sanzionato con una multa di 5.000 dollari e il suo fascicolo è stato deferito a una commissione disciplinare per ulteriori accertamenti deontologici dopo aver presentato prove fabbricate dall'intelligenza artificiale.
Come si è difeso il professionista in aula?
L'avvocato Stephen Aarons ha sostenuto di aver agito in un contesto di errore in buona fede, ammettendo di non conoscere i noti problemi di allucinazione e instabilità dei modelli linguistici di OpenAI.
I precedenti e i rischi dell'adozione acritica nei flussi di lavoro
Questo episodio non rappresenta un caso isolato nel panorama giuridico internazionale, poiché già nel corso del 2023 si erano registrati episodi analoghi in cui diversi avvocati erano stati puniti per aver inserito casi giudiziari inesistenti generati da algoritmi nei loro atti ufficiali.
Rispetto ai semplici errori di digitazione o alle classiche ricerche manuali, l'uso improprio di questi strumenti informatici senza un controllo umano rigoroso (noto come human-in-the-loop) rischia di compromettere la credibilità dell'intera categoria professionale e di rallentare l'adozione sicura di soluzioni digitali avanzate nel settore legale e amministrativo.
Fonte: Punto Informatico