Un avvocato usa ChatGPT in tribunale ma sbaglia tutto: ora dovrà rispondere dei suoi errori
Roberto Mata è all'aeroporto internazionale Kennedy di New York, sta per prendere un volo quando viene colpito al ginocchio da un carrello di metallo. Decide di citare in giudizio la compagnia aerea di Avianca, i suoi avvocati presentano a un giudice federale di Manhattan un fascicolo di dieci pagine con altri casi simili: Martinez contro Delta Air Lines, Zicherman contro Korean Air Lines e, Varghese contro China Southern Airlines. C'è solo un problema, nessuno riesce a trovare i casi giudiziari citati dagli avvocati. La risposta in realtà è la più semplice, non esistono. Sono stati inventati da ChatGPT.
Eppure Steven A. Schwartz dello studio Levidow, Levidow & Oberman, l'avvocato di Mata, ha alle spalle 30 anni di professione. Ha deciso di testare la nuova tecnologia ma non aveva alcuna intenzione di ingannare il tribunale o la compagnia aerea, come ha detto al giudice P. Kevin Castel. Ha anche spiegato di non aver mai utilizzato ChatGPT e "quindi non era a conoscenza della possibilità che il suo contenuto potesse essere falso", ma l'avvocato molto probabilmente verrà sanzionato per la sua negligenza. Il caso diventa così un pretesto per riflettere sulla fallibilità degli algoritmi che, almeno per ora, hanno bisogno di essere supervisionati da un umano.
ChatGPT e il caso Schwartz
Schwartz ha detto di essere dispiaciuto per l'accaduto, ha spiegato di aver consultato ChatGPT "per integrare" il proprio lavoro e che, "in consultazione" con esso, ha trovato e citato la mezza dozzina di casi inesistenti. Ha detto che ChatGPT aveva fornito rassicurazioni, aveva anche chiesto al chatbot se le notizie fossero reali, e aveva detto sì. Schwartz ha poi detto che "si rammarica molto di aver utilizzato l'intelligenza artificiale generativa per integrare la ricerca legale qui svolta e non lo farà mai in futuro senza una verifica assoluta della sua autenticità".
Il caso non sembra avere precedenti e il giudice ha ordinato un'udienza per l'8 giugno per discutere potenziali sanzioni. In un momento in cui si immagina un mondo dominato dall'intelligenza artificiale, il fascicolo sbagliato di ChatGPT assume ancora più importanza. Questo non vuol dire che la tecnologia non creerà problemi sul mercato del lavoro, ci sono già aziende che stanno licenziando i dipendenti per assumere i chatbot (il problema rimane urgente) ma mette in luce la vulnerabilità delle macchine che sbagliano.
Esistono già i robot avvocati
Stephen Gillers, professore di etica legale presso la School of Law della New York University, ha detto al New York Times che il problema è particolarmente sentito tra gli avvocati, che hanno discusso sui pericoli di un software come ChatGPT. "Il problema è come evitare esattamente quello che è successo in questo caso", ha detto Gillers. "Non puoi semplicemente prendere l'output e tagliarlo e incollarlo nei documenti del tribunale". In realtà ChatGPT ha subito avuto successo in ambito legale. È stato testato nelle università e ha superato esami della facoltà di giurisprudenza, l'Università del Minnesota, la 21° migliore scuola di legge del Paese, secondo US News & World Report, ha sottoposto il chatbot alle domande degli esami scritti e le ha superate con un punteggio mediocre. In Italia, a Firenze, sono iniziati i primi esperimenti per capire le prospettive dell'intelligenza artificiale (IA) in ambito giuridico, mentre negli Usa i chatbot sono già entrati in aula.
Il progetto parte da una start up DoNotPay, fondata nata nel 2015. Ha lanciando un chatbot di consulenza legale per aiutare i clienti a pagare le multe e poi ha implementato l'intelligenza artificiale. Come spiega l'azienda, l'avvocato robot funziona su uno smartphone ed è in grado di ascoltare le argomentazioni in tribunale e poi riferirle al suo assistito. DoNotPay, ha anche pubblicato modelli per aiutare le persone a contestare i biglietti del parcheggio o richiedere rimborsi aerei, e sviluppato un bot in grado di negoziare fatture con aziende come Comcast utilizzando la tecnologia GPT.
