Le allucinazioni creano complicazioni quando l’intelligenza artificiale va in tribunale

(Fonte) Ray Fernandez – 16 giugno 2025

I giudici stanno perdendo la pazienza mentre gli errori legati all’intelligenza artificiale si accumulano nei tribunali statunitensi. Il numero di casi in cui la tecnologia ha generato informazioni errate o citato casi inesistenti a supporto delle argomentazioni degli avvocati è allarmante e in aumento.

Questi incidenti stanno anche mettendo in difficoltà grandi aziende tecnologiche, come il fornitore di modelli Anthropic , che a metà maggio ha ammesso di aver utilizzato una citazione errata generata dal suo chatbot Claude AI nella sua battaglia legale con Universal Music Group e altri editori. Un ricercatore ha scoperto che dal 2023 sono stati presentati nei tribunali statunitensi oltre 150 casi di allucinazioni, di cui 103 verificatisi quest’anno.

Un sondaggio Thomson Reuters del 2024 ha rilevato che gli avvocati statunitensi che utilizzano l’intelligenza artificiale possono risparmiare fino a 266 milioni di ore. Ciò si tradurrebbe in 100.000 dollari di nuovo tempo fatturabile per avvocato ogni anno. Anche se un’azienda dispone di policy legali sull’intelligenza artificiale, i dipendenti potrebbero ignorarle.

Con l’emergere di input errati di IA nei casi legali, la reputazione di aziende, società e clienti è a rischio. I tribunali hanno già chiarito che la tolleranza per l’uso improprio dell’IA e delle allucinazioni IA è bassa. Nonostante la spinta ad adottare l’IA in tutti i settori, i danni potrebbero superare i benefici.