L’intelligenza artificiale potrebbe non sconfiggere mai completamente allucinazioni e pregiudizi

(Fonte) Nat Rubio-Licht

Questa settimana, i modelli di due importanti sviluppatori di intelligenza artificiale sono andati in tilt in incidenti separati. Grok, il chatbot di xAI di Elon Musk, ha risposto a diverse domande su X con commenti sul “genocidio dei bianchi in Sudafrica”, un fatto che l’azienda ha attribuito a “modifiche non autorizzate” del modello. Nel frattempo, gli avvocati di Anthropic hanno ammesso di aver utilizzato una citazione errata, frutto dell’allucinazione del chatbot Claude dell’azienda, nella sua battaglia legale con gli editori musicali.

Allucinazioni e bias sono elementi fondamentali dell’IA, ha affermato. Anche se i tassi di imprecisioni e bias sono ridotti a livelli minimi, l’IA impara da un “mondo incentrato sull’uomo”, ha affermato Morgan. Spesso, le aziende che utilizzano l’IA non sanno esattamente da cosa ha imparato, o cosa manca nei suoi set di dati di addestramento. Che siano il risultato di negligenza o di dolo, i dati bias possono infiltrarsi e amplificarsi, ha affermato, oppure i modelli possono semplicemente inventare risposte a domande per cui non sono stati addestrati a rispondere. Questo rende incredibilmente difficile togliere le redini agli umani. “Queste creature, senza supervisione, si comportano ancora come bambini di 4 anni”, ha detto Morgan. “Queste creature possono ancora correre intorno alla piscina e cadere dentro.”

Lo scenario migliore per lavorare fianco a fianco con l’IA è che sia questa a guidare l’ideazione, ma “gli esseri umani mantengono comunque il controllo del processo decisionale finale”, ha affermato. Nel caso in cui qualcosa sfugga, questi sistemi necessitano anche di protezioni e monitoraggio, ha aggiunto.  Tuttavia, tra la velocità di adozione e la pressione per tenere il passo, il dibattito sulle necessarie barriere di sicurezza, sicurezza e governance spesso si perde.