Cosa succede quando le persone non capiscono come funziona l’intelligenza artificiale

(Fonte) Tyler Austin Harper – 6 giugno 2025

Nonostante quanto possano dire i CEO del settore tecnologico, i grandi modelli linguistici non sono intelligenti in nessun senso riconoscibile dal punto di vista umano.

La giornalista tecnologica Karen Hao, nel suo nuovo libro, Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI , è in parte un’inchiesta sulla Silicon Valley, in parte un giornalismo investigativo in giro per il mondo sul lavoro necessario per costruire e addestrare grandi modelli linguistici come ChatGPT. Si unisce a un altro libro di recente pubblicazione, The AI ​​Con: How to Fight Big Tech’s Hype and Create the Future We Want , della linguista Emily M. Bender e del sociologo Alex Hanna, nello svelare la propaganda che alimenta gran parte del business dell’intelligenza artificiale. Entrambe le opere, la prima implicitamente e la seconda esplicitamente, suggeriscono che le fondamenta del settore dell’intelligenza artificiale siano una truffa.

i modelli linguistici di grandi dimensioni non “capiscono”, non possono e non vogliono “capire” nulla. Non sono emotivamente intelligenti né intelligenti in alcun senso significativo o riconoscibile del termine. I LLM sono impressionanti strumenti di calcolo delle probabilità che sono stati alimentati da quasi tutta la rete Internet e producono testi non pensando, ma formulando ipotesi statisticamente fondate su quale elemento lessicale sia più probabile che ne segua un altro.

Molte persone, tuttavia, non riescono a comprendere il funzionamento dei grandi modelli linguistici, i loro limiti e, soprattutto, che gli LLM non pensano né sentono, ma imitano e rispecchiano. Sono analfabeti dell’IA.

Pochi fenomeni dimostrano i pericoli che possono accompagnare l’analfabetismo in materia di intelligenza artificiale così come la “psicosi indotta da ChatGPT”, oggetto di un recente articolo di Rolling Stone sul crescente numero di persone che credono che il loro LLM sia una guida spirituale sapiente.

Questa storia evidenzia un problema che Bender e Hanna descrivono in The AI Con : le persone hanno difficoltà a comprendere la natura di una macchina che produce linguaggio e rigurgita conoscenza senza avere un’intelligenza simile a quella umana. Gli autori osservano che i grandi modelli linguistici sfruttano la tendenza del cervello ad associare il linguaggio al pensiero.

Il professore di robotica cognitiva Tony Prescott ha affermato : “In un’epoca in cui molte persone descrivono la propria vita come solitaria, potrebbe essere utile avere la compagnia dell’IA come forma di interazione sociale reciproca stimolante e personalizzata”.

Sebbene ciascuno di questi servizi di intelligenza artificiale miri a sostituire una diversa sfera dell’attività umana, tutti si pubblicizzano attraverso quella che Hao definisce la “tradizione dell’antropomorfizzazione” del settore: parlare di LLM come se contenessero menti umane e venderli al pubblico su questa base. Molte tecnologie della Silicon Valley che hanno rivoluzionato il mondo negli ultimi 30 anni sono state promosse come un modo per aumentare la felicità, la connessione e la comprensione di sé delle persone – in teoria – solo per produrre l’opposto nella pratica. Queste tecnologie massimizzano il valore per gli azionisti riducendo al minimo la capacità di attenzione, l’alfabetizzazione e la coesione sociale. E come sottolinea Hao, spesso si basano su lavori estenuanti e a volte traumatizzanti svolti da alcune delle persone più povere del mondo.

La buona notizia è che nulla di tutto questo è inevitabile: secondo uno studio pubblicato ad aprile dal Pew Research Center, sebbene il 56% degli “esperti di intelligenza artificiale” pensi che l’intelligenza artificiale renderà gli Stati Uniti migliori, solo il 17% degli adulti americani la pensa così. Se molti americani non capiscono bene come funziona l'”intelligenza” artificiale, di certo non si fidano. Se le persone capissero cosa sono e cosa non sono i grandi modelli linguistici; cosa possono e cosa non possono fare; quali lavori, interazioni e aspetti della vita dovrebbero – e non dovrebbero – sostituire, potrebbero essere risparmiate dalle sue peggiori conseguenze.