Jailbreaking dell’intelligenza artificiale con un flusso di informazioni è l’ultimo modo per sfruttare la tecnologia

(Fonte) Eoin Higgins – 16 luglio 2025

Attento a quell’intelligenza artificiale, Eugene. Questo è il messaggio che i team IT stanno cercando di trasmettere alle proprie aziende, mentre aumentano i problemi con la tecnologia, che offre una grande praticità a scapito della possibilità di integrare lo strumento nel flusso di lavoro e proteggere le informazioni sensibili . L’intelligenza artificiale viene implementata in settori in tutta l’economia, rendendo la sua corretta applicazione e la sua sicurezza una questione sempre più importante.

Gli attori delle minacce se ne stanno accorgendo, e questo ha aperto la strada ad attacchi unici. Questo si aggiunge a quella che alcuni nel settore della sicurezza informatica chiamano “atmosfera di attacco” , un’interpretazione del termine “superficie di attacco” che riconosce e dà priorità all’evoluzione della minaccia.

“Come posso limitare i danni, limitare la portata di ciò che queste cose possono fare?”, ha chiesto Fox. “Forse questo significa tenere qualcuno informato su alcune di queste cose e non semplicemente dargli carta bianca per agire automaticamente.”

Un gruppo, composto da ricercatori dell’Università dell’Illinois a Urbana-Champaign, della Boise State University e di Intel, ha scoperto che era possibile effettuare il jailbreak dei modelli di intelligenza artificiale inondandoli di informazioni attraverso una tattica da loro definita “sovraccarico di informazioni”. I ricercatori hanno inserito comandi in query complesse e ricche di termini tecnici che sembravano sovraccaricare i modelli di intelligenza artificiale e aprire le porte allo sfruttamento.

“Credo che la minaccia maggiore risieda nel fatto che dipendenti benintenzionati cerchino di utilizzare agenti di intelligenza artificiale per casi d’uso legittimi… ma poi, involontariamente, poiché questi agenti di intelligenza artificiale sono così imprevedibili, vanno avanti e compiono azioni dannose”.