Meta progetta di sostituire gli esseri umani con l’intelligenza artificiale per valutare la privacy e i rischi sociali

(Fonte) Bobby Allyn, Shannon Bond

Fino a poco tempo fa, quelle che in Meta sono note come revisioni della privacy e dell’integrità venivano condotte quasi esclusivamente da valutatori umani. Ma ora, secondo documenti aziendali interni ottenuti da NPR, fino al 90% di tutte le valutazioni dei rischi saranno presto automatizzate.

All’interno di Meta, il cambiamento viene visto come una vittoria per gli sviluppatori di prodotti, che ora potranno rilasciare aggiornamenti e funzionalità delle app più rapidamente. Ma i dipendenti Meta, attuali ed ex dipendenti, temono che la nuova spinta all’automazione avvenga a scapito di consentire all’IA di effettuare valutazioni complesse su come le app Meta potrebbero causare danni nel mondo reale.

Nella sua dichiarazione, Meta ha affermato che le modifiche alla revisione del rischio del prodotto mirano a semplificare il processo decisionale, aggiungendo che “le competenze umane” vengono ancora utilizzate per “problemi nuovi e complessi” e che solo le “decisioni a basso rischio” vengono automatizzate.

Con il sistema precedente, gli aggiornamenti di prodotti e funzionalità non potevano essere inviati a miliardi di utenti senza il consenso dei valutatori del rischio. Ora, gli ingegneri che sviluppano i prodotti Meta hanno la possibilità di formulare autonomamente giudizi sui rischi. “La maggior parte dei product manager e degli ingegneri non sono esperti di privacy e questo non è il fulcro del loro lavoro. Non è ciò su cui vengono principalmente valutati e non è ciò che sono incentivati ​​a dare priorità”, ha affermato Zvika Krieger, che è stata direttrice dell’innovazione responsabile di Meta fino al 2022. I team di prodotto di Meta vengono valutati in base alla velocità con cui lanciano i prodotti, tra le altre metriche.

I documenti di Meta suggeriscono che i suoi utenti nell’Unione Europea potrebbero essere in qualche modo protetti da questi cambiamenti. Un comunicato interno afferma che il processo decisionale e la supervisione dei prodotti e dei dati degli utenti nell’Unione Europea rimarranno di competenza della sede centrale europea di Meta in Irlanda. L’UE ha normative che regolano le piattaforme online, tra cui il Digital Services Act , che impone alle aziende, tra cui Meta, di vigilare più rigorosamente sulle proprie piattaforme e di proteggere gli utenti da contenuti dannosi.

Meta ha dichiarato all’inizio di questa settimana che farà sempre più affidamento sull’intelligenza artificiale per far rispettare le sue politiche di moderazione dei contenuti. “Stiamo iniziando a vedere [grandi modelli linguistici] operare oltre le prestazioni umane in aree politiche selezionate”, ha scritto l’azienda nel suo ultimo rapporto trimestrale sull’integrità . Ha affermato di utilizzare questi modelli di intelligenza artificiale anche per filtrare alcuni post di cui l’azienda è “altamente convinta” che non violino le sue regole.