La California diventa il primo stato a regolamentare i chatbot di accompagnamento basati sull’intelligenza artificiale

(Fonte) Rebecca Bellan – 13 ottobre 2025

Lunedì il governatore della California, Gavin Newsom, ha firmato un disegno di legge storico che regolamenta i chatbot di intelligenza artificiale , rendendolo il primo stato della nazione a richiedere agli operatori di chatbot di intelligenza artificiale di implementare protocolli di sicurezza per i loro compagni.

La legge, SB 243, è stata concepita per proteggere i bambini e gli utenti vulnerabili da alcuni dei danni associati all’uso di chatbot di accompagnamento basati sull’intelligenza artificiale. Ritiene le aziende – dai grandi laboratori come Meta e OpenAI alle startup più specializzate in questo ambito come Character AI e Replika – legalmente responsabili se i loro chatbot non soddisfano gli standard di legge.

La legge risponde anche a  documenti interni trapelati  che, a quanto pare, mostravano che ai chatbot di Meta era consentito di intrattenere chat “romantiche” e “sensuali” con i bambini. Più recentemente, una famiglia del Colorado ha intentato una causa contro la startup di giochi di ruolo Character AI dopo che la figlia tredicenne si è tolta la vita in seguito a una serie di conversazioni problematiche e a sfondo sessuale con i chatbot dell’azienda.

La SB 243 entrerà in vigore il 1° gennaio 2026 e richiederà alle aziende di implementare alcune funzionalità, come la verifica dell’età e avvisi relativi ai social media e ai chatbot di accompagnamento. La legge prevede inoltre sanzioni più severe per chi trae profitto da deepfake illegali, fino a 250.000 dollari per reato. Le aziende dovranno inoltre stabilire protocolli per contrastare il suicidio e l’autolesionismo, che saranno condivisi con il Dipartimento di Salute Pubblica dello Stato, insieme a statistiche su come il servizio ha fornito agli utenti notifiche di prevenzione al centro di crisi.

La SB 243 è la seconda importante regolamentazione in materia di intelligenza artificiale emanata dalla California nelle ultime settimane. Il 29 settembre, il governatore Newsom ha firmato la SB 53 , stabilendo nuovi requisiti di trasparenza per le grandi aziende di intelligenza artificiale. Il disegno di legge impone ai grandi laboratori di intelligenza artificiale, come OpenAI, Anthropic, Meta e Google DeepMind, di essere trasparenti sui protocolli di sicurezza. Garantisce inoltre la protezione dei dipendenti di tali aziende da parte dei whistleblower.

Altri stati, come Illinois, Nevada e Utah, hanno approvato leggi per limitare o vietare completamente l’uso di chatbot basati sull’intelligenza artificiale come sostituti dell’assistenza sanitaria mentale autorizzata.