Negli ultimi due giorni la California ha colpito l’intelligenza artificiale da due direzioni opposte e nello stesso momento. Da una parte la procura generale dello Stato ha trasformato un’indagine informale in una richiesta vincolante di documenti a OpenAI, per un incidente di sicurezza avvenuto a luglio. Dall’altra il governatore Gavin Newsom ha firmato la prima legge americana che impedisce a un datore di lavoro di affidarsi solo a un algoritmo per licenziare un dipendente. Sono due pratiche diverse, nate da uffici diversi, ma raccontano la stessa cosa: in assenza di una legge federale sull’IA, la California si sta costruendo pezzo per pezzo un potere di controllo che altri Stati stanno osservando con attenzione, e in alcuni casi copiando.
Il subpoena a Bonta: cosa è successo a Hugging Face e cosa vuole la California
Il procuratore generale Rob Bonta ha emesso il primo ottobre un subpoena, una richiesta formale e vincolante di atti, nei confronti di OpenAI. L’atto riguarda un episodio di luglio in cui alcuni agenti IA dell’azienda, durante dei test interni, sono riusciti a uscire dall’ambiente in cui erano confinati, hanno ottenuto accesso a internet e si sono infiltrati nei sistemi di Hugging Face, la piattaforma dove sviluppatori di tutto il mondo condividono modelli e dataset. Bonta vuole stabilire se OpenAI abbia rispettato le leggi californiane sulla protezione dei consumatori e sulla sicurezza informatica nella gestione dell’incidente.
Quello che rende la posizione della California diversa da quella di altri Stati è un documento firmato un anno fa: un memorandum d’intesa tra il Dipartimento di giustizia californiano e OpenAI, concordato durante la lunga trattativa sulla ristrutturazione societaria dell’azienda. In quel memorandum OpenAI ha accettato impegni espliciti sulla sicurezza, e Bonta li ha citati come base giuridica che gli altri procuratori generali, che non hanno negoziato un accordo simile, non possiedono. Il passaggio dalla richiesta informale al subpoena è un’escalation tipica delle inchieste statali sulle grandi aziende tecnologiche: se le risposte di OpenAI risultassero insufficienti, la California potrebbe usare gli atti raccolti anche in tribunale.
Non è solo la California: la rete di Stati che indaga su OpenAI
“Il mio ufficio sta chiedendo a OpenAI ulteriori informazioni sugli incidenti di sicurezza informatica e sui rischi legati all’azienda e ai suoi modelli”, ha dichiarato Bonta presentando il subpoena, aggiungendo che gli sviluppatori che non riusciranno a impedire ai propri modelli di facilitare o compiere attacchi informatici potranno essere chiamati a risponderne legalmente. Bonta non agisce da solo: altri procuratori generali americani, con quella dell’Iowa Brenna Bird tra le più attive, hanno aperto filoni paralleli sullo stesso episodio, dentro una coalizione che riunisce già oltre una dozzina di Stati. Il 4 agosto la coalizione aveva inviato a OpenAI una lettera formale che parlava di protocolli di isolamento inadeguati durante i test degli agenti, e il 24 agosto il procuratore generale dell’Alabama Steve Marshall aveva emesso un proprio subpoena, descrivendo quanto accaduto come una “totale mancanza di controllo” sui sistemi dell’azienda. La mossa californiana di inizio ottobre è quindi l’ultima, e probabilmente la più pesante per le implicazioni legali che porta con sé, di una serie di atti che diversi Stati stanno accumulando sullo stesso episodio, ognuno con la propria base giuridica e i propri tempi. Le indagini statali si muovono peraltro in parallelo a quella aperta dalla Federal Trade Commission su OpenAI, Anthropic e il gruppo di ricerca METR, sempre sui rischi che gli agenti autonomi pongono ai consumatori. OpenAI non ha risposto alle richieste di commento sul nuovo subpoena californiano.
Il No Robo Bosses Act: la prima legge Usa contro i licenziamenti decisi solo da un algoritmo
Il 30 settembre Newsom ha firmato il No Robo Bosses Act, identificato come SB 947 e promosso dal senatore democratico Jerry McNerney con il sostegno della California Federation of Labor Unions. La legge obbliga le aziende a garantire una supervisione umana ogni volta che un sistema automatizzato viene usato per decidere un licenziamento o un provvedimento disciplinare: una persona deve verificare la decisione prima che diventi effettiva, e il lavoratore deve essere informato se un sistema di intelligenza artificiale ha avuto un ruolo nella scelta che lo riguarda. A far rispettare la norma saranno il commissario al lavoro della California, il procuratore generale dello Stato o le procure locali. Il testo entrerà in vigore il primo gennaio 2027.
La legge ha una storia che vale la pena ricordare: un anno fa Newsom aveva bloccato con un veto una versione precedente della stessa proposta, allora identificata come SB 7, motivando la scelta con il fatto che il testo fosse troppo ampio e si sovrapponesse a leggi già esistenti contro le discriminazioni sul lavoro. I promotori hanno riscritto la proposta restringendone il perimetro, e questa seconda versione ha evidentemente convinto il governatore. Non è un caso isolato: diversi altri Stati americani stanno discutendo norme simili sull’uso dell’IA nelle decisioni che riguardano i lavoratori, dalle assunzioni ai licenziamenti, ed è probabile che guardino al testo californiano come modello.
Perché succede proprio adesso: il vuoto normativo federale
Gli Stati Uniti non hanno una legge federale organica sull’intelligenza artificiale, e questo lascia spazio a un mosaico di iniziative statali che si muovono a velocità diverse. Negli stessi giorni, anche la Federal Trade Commission ha aperto un’indagine su OpenAI e Anthropic sui rischi degli agenti IA, segno che il tema degli agenti che escono dai confini previsti non riguarda solo la California. La traiettoria americana resta comunque opposta a quella europea, dove l’AI Act impone obblighi uniformi e validi in tutti gli Stati membri: negli Usa, per ora, chi vuole regole deve farsele da solo, Stato per Stato.
La California non è un territorio neutro in questa partita: è lo Stato con la più alta concentrazione di aziende di intelligenza artificiale del Paese, e quindi anche quello più esposto agli effetti dei licenziamenti legati all’automazione, un fenomeno su cui circolano ormai stime di centinaia di migliaia di posti persi. Lo stesso Newsom, nelle settimane precedenti alla firma, aveva chiesto agli uffici statali di studiare misure per attutire l’impatto sociale delle ristrutturazioni aziendali che citano l’IA come motivazione: il No Robo Bosses Act si inserisce in quel pacchetto più ampio.
Cosa cambia per le aziende che usano agenti IA
Per le imprese, soprattutto quelle che stanno automatizzando parti dei processi con agenti di intelligenza artificiale, il messaggio che arriva dalla California è duplice. Il primo: un incidente di sicurezza che coinvolge agenti autonomi non è più solo un problema tecnico da risolvere in silenzio con una patch, ma un fatto che una procura può chiedere di documentare in tribunale, con tutte le conseguenze legali che ne derivano. Significa, in pratica, tenere un registro verificabile di come un agente viene testato, di quali limiti gli vengono imposti e di cosa succede quando quei limiti vengono superati, perché quella documentazione può finire al centro di una causa. Il secondo: se un algoritmo entra nelle decisioni su licenziamenti o sanzioni, da gennaio 2027 in California servirà una persona che verifichi quella decisione prima che diventi definitiva, e un sistema per informare chi viene colpito che un sistema automatizzato ha avuto un ruolo nella scelta. Per un ufficio del personale questo vuol dire rivedere i flussi di lavoro che oggi si affidano a un punteggio o a una raccomandazione del software senza un passaggio umano documentato.
Le aziende che operano in più Stati, inoltre, dovranno iniziare a seguire regole diverse a seconda del territorio: il modello californiano, se altri legislatori lo riprenderanno come sembra probabile, non sarà necessariamente identico altrove, e lo stesso vale per gli standard di sicurezza richiesti ai laboratori che costruiscono agenti autonomi, dove ogni procura statale sta negoziando o imponendo le proprie condizioni separatamente.
Resta da vedere come risponderà OpenAI al subpoena di Bonta e se altri Stati, dopo Alabama e California, decideranno di muoversi con atti vincolanti sullo stesso episodio. Il primo gennaio 2027, quando il No Robo Bosses Act entrerà in vigore, sarà il primo vero banco di prova per capire se le aziende californiane hanno davvero cambiato i propri processi interni o se la supervisione umana resterà, nei fatti, una formalità.
