In quattro giorni l’industria americana dell’IA ha fatto qualcosa che non aveva mai fatto: si è messa d’accordo su chi deve guardarla mentre lavora. Il 12 settembre Dario Amodei ha pubblicato un saggio intitolato We Must Pace the Frontier in cui Anthropic si impegna unilateralmente a dare a valutatori esterni un accesso permanente di livello dipendente. Nel giro di poche ore Sam Altman ha risposto su X che OpenAI farà lo stesso. Il giorno dopo Elon Musk ha rilanciato proponendo che i laboratori rivali si testino a vicenda i modelli prima del rilascio, aziende cinesi comprese.
È un movimento vero, ed è utile capire cosa promette davvero — perché in Europa una parte di quelle promesse è già un obbligo scritto, e la differenza tra le due cose dice molto su dove sta andando la governance dell’intelligenza artificiale.
Cosa significa “valutatore incorporato”
L’impegno di Anthropic è più concreto di quanto suoni. Non si tratta di far leggere un rapporto a un consulente esterno: i valutatori terzi ricevono una scrivania negli uffici, un badge d’accesso, un laptop aziendale e permessi comparabili a quelli dei team interni che si occupano di valutazione dei rischi. Possono osservare durante i processi di addestramento, non solo esaminare il modello finito.
Il punto che rende l’impegno non decorativo è il potere di pubblicazione. I valutatori possono rendere pubbliche le proprie conclusioni senza controllo editoriale dell’azienda. Anthropic si riserva la facoltà di oscurare informazioni per ragioni di sicurezza, legali, commerciali o relative a terze parti, ma dichiara di non poter oscurare risultati sfavorevoli, e i valutatori possono dire pubblicamente se le omissioni che hanno subito sono state significative.
Questa clausola è l’architrave. Un audit che il soggetto auditato può riscrivere non è un audit; un audit che può solo essere censurato in parte, con l’auditor libero di segnalare la censura, è qualcosa che assomiglia a un controllo. L’adesione di OpenAI è arrivata in poche ore e nello stesso quadro, mentre si discute negli Stati Uniti di una norma federale che istituirebbe valutatori pubblici della sicurezza.
Il piano non finisce lì, e la parte difficile è la seconda
Il saggio di Amodei articola tre passaggi. Il primo sono i valutatori incorporati, che un’azienda può adottare da sola. Il secondo prevede che, una volta raggiunta una massa critica di aziende statunitensi, il meccanismo venga reso vincolante per l’intero settore — con legislazione o con standard volontari coperti da un’esenzione antitrust concessa dal governo, perché altrimenti concordare limiti condivisi tra concorrenti è un cartello. Il terzo è il coordinamento internazionale con la Cina, su quattro livelli decrescenti di ambizione: divieto degli usi più pericolosi, come le armi biologiche; test prima del rilascio; un limite di velocità all’auto-miglioramento ricorsivo; una pausa completa. Amodei considera il primo probabilmente raggiungibile e il quarto improbabile a breve.
Il secondo passaggio è quello su cui il piano può rompersi, ed è anche quello in cui si vede meglio la differenza con l’Europa. Trasformare un impegno volontario in una regola di settore richiede un legislatore. In assenza di legge, un impegno unilaterale resta revocabile: nessuno dei valutatori che entrano in Anthropic o in OpenAI ha un titolo giuridico a restare lì se l’azienda cambia idea.
Le obiezioni, che non vengono solo dai critici di professione
Emad Mostaque, fondatore di Stability AI, ha osservato che i valutatori avranno un potere minimo, portando come precedente il consiglio di amministrazione di OpenAI, che nel momento decisivo non riuscì a incidere: la sua proposta è mettere in pausa gli addestramenti, non limitarsi a controllarli. Dan Selsam, ricercatore di OpenAI, ha sollevato un’obiezione tecnica più scomoda: i modelli riconoscono quando vengono valutati e si comportano diversamente, il che indebolisce alla radice l’idea che basti guardarli mentre vengono testati.
Amodei stesso è esplicito su un punto: pacing non significa interrompere l’addestramento. Musk, che pure ha sostenuto la proposta, ha escluso qualsiasi rallentamento e ha spostato il discorso sul test incrociato tra laboratori, includendo le aziende cinesi. Che è una proposta interessante e allo stesso tempo il modo più elegante di non fermare nulla.
Sullo sfondo si muove una pressione politica che non ha più un colore riconoscibile: la scorsa settimana Bernie Sanders e Steve Bannon sono saliti sullo stesso palco contro l’IA senza regole, un’immagine che negli Stati Uniti vale più di molti sondaggi. E nel frattempo è nata una linea diretta per segnalare comportamenti scorretti dei sistemi automatici, cioè un canale di allerta costruito dal settore prima che qualcuno lo imponga.
Va detto anche cosa questo accordo non tocca. Riguarda i laboratori che addestrano modelli di frontiera, cioè cinque o sei aziende al mondo. Non riguarda le migliaia di aziende che quei modelli li integrano, li mettono dentro un prodotto e li vendono a un cliente finale: lì la catena di responsabilità resta quella di sempre, e nessun valutatore incorporato guarderà mai il sistema che una software house italiana costruisce sopra un’interfaccia di programmazione. Il controllo si sta concentrando sul punto più visibile della filiera, che è anche quello dove i rischi catastrofici si originano, ma non è quello dove le persone incontrano l’intelligenza artificiale.
In Europa una parte di tutto questo è già scritta
Qui sta il punto che in Italia conviene tenere presente. L’AI Act impone ai fornitori di modelli di uso generale con rischio sistemico una serie di obblighi che negli Stati Uniti si stanno discutendo come impegni volontari: valutazione dei modelli con test avversariali documentati, valutazione e mitigazione dei rischi sistemici, notifica degli incidenti gravi all’Ufficio europeo per l’IA, standard di cybersicurezza, e stanno nell’articolo 55 del regolamento. Sono obblighi in vigore dal 2 agosto 2025 per i nuovi modelli, con il regime sanzionatorio pienamente operativo dal 2 agosto 2026.
La differenza non è di contenuto ma di natura. L’accesso che Anthropic concede è una concessione: definita dall’azienda, limitata dall’azienda, ritirabile dall’azienda. L’obbligo europeo è un titolo: l’Ufficio per l’IA può chiedere documentazione, può richiedere valutazioni, può sanzionare. Il primo è più profondo — nessuna autorità europea ha una scrivania dentro un laboratorio — ma il secondo è esigibile.
È la stessa asimmetria che le aziende italiane incontrano su scala ridotta quando negoziano un contratto con un fornitore di IA, dove la differenza tra una promessa commerciale e una clausola opponibile si vede solo quando qualcosa va storto: lo abbiamo visto a proposito della clausola sulla conservazione dei dati, che frena l’adozione proprio perché è l’unica parte del rapporto che vale davvero in giudizio.
Cosa cambia per chi in Italia compra questi modelli
Un’azienda italiana che integra un modello di frontiera nei propri processi non è spettatrice di questa discussione. Tre cose diventano verificabili in fase di acquisto.
La prima è la documentazione tecnica che il fornitore deve rendere disponibile ai sensi dell’AI Act: non è un favore, è un diritto di chi integra il modello a valle, e chiederla per iscritto è il modo più rapido di capire con chi si sta trattando.
La seconda è la politica sugli incidenti. Un fornitore che accetta valutatori indipendenti e notifica gli incidenti gravi ha una catena di responsabilità ricostruibile; uno che non lo fa lascia il cliente scoperto nel momento in cui il sistema produce un danno e qualcuno chiede come sia successo.
La terza è la continuità. Se il modello che state integrando appartiene a un laboratorio che si è impegnato al pacing, le tempistiche di rilascio delle versioni successive potrebbero allungarsi. Per chi costruisce prodotti sopra quei modelli è un dato di pianificazione, non una notizia da rubrica.
Resta una domanda aperta che nessuno dei tre annunci risolve. Un valutatore con badge e laptop dipende dall’azienda per l’accesso e, spesso, per il finanziamento. Rendere quel ruolo indipendente sul serio significa staccarlo da entrambe le cose, ed è esattamente il passaggio che richiede una legge. L’Europa quella legge ce l’ha e fatica ad applicarla; gli Stati Uniti hanno l’accesso e non hanno il titolo per pretenderlo. Nessuno dei due, per ora, ha entrambe le cose.
