Bilal Chughtai lavorava alla sicurezza e all’allineamento dell’AGI dentro Google DeepMind: il gruppo che studia come impedire che un sistema molto capace faccia cose che nessuno gli ha chiesto. Si è dimesso a luglio. Questa settimana ha spiegato pubblicamente perché, con una frase che non lascia margini: crede che l’AI abbia il potenziale di ucciderci tutti. La sua uscita è stata riportata da Bloomberg.
Cosa ha scritto
Nel messaggio pubblicato su X, Chughtai racconta di essersi dimesso da Google DeepMind, «dove lavoravo alla ricerca sulla sicurezza e sull’allineamento dell’AGI», e aggiunge di credere sinceramente che l’intelligenza artificiale «abbia il potenziale di ucciderci tutti». Secondo lui il tempo per evitare quell’esito potrebbe essere agli sgoccioli. La richiesta che ne fa discendere non è la fine della ricerca, ma un coordinamento tra le aziende per evitare quella che definisce una corsa maniacale, e uno sviluppo a un ritmo che la società sia in grado di reggere.
Perché l’annuncio arriva due mesi dopo
Il distacco tra le dimissioni, a luglio, e il messaggio pubblico, a settembre, non è un dettaglio. Chi lascia questi laboratori di solito aspetta: ci sono accordi da rispettare, colleghi da non mettere in difficoltà e il calcolo di quando una presa di posizione conta davvero. Il momento scelto coincide con le settimane in cui il tema del rallentamento è diventato pubblico, con i vertici dei principali laboratori che discutono apertamente di frenare i modelli di frontiera e il dibattito politico americano che si spacca sulla questione.
Non è un caso isolato
Nelle ultime settimane le uscite dal settore della sicurezza si sono moltiplicate. Il 9 settembre Jacob Coxon aveva lasciato Anthropic dopo tre anni, avvertendo del rischio di una corsa verso una superintelligenza capace di migliorarsi da sola. Prima ancora, due ricercatori avevano lasciato Anthropic e DeepMind per passare a METR, un ente di valutazione indipendente. Evan Hubinger, che ad Anthropic si occupa proprio di allineamento, ha collocato il rischio di estinzione sopra il dieci per cento in questo decennio, una stima che Geoffrey Hinton non ha giudicato irragionevole.
Cosa resta da capire
Un addio non è una prova. Chughtai non ha reso pubblici documenti interni né ha indicato un modello specifico come pericoloso: la sua è una valutazione personale, per quanto formulata da chi ha lavorato dall’interno. Google DeepMind non ha commentato nel merito. Resta che nel giro di pochi giorni più persone assunte per misurare i rischi hanno deciso che il posto migliore per farlo è fuori dalle aziende che quei rischi li producono, e questo è un dato che riguarda il funzionamento dei laboratori, non solo le opinioni di chi ci lavora. Il punto lo aveva già sollevato un ex ricercatore di Anthropic intervistato dalla BBC.
Immagine di copertina: Pexels (licenza libera).
