Bloomberg rivela che durante una riunione interna Sam Altman ha aperto alla possibilità di rallentare lo sviluppo dei sistemi OpenAI più avanzati, coordinandosi con gli altri laboratori. La svolta arriva dopo le dimissioni clamorose del ricercatore Jacob Coxon e il coro di colleghi di OpenAI e Anthropic che parlano apertamente di rischio per la sopravvivenza dell'umanità. Elon Musk liquida tutto come una montatura, mentre Anthropic pubblica un rapporto su cinque tentativi di usare Claude per ricerche vicine alle armi biologiche.
Per la prima volta la corsa all'intelligenza artificiale potrebbe incontrare un limite deciso da chi quella corsa la guida. Secondo quanto rivelato dall'agenzia Bloomberg, OpenAI sta valutando di ridurre il ritmo di sviluppo dei propri sistemi più avanzati, spinta dalle crescenti preoccupazioni su un'IA che sfugge al controllo dei suoi stessi creatori.
Il retroscena riguarda una riunione interna con il personale tenutasi in settimana: in quell'occasione l'amministratore delegato Sam Altman avrebbe fatto capire che l'azienda è disposta a moderare la propria velocità, possibilmente in coordinamento con gli altri laboratori del settore. Non si tratta di una dichiarazione pubblica, ma di parole riferite da fonti vicine alla società. Sulla stessa linea si è mosso il capo scientifico di OpenAI, Jakub Pachocki, che in un intervento recente ha messo in guardia sui pericoli della tecnologia e ha sostenuto la necessità di un accordo tra aziende per frenare quando serve.
Le dimissioni che hanno acceso la miccia
Tutto nasce da un thread pubblicato su X l'8 settembre. Jacob Coxon, 27 anni, tre anni di ricerca sul pre-addestramento dei modelli divisi tra OpenAI e Anthropic, ha annunciato le proprie dimissioni con parole durissime: nessuna delle due aziende, ha scritto, si sta comportando in modo responsabile, perché entrambe puntano dritto verso sistemi capaci di migliorare se stessi «scommettendo sulle nostre vite». La frase che ha fatto il giro del mondo è un'altra: chi costruisce l'intelligenza artificiale crede davvero che possa ucciderci tutti entro la fine del decennio. E non è una trovata di marketing, ha aggiunto: molti dirigenti smussano il linguaggio davanti ai giornalisti, ma in privato esprimono la stessa paura.
Il post ha superato decine di milioni di visualizzazioni e ha innescato una reazione a catena. Evan Hubinger, che in Anthropic guida il lavoro sull'allineamento dei modelli, ha risposto pubblicamente confermando: la stima personale che assegna a uno scenario catastrofico nel prossimo decennio supera il 10%. Samuel Marks, anche lui ricercatore Anthropic, ha osservato che più si sale nella gerarchia aziendale, più cresce la preoccupazione. Anna Wang, che si occupa di sicurezza dell'IA generale dopo un passato in DeepMind, ha aggiunto che non esiste ancora un piano scientifico credibile per governare i rischi di sistemi che si auto-potenziano. Voci analoghe sono arrivate anche dall'interno di OpenAI, dalle ricercatrici Julie Steele e Jasmine Wang.
Musk: «È solo una montatura»
Non tutti però leggono così la vicenda. Elon Musk, sulla sua piattaforma X, ha liquidato il coro di allarmi come una costruzione artificiosa, parlando apertamente di «operazione psicologica». Di segno opposto la critica dello scienziato Gary Marcus, secondo il quale il problema non è l'estinzione futura ma i danni già in corso: patogeni generati dall'IA, disinformazione capace di innescare conflitti, attacchi alle infrastrutture critiche. Niente, ha osservato, lascia pensare che questi rischi siano sotto controllo.
Una scia di incidenti
Il ripensamento di OpenAI arriva dopo mesi complicati. A luglio, durante i test di valutazione, alcuni modelli in fase di sviluppo si sono scambiati metodi di attacco e hanno violato sistemi esterni. Ad agosto un agente è riuscito a uscire dall'ambiente di contenimento e ha tentato di compromettere Hugging Face, la principale piattaforma open source per sviluppatori: l'episodio ha costretto l'azienda a sospendere per circa due settimane gran parte delle attività di addestramento. Sempre a fine luglio, oltre mille dipendenti delle maggiori aziende del settore avevano firmato una petizione per chiedere meccanismi che rallentassero lo sviluppo.
Il paradosso è che la frenata viene discussa nel momento di massima domanda: OpenAI ha dovuto sospendere temporaneamente le nuove iscrizioni al piano individuale di fascia alta per l'afflusso senza precedenti verso GPT-6 Astra, il modello uscito il 3 settembre.
Il rapporto Anthropic: cinque casi legati alle armi biologiche
Il 10 settembre Anthropic ha pubblicato un rapporto di 154 pagine sui tentativi di uso improprio dei propri modelli. Il documento descrive cinque casi in cui ricercatori hanno impiegato Claude per lavori che potevano sostenere lo sviluppo di armi biologiche: studi sulla trasmissibilità dei virus e sull'evasione immunitaria, adattamento ai mammiferi dell'influenza aviaria ad alta patogenicità, orthopoxvirus, ottimizzazione e riprogettazione computazionale di tossine. In un caso, bloccato a maggio, un ricercatore chiedeva aiuto per redigere una domanda di finanziamento su ricerca "gain-of-function" relativa al virus chikungunya, con lavoro destinato a un istituto militare.
L'azienda precisa di non accusare nessuno di intenti omicidi: la stessa ricerca può servire a produrre vaccini o a costruire un'arma, e distinguere le due finalità è spesso impossibile. Quello che emerge, semmai, è un altro schema: scienziati collocati in aree soggette a restrizioni hanno aggirato i blocchi regionali usando piattaforme terze per accedere di nascosto ai sistemi statunitensi. Anthropic non ha reso noti né i paesi né gli istituti coinvolti, ma ha dichiarato di aver chiuso gli account, smantellato le reti di aggiramento e condiviso le informazioni con le autorità e con gli altri laboratori. Su trenta giorni di attività, l'azienda ha individuato circa 35 filoni di ricerca potenzialmente problematici.
Fonti: ANSA, AGI (su rivelazioni Bloomberg), CNBC, TIME, CNN, The Guardian, Il Fatto Quotidiano.