Jacob Coxon si è dimesso da Anthropic per lanciare un allarme sulla velocità con cui stanno avanzando i sistemi di intelligenza artificiale. Il ricercatore britannico, che in precedenza aveva lavorato anche in OpenAI, teme soprattutto uno scenario in cui l’AI venga impiegata per progettare sistemi AI sempre migliori, comprimendo i tempi di sviluppo e rendendo più difficile mantenere un controllo umano efficace.
La sua scelta ha avuto enorme risonanza dopo una serie di post pubblicati su X e un’intervista a WIRED. È importante però distinguere il fatto verificato dalla previsione: le dimissioni e le preoccupazioni di Coxon sono reali, ma non esiste una prova scientifica che l’AI provocherà l’estinzione umana entro la fine del decennio.
Chi è Jacob Coxon e perché ha lasciato Anthropic
Coxon ha lavorato nel pretraining, la fase in cui i grandi modelli vengono addestrati su enormi quantità di dati prima delle successive ottimizzazioni. Nel corso degli ultimi anni ha lavorato sia in OpenAI sia in Anthropic, due dei laboratori più importanti nella corsa ai modelli di frontiera.
Secondo quanto raccontato dal ricercatore, il problema non è che Anthropic ignorerebbe del tutto la sicurezza. Coxon considera anzi l’azienda più prudente di altri concorrenti, ma ritiene che la pressione competitiva possa spingere anche i laboratori più cauti ad accelerare se un rivale sembra vicino a ottenere capacità decisive.
La decisione ha anche un costo personale concreto. Axios riporta che Coxon ha lasciato Anthropic circa due mesi prima della maturazione di una parte della propria equity, rinunciando così al possibile beneficio economico collegato alla permanenza in azienda.
Cosa significa AI che si auto-migliora
Il punto tecnico più interessante dell’allarme riguarda il cosiddetto recursive self-improvement. L’espressione viene spesso tradotta in modo spettacolare come “AI che migliora da sola”, ma il concetto reale è più preciso: sistemi AI molto capaci potrebbero essere usati per accelerare ricerca, programmazione, valutazione e progettazione della generazione successiva di modelli.
Non significa che oggi esista una macchina indipendente capace di riscriversi senza limiti. Significa invece che, se un modello diventa abbastanza efficace nel lavoro di ricerca sull’AI, il ciclo tra una generazione e la successiva potrebbe diventare molto più rapido. È questa accelerazione che preoccupa Coxon: controlli, test di sicurezza e decisioni politiche potrebbero procedere più lentamente delle capacità tecniche.
Il tema si collega direttamente a ciò che avevamo analizzato parlando di Jacob Tsimerman e dei rischi estremi dell’intelligenza artificiale. Anche in quel caso gli scenari catastrofici non erano presentati come eventi inevitabili, ma come ipotesi da studiare per capire quali meccanismi potrebbero renderli possibili.
L’AI può davvero uccidere tutti entro il 2030?
La risposta corretta oggi è: non lo sappiamo e non esiste una percentuale scientificamente dimostrata. Ricercatori diversi attribuiscono probabilità molto differenti agli scenari di estinzione o catastrofe globale. Queste stime descrivono valutazioni soggettive del rischio, non previsioni con l’affidabilità di un modello meteorologico o di una misura sperimentale.
Il valore dell’allarme di Coxon non dipende quindi dalla capacità di indovinare una data. Conta perché proviene da una persona che ha lavorato direttamente allo sviluppo dei modelli di frontiera e che sostiene che il margine per costruire meccanismi di controllo adeguati si stia riducendo.
- Fatto: Coxon si è dimesso da Anthropic e ha reso pubbliche le proprie preoccupazioni.
- Valutazione: considera plausibili conseguenze catastrofiche dell’AI avanzata.
- Non dimostrato: che un sistema AI provocherà l’estinzione umana entro una data precisa.
- Problema concreto: sviluppo delle capacità, controlli di sicurezza e regolazione possono avanzare a velocità molto diverse.
Perché le dimissioni contano per la sicurezza dell’AI
Il caso è rilevante perché rende visibile una tensione interna all’industria. Le aziende hanno un incentivo a investire in sicurezza, ma allo stesso tempo competono su prestazioni, talenti, capitale e velocità di rilascio. Se un laboratorio rallenta da solo mentre gli altri continuano, rischia di perdere terreno.
Coxon ritiene che questa dinamica renda insufficienti le sole decisioni volontarie delle singole aziende. Nell’intervista a WIRED propone come primo passo un accordo tra OpenAI e Anthropic per evitare una corsa immediata al recursive self-improvement. In prospettiva parla invece di coordinamento internazionale, inclusi Stati Uniti e Cina.
Una parte della risposta tecnica passa anche dalla capacità di capire meglio cosa accade all’interno dei modelli. È il motivo per cui sono importanti lavori come quello di Anthropic sul J-space di Claude e sull’interpretabilità dei processi interni dell’AI: osservare segnali e comportamenti prima che diventino azioni può rendere più affidabili audit e sistemi di controllo.
Quali rischi teme concretamente Coxon
Nelle sue dichiarazioni Coxon non indica un solo percorso verso una catastrofe. Cita invece più famiglie di rischio, tra cui sistemi capaci di facilitare attacchi informatici, applicazioni biologiche pericolose e una perdita progressiva di controllo su agenti sempre più autonomi.
È una distinzione importante. Il rischio non richiede per forza una fantascientifica AI “malvagia” con intenzioni umane. Può derivare anche da strumenti estremamente capaci messi nelle mani sbagliate, obiettivi definiti male o sistemi che operano più velocemente di quanto persone e istituzioni riescano a controllare.
Cosa cambia dopo il caso Coxon
Le dimissioni non dimostrano che uno scenario catastrofico sia imminente. Mostrano però che il dibattito sulla sicurezza non riguarda più soltanto ricercatori esterni o critici dell’industria: coinvolge direttamente persone che hanno contribuito ad addestrare i modelli più avanzati.
La questione utile da seguire nei prossimi mesi sarà meno spettacolare ma molto più misurabile: quali limiti concreti adotteranno i laboratori quando i modelli inizieranno a contribuire in modo sostanziale allo sviluppo dei loro successori, quali test verranno richiesti prima del rilascio e quanto saranno verificabili dall’esterno.
