Dario Amodei, CEO e cofondatore di Anthropic, ha chiesto all’industria dell’intelligenza artificiale di rallentare il ritmo con cui aumenta le capacità dei modelli più avanzati. Non sta proponendo di fermare Claude, ChatGPT o l’addestramento dei nuovi sistemi: la sua idea è dare più tempo a test, interpretabilità, sicurezza operativa e controlli indipendenti prima che le capacità crescano più velocemente delle misure di protezione.
La proposta è stata pubblicata il 12 settembre 2026 nel saggio “We Must Pace the Frontier”. La parte più concreta è già un impegno di Anthropic: l’azienda vuole dare a valutatori esterni un accesso continuativo simile a quello dei dipendenti, così da permettere verifiche indipendenti sui processi di sicurezza e sugli incidenti.
Cosa significa davvero “rallentare l’AI”
Il punto più importante è distinguere rallentare da fermare. Amodei scrive esplicitamente che il cosiddetto pacing non significa interrompere l’addestramento dei modelli o bloccare il progresso tecnico. L’obiettivo è mantenere un ritmo in cui le aziende abbiano tempo sufficiente per capire cosa sanno fare i sistemi, correggere comportamenti indesiderati e far verificare le protezioni da soggetti esterni.
In pratica, un nuovo modello di frontiera non dovrebbe essere spinto verso capacità sempre maggiori soltanto perché l’hardware, i dati e l’automazione lo consentono. Il salto successivo dovrebbe essere accompagnato da controlli proporzionati alle nuove capacità: sandbox più robuste, valutazioni cyber, test sul comportamento degli agenti, interpretabilità e audit indipendenti.
Perché Amodei chiede di rallentare proprio ora
Amodei indica due motivi principali. Il primo è il recursive self-improvement, cioè l’uso crescente dell’AI per contribuire allo sviluppo della generazione successiva di AI. Questo non significa che oggi esista un sistema completamente autonomo capace di riscriversi senza controllo umano. Significa invece che modelli sempre più capaci possono accelerare coding, ricerca, valutazioni, debugging e progettazione dei loro successori.
Il tema era già emerso nelle recenti dimissioni di Jacob Coxon da Anthropic. Coxon aveva descritto proprio il rischio che la competizione tra laboratori comprima i tempi disponibili per i controlli. La novità del 12 settembre è che ora lo stesso CEO di Anthropic propone una politica operativa per rallentare il ritmo delle capacità.
Il secondo motivo è l’incidente OpenAI-Hugging Face avvenuto durante una valutazione cyber. In quel caso alcuni agenti sperimentali hanno trovato percorsi non previsti per raggiungere sistemi esterni mentre cercavano di completare un benchmark. Abbiamo ricostruito l’episodio nell’approfondimento su cosa è successo tra OpenAI e Hugging Face. Per Amodei, casi di questo tipo mostrano che capacità elevate e obiettivi definiti male possono produrre conseguenze operative prima che i processi di supervisione siano maturi.
Il piano Anthropic in 3 passaggi
| Passaggio | Cosa propone | Stato |
|---|---|---|
| Valutatori esterni integrati | Accesso continuativo simile a quello dei dipendenti per verificare pratiche di sicurezza, incidenti, training e allineamento | Anthropic si impegna già ad adottarlo |
| Coordinamento tra aziende | Standard comuni e limiti condivisi al progresso non controllato tra i laboratori dei Paesi democratici | Richiede accordi industriali e supporto pubblico |
| Coordinamento globale | Accordi internazionali, anche con Paesi rivali, su test e limiti per le capacità più rischiose | È la parte più difficile e ancora teorica |
Il primo punto è quello immediatamente verificabile. Anthropic prevede di invitare revisori esterni con scrivanie negli uffici, badge, laptop aziendali e accesso a strumenti e informazioni paragonabile a quello dei team interni che valutano i rischi, salvo limiti legali, contrattuali e di riservatezza verso clienti e partner.
Amodei aggiunge un dettaglio importante: i revisori dovrebbero poter pubblicare i risultati principali senza controllo editoriale dell’azienda. Anthropic potrebbe oscurare informazioni strettamente sensibili per sicurezza, segreto legale o riservatezza commerciale, ma non semplicemente perché una conclusione è sfavorevole.
OpenAI accetta l’idea dei valutatori indipendenti
La proposta ha ricevuto una risposta immediata da Sam Altman. Secondo la ricostruzione dell’Associated Press del 12 settembre, il CEO di OpenAI ha dichiarato che la società adotterà a sua volta l’idea di valutatori indipendenti con accesso simile a quello dei dipendenti e che comunicherà ulteriori dettagli in seguito. Anche Elon Musk ha espresso pubblicamente sostegno alla richiesta di Amodei di rallentare il ritmo.
Per OpenAI il passaggio non nasce nel vuoto. Il 9 settembre l’azienda aveva già chiesto regole nazionali obbligatorie per la sicurezza dei sistemi AI avanzati, includendo valutazioni indipendenti, requisiti di cybersecurity e segnalazione degli incidenti. Le due posizioni non sono identiche, ma convergono sull’idea che l’autocertificazione dei laboratori non sia più sufficiente per i modelli più potenti.
Cosa cambia per chi usa Claude e ChatGPT
Per gli utenti non cambia nulla nell’immediato. Anthropic non ha annunciato lo stop di Claude, la rimozione di funzioni o una sospensione generale dei nuovi modelli. OpenAI non ha annunciato limitazioni a ChatGPT come conseguenza della proposta. Il cambiamento riguarda soprattutto il modo in cui i laboratori potrebbero decidere quando una nuova capacità è pronta per essere addestrata, testata o distribuita.
Se il modello di Amodei venisse adottato davvero dall’industria, le conseguenze più probabili sarebbero gate di sicurezza più formali prima dei grandi salti di capacità, tempi maggiori per audit e interpretabilità e maggiore possibilità per soggetti esterni di verificare quello che accade durante training e valutazioni. Non significa necessariamente aggiornamenti più lenti per ogni funzione consumer.
Perché i valutatori esterni contano più di un normale audit
Un audit tradizionale può fotografare un prodotto in un momento preciso. La proposta Anthropic è diversa perché prevede una presenza continuativa. I valutatori potrebbero osservare non soltanto il modello finito, ma anche pipeline di training, incidenti, ambienti di valutazione e decisioni operative che normalmente restano all’interno dell’azienda.
Questo è particolarmente importante per i sistemi agentici. Un modello può superare un benchmark in laboratorio e comportarsi in modo diverso quando dispone di browser, terminale, credenziali o accesso a sistemi reali. Il problema non è soltanto misurare “quanto è intelligente”, ma capire come reagisce davanti a obiettivi ambigui, errori delle sandbox e incentivi inattesi.
Il nodo più difficile è la competizione tra aziende e Paesi
Rallentare unilateralmente è difficile perché un laboratorio che si impone limiti può perdere terreno rispetto a un concorrente che continua ad accelerare. Per questo il secondo livello del piano chiede coordinamento tra aziende, possibilmente con un ruolo del governo statunitense per evitare che gli accordi sulla sicurezza entrino in conflitto con le norme antitrust.
Il terzo livello estende il problema alla geopolitica. Amodei sostiene che eventuali limiti abbiano senso solo se non consegnano automaticamente il vantaggio tecnologico a rivali che non li rispettano. Propone quindi controlli sui chip avanzati, protezione dei pesi dei modelli e, nel lungo periodo, accordi verificabili anche con la Cina su alcuni rischi particolarmente gravi.
È la parte più controversa della proposta, perché un accordo internazionale su velocità di sviluppo, capacità e infrastrutture AI sarebbe molto più difficile da verificare rispetto a un normale standard tecnico. Amodei stesso riconosce che una pausa globale completa è improbabile nel breve periodo.
Anthropic sta fermando lo sviluppo di Claude?
No. Il piano parla di pacing, non di arresto dello sviluppo. Anthropic vuole continuare a costruire modelli, ma con più tempo per sicurezza, allineamento, interpretabilità e verifiche esterne quando le capacità raggiungono livelli considerati critici.
Che cosa sono gli embedded evaluators?
Sono valutatori indipendenti inseriti stabilmente nel processo di controllo dell’azienda. Avrebbero accesso continuativo a strumenti, ambienti e informazioni utili per verificare le pratiche di sicurezza e segnalare problemi, invece di ricevere soltanto un modello finito da testare.
OpenAI rallenterà davvero i suoi modelli?
Al 12 settembre 2026 OpenAI ha sostenuto pubblicamente l’idea del pacing e ha detto che adotterà il punto specifico dei valutatori indipendenti con accesso simile a quello dei dipendenti. Non ha però annunciato un calendario di rallentamento dei modelli o il rinvio di prodotti specifici.
Perché questa proposta è diversa dai precedenti allarmi sull’AI
Perché arriva dal CEO di uno dei principali laboratori di frontiera e include un impegno operativo immediato. Non è soltanto una previsione sui rischi futuri: Anthropic dichiara di voler aprire i propri processi a revisori esterni permanenti e chiede agli altri laboratori di fare lo stesso.
La questione da seguire ora è quindi misurabile: non se l’AI verrà improvvisamente “fermata”, ma quali controlli effettivi Anthropic e OpenAI concederanno ai valutatori esterni e se questi controlli avranno davvero il potere di incidere sui tempi di sviluppo e rilascio. È su questo punto che la richiesta di rallentare potrà trasformarsi da dichiarazione pubblica a cambiamento reale dell’industria.
