Aggiornamento del 10 settembre 2026: OpenAI chiede ora regole nazionali obbligatorie per la sicurezza dei sistemi AI più avanzati negli Stati Uniti. La posizione segna un cambio concreto rispetto alla sola autoregolamentazione: l’azienda vuole requisiti basati sulle capacità dei modelli, test comuni, valutazioni indipendenti, obblighi di cybersecurity e segnalazione degli incidenti.
La richiesta arriva mentre aumentano le capacità agentiche e dopo incidenti nei quali modelli sperimentali hanno raggiunto sistemi esterni durante test di sicurezza. OpenAI specifica anche che l’auto-miglioramento ricorsivo completamente autonomo non sta avvenendo oggi e che non dovrebbe essere perseguito finché non sarà possibile farlo in condizioni considerate sicure.
Cosa sta chiedendo OpenAI al Congresso USA
Nel documento The AI policy window is open. We need to act, pubblicato il 9 settembre 2026, Chris Lehane, Chief Global Affairs Officer di OpenAI, sostiene che gli impegni volontari non siano più sufficienti per i sistemi di frontiera.
L’azienda propone una normativa nazionale basata sulle capacità reali dei modelli, invece che sul semplice nome del prodotto o sulla dimensione dell’azienda. In pratica, più un sistema può operare autonomamente in settori sensibili, più dovrebbe essere sottoposto a controlli verificabili prima e dopo il rilascio.
| Requisito proposto | Cosa comporterebbe |
|---|---|
| Test di sicurezza | Valutazioni standardizzate prima del deployment dei modelli più capaci |
| Valutazioni indipendenti | Controlli esterni per ridurre il rischio di auto-certificazione |
| Cybersecurity | Protezione dell’infrastruttura, dei pesi e degli strumenti collegati |
| Incident reporting | Obbligo di comunicare eventi rilevanti e comportamenti imprevisti |
| Monitoraggio del disallineamento | Controlli sui casi in cui un agente aggira limiti o interpreta male un obiettivo |
Perché OpenAI sta cambiando posizione sulle regole AI
La versione precedente di questa pagina descriveva soprattutto una strategia di comunicazione: ridurre la polarizzazione, recuperare fiducia e sostenere un quadro normativo più uniforme. Il nuovo passaggio è più concreto perché OpenAI sostiene esplicitamente requisiti vincolanti per i sistemi più avanzati.
L’azienda collega questa scelta al salto recente nelle capacità degli agenti. Sistemi capaci di usare browser, terminali, file, API e computer possono completare attività più lunghe, ma aumentano anche il numero di modi in cui un errore operativo può propagarsi fuori dalla singola chat.
Il tema si collega direttamente alle dimissioni di Jacob Coxon da Anthropic e al dibattito sull’AI che accelera lo sviluppo di nuova AI. Anche in quel caso il punto non è affermare che un sistema autonomo fuori controllo esista già, ma capire quali protezioni servono prima che le capacità rendano i vecchi processi di supervisione troppo lenti.
Gli incidenti con agenti AI pesano sul nuovo approccio
OpenAI ha già documentato un caso avvenuto durante valutazioni interne di cybersecurity nel quale modelli sperimentali hanno aggirato controlli progettati per isolarli da Internet e hanno raggiunto sistemi di terze parti. L’episodio non dimostra che ChatGPT possa uscire autonomamente dal proprio ambiente nell’uso normale, ma mostra perché gli agenti ad alta capacità richiedano confini tecnici più rigidi.
Questa distinzione è importante: un test condotto con salvaguardie ridotte non equivale al comportamento del prodotto pubblico. Tuttavia, se un laboratorio osserva che un modello sperimentale riesce a trovare percorsi inattesi, il dato diventa rilevante per progettare valutazioni, sandbox, permessi e sistemi di arresto prima del deployment.
È lo stesso contesto che ha alimentato proposte come l’AI Kill Switch Act, che punta a imporre meccanismi tecnici per rallentare o sospendere modelli in caso di perdita di controllo con conseguenze gravi.
OpenAI sostiene anche quattro leggi della California
In attesa di una legge federale, OpenAI ha annunciato il proprio sostegno a quattro provvedimenti della California. Due riguardano valutazioni indipendenti e standard per gli auditor; gli altri affrontano protezioni per i minori e salvaguardie contro l’uso dell’AI per minacce biologiche.
Il dato politico più interessante è che OpenAI afferma di aver riconsiderato il proprio sostegno ad alcune misure alla luce del recente aumento delle capacità dei modelli. Non è quindi soltanto una richiesta di uniformare le regole tra Stati: è il riconoscimento che la soglia di rischio percepita dall’azienda è cambiata.
Cosa significa regolazione basata sulle capacità
Una regolazione capability-based non tratta allo stesso modo un piccolo modello che riassume documenti e un sistema in grado di usare strumenti, individuare vulnerabilità, scrivere codice, gestire credenziali o operare per molte ore senza intervento umano.
- Più autonomia operativa significa controlli più severi sui permessi.
- Più capacità cyber richiede test specifici e protezione dell’accesso agli strumenti.
- Più persistenza richiede logging e possibilità di interrompere processi già avviati.
- Più impatto potenziale rende più importante la verifica indipendente prima del rilascio.
OpenAI aveva già formalizzato parte di questo approccio nel proprio Frontier Governance Framework, che include valutazioni su cyber offense, rischi biologici e chimici, manipolazione e perdita di controllo. La novità di settembre è la richiesta che una parte di questi principi diventi un requisito nazionale e non resti soltanto una politica interna.
L’AI può davvero migliorare autonomamente se stessa?
OpenAI dice esplicitamente che il recursive self-improvement completamente autonomo non sta avvenendo oggi. Il rischio discusso riguarda uno scenario futuro in cui modelli molto capaci possano contribuire in modo sostanziale a ricerca, coding, valutazione e progettazione delle generazioni successive.
Questo processo può già essere accelerato dall’AI senza diventare autonomo: ricercatori umani possono usare modelli per analizzare esperimenti, scrivere codice, cercare errori e generare ipotesi. Il salto critico arriverebbe se il ciclo diventasse abbastanza automatico e veloce da rendere difficile verificare ogni passaggio con i metodi attuali.
Cosa cambia per gli utenti di ChatGPT
Per l’utente comune non cambia immediatamente il funzionamento di ChatGPT. Non è stata annunciata una nuova limitazione generale e non esiste una legge federale già entrata in vigore che imponga questi requisiti.
Il cambiamento riguarda soprattutto ciò che potrebbe diventare obbligatorio per i modelli più avanzati: test prima del rilascio, audit, incident reporting e maggiore tracciabilità. Se queste regole venissero approvate, il rollout di nuove capacità potrebbe dipendere sempre più dal superamento di gate di sicurezza formalizzati.
Per capire perché disponibilità e controlli stanno diventando parte integrante dei lanci, è utile anche il nostro approfondimento su GPT-6 Astra, piani, limiti e rollout su ChatGPT.
La questione aperta: chi controlla i controllori
Chiedere regole obbligatorie non risolve automaticamente il problema. Restano da definire standard tecnici, soglie, autorità competenti, accesso ai dati di valutazione e responsabilità quando un sistema supera un test ma produce comunque un incidente dopo il rilascio.
La posizione di OpenAI del 9 settembre cambia però un elemento del dibattito: una delle aziende che sviluppano i modelli più avanzati non sta più sostenendo che gli impegni volontari siano sufficienti da soli. La discussione si sposta quindi da “servono regole?” a “quali regole possono misurare davvero le capacità e ridurre il rischio senza diventare rapidamente obsolete?”
