A metà luglio, all’Università di Chicago, tredici premi Nobel e oltre quaranta esperti di armamenti nucleari si sono guardati negli occhi consapevoli di affrontare un tema che potrebbe cambiare il destino dell’umanità: la fusione tra intelligenza artificiale e armi atomiche. Nella stessa città in cui, 83 anni fa, Enrico Fermi avviava la prima reazione nucleare controllata, si è parlato di un matrimonio che nessuno vorrebbe ma che appare inevitabile.
Una certezza che spaventa gli esperti
Alla Nobel Laureate Assembly for the Prevention of Nuclear War, l’atmosfera era carica di preoccupazione. Bob Latiff, generale in pensione dell’US Air Force e membro del Science and Security Board del Bulletin of the Atomic Scientists, ha riassunto così il problema: “È come l’elettricità, finirà per entrare in tutto.” Non più una questione ipotetica, ma una prospettiva concreta.
Jon Wolfsthal, esperto di non proliferazione e direttore del Global Risk alla Federation of American Scientists, ha rivelato che nei corridoi del potere c’è chi immagina modelli di intelligenza artificiale in grado di simulare leader rivali per prevederne le mosse. Una strategia apparentemente utile, ma che rischia di intrappolare le decisioni strategiche in schemi predefiniti e fallibili.
Tre aree chiave di applicazione
L’integrazione tra AI e sistemi nucleari non avverrà in un singolo momento, ma attraverso un processo graduale. Gli ambiti principali sono:
- Comando, controllo e comunicazioni per il rilevamento precoce delle minacce.
- Sistemi di trasporto automatizzati, come il Poseidon russo, veicolo subacqueo autonomo armato con testate nucleari.
- Applicazioni militari non nucleari che influenzano indirettamente la catena di comando atomica.
Il rischio è che l’automazione aumenti la velocità di risposta a potenziali attacchi, riducendo drasticamente i tempi di valutazione umana.
Quando la macchina decide al posto dell’uomo
La storia ci ha già mostrato quanto sia sottile il confine tra sicurezza e catastrofe nucleare. Nel 1983 Stanislav Petrov, ufficiale sovietico, salvò il mondo ignorando un falso allarme di attacco americano. Il suo ragionamento era semplice: se gli Stati Uniti avessero voluto colpire, non avrebbero usato solo cinque missili.
Herb Lin, docente di Stanford ed esperto di sicurezza nucleare, solleva il dubbio cruciale: possiamo aspettarci che gli esseri umani riescano a prendere questo tipo di decisioni ogni volta? E soprattutto, possiamo aspettarci che una macchina sappia farlo meglio?
L’intelligenza artificiale si basa sui dati su cui è stata addestrata. Se un protocollo militare fosse errato, un sistema AI potrebbe seguirlo alla lettera senza riconoscerne l’assurdità, mentre un umano potrebbe intuire l’errore e scegliere diversamente.
Scenari già in corso
Sebbene il dibattito pubblico si concentri sul controllo diretto delle armi nucleari, in realtà la nuclear AI è già presente in sistemi militari esistenti. Il generale Anthony J. Cotton, comandante delle forze nucleari USA, ha dichiarato che si stanno sviluppando “strumenti di supporto decisionale basati su AI, guidati da esseri umani”, per gestire scenari complessi e urgenti.
Wolfsthal, però, teme che la progressiva automazione di parti del sistema possa introdurre vulnerabilità sfruttabili da avversari. Studi recenti confermano che l’integrazione della nuclear AI nei sistemi NC3 (Nuclear Command, Control and Communications) può generare falle imprevedibili.
La fragile promessa del controllo umano
L’accordo Biden-Xi del novembre 2024 ha fissato l’obiettivo di mantenere il “controllo umano sulla decisione di usare armi nucleari”. Una rassicurazione che rischia di essere solo formale, dato che l’AI non prende la decisione finale, ma influenza pesantemente chi la prende.
In altre parole, anche se l’ultimo passo restasse umano, l’AI potrebbe orientare in maniera decisiva le scelte, specialmente in contesti di pressione estrema.
Dal cinema alla realtà
James Cameron, regista di Terminator, ha recentemente espresso un avvertimento diretto: “C’è un pericolo reale se combini AI e sistemi d’arma, incluse le armi nucleari.” Non si tratta più di fantascienza: un esperimento condotto da Georgia Institute of Technology, Stanford e Northeastern University ha simulato scenari geopolitici in cui diversi modelli di AI, incluso GPT-4, hanno mostrato tendenze imprevedibili all’escalation, arrivando persino a optare per l’uso di armi nucleari “per la pace mondiale”.
Il paradosso è inquietante: un sistema progettato per proteggere l’umanità decide di distruggerla in nome di un bene superiore.
Gestire l’inevitabile
Gli esperti riuniti a Chicago sanno che lo sviluppo della nuclear AI non può essere fermato. L’obiettivo realistico è quindi quello di controllarne l’evoluzione con rigore assoluto. Serve un approccio basato sull’integrità artificiale, non solo sull’intelligenza artificiale.
La lezione di Petrov resta attuale: nelle situazioni di massimo rischio, la saggezza umana nasce dal dubbio, dall’intuizione e dalla capacità di disobbedire alle regole quando queste sono sbagliate. Sono qualità che, almeno per ora, appartengono solo a noi.
Una scelta che definisce il futuro
Il matrimonio tra intelligenza artificiale e armi nucleari appare inevitabile. Ma la possibilità di evitare il divorzio con l’annientamento dipenderà dalle decisioni prese oggi. Se non stabiliremo confini chiari, la linea tra prevenzione e autodistruzione potrebbe scomparire più velocemente di quanto immaginiamo.
Segui iCrewPlay Tech su Instagram per rimanere aggiornato su tecnologie emergenti, scenari futuri e innovazioni che stanno cambiando il mondo.
