“L’intelligenza dà potere. Quindi chi controllerà quel potere?”
Uno dei principali pionieri dell’intelligenza artificiale lancia un allarme: non solo la tecnologia sempre più potente potrebbe danneggiare il mondo, ma anche le persone che la gestiscono potrebbero essere altrettanto pericolose.
In un’intervista con CNBC, il luminare dell’informatica Yoshua Bengio ha affermato che membri di una “frangia” d’élite tecnologica vorrebbero che l’intelligenza artificiale sostituisse gli esseri umani.
Bengio, direttore dell’Institute for Learning Algorithms dell’Università di Montreal, è stato tra i firmatari pubblici della lettera aperta “Right to Warn”, scritta dai principali ricercatori di intelligenza artificiale di OpenAI che affermano di essere stati messi a tacere sui pericoli della tecnologia. Insieme ai famosi esperti Yann LeCun e Geoffrey Hinton, Bengio è talvolta definito uno dei “Padrini dell’intelligenza artificiale”.
“L’intelligenza dà potere. Quindi chi controllerà quel potere?” ha detto l’esperto di apprendimento automatico al One Young World Summit di Montreal. “Ci sono persone che potrebbero voler abusare di quel potere, e ci sono persone che potrebbero essere felici di vedere l’umanità sostituita dalle macchine”, ha affermato. “Voglio dire, è una frangia, ma queste persone possono avere molto potere, e possono farlo a meno che non mettiamo le giuste barriere di protezione in questo momento”.
Il potere dietro l’IA
Poiché la realizzazione di sistemi di intelligenza artificiale costa miliardi di dollari, l’aspetto del potere finanziario non può essere ignorato. “Pochissime organizzazioni e pochissimi paesi saranno in grado di farlo”, ha osservato Bengio, “è già così”.
Questa concentrazione di potere ha conseguenze: “Ci sarà una concentrazione di potere economico, che potrebbe essere negativa per i mercati; potere politico, che potrebbe essere negativo per la democrazia; e potere militare, che potrebbe essere negativo per la stabilità geopolitica del nostro pianeta”.
Attualmente, gli esperti non concordano su quando — o se — raggiungeremo l’intelligenza artificiale generale, ovvero un’IA di livello umano. Ma se ciò dovesse accadere prima che le politiche globali siano adeguate, Bengio avverte che saremmo nei guai. “Se ci vorranno cinque anni, non saremo pronti”, ha detto. “Non abbiamo metodi per garantire che questi sistemi non danneggeranno le persone o non si rivolteranno contro di loro”.
Il rischio e l’urgenza di agire
Benché non sia il primo a lanciare avvertimenti sui pericoli dell’intelligenza artificiale, Bengio ha un’autorità unica in merito: dopotutto, ha contribuito a crearla. E con questa autorità, sottolinea che il momento per agire e regolamentare è adesso, prima che il potere dell’IA sfugga di mano.
Conclusione
Cosa pensi dell’avvertimento di Bengio? Siamo pronti per un futuro in cui le macchine potrebbero superare gli umani in potere e decisione? Seguici sui social e condividi la tua opinione nei commenti. È il momento di discutere su chi dovrebbe davvero controllare il potere dell’intelligenza artificiale.
