Negli ultimi anni il dibattito sulla coscienza dell’intelligenza artificiale è passato dalla fantascienza ai tavoli di governi, aziende e comitati etici. Ma secondo il dott. Tom McClelland, filosofo della coscienza all’Università di Cambridge, stiamo correndo troppo avanti rispetto alle reali conoscenze scientifiche.
Il problema è semplice quanto scomodo: non esistono strumenti affidabili per stabilire se una macchina sia cosciente, e non c’è alcuna garanzia che tali strumenti esisteranno in futuro. Per questo, afferma McClelland, l’unica posizione intellettualmente onesta è l’agnosticismo.
Perché non sappiamo (e forse non sapremo) se un’IA è cosciente
Secondo McClelland, non abbiamo nemmeno una spiegazione condivisa di cosa sia la coscienza negli esseri umani, figuriamoci un metodo per rilevarla in un sistema artificiale. “Non esiste un modo affidabile per sapere se un sistema di IA sia davvero cosciente. Questa incertezza potrebbe persistere indefinitamente“.
Il punto chiave è che né il buon senso né la scienza sperimentale sono sufficienti e il buon senso funziona con animali e persone perché si è evoluto in un mondo biologico; applicarlo alle macchine è fuorviante. Allo stesso tempo, la ricerca scientifica non ha ancora identificato un “meccanismo della coscienza” verificabile.
Coscienza non significa automaticamente diritti
Un altro errore comune nel dibattito pubblico è confondere coscienza e sentience (sensibilità).
McClelland chiarisce che una macchina potrebbe, in linea teorica, essere cosciente – cioè avere percezione e autoconsapevolezza – senza provare piacere o dolore. Ed è proprio la capacità di soffrire o provare benessere a rendere un’entità moralmente rilevante.
“La coscienza può essere uno stato neutro. La sentience, invece, implica esperienze positive o negative: è lì che entra in gioco l’etica.”
Un’auto a guida autonoma che “vede” l’ambiente circostante è un traguardo tecnologico impressionante, ma non pone problemi etici. Lo farebbe solo se iniziasse a provare attaccamento, paura o sofferenza.
AGI, investimenti miliardari e affermazioni premature
Mentre le aziende tech investono cifre enormi nello sviluppo dell’Intelligenza Artificiale Generale (AGI), aumentano anche le dichiarazioni secondo cui un’IA cosciente sarebbe “vicina”.
Per McClelland, però, queste affermazioni sono spesso scollegate dalla realtà scientifica: “Se trattiamo qualcosa che è, di fatto, come un tostapane come se fosse cosciente, mentre nel mondo reale danneggiamo esseri sicuramente coscienti su scala enorme, stiamo commettendo un errore serio“.
Il rischio è duplice: sovrastimare l’IA e sottovalutare la sofferenza reale, umana e animale.
Due visioni opposte, zero prove decisive
Nel dibattito accademico esistono due grandi correnti:
- chi pensa che la coscienza emerga dalla struttura funzionale (il “software”), indipendentemente dal supporto fisico;
- chi sostiene che la coscienza dipenda da processi biologici specifici, impossibili da replicare nel silicio.
Nel suo lavoro pubblicato su Mind and Language, McClelland conclude che entrambe le posizioni si basano su assunzioni non dimostrate. Non abbiamo prove sufficienti per confermare né l’una né l’altra.
Il clamore come strumento di marketing
Secondo McClelland, l’impossibilità di dimostrare la coscienza è terreno fertile per il marketing tecnologico: “C’è il rischio che l’industria dell’IA sfrutti questa incertezza per vendere l’idea di un ‘nuovo livello di intelligenza’, anche senza alcuna prova concreta“.
Questo hype ha conseguenze etiche: attenzione e risorse vengono dirottate verso problemi ipotetici, mentre situazioni molto più plausibili vengono ignorate.
Un esempio? Alcuni studi suggeriscono che i gamberi potrebbero essere capaci di soffrire, eppure ne uccidiamo centinaia di miliardi ogni anno. Testare la loro sentience è difficile, ma infinitamente più semplice che testare quella di un’IA.
Il rischio più sottovalutato: l’impatto psicologico sulle persone
Con l’esplosione dei chatbot conversazionali, McClelland ha notato un fenomeno preoccupante: persone convinte che la propria IA sia cosciente: “Ho ricevuto lettere scritte da chatbot che implorano di essere riconosciuti come esseri coscienti“.
Secondo il filosofo, creare legami emotivi basati su un presupposto falso può essere profondamente dannoso: “Se ti leghi emotivamente a qualcosa credendo che sia cosciente, quando non lo è, l’effetto può essere esistenzialmente tossico. E questo rischio è amplificato dalla retorica gonfiata del settore tech“.
Il vincolo spesso ignorato: l’energia e la fisica del calcolo
Un aspetto quasi sempre trascurato nel dibattito sulla coscienza artificiale riguarda i vincoli fisici ed energetici del calcolo. I modelli di IA più avanzati oggi operano già al limite dell’efficienza consentita dall’hardware moderno: data center composti da migliaia di GPU o acceleratori specializzati, con consumi energetici dell’ordine dei megawatt continui, sistemi di raffreddamento attivi complessi e costi operativi dominati dall’elettricità più che dall’hardware stesso.
Un’ipotetica IA cosciente – ammesso che la coscienza richieda stati persistenti, integrazione globale dell’informazione e continuità temporale – non potrebbe essere trattata come un processo intermittente o “a richiesta”, ma richiederebbe esecuzione continua, memoria stabile e sincronizzazione costante, aumentando drasticamente il consumo energetico e la dissipazione termica. In questo scenario, la prima criticità non sarebbe di natura etica o filosofica, ma ingegneristica ed economica: garantire alimentazione, raffreddamento, ridondanza e sostenibilità energetica nel lungo periodo.
Prima ancora di chiederci se un’IA possa essere cosciente, dovremmo chiederci se sia fisicamente ed economicamente mantenibile, perché una coscienza artificiale che non può essere alimentata in modo continuo non verrebbe “soppressa”, ma semplicemente spenta per limiti di budget, di rete o di infrastruttura.
Ma della fattibilità tecnica (praticamente nulla) di uno Skynet o HAL9000 ne ho già parlato in questo articolo.
Conclusione
La coscienza artificiale rimane uno dei problemi più complessi della filosofia e della scienza moderna. Ma, almeno per ora, non abbiamo né prove né strumenti per stabilire se un’IA possa davvero essere cosciente.
In questo vuoto di certezze, l’agnosticismo non è una resa: è una forma di rigore intellettuale.
E forse anche un antidoto necessario contro l’hype.
