L’idea sembra uscita da un incubo distopico: un algoritmo che analizza il tuo volto e decide se sei una persona affidabile, competente o abbastanza “di successo” da meritarti un contratto di lavoro.
Eppure è esattamente ciò che sostiene un nuovo studio dell’Università della Pennsylvania, ripreso da The Economist.
Secondo i ricercatori, un sistema di intelligenza artificiale sarebbe in grado di prevedere con una certa accuratezza tratti della personalità associati a successo accademico, lavorativo e finanziario osservando semplicemente una foto del viso.
Un risultato che sta accendendo il dibattito su privacy, discriminazione e rischi reali nell’adozione di tecnologie del genere.
Da dove nasce questa idea inquietante
Lo studio si basa su altri lavori già controversi, quelli che collegano i tratti del volto ai tratti della personalità. Una linea di ricerca molto criticata perché sfiora, e talvolta oltrepassa, concetti scientificamente infondati e pericolosi.
Nonostante le perplessità, il team della UPenn ha deciso di fare un passo oltre e ha sviluppato un modello di intelligenza artificiale capace di estrarre cinque tratti fondamentali della personalità dai volti dei soggetti:
- apertura mentale
- coscienziosità
- estroversione
- amicalità
- neuroticismo
Per addestrare il sistema, gli studiosi hanno usato 96.000 foto profilo di laureati MBA raccolti da LinkedIn, applicando tecniche di machine learning per collegare i tratti stimati ai risultati reali delle loro carriere.
“Funziona”, dicono i ricercatori
Secondo i risultati presentati, esiste una correlazione tra i tratti estratti dal volto e alcuni indicatori lavorativi.
Per esempio:
- l’estroversione sarebbe il miglior predittore positivo di compensazione economica
- l’apertura mentale invece indicherebbe una tendenza a essere pagati meno
Sembra la trama di un episodio di Black Mirror, ma i ricercatori sostengono che i dati mostrano queste connessioni in modo chiaro.
Il problema è che “correlazione” non significa “causa”.
Anzi, spesso è l’inizio del disastro.
Il salto logico pericoloso: usare l’IA per assumere persone
È qui che la ricerca diventa davvero inquietante.
Perché se un’azienda avesse accesso a uno strumento del genere, sarebbe tentata di usarlo per:
- selezionare candidati
- decidere chi merita un colloquio
- anticipare “successo lavorativo” basato su un’immagine
- scartare volti considerati poco “promettenti”
Il rischio è enorme.
Un sistema che valuta il volto porta automaticamente con sé:
- bias razziali
- discriminazioni di genere
- penalizzazioni verso chi ha disabilità
- giudizi estetici travestiti da scienza
E tutto questo senza che la persona possa difendersi.
Il precedente esiste già, ed è tragico
Non serve immaginare scenari futuristici.
Sta già accadendo.
Negli Stati Uniti, diversi stati stanno usando software di IA per verificare le patenti di guida. Il risultato?
Persone con differenze facciali, cicatrici o tratti non standard si ritrovano senza documenti validi per colpa di algoritmi incapaci di riconoscerli.
Nel Regno Unito, la Met Police ha celebrato un numero record di arresti grazie ai sistemi di identificazione facciale. Ma la percentuale di errori è dello 0,5 percento, che sembra bassa finché non si considera che significa una persona su duecento accusata ingiustamente.
Se questi sistemi sono fallibili nel riconoscere chi sei, immagina cosa può succedere quando tentano di predire chi diventerai.
Perché questa ricerca è un problema etico enorme
Secondo i ricercatori, la “lettura del volto” tramite IA potrebbe diventare uno strumento diffuso, tanto da spingere le persone a:
- modificare digitalmente le proprie foto
- adottare filtri che “ottimizzano” il volto
- ricorrere alla chirurgia estetica per migliorare la “leggibilità” dei tratti
Un futuro dove bisogna cambiare la propria faccia per evitare discriminazioni non è fantascienza.
È un rischio concreto.
E c’è un’altra questione ancora più grave.
Il dataset usato è una bomba a orologeria
Lo studio si basa su foto di manager, consulenti e figure di alto livello.
Un campione che rappresenta una classe privilegiata e omogenea.
Il risultato è ovvio:
- il modello impara a identificare come “successo” l’aspetto medio di chi ha già successo
- e penalizza qualunque volto non conforme a quei canoni
Di fatto, rischia di diventare un algoritmo che replica pregiudizi socioeconomici, travestendoli da scienza.
Le aziende potrebbero davvero usarlo? Purtroppo sì
The Economist lo dice chiaramente.
In un mondo dove la performance finanziaria è la priorità assoluta, le aziende avrebbero un forte incentivo ad adottare strumenti che promettono di individuare talenti in modo rapido ed economico.
E la storia recente è piena di startup che vendono:
- IA che valuta il tono della voce nei colloqui
- IA che analizza i micro movimenti del volto
- IA che predice il carattere dalla postura
Questa nuova tecnologia sarebbe solo l’ennesimo passo.
Come sempre, l’IA corre più veloce della regolamentazione
È troppo presto per sapere se questa ricerca finirà nelle mani di aziende senza scrupoli.
Ma la tendenza è chiara:
- più dati
- più algoritmi
- meno supervisione umana
- più decisioni automatizzate che riguardano persone reali
Senza leggi chiare, questa tecnologia rischia di essere adottata prima ancora che il pubblico si renda conto del pericolo.
All’orizzonte, un futuro che dobbiamo evitare
L’idea che il tuo volto possa decidere per te:
- se avrai un lavoro
- se otterrai un prestito
- se potrai affittare una casa
è qualcosa che mette in discussione non solo la privacy, ma la dignità umana.
La ricerca della UPenn apre un portale su un mondo in cui la discriminazione diventa più sottile, più algoritmica e molto più difficile da contestare.
E questo, più di qualsiasi altra cosa, è ciò che spaventa.
Seguici su Instagram
