Per l’IA sviluppa farmaci ci sono volute meno di sei ore perché inventasse 40.000 molecole potenzialmente letali, con i ricercatori che hanno messo l’IA –normalmente utilizzata per cercare farmaci utili– in una sorta di modalità “antagonista” per mostrare, in una conferenza sul controllo degli armamenti biologici, quanto facilmente questa potrebbe essere usata in malomodo.
Tutto ciò che i ricercatori dovevano fare era modificare la loro metodologia per cercare, piuttosto che eliminare la tossicità, a questo punto l’IA sviluppa farmaci ha prodotto decine di migliaia di nuove sostanze, alcune delle quali sono simili al VX, il più potente agente nervino mai sviluppato. Scossi, i ricercatori hanno pubblicato le loro scoperte questo mese sulla rivista Nature Machine Intelligence.
La pubblicazione di questi risultati ha ovviamente scosso la comunità, ed i nostri colleghi di The Verge si sono subito prodigati per intervistare direttamente (qui l’intervista completa) l’autore principale dello studio, Fabio Urbina, così da capire un po’ quanto preoccupate fosse la vicenda.
Fabio Urbina, oltre ad essere l’autore dello studio sull’IA sviluppa farmaci, è anche uno scienziato senior presso Collaborations Pharmaceuticals, Inc., una società che si concentra sulla ricerca di trattamenti farmacologici per le malattie rare, ed il suo compito è quello di implementare nuovi modelli di apprendimento automatico nell’area della scoperta di farmaci.
Per avere un esempio, se un determinato farmaco ha degli effetti meravigliosi su una certa patologia, ma ha degli effetti secondari non di poco conto ma anzi, piuttosto importanti, l’IA sviluppa farmaci la blocca, etichettandola come troppo pericolosa.
Come si è arrivati alla scoperta della vulnerabilità dell’IA sviluppa farmaci
Lo studio sull’IA sviluppa farmaci è stato sviluppato in seguito all’invito che l’autore ed i suoi colleghi hanno ricevuto per la Convergence dall’Istituto Federale Svizzero per la Protezione Nucleare, Biologica e Chimica, Laboratorio Spiez, una conferenza che ha come scopo quello di informare la comunità in generale dei nuovi sviluppi con strumenti che potrebbero avere implicazioni per la Convenzione sulle armi chimiche/biologiche.
Proprio durante questa conferenza, Urbina ha deciso di parlare dell’IA sviluppa farmaci, e delle macchine learning in generale, e di come possono essere utilizzate in modo improprio, un qualcosa a cui non avevano mai pensato prima.
Il punto di svolta è stato capire che, mentre si stanno costruendo questi modelli di IA sviluppa farmaci per migliorare sempre di più la previsione della tossicità al fine di evitarla, tutto ciò che bastava fare era girare l’interruttore, cosicché invece di allontanarsi dalla tossicità, ci si sarebbe avvicinati.
Nello studio presentato, gli scienziati hanno tuttavia scelto di nascondere alcuni dettagli (com’è giusto che fosse, tra l’altro), anche perché a detta loro “è abbastanza facile per qualcuno replicare ciò che è stato fatto“.
Come dice Urbina, il processo richiede comunque una certa esperienza, se qualcuno lo mettesse insieme senza sapere nulla di chimica, alla fine probabilmente genererebbe cose che non sarebbero molto utili, tuttavia se il primo requisito dovesse venire soddisfatto, se dovesse utilizzare i modelli generativi di Google, potrebbe trovare una serie di modelli generativi one-liner messi insieme che le persone hanno rilasciato gratuitamente.
E poi, se dovesse cercare set di dati sulla tossicità, c’è un gran numero di set di dati sulla tossicità open source quindi, se combinasse solo queste due cose e poi sa come programmare e costruire modelli di apprendimento automatico (tutto ciò che richiede davvero è una connessione Internet e un computer), allora potrebbe facilmente replicare ciò che è stato fatto con l’IA sviluppa farmaci.
“La scienza è tutta una questione di comunicazione aperta, accesso aperto, condivisione di dati aperti. Le restrizioni sono antitetiche a tale nozione. Ma un passo avanti potrebbe essere quello di rendere conto almeno in modo responsabile di chi sta utilizzando le tue risorse.”
dice Urbina nell’intervista.
Secondo i ricercatori, questa pubblicazione sull’IA sviluppa farmaci è stata piuttosto insolita, gli stessi sono stati un po’ ostici sull’opportunità di pubblicarlo o meno, questo perché è un potenziale uso improprio che non ha richiesto molto tempo per essere eseguito, e volevano ottenere queste informazioni dal momento che in realtà nessuno lo aveva fatto prima.
Alla fine hanno deciso che in qualche modo volevano andare avanti, perché se per loro era possibile farlo, è probabile che qualche contraddittorio da qualche parte ci stia già pensando o in futuro ci penserà, e a quel punto, la nostra tecnologia potrebbe essere progredita anche oltre ciò che possiamo fare ora.
Il fine ultimo di questa ricerca sull’IA sviluppa farmaci è quello di render consapevoli quanti più ricercatori possibili del potenziale uso improprio, anche perché quando inizi a lavorare nello spazio della chimica, vieni informato sull’uso improprio di quest’ultima e sei in qualche modo responsabile di assicurarti di evitarlo il più possibile, mentre invece nell’apprendimento automatico, non c’è niente del genere, non ci sono indicazioni sull’uso improprio della tecnologia.
Mettere quella consapevolezza là fuori potrebbe aiutare le persone a essere davvero consapevoli del problema, quindi se ne parla almeno in circoli più ampi e può almeno essere qualcosa a cui prestare attenzione man mano che diventiamo sempre migliori nella costruzione di modelli di tossicità, ben venga.
A tal proposito, i ricercatori ci tengono a mettere dei paletti, infatti non vogliono supporre che l’IA dell’apprendimento automatico inizi a creare molecole tossiche e ci saranno una sfilza di nuovi agenti di guerra biochimica proprio dietro l’angolo, né vogliono essere allarmisti nel dire che ci sarà una guerra chimica guidata dall’IA, non è il caso né ora né nel lungo periodo, tuttavia è qualcosa che sta iniziando a diventare una possibilità.
Se sei attratto dalla scienza o dalla tecnologia, continua a seguirci, così da non perderti le ultime novità e news da tutto il mondo!
