L’intelligenza artificiale può rendere credibili radiografie false, citazioni inesistenti e perfino dataset clinici costruiti da zero. Il problema non è teorico: nel 2026 sono emersi casi e studi che mostrano quanto sia diventato difficile distinguere materiale scientifico autentico da contenuti generati o manipolati con sistemi di AI.
Il rischio più serio non riguarda la semplice presenza dell’AI nella ricerca, dove può essere uno strumento utile, ma l’uso non dichiarato o fraudolento di modelli generativi per creare prove che sembrano plausibili. Quando un’immagine, una bibliografia o un database falso supera i primi controlli, può entrare nella letteratura scientifica e complicare il lavoro di revisori, medici e ricercatori.
Il caso del New England Journal of Medicine
Il 29 aprile 2026 il New England Journal of Medicine ha pubblicato una ritrattazione relativa a un caso clinico sui cosiddetti bronchial casts, strutture che possono formarsi all’interno delle vie respiratorie.
Gli autori hanno spiegato di aver usato uno strumento di intelligenza artificiale per spostare un righello all’interno dell’immagine. La modifica non alterava il reperto clinico in sé, ma violava le regole della rivista sulla manipolazione delle immagini e sull’obbligo di dichiarare l’uso di strumenti AI.
È un dettaglio importante: il caso non dimostra che tutta l’immagine fosse falsa, ma mostra quanto sia sottile il confine tra correzione grafica e manipolazione scientifica quando entra in gioco l’AI. In una pubblicazione medica, anche un intervento apparentemente minimo deve essere tracciabile.
Radiografie deepfake: solo il 41% le nota spontaneamente
Uno dei risultati più interessanti arriva da uno studio pubblicato su Radiology. I ricercatori hanno mostrato a 17 radiologi 154 radiografie, metà autentiche e metà generate con ChatGPT GPT-4o.
Quando i medici non sapevano che il vero obiettivo del test fosse individuare immagini sintetiche, solo 7 su 17, cioè il 41%, si sono accorti spontaneamente della presenza di radiografie generate dall’AI. Dopo essere stati informati che alcune immagini erano false, l’accuratezza media nel distinguerle da quelle reali è salita al 75%.
Questa distinzione è fondamentale. Dire che i radiologi riconoscono le immagini false soltanto quattro volte su dieci sarebbe impreciso: il 41% indica quanti hanno notato spontaneamente il problema senza sapere che stavano partecipando a un test sui deepfake. Quando il compito è diventato esplicito, le prestazioni sono migliorate, ma gli errori sono rimasti numerosi.
Le immagini sintetiche tendevano a mostrare segnali ricorrenti, come ossa troppo lisce, strutture eccessivamente simmetriche, texture dei tessuti poco naturali e linee di frattura insolitamente regolari. Nonostante questi indizi, né i radiologi né i modelli AI usati come controllori sono riusciti a identificare tutti i falsi.
Le citazioni inesistenti stanno aumentando
Il problema riguarda anche i testi scientifici. Un audit internazionale pubblicato nel 2026 ha analizzato circa 2,5 milioni di articoli biomedici e oltre 97 milioni di riferimenti bibliografici. Il sistema di verifica ha identificato 4.046 citazioni fabbricate in 2.810 articoli.
La frequenza è cresciuta rapidamente: nel 2023 circa un articolo su 2.828 conteneva almeno una citazione inesistente; nel 2025 il rapporto era circa uno su 458; nelle prime sette settimane del 2026 è arrivato a uno su 277.
Questo aumento coincide temporalmente con la diffusione dei modelli linguistici nella scrittura accademica, ma non significa che ogni riferimento falso sia stato creato da un chatbot. Le citazioni inventate possono derivare anche da paper mill, errori, cattiva condotta o controlli insufficienti. Il dato importante è che i riferimenti generati dall’AI possono apparire completi, ben formattati e attribuiti ad autori reali, rendendo la verifica manuale più difficile.
È lo stesso tipo di problema già emerso con le allucinazioni di Whisper in ambito medico: un sistema può produrre una risposta linguisticamente credibile anche quando il contenuto non corrisponde alla realtà.
Un intero dataset clinico può essere costruito da zero
Nel 2023 Andrea Taloni, Vincenzo Scorcia e Giuseppe Giannaccare hanno mostrato su JAMA Ophthalmology che GPT-4 Advanced Data Analysis poteva essere usato per generare un dataset medico sintetico progettato per sostenere una conclusione scientifica prestabilita.
Il punto non era dimostrare un risultato clinico, ma far vedere quanto fosse semplice fabbricare dati con distribuzioni, caratteristiche dei pazienti e risultati apparentemente coerenti. I lavori successivi dello stesso filone hanno studiato sia i segnali statistici che possono tradire un dataset sintetico sia i modi in cui la generazione può essere raffinata per renderlo meno riconoscibile.
Questo apre una sfida nuova per il peer review. Un revisore può controllare la metodologia, la coerenza delle tabelle e la plausibilità dei risultati, ma non sempre ha accesso ai dati grezzi, ai log di raccolta o alle prove indipendenti che dimostrino che i pazienti descritti siano realmente esistiti.
Perché il rischio è più serio in medicina
Uno studio falso non diventa automaticamente una linea guida clinica. Prima di arrivare alle raccomandazioni per i medici esistono revisioni sistematiche, valutazioni della qualità delle prove e controlli metodologici. Il rischio, però, è a monte: se dati o lavori falsi entrano nella letteratura, possono contaminare il materiale che altri ricercatori devono valutare.
Più aumenta il volume delle pubblicazioni, più diventa costoso controllare manualmente immagini, riferimenti e dataset. La stessa AI può aiutare a rilevare anomalie, ma non può essere considerata un arbitro infallibile. Lo studio sulle radiografie deepfake lo mostra bene: anche i modelli multimodali commettono errori nel riconoscere immagini sintetiche create da altri sistemi, e perfino dal proprio ecosistema tecnologico.
Come possono cambiare i controlli scientifici
La risposta non è vietare l’AI nella ricerca. I modelli possono essere utili per analizzare grandi quantità di dati, formulare ipotesi, migliorare la leggibilità di un testo o supportare attività ripetitive. Il problema è stabilire quali passaggi devono essere dichiarati, verificati e riproducibili.
- verifica automatica dei riferimenti su più database scientifici
- conservazione dei dati grezzi e dei log di acquisizione
- tracciabilità delle modifiche effettuate sulle immagini
- dichiarazione esplicita dell’uso di sistemi generativi
- controlli statistici mirati sui dataset sospetti
Il tema si collega a un problema più ampio già discusso quando abbiamo analizzato quanto ci si possa fidare dell’intelligenza artificiale nella ricerca scientifica: un modello può trovare correlazioni utili senza comprendere il significato scientifico di ciò che produce.
Il punto non è se l’AI possa falsificare la scienza, ma quanto sia facile accorgersene
Nel giro di pochi anni siamo passati da testi con errori evidenti a sistemi capaci di generare immagini mediche credibili, bibliografie plausibili e dataset strutturati. Questo non rende la ricerca scientifica inaffidabile, ma cambia il tipo di verifica necessario.
La fiducia non può più dipendere soltanto dall’aspetto convincente di un’immagine, dalla precisione formale di una citazione o dalla coerenza statistica di una tabella. Servono prove di provenienza, controlli incrociati e procedure capaci di verificare che ciò che sembra reale lo sia anche fuori dal documento.
