Rimani aggiornato con WebMasterPoint
Dai pazienti inesistenti alle immagini cliniche artificiali: luso di ChatGPT può alimentare frodi nella ricerca medica. Tracciabilità e studi registrativi aiutano a smascherarle.
Un esperimento italiano ha chiesto a ChatGPT di costruire un database di pazienti inesistenti e di dimostrare la superiorit di un trattamento. Il risultato stato abbastanza convincente da superare una prima lettura statistica: il sistema ha prodotto dati clinici falsi ma plausibili, con un esito favorevole alla terapia deciso fin dallinizio.
Il caso si colloca nellallarme lanciato da Milena Gabanelli e Andrea Priante sullimpiego dellintelligenza artificiale nelle pubblicazioni scientifiche. ChatGPT pu creare pazienti e dataset sintetici, oltre a testi, riferimenti bibliografici e immagini verosimili. Il punto non che il chatbot generi da solo unevidenza medica. Il rischio concreto un altro: rendere pi veloce, meno costosa e pi credibile una frode che gli strumenti tradizionali gi consentivano.
Il test italiano sui pazienti inesistenti
Non stato scoperto uno studio clinico contraffatto. Lesperimento non dimostra nemmeno che un farmaco sia stato autorizzato sulla base di dati inventati. I ricercatori hanno fabbricato intenzionalmente un archivio di pazienti per capire quanto fosse difficile individuare la manipolazione. Al sistema stato chiesto di costruire casi clinici coerenti e di sostenere la superiorit di un trattamento.
Il valore del test sta soprattutto nella possibilit di ripeterlo. Un modello generativo pu produrre in poco tempo grandi quantit di righe, variabili e profili individuali, conservando laspetto di una distribuzione realistica. Qui si misura la capacit di moltiplicare la produzione fraudolenta. Leffetto definito per 10 non significa, dunque, che un medicinale diventi dieci volte pi efficace.
Le fonti disponibili non riportano un numero verificato di pazienti creati. Non identificano neppure i ricercatori n una pubblicazione scientifica completa dellesperimento. Questo limite va tenuto presente quando si valuta la portata del caso.
Da testi falsi a immagini cliniche artificiali
Gli episodi gi emersi toccano momenti differenti della comunicazione scientifica. Alcuni articoli sono stati ritirati perch contenevano frasi palesemente generate dallintelligenza artificiale. In un altro caso, unimmagine clinica era stata modificata con strumenti generativi. Un esperimento dimostrativo ha poi prodotto radiografie artificiali difficili da distinguere da quelle autentiche.
Non tutti questi episodi costituiscono una frode clinica. Unimmagine alterata in un manoscritto pu compromettere la documentazione di un risultato; una radiografia sintetica pu essere stata prodotta proprio per mostrare lesistenza di una vulnerabilit. Un dataset inventato, invece, incide direttamente sulle stime di efficacia e sicurezza quando viene presentato come se derivasse da osservazioni reali.
Il punto comune la perdita di verificabilit della letteratura scientifica. Quando il lettore non pu ricostruire lorigine di un dato, diventa pi difficile distinguere un errore, una dimostrazione tecnica e una manipolazione intenzionale.
Come riconoscere le manipolazioni
La verifica non pu essere affidata a un singolo rilevatore di ChatGPT. Revisori, editori e ricercatori possono confrontare:
- protocollo, numeri aggregati e dati individuali, cercando incoerenze;
- duplicazioni o distribuzioni statistiche insolitamente regolari;
- metadati incoerenti, tracce di modifica e file privi di una storia documentale;
- anomalie nelle immagini, nei pixel, nelle etichette o nelle proporzioni anatomiche;
- riferimenti bibliografici inesistenti e frasi estranee allo stile del manoscritto.
Una segnalazione pu arrivare durante la revisione, dopo la pubblicazione oppure attraverso piattaforme dedicate alla discussione della letteratura, come PubPeer. A quel punto leditore pu chiedere i dati originali, aprire unindagine e ritirare larticolo. Per le procedure relative alla condotta della ricerca, le politiche editoriali fanno riferimento anche alle indicazioni del Committee on Publication Ethics, organismo internazionale noto come COPE.
Nessun controllo, preso isolatamente, infallibile. Laffidabilit aumenta quando lesame umano viene affiancato dallanalisi forense e dalla possibilit di accedere alla documentazione primaria. il confronto tra fonti e tracce diverse a rendere pi solida una contestazione.
Perch uno studio registrativo pi difficile da falsificare
Un manoscritto inviato a una rivista non coincide con una sperimentazione clinica registrativa. Prima che lo studio inizi, il protocollo viene valutato dalle autorit regolatorie e dai comitati etici. Linsieme della sperimentazione registrato in registri pubblici; ogni centro partecipante deve essere identificato e autorizzato. I pazienti devono aver espresso il consenso informato, essere stati visitati e seguiti in strutture riconoscibili.
Il dato elettronico deve poter essere ricondotto a cartelle cliniche, referti, esami, prescrizioni e dispensazione dei farmaci. Ogni modifica deve lasciare una traccia. Il monitoraggio dello sponsor, i controlli centralizzati, la riconciliazione degli eventi avversi, gli audit e le eventuali ispezioni consentono alle autorit di consultare anche la documentazione relativa ai singoli partecipanti.
La falsificazione sistematica resta possibile in astratto, ma non coincide con la semplice creazione di un file plausibile. Per sostenerla sarebbe necessario aggirare una catena di controlli indipendenti. questa la differenza principale tra un archivio costruito a tavolino e uno studio registrativo sottoposto a verifiche distribuite nel tempo.
Una vulnerabilit maggiore pu riguardare gli studi accademici spontanei di piccole dimensioni. Spesso dispongono di risorse limitate per la gestione dei dati, il monitoraggio e gli audit. Ci non rende meno seria la ricerca indipendente, che affronta anche domande senza interesse commerciale. Segnala, piuttosto, il bisogno di finanziamenti, supporto statistico e controlli proporzionati al rischio.
La fiducia passa dalla tracciabilit
ChatGPT pu assistere medici e ricercatori mettendo in relazione cartelle cliniche autorizzate e banche dati come PubMed, DailyMed, CMS Coverage e ClinicalTrials.gov. Proprio la capacit di riunire informazioni diverse rende necessaria una supervisione attenta. Un riassunto generato dallIA deve poter essere verificato e non pu sostituire la fonte originale.
Per diagnosi, sperimentazioni e decisioni regolatorie servono dati riconducibili a pazienti reali, registrazione preventiva degli studi, audit, conservazione dei metadati e una responsabilit umana dichiarata. Lintelligenza artificiale pu amplificare una frode, ma non elimina le garanzie gi previste. La fiducia deve essere informata: dipende dalla trasparenza, dalla possibilit di ricostruire i passaggi del lavoro e da sanzioni quando la fabbricazione dei risultati viene accertata.