Rimani aggiornato con WebMasterPoint
Lintelligenza artificiale sta trasformando la sanità, ma i rischi più concreti riguardano attacchi informatici, decisioni cliniche automatizzate, gestione dei dati e disuguaglianze.
Nel settembre 2026 la Cina ha aggiornato il proprio quadro per la sicurezza dellintelligenza artificiale, includendo sistemi di monitoraggio, allerta e risposta alle emergenze. La decisione di Pechino nasce da un timore concreto: modelli pi autonomi possono individuare vulnerabilit informatiche, manipolare dati oppure eseguire sequenze di azioni che, in seguito, risultano difficili da ricostruire. Negli Stati Uniti una parte del dibattito continua invece a concentrarsi sul rischio estremo di sistemi in grado di sottrarsi al controllo umano.
In ospedale, per, la distanza tra fantascienza e pratica quotidiana si accorcia in fretta. Quando un algoritmo pu accedere a cartelle cliniche, risultati di laboratorio e prescrizioni, un guasto informatico smette di essere soltanto un problema tecnico: pu incidere sulla sicurezza delle cure.
Cybersecurity e continuit dei servizi sanitari
Un agente artificiale non deve limitarsi a formulare una risposta. Se viene collegato ai sistemi operativi di una struttura sanitaria, pu pianificare azioni e interagire con pi archivi. Un chatbot che sbaglia produce uninformazione errata; un sistema autonomo che sbaglia pu modificare un percorso, posticipare un esame oppure interferire con dati e procedure. La macchina non deve avere una volont propria perch il rischio aumenti: contano i permessi ricevuti, gli strumenti a sua disposizione e la scarsa visibilit sulle decisioni che prende.
La sicurezza informatica diventa cos anche sicurezza clinica. Occorrono autorizzazioni ridotte al minimo, reti separate e registri completi delle attivit. Le decisioni ad alto impatto devono restare sotto supervisione umana, con la possibilit di arrestare subito il sistema.
Servono anche procedure analogiche, in modo da poter continuare a lavorare durante un guasto o un attacco. Le fonti disponibili descrivono il pericolo e le relative contromisure, ma non documentano un singolo episodio ospedaliero riportando durata dellinterruzione, numero di strutture coinvolte e danni clinici verificati. Questi elementi, quindi, non possono essere presentati come accertati.
Quando lalgoritmo influenza diagnosi e triage
Il rischio sanitario emerge anche senza immaginare un attacco informatico. Uno studio del 2026, pubblicato su Communications Medicine, ha valutato un modello linguistico chiamato a scegliere esami radiologici in scenari clinici realistici. In molti casi il sistema proponeva esami non coerenti con i criteri di appropriatezza, compreso imaging non necessario.
Si tratta di una sperimentazione, non della prova di un danno verificatosi in corsia. Il risultato, per, segnala una possibile cascata diagnostica: un numero maggiore di esami pu portare a falsi positivi, reperti incidentali, ulteriori visite e nuove procedure.
Una metanalisi del 2026 sulla collaborazione tra medici e modelli linguistici ha rilevato possibili vantaggi in alcuni compiti. Ha anche trovato risultati eterogenei e lasciato aperta lincertezza sulla trasferibilit alla pratica quotidiana.
Unanalisi del 2025, basata su oltre 1,7 milioni di risposte fornite da nove modelli, ha osservato raccomandazioni diverse al variare delle caratteristiche sociodemografiche dei pazienti. Nei casi associati a redditi elevati aumentavano le indicazioni a esami di imaging avanzato. Sono segnali che devono essere verificati in contesti reali; non costituiscono una stima dellerrore diagnostico complessivo.
Dati, supervisione e disuguaglianze
Un algoritmo validato in un grande ospedale pu rendere meno bene nellassistenza primaria, nelle aree rurali o con gruppi poco rappresentati nei dati utilizzati per svilupparlo. Il model drift, cio il deterioramento delle prestazioni quando cambiano popolazione, pratiche cliniche e informazioni disponibili, richiede controlli anche dopo ladozione.
Il prezzo dacquisto, da solo, non restituisce il costo delloperazione. Vanno considerati la qualit dei dati, la loro interoperabilit, la cybersecurity e la formazione del personale.
Nel 2026 la FDA, lagenzia statunitense per farmaci e dispositivi medici, ha proposto una valutazione graduata. Il livello di rigore cresce in rapporto a quanto il sistema autorizzato ad agire e alla gravit di un possibile errore. Il modello prevede benchmark, conferma clinica e sorveglianza post-market.
Resta da contrastare lautomation bias, ovvero ladesione automatica allindicazione della macchina. Per poterla contraddire, il professionista deve avere tempo, competenze e autorit.
La gerarchia dei rischi meno spettacolare di quella associata alla superintelligenza, ma pi urgente. La priorit va alla supervisione clinica, ai dati affidabili, agli accessi limitati e ai piani di continuit. LAI sanitaria pu aiutare a ricostruire una storia clinica o a segnalare uninterazione farmacologica; non deve ricevere una delega indistinta. Un ospedale maturo deve saper spegnere un algoritmo quando non produce un beneficio clinico dimostrato.