Rimani aggiornato con WebMasterPoint
L’intelligenza artificiale sta trasformando la cybersecurity, accentuando rischi come disinformazione, deepfake e fake news. Nunzia Ciardi analizza minacce, strumenti per difendersi e nuove sfide per cittadini, aziende e istituzioni.
Lecosistema digitale attraversa una trasformazione profonda sotto la spinta degli strumenti basati sullintelligenza artificiale. Nunzia Ciardi, figura di riferimento dellACN, osserva che la sicurezza informatica ha ormai superato i confini della tecnica. Oggi riguarda le istituzioni, le imprese e i cittadini, perch incide sul modo in cui le informazioni vengono prodotte, distribuite e interpretate.
Le nuove tecnologie rendono i sistemi pi capaci. Li espongono, per, a vulnerabilit aggiuntive. LIA genera opportunit e rischi: accelera i processi, automatizza attivit e consente di creare contenuti manipolati con una rapidit impensabile fino a poco tempo fa. Secondo Ciardi, le minacce si alimentano proprio di questa velocit e della distribuzione automatica dei messaggi.
Alla cybersicurezza servono quindi strumenti aggiornati, rilevazioni tempestive e una cultura condivisa della resilienza. Anche la diffidenza, quando costruttiva e accompagnata dalla verifica, diventa una forma di protezione.
Il pericolo non coincide pi con la singola intrusione o con lattacco isolato. Lintelligenza artificiale pu coordinare campagne di disinformazione capaci di intervenire sulla circolazione delle notizie e sulla percezione dei fatti. Il passaggio dalla notizia autentica alla sua versione falsata una delle questioni pi delicate per la sicurezza informatica.
Dalla notizia reale alla manipolazione digitale: come si costruisce una falsa narrazione
Seguire il percorso di una notizia, dal fatto originario alla sua versione alterata, aiuta a capire in quali punti si concentrano i rischi dellautomazione. Un evento pu essere ripreso dai social network, privato del suo contesto e arricchito con elementi inventati. A quel punto, la distinzione tra ci che accaduto e ci che stato costruito diventa meno immediata.
Il percorso presenta di solito pi passaggi:
- un evento reale viene raccolto e rilanciato sui social network o su siti che non sottopongono i contenuti a verifiche sufficienti;
- il materiale viene modificato nel testo oppure accompagnato da immagini e video generati con lIA, inclusi i deepfake;
- la versione alterata entra in circuiti sempre pi estesi, sostenuta dalle condivisioni degli utenti, consapevoli o inconsapevoli del contributo che stanno dando alla sua diffusione;
- la narrazione si radicalizza e, per visibilit, pu superare il contenuto originario, influenzando la discussione pubblica.
Lautomazione aggiunge un ulteriore livello di precisione. Le storie possono essere adattate alle convinzioni di gruppi specifici, con messaggi plausibili e costruiti su misura. Il risultato una maggiore polarizzazione e una fiducia pi debole nelle informazioni autentiche.
Come nasce e si diffonde una fake news con lintelligenza artificiale
La disinformazione utilizza canali e tecniche che in passato non erano disponibili con la stessa facilit. Una fake news pu partire da un dato vero, presentato per fuori contesto, oppure da un contenuto prodotto direttamente da algoritmi di intelligenza artificiale. Lapparenza di attendibilit spesso il primo obiettivo.
La fase iniziale quella della creazione. Operatori umani e bot elaborano testi, immagini, audio o video molto verosimili. Per produrre materiali convincenti erano necessarie competenze avanzate; labbassamento delle barriere tecnologiche ha cambiato la situazione. Oggi la produzione seriale accessibile a chi dispone di mezzi minimi.
La spinta decisiva arriva quando il contenuto entra nei sistemi di raccomandazione. Gli algoritmi delle piattaforme premiano ci che suscita attenzione e coinvolgimento, senza distinguere automaticamente tra informazione corretta e messaggio ingannevole. La struttura dei social network favorisce una propagazione esponenziale: pochi retweet o condivisioni possono portare una bufala davanti a un pubblico globale.
Dentro questo circuito agiscono utenti che non conoscono lorigine del materiale, bot programmati per replicare determinate azioni e soggetti che organizzano professionalmente la campagna. Le attivit possono procedere insieme, fino a dare alla versione alternativa laspetto di un consenso spontaneo.
Bot e deepfake: lautomazione amplifica la disinformazione
Lautomazione ha modificato sia la produzione sia la distribuzione dei contenuti ingannevoli. Bot e deepfake occupano una posizione centrale nellecosistema della disinformazione digitale. I bot sono programmi che imitano lattivit degli utenti e possono essere impiegati in modi differenti:
- diffondono post e articoli in modo coordinato attraverso moltissimi account;
- creano tendenze artificiali aumentando automaticamente like, commenti e condivisioni;
- raggiungono gruppi selezionati con messaggi personalizzati, cos da accentuare la polarizzazione;
- sommergono le informazioni attendibili con una quantit di contenuti falsi o privi di rilevanza.
Il deepfake ha portato il problema su un piano ancora pi difficile da gestire. Video, audio e immagini ultra-realistici possono rappresentare eventi mai avvenuti o attribuire a una persona dichiarazioni che non ha mai pronunciato. Il falso non appare necessariamente grossolano. In molti casi anche un osservatore esperto fatica a riconoscerlo, soprattutto quando lurgenza della cronaca lascia poco tempo per controllare ogni dettaglio.
La combinazione di IA, automazione e comportamento degli utenti permette a una narrazione falsa di imporsi nel giro di poche ore. La manipolazione coordinata non pi un episodio raro: ricorre con regolarit nellambiente digitale.
Algoritmi personalizzati e difficolt nel distinguere vero e falso
Tra i meccanismi pi rilevanti delle piattaforme social c la profilazione degli utenti. Gli algoritmi analizzano le interazioni e selezionano i contenuti che ritengono pi vicini agli interessi di ciascuno. La personalizzazione dei flussi informativi pu creare camere deco, dove le convinzioni gi presenti ricevono conferme continue e incontrano raramente opinioni diverse.
La familiarit, in questo ambiente, rischia di essere scambiata per attendibilit. Un messaggio visto molte volte sembra pi credibile proprio perch conosciuto. Da qui derivano almeno tre conseguenze:
- diventa pi difficile separare le notizie autentiche dai contenuti manipolati o generati artificialmente;
- si consolidano comunit digitali molto coese, allinterno delle quali prendono forma vere e proprie verit parallele;
- la verifica viene respinta con maggiore facilit, perch ci che conferma la propria visione viene percepito come reale.
La disinformazione personalizzata sfrutta il bisogno di ricevere conferme e la capacit dellIA di produrre rapidamente narrazioni ad hoc. Chi esposto senza interruzione a messaggi costruiti sui propri interessi pu perdere i riferimenti necessari per orientarsi in un ambiente informativo gi inquinato.
Disinformazione coordinata: esempi e conseguenze sui social network
I conflitti internazionali recenti hanno mostrato con chiarezza la portata delle campagne di disinformazione su larga scala. In ambito politico e militare sono circolati contenuti sintetici prodotti con lIA: video di bombardamenti, dichiarazioni attribuite a capi di Stato e immagini di offensive mai avvenute. Erano materiali artificiali, ma costruiti in modo da risultare plausibili.
Il loro effetto non si misura soltanto attraverso il numero delle visualizzazioni. Questi contenuti possono alimentare paure, orientare le opinioni e indebolire credibilit e fiducia nelle istituzioni e nei media.
Le societ di analisi hanno documentato lazione coordinata di reti di account, spesso amministrate da software. Gli stessi messaggi e gli stessi video contraffatti vengono rilanciati da profili che sembrano indipendenti, fino a raggiungere milioni di visualizzazioni in poche ore. Lapparenza di molteplicit rafforza limpressione che la notizia sia stata confermata da fonti diverse.
TikTok, X, gi Twitter, Facebook e Instagram sono tra gli spazi preferiti per queste attivit. Le campagne possono perseguire obiettivi geopolitici o propagandistici. In altri casi puntano alla monetizzazione: account alimentati con follower ottenuti attraverso contenuti sensazionalistici possono essere venduti.
In una guerra ibrida, la disinformazione non nasce da un errore occasionale. il risultato di una programmazione diretta a condizionare la percezione collettiva, spesso sfruttando i vuoti informativi creati dalla rapidit con cui lIA produce e diffonde contenuti.
Segnali e strumenti per riconoscere i contenuti manipolati
Individuare una manipolazione digitale richiede strumenti tecnici, ma anche attenzione costante. Alcuni indizi possono suggerire che un contenuto sia stato alterato:
- watermark, metadati insoliti o etichette sullorigine inserite automaticamente da piattaforme e programmi;
- difetti visivi, come espressioni facciali innaturali, audio fuori sincronia e oggetti che compaiono o scompaiono, comprese automobili clonate;
- particolari ambientali incoerenti: skyline poco realistici, ombre incompatibili con la luce o oggetti che si muovono in modo anomalo;
- fonti non verificabili oppure collegamenti che conducono a siti con scarsa affidabilit.
Esistono applicazioni e piattaforme capaci di esaminare file multimediali e restituire una valutazione sulla probabilit che siano stati manipolati con lintelligenza artificiale. Il risultato, per, non equivale a una certezza.
Questi strumenti hanno margini di errore. Le tecniche di alterazione cambiano insieme alle contromisure e un metodo efficace oggi pu diventare meno preciso in seguito. Lanalisi umana rimane quindi lultimo passaggio: richiede consapevolezza, tempo e attenzione ai dettagli sospetti.
Verificare le fonti per difendersi dalle falsit digitali
La verifica delle fonti la difesa pi affidabile contro le falsit prodotte e diffuse online. Quando arriva una notizia sconvolgente o presentata come eccezionale, conviene fermarsi prima di condividerla. Bastano alcune operazioni:
- controllare lorigine dellinformazione e lautorevolezza del soggetto che la pubblica, con cautela verso i siti poco conosciuti o privi di una reputazione verificabile;
- confrontare il contenuto con quanto riportato da fonti differenti e affidabili, come testate giornalistiche strutturate e agenzie di stampa;
- verificare la data, la provenienza geografica e la coerenza delle immagini o dei video allegati.
Gli strumenti OSINT, cio Open Source Intelligence, rendono pi semplice il confronto tra dati, fotografie e filmati. Gli utenti pi esperti possono risalire allorigine di un contenuto, confrontarne le versioni e individuare eventuali anomalie.
Contrastare la manipolazione digitale una responsabilit condivisa. Non basta osservare il contenuto: occorre esaminare anche il modo in cui viene presentato, il sito da cui proviene e il percorso che lo ha portato fino a noi.
Confronto tra testate, data e contesto
Quando lIA produce messaggi adatti a pubblici diversi, il confronto tra testate e il controllo del contesto diventano indispensabili. La verifica incrociata pu far emergere discrepanze tra le versioni della stessa notizia pubblicate da testate nazionali, internazionali o specializzate nel fact-checking.
Se una notizia compare soltanto su siti marginali, forum poco accreditati o canali privi di riferimenti chiari, il rischio di manipolazione aumenta. Non una prova definitiva, ma un segnale da prendere sul serio.
La data di pubblicazione merita un controllo specifico. Molte bufale vengono riciclate cambiando il riferimento temporale o geografico. Fotografie e video autentici possono essere associati a episodi diversi da quello per cui erano stati realizzati.
Il contesto consente di riconoscere anche gli schemi ricorrenti. La stessa struttura narrativa pu riapparire con protagonisti e dettagli differenti, nel tentativo di aggirare filtri e sistemi di controllo sempre pi sofisticati.
Lutente consapevole come barriera contro deepfake e disinformazione
La responsabilit individuale resta un argine concreto alla circolazione dei deepfake e dei contenuti disinformativi. La competenza digitale si vede nelle azioni quotidiane: non condividere un messaggio prima di averne verificato lorigine, dubitare delle notizie costruite per provocare una reazione immediata, cercare conferme prima di contribuire alla loro diffusione.
Non serve essere specialisti per applicare questa cautela. Serve interrompere lautomatismo della condivisione.
Ogni persona occupa un punto della catena informativa. Se cresce la consapevolezza, diminuisce la possibilit che una falsit raggiunga altri utenti. Le piattaforme social e i sistemi tecnologici di contrasto svolgono una funzione utile, ma buon senso e spirito critico non possono essere replicati interamente da un filtro automatico.
Una cittadinanza digitale informata costituisce una componente della resilienza collettiva. La qualit dellinformazione dipende anche dalle scelte di chi legge, ascolta e rilancia.
Le sfide per aziende, istituzioni e cittadini nella cybersecurity alimentata dallIA
Lautomazione delle minacce mette sotto pressione lintero tessuto socio-economico. Aziende e istituzioni ricevono truffe sempre pi sofisticate, costruite sui dati della vittima e distribuite attraverso email, telefonate o colloqui di lavoro falsi. Audio e video sintetizzati possono imitare persone reali, rendendo meno riconoscibili gli attacchi.
Identit, voci e informazioni sensibili vengono replicate con precisione. Il bersaglio pu accorgersi dellinganno soltanto dopo aver fornito dati, aperto un collegamento o compiuto unoperazione.
Le imprese devono investire in sistemi di protezione capaci di aggiornarsi e formare con continuit il personale. Le istituzioni pubbliche sono chiamate a cooperare a livello nazionale e internazionale, anche attraverso le leggi e le direttive europee sulla cybersicurezza, per costruire difese condivise.
Anche i cittadini sono esposti. Per loro diventa necessario acquisire competenze digitali adeguate e conoscere strumenti e metodi utili a controllare lautenticit delle comunicazioni ricevute.
Perch le difese automatiche hanno ancora dei limiti
Levoluzione dellintelligenza artificiale non rende infallibili i sistemi automatici di difesa. Anche i software pi efficaci nel riconoscimento dei contenuti falsi possono sbagliare, talvolta in misura rilevante, soprattutto davanti a manipolazioni recenti o particolarmente sofisticate.
Affidarsi allidea di una protezione totale rischioso. Pu portare a ridurre lattenzione proprio quando il contenuto richiederebbe un controllo pi accurato.
Il monitoraggio delle principali piattaforme ha mostrato che i sistemi di IA commettono ancora errori nel separare correttamente verit e falsit. Il problema emerge con maggiore evidenza quando la velocit dellaggiornamento viene privilegiata rispetto alla verifica.
In questi casi, la prudenza personale rimane necessaria: sospendere il giudizio, controllare manualmente le fonti e attendere eventuali conferme ufficiali sono comportamenti difensivi concreti. Nessun filtro automatico pu sostituire la competenza umana. La sicurezza nasce anche dalla disponibilit a mettere in discussione ci che appare sullo schermo, arriva dagli altoparlanti o viene mostrato in un video.
Educazione digitale e spirito critico per la resilienza futura
La consapevolezza digitale e lesercizio del pensiero critico aiutano a rendere la societ pi resistente alle minacce provenienti da ambienti automatizzati e manipolati con lIA. Leducazione, scolastica e permanente, deve offrire strumenti per leggere, decodificare e mettere alla prova le narrazioni diffuse dai nuovi media.
Servono percorsi accessibili a tutte le fasce det, non iniziative occasionali. Tra le misure da promuovere rientrano:
- corsi di alfabetizzazione digitale rivolti a bambini, adulti e anziani;
- formazione specifica per riconoscere i contenuti sintetici e le tecniche impiegate nelle campagne di disinformazione;
- campagne informative continuative, diffuse attraverso canali ufficiali e realizzate con la collaborazione tra soggetti pubblici e privati.
Il rafforzamento del pensiero critico richiede unabitudine precisa: mettere alla prova ogni informazione, anche quando proviene da una fonte che sembra autorevole. Una societ preparata pu ridurre limpatto delle minacce in un ambiente digitale nel quale la cybersecurity sempre pi legata allintelligenza artificiale. La verifica, in questo scenario, non un passaggio accessorio: il comportamento che interrompe la catena della manipolazione.