Rimani aggiornato con WebMasterPoint
I deepfake alimentati dallintelligenza artificiale mettono alla prova la fiducia sui social. Il caso IdentifAI racconta come riconoscere e contrastare i contenuti falsi.
IdentifAI ed Exprivia hanno annunciato il 17 settembre 2026 una collaborazione per individuare contenuti manipolati o interamente generati dallintelligenza artificiale. Laccordo arriva mentre video, immagini, audio e testi sintetici diventano sempre pi credibili, con effetti concreti su truffe, disinformazione e campagne reputazionali sui social.
Un contenuto generato interamente dallAI non consiste necessariamente nel ritocco di una fotografia o nella correzione di una voce. Pu produrre da zero un volto, un filmato, una conversazione audio oppure un testo plausibile. Il suo aspetto realistico, per, non certifica lautenticit.
Nel campione di oltre diecimila incidenti deepfake analizzati da identifAI tra il 2020 e il 2026, il video pesa per il 45,6% dei casi. Le immagini rappresentano circa il 17%, mentre la clonazione vocale arriva al 10,5%. Nel 25% degli episodi sono presenti pi modalit insieme.
Deepfake sui social, la fiducia corre pi lentamente
I social agiscono da moltiplicatori. Secondo lo stesso studio, X associato alla diffusione del 51% degli incidenti, TikTok al 21%, YouTube al 10%, Facebook all8,2% e Instagram al 5%.
Gli obiettivi cambiano: monetizzazione, hacktivismo o propaganda. Il 20% dei casi esaminati, per, collegato ad azioni fraudolente. Tra questi rientrano anche gli attacchi multimodali, per esempio immagini costruite con lintento di ingannare i sistemi di accesso biometrico.
Un episodio recente rende chiaro quanto sia difficile riconoscere il falso a colpo docchio. Il CeMAS, organizzazione tedesca che monitora la disinformazione, ha individuato 47 canali YouTube con presentatori virtuali dedicati a temi politici e geopolitici. Dei 38 canali analizzati, 1.876 video pubblicati tra dicembre 2025 e agosto 2026 hanno totalizzato 7,55 milioni di visualizzazioni.
Alcuni utenti li hanno ritenuti autentici. Le etichette applicate a una parte dei video, inoltre, non spiegavano sempre con chiarezza se lintelligenza artificiale avesse creato lintero conduttore virtuale o soltanto alcuni elementi del contenuto.
La questione non si esaurisce nel dibattito politico. Immagini artificiali di corpi estremamente magri o sessualizzati possono condizionare la percezione del proprio aspetto anche quando chi le guarda sa che sono false. La credibilit tecnica investe cos la salute mentale, la reputazione e il consenso pubblico.
Come IdentifAI cerca di riconoscere i contenuti falsi
La soluzione sviluppata internamente da identifAI, presentata come conforme al GDPR, esamina in tempo reale immagini, audio, video registrati e videochiamate. Exprivia mette a disposizione competenze di cybersicurezza e consulenza specialistica. Alle aziende viene proposto un modello per verificare lintegrit delle informazioni e affrontare in anticipo i rischi.
Le fonti disponibili non riportano i tassi di accuratezza del sistema, n i valori relativi a falsi positivi e falsi negativi. Il rilevamento, quindi, non pu valere come prova automatica. Un risultato tecnico va letto insieme al contesto, alla provenienza del file e a una verifica umana.
Metadati e watermark possono fornire indicazioni utili, ma non sono sempre presenti. Possono essere rimossi e, da soli, non dimostrano lintenzione di chi ha pubblicato il contenuto.
La corsa procede a due velocit. La stessa AI che riduce il costo della falsificazione pu accelerare il debunking, mettendo a confronto anomalie visive, vocali e temporali su grandi quantit di file. La risposta pi solida richiede comunque strumenti diversi: tracciabilit della filiera digitale, etichette comprensibili, controlli indipendenti e responsabilit delle piattaforme.
Quando vedere e sentire non basta pi, la fiducia online dipende dalla possibilit di ricostruire la storia di un contenuto: chi lo ha creato, in che modo stato modificato e chi ne risponde.