Come individuare i deepfake con scambio di volti nelle foto e nei brevi video

I deepfake stanno diventando sempre più abili nell'ingannare l'occhio umano. 

Immagina una videochiamata del tuo capo che ti chiede di autorizzare un bonifico urgente. Il volto, la voce e i gesti sembrano tutti autentici, ma la persona sullo schermo non è reale.

Lo scambio di volti tramite deepfake rende ora possibile questo scenario e, secondo uno studio, le persone riescono a individuare i video deepfake solo nel 58% dei casi, secondo uno Studio del 2026 in Ricerca cognitiva: principi e implicazioni. I truffatori li utilizzano per spacciarsi per dirigenti, personaggi famosi e partner sentimentali, e il realismo continua a migliorare.

In questa guida illustriamo come individuare i casi di sostituzione del volto nelle foto e nei brevi video tramite revisione manuale e rilevamento tramite IA, per poi verificare l'efficacia del rilevamento tramite IA.

---

Punti di forza

• Il nostro test ha rilevato che i rilevatori di Undetectable AI hanno segnalato tutti e cinque i campioni di scambio di volti: le tre immagini con punteggi compresi tra 1% e 49% sono state ritenute probabilmente autentiche, mentre i due video con punteggi di 86% e 97% sono stati ritenuti probabilmente generati dall’IA.

• Il campione numero tre ha dato il risultato più debole (49% reale), quindi è meglio interpretare i punteggi di rilevamento come probabilità piuttosto che come prove definitive.

• I controlli manuali alla ricerca di difetti quali linee di unione, illuminazione anomala e sfarfallio rappresentano un primo passo utile, ma possono non individuare i modelli più recenti che nascondono tali imperfezioni.

• La lezione da trarre è quella di combinare la revisione visiva, la verifica delle fonti e dei metadati e il rilevamento tramite intelligenza artificiale, anziché affidarsi a un unico metodo.

• I rilevatori di immagini e video di Undetectable AI, basati sulla tecnologia TruthScan, individuano anomalie a livello di pixel e modelli statistici che spesso sfuggono all’occhio umano

---

Che cos’è uno scambio di volti con la tecnica deepfake?

Uno "swap facciale" deepfake è un'immagine o un video generato o manipolato dall'intelligenza artificiale che sostituisce il volto di una persona con quello di un'altra. La tecnologia utilizza tecniche di deep learning per mappare e riprodurre i modelli dei tratti del viso, delle espressioni e dei movimenti, un processo che rende la sostituzione finale più convincente. 

Esempi di truffe basate sullo scambio di volti tramite deepfake

Sebbene lo scambio di volti possa essere un innocuo passatempo o servire a fini creativi, alcuni malintenzionati lo utilizzano anche per spacciarsi per altre persone, vittime del pesce gatto, oppure diffondere informazioni fuorvianti. I deepfake aiutano i truffatori a nascondere la propria vera identità e a conquistare la fiducia di vittime ignare. 

Sfide di imitazione durante le videochiamate

I truffatori utilizzano la tecnologia deepfake per spacciarsi per persone di fiducia durante le videochiamate in diretta. Possono fingersi dirigenti, familiari o figure autoritarie per manipolare le vittime e indurle a consegnare denaro o informazioni sensibili. 

Pubblicità con personaggi famosi fittizi 

I truffatori sfruttano l'immagine di una personalità pubblica di fiducia per approfittare della buona fede e della fiducia del proprio pubblico. Potrebbero promuovere iniziative sospette o ad alto rischio, come piattaforme di criptovalute, truffe sugli investimenti o prodotti miracolosi. 

Truffe romantiche

Una truffa sentimentale consiste nell’uso, da parte di un truffatore, di un’identità falsa per instaurare una relazione con una vittima, solitamente tramite un appuntamenti plpiattaforma. Il truffatore sfrutta le emozioni della vittima, indurla a inviare denaro, a rivelare informazioni sensibili o a iscriversi a piattaforme di investimento fraudolente. 

Bypass KYC 

La tecnologia deepfake è in grado di creare documenti d'identità che sembrano sufficientemente convincenti da eludere i controlli KYC. I truffatori utilizzano questi documenti sintetici per creare identità fittizie, aprire conti fraudolenti e ottenere accesso non autorizzato ai servizi finanziari.

Come individuare i deepfake con volti sfocati

Sebbene i deepfake con sostituzione del volto stiano diventando sempre più convincenti, l’analisi visiva, l’esame dei metadati e gli strumenti di rilevamento basati sull’intelligenza artificiale possono ancora aiutare a distinguerli dai contenuti autentici. Ecco una guida passo passo per identificare i deepfake con sostituzione del volto. 

Fase 1: Effettuare un controllo visivo manuale

Poiché i modelli generativi utilizzano processi matematici per creare immagini, anziché riprendere direttamente le scene con una telecamera, i risultati che producono contengono spesso sottili Artefatti dell'intelligenza artificiale che siano in contrasto con l'anatomia naturale, l'illuminazione o le interazioni fisiche.

Tra gli elementi che puoi verificare figurano: 

• Distorsioni facciali: Occhi disallineati, lineamenti del viso asimmetrici, denti dall’aspetto innaturale o texture della pelle irregolari.
• Incoerenze nell'illuminazione: Ombre, luci o tonalità della pelle che non si armonizzano con la scena circostante.
• Artefatti di fusione: Cuciture visibili, bordi sfocati o transizioni innaturali nel punto in cui il volto sostituito si unisce alla testa originale.
• Espressioni innaturali: Movimenti o espressioni facciali che appaiono rigidi, esagerati o incoerenti con il resto del viso.
• Struttura della pelle non uniforme: Differenze in termini di nitidezza, livello di dettaglio o consistenza tra il volto sostituito e la pelle circostante.
• Distorsioni dei contorni: Deformazioni lungo la linea della mascella, l’attaccatura dei capelli, le orecchie o il collo, nei punti in cui il volto sostituito si unisce all’immagine originale.
• Incoerenze temporali nei video: Tratti del viso tremolanti, cambiamenti improvvisi nell'aspetto o movimenti che non risultano coerenti da un fotogramma all'altro.

Questo metodo è efficace per i modelli più datati o più semplici, che non sono al passo con le moderne tecniche di generazione. Tuttavia, molti modelli più recenti sono stati addestrati a sufficienza per nascondere gli artefatti in modo più efficace, rendendo più difficile l’identificazione degli scambi di volti deepfake attraverso la sola ispezione visiva.

Fase due: confrontare l'elemento sospetto con altri supporti

Se il presunto deepfake proviene da una pubblicazione online (anziché da un'immagine privata, una foto del profilo o una videochiamata), vale la pena esaminare le informazioni contestuali. Il contesto e la fonte del contenuto mediatico possono rivelare incongruenze che suggeriscono una manipolazione o una rappresentazione fuorviante.

Ecco alcuni modi per verificarlo:

• Verifica la fonte originale: Cerca la versione più recente disponibile dell'immagine o del video. Le foto autentiche provengono solitamente da testate giornalistiche affidabili, siti web ufficiali o account verificati. Se il contenuto multimediale è stato pubblicato altrove, hai motivo di considerarlo con sospetto. 
• Guarda le altre foto della persona: Se la persona raffigurata nel deepfake è un personaggio pubblico o qualcuno che conosci, altre foto verificate o immagini simili costituiscono un valido punto di riferimento. Confrontando il contenuto sospetto con queste altre foto è possibile individuare discrepanze nei tratti del viso, nelle espressioni o in altri dettagli contestuali. 
• Cerca prove a conferma: Verifica se altre fonti attendibili confermano l'evento, la dichiarazione o l'interazione riportati dai media.

Il fatto che un contenuto sia pubblicato da una fonte verificata non garantisce che una foto o un video siano autentici. Tuttavia, riduce notevolmente la probabilità che la foto venga utilizzata a fini fraudolenti. 

Fase 3: Verifica dei metadati e della provenienza

I metadati sono i dati contenuti in un'immagine o in un video che ne descrivono le caratteristiche, comprese le modalità di creazione, modifica ed elaborazione. I record di provenienza, invece, contengono informazioni sull'origine di un file e sulle modifiche subite nel tempo. Entrambi forniscono indizi utili sulle origini di un presunto deepfake con scambio di volti. 

L'ispezione dei metadati e dei record di provenienza prevede le seguenti fasi: 

1. Scarica il file originale: Il primo passo consiste nell'ottenere l'immagine o il video direttamente dalla fonte originale. Evitate gli screenshot o i contenuti ripubblicati sui social media, che in genere eliminano, alterano o ricodificano i metadati. 
2. Controlla i metadati: È possibile visualizzare i metadati utilizzando uno strumento apposito, come ExifTool o Metadata2Go. A seconda del sistema operativo in uso, è anche possibile fare clic con il tasto destro del mouse sulla foto per ottenere ulteriori informazioni. 
3. Cerca eventuali incongruenze: Verificare eventuali discrepanze tra i timestamp, i tag del software o altri dettagli disponibili e l'origine dichiarata del file. Ad esempio, la modifica dei tag del software potrebbe indicare che il file multimediale è stato sottoposto a elaborazione, mentre timestamp contrastanti potrebbero sollevare dubbi sulla sua cronologia di creazione. 
4. Verifica delle credenziali dei contenuti: I verificatori compatibili con lo standard C2PA sono in grado di rilevare se un file presenta segni di manomissione o contiene firme digitali valide. Possono inoltre visualizzare i dati di provenienza disponibili, tra cui l’origine del file, il metodo di creazione e le modifiche documentate, che possono aiutare a identificare contenuti generati dall’intelligenza artificiale o manipolati.

Utilizzare i risultati relativi ai metadati come una delle fonti di prova nell’ambito di un’indagine più ampia. Sebbene le incongruenze richiedano un’analisi approfondita, i metadati da soli non sono sufficienti a confermare se un file sia autentico o sia stato manipolato. Alcuni deepfake contengono ancora metadati plausibili, mentre i file multimediali legittimi possono includere tracce di editing o essere del tutto privi di informazioni sulla provenienza.

Fase 4: Eseguire un’analisi di rilevamento tramite IA

Un modo efficace per indagare su presunti deepfake consiste nell’effettuare un’analisi di rilevamento tramite intelligenza artificiale. Gli strumenti di rilevamento basati sull’intelligenza artificiale utilizzano l’analisi forense per esaminare immagini e video alla ricerca di segnali comunemente associati all’intelligenza artificiale generativa, quali modelli statistici, anomalie a livello di pixel, incongruenze nei metadati e incongruenze visive che l’occhio umano potrebbe avere difficoltà a individuare.

I modelli di rilevamento combinano questi segnali per calcolare la probabilità che un contenuto sia stato creato o modificato dall'intelligenza artificiale. 

Il rilevamento basato sull'intelligenza artificiale è in grado di individuare i deepfake con scambio di volti? Un test

Per verificare l’efficacia dei rilevatori di IA nell’individuare i deepfake con sostituzione del volto, abbiamo sottoposto tre immagini e due video con sostituzione del volto ai rilevatori di immagini e video di Undetectable AI. Abbiamo creato i campioni utilizzando generatori gratuiti di sostituzione del volto per combinare immagini di repertorio senza licenza con modelli di sostituzione del volto preesistenti.

Gli strumenti che abbiamo utilizzato sono stati il rilevatore di immagini Undetectable AI e il rilevatore di video Undetectable AI. Entrambi sono basati sulla tecnologia TruthScan e addestrati su modelli come Dall-E, ChatGPT e Gemini.

Risultati delle immagini

Esempio di immagine 1

Punteggio di rilevamento = 3% Reale

Esempio di immagine 2

Punteggio di rilevamento = 1% Reale

Esempio di immagine 3

Punteggio di rilevamento = 41 TP 6 T Reale

Le IA non rilevabili Rilevatore di immagini AI assegna un punteggio alle immagini in base alla loro probabilità di essere autentiche; ciò significa che più il punteggio è vicino allo zero, maggiore è la probabilità che l'immagine sia generata dall'intelligenza artificiale. I nostri campioni hanno ottenuto rispettivamente punteggi di 3%, 1% e 49%.

Come potete vedere, nessuna delle immagini presentava difetti visivi evidenti, ad eccezione del campione numero tre, che mostra alcune lievi incongruenze nell’illuminazione e nelle proporzioni. Il rilevatore basato sull’intelligenza artificiale è riuscito a individuare i sottili indizi che indicavano che le foto erano state generate matematicamente anziché scattate direttamente con una fotocamera. 

Risultati video

Esempio video 1

Punteggio di rilevamento = 86% AI

Esempio video 2

Punteggio di rilevamento = 97% AI

L'impercettibile Rilevatore video AI assegna un punteggio ai video in base alla probabilità che contengano contenuti generati dall'intelligenza artificiale. Più il punteggio si avvicina a 100%, maggiore è la probabilità che il video sia stato generato o modificato dall'intelligenza artificiale.

Il nostro test sui video ha dato risultati simili. Il rilevatore di video è riuscito a individuare espressioni facciali distorte, movimenti innaturali e proporzioni anatomiche innaturali. 

Domande frequenti

Pensieri finali

Per individuare i deepfake che sostituiscono i volti, occorre innanzitutto verificare la presenza di tratti facciali innaturali, un’illuminazione incoerente e movimenti non sincronizzati. Se qualcosa sembra sospetto, non affidarti solo all’ispezione visiva. Utilizza il rilevamento basato sull’intelligenza artificiale per valutare il contenuto prima di considerarlo attendibile o condividerlo.

Hai bisogno di verificare un’immagine o un video sospetto? Prova Undetectable AI’s Rilevatore di deepfake per analizzare i contenuti multimediali potenzialmente manipolati e prendere decisioni più consapevoli su ciò che si vede online.