Come riconoscere un Deepfake: Guida completa con esempi

Nel 2018, Jordan Peele ha creato un video dell'ex presidente degli Stati Uniti Barack Obama che ha ingannato milioni di americani.

Il video ha fatto il giro dei telegiornali e ritrae Obama che lancia un messaggio di avvertimento. 

Ma indovinate di cosa si trattava? Notizie false.

È stato poi rivelato che si trattava di AI. Peele ha usato questo fatto come dimostrazione di come la tecnologia, in particolare i deepfake, possa manipolare la realtà.

Ma questo accadeva nel 2018 e da allora i deepfake e i video generati dall'intelligenza artificiale sono diventati spaventosamente buoni. 

I cattivi attori li usano per qualsiasi cosa, dal revenge porn alla disinformazione politica.

I volti delle celebrità vengono inseriti in contenuti espliciti.

I politici sembrano fare dichiarazioni che non hanno mai fatto. Il vostro vicino potrebbe teoricamente farvi dire qualsiasi cosa in video.

Ciò che un tempo richiedeva software costosi e competenze tecniche, oggi avviene con applicazioni gratuite per smartphone.

Chiunque può creare contenuti falsi convincenti in pochi minuti. Ma c'è una buona notizia: potete imparare a riconoscerli.

Questa guida vi insegnerà esattamente come identificare i deepfakes prima che vi ingannino.

Perché in un mondo in cui vedere non significa più credere, le vostre capacità di pensiero critico sono la vostra migliore difesa.

---

Punti di forza

• I deepfake presentano spesso sottili difetti visivi nei movimenti del viso, nell'illuminazione e nel contatto visivo.

• Le incongruenze audio, come i modelli di respirazione innaturali e le fluttuazioni della voce, sono un importante segnale di allarme.

• Le tecniche di rilevamento manuale si concentrano sull'analisi della sincronizzazione delle labbra, dei modelli di battito delle mani e della coerenza dello sfondo.

• Gli strumenti di rilevamento professionali sono in grado di identificare i contenuti sintetici con una precisione maggiore rispetto all'osservazione umana.

• Capire la differenza tra deepfakes e cheapfakes aiuta a stare attenti ai diversi tipi di manipolazione.

• I metodi di verifica rapida includono la ricerca di immagini inverse e il controllo della credibilità delle fonti.

---

Segni comuni che si sta guardando un Deepfake

I deepfake non sono perfetti. Non ancora, comunque.

Anche i contenuti più sofisticati generati dall'intelligenza artificiale lasciano segni rivelatori che occhi esperti possono cogliere. Considerateli come l'equivalente digitale di un documento d'identità falso.

La tecnologia è impressionante, ma non è impeccabile.

L'indizio più evidente è di solito negli occhi.

Gli occhi umani hanno uno scintillio naturale, una vivacità difficile da replicare. I deepfake spesso producono occhi che sembrano leggermente vitrei o non messi a fuoco. 

La persona potrebbe guardare dritto davanti a sé senza i micromovimenti naturali che fanno gli occhi reali.

È sottile, ma una volta che si sa cosa cercare, è difficile non notarlo.

Le espressioni facciali sono un altro punto debole.

I volti umani reali sono caratterizzati da innumerevoli piccoli movimenti muscolari che avvengono simultaneamente.

Quando si sorride, non è solo la bocca a muoversi. Le guance si sollevano, gli occhi si stropicciano, tutto il viso partecipa.

I deepfake fanno fatica a gestire questa complessità. Possono azzeccare le grandi espressioni, ma non i sottili movimenti di supporto.

Anche con la pratica, può essere difficile fidarsi solo dei propri occhi. È qui che TruthScan arriva.

TruthScan analizza automaticamente i video alla ricerca di sottili incongruenze, come la mancata corrispondenza dei tempi dei fotogrammi, i difetti dei contorni del viso e le dinamiche di movimento innaturali che sono quasi impossibili da rilevare manualmente.

Il suo modello di rilevamento esamina migliaia di fotogrammi al secondo, segnalando potenziali manomissioni con un punteggio di fiducia di facile lettura, in modo da poter distinguere le immagini reali da quelle sintetiche in pochi secondi.

Come riconoscere un video deepfake

I video deepfake sono il tipo più comune e potenzialmente pericoloso di media sintetici.

Vengono utilizzati per qualsiasi cosa, dalle truffe finanziarie alla manipolazione politica.

Imparare ad analizzare le immagini in movimento richiede una serie di abilità diverse rispetto all'individuazione di foto false.

1. Iniziare a osservare i modelli di battito di ciglia della persona. Gli esseri umani sbattono le palpebre regolarmente e naturalmente, di solito ogni 3-5 secondi. Un battito di ciglia eccessivo o insufficiente può essere un segnale di allarme.
2. Prestare attenzione ai movimenti della testa e al linguaggio del corpo. Le persone reali hanno movimenti naturali e fluidi che corrispondono ai loro discorsi e alle loro emozioni. Il linguaggio del corpo potrebbe non corrispondere al tono di voce o al contenuto del discorso.
3. Esaminare attentamente lo sfondo. I deepfake spesso concentrano così tanta potenza di elaborazione sul volto da trascurare tutto il resto. Cercate gli sfondi che sembrano artificialmente sfocati o statici. 
4. Verificare la presenza di artefatti digitali intorno ai bordi del viso.. Nei punti in cui il volto generato incontra il video originale, si possono notare sottili aloni, variazioni di colore o pixelatura. Questi artefatti digitali sono particolarmente visibili quando la persona gira la testa o si muove rapidamente. La tecnologia fatica a mantenere i bordi puliti durante i movimenti rapidi.
5. Anche le incongruenze della frequenza dei fotogrammi possono rivelare i deepfake. Se il volto sembra muoversi a una frequenza di fotogrammi diversa rispetto al resto del video, questo è sospetto.
6. La qualità audio è fondamentale. Anche se gli elementi visivi sembrano perfetti, l'audio potrebbe svelare il falso. 

Come analizzare l'audio per trovare indizi di Deepfake

I deepfake audio stanno diventando spaventosamente sofisticati.

La tecnologia di clonazione vocale è ora in grado di replicare il modo di parlare di una persona con pochi minuti di audio campione.

Ma come i deepfake visivi, anche quelli audio hanno caratteristiche che gli ascoltatori attenti possono identificare.

Iniziate prestando attenzione alla respirazione. Nelle conversazioni reali, le persone fanno delle pause per inspirare, espirare o regolare l'energia vocale.

I deepfakes spesso saltano completamente questo passaggio o inseriscono suoni di respirazione che sembrano robotizzati e distanziati in modo uniforme.

Il risultato? Una voce che parla in modo troppo fluido, troppo continuo, quasi come se scivolasse su rotaie.

È possibile individuare più facilmente queste anomalie ascoltando:

• Nessuna pausa per respirare, anche in frasi lunghe
• Respiri che sembrano identici, con tempi uniformi, o stranamente posizionati
• Un tono piatto senza affaticamento o tensione vocale
• Discorsi che sembrano "troppo perfetti", come se fossero stati studiati a tavolino.

Gli esseri umani non sono così lucidi. Le nostre voci vacillano.

Tossiamo, deglutiamo, ci allontaniamo a metà del pensiero.

Quindi, quando si sente una voce che sembra essere stata stirata dall'inizio alla fine, questo è un indizio.

Anche i rumori di sottofondo possono rivelare un deepfake.

Se si suppone che qualcuno sia in un bar affollato, si dovrebbero sentire bicchieri che tintinnano, un basso chiacchiericcio, forse l'allarme di un'auto.

Se c'è silenzio o un generico ronzio di fondo, qualcosa non quadra. Le registrazioni reali sono dotate di texture ambientale.

Ora pensate agli accenti. Manierismi. Piccole stranezze nel modo di parlare.

Quello strano modo in cui il vostro amico dice "bottone" o il modo in cui il vostro collega lascia cadere l'ultima sillaba in ogni frase? I deepfake spesso non li colgono. Copiano la voce, non la persona.

La qualità del suono è un'altra caratteristica. Alcuni clip hanno una chiarezza di alto livello, ma dichiarano di essere registrazioni telefoniche.

Altri suonano compressi, ma non in un modo che abbia senso per il contesto. Se l'audio non è adatto all'ambientazione, c'è un altro segnale di allarme.

L'emozione è forse la cosa più difficile da fingere e la più facile da individuare.

Se qualcuno sembra allegro mentre dà cattive notizie o robotico mentre racconta una storia profondamente personale, fidatevi del vostro istinto. Il linguaggio sintetico non ha ancora acquisito la padronanza del tono.

I deepfake sono impressionanti. Ma non sono impercettibili. Non ancora.

E se si ascolta attentamente, la verità di solito è sepolta nei dettagli.

Se dopo l'ascolto non siete ancora sicuri, strumenti come TruthScan possono confermare i vostri sospetti.

Il suo Scansione dell'autenticità audio di TruthScan isola le frequenze della voce, confronta le variazioni di respirazione e di tono e identifica le firme vocali clonate che non corrispondono ai modelli di ritmo o di stress umani.

Sia che si tratti di convalidare un messaggio vocale sospetto o una registrazione pubblica, TruthScan può rivelare se ciò che si sente proviene da una persona o da una macchina.

Come riconoscere una foto deepfake

Il fatto che foto deepfake? Spesso sono impeccabili al centro e diventano strani ai bordi.

Cominciamo con l'illuminazione. 

Nella vita reale, le ombre e le luci seguono delle regole.

Un volto illuminato da sinistra deve adattarsi al resto dell'ambiente.

Ma i falsi profondi non sempre ricevono il promemoria.

Si noteranno ombre che cadono in direzioni opposte o un'illuminazione che sembra drammatica senza motivo.

Un fotogramma. Un momento. Nessun movimento da analizzare. Ecco perché questi falsi sono più difficili da catturare.

Ma è ancora possibile.

Guardate gli occhi, poi guardate cosa si riflette in essi.

Se qualcuno indossa gli occhiali, dovrebbe vedere il mondo riflesso: finestre, luci, persino altre persone.

Se si tratta solo di rumore o di uno strano vuoto, l'immagine potrebbe essere sintetica.

Poi c'è la pelle.

La vera pelle umana è complicata: pori, consistenza, decolorazione, persino un brufolo occasionale.

I deepfake tendono a smussare troppo il risultato. Non come un filtro, ma più come se qualcuno lo avesse levigato in Photoshop.

Potrebbe sembrare perfetto, finché non lo diventa.

Se qualcosa vi sembra inquietante, zoomate. Guardatevi intorno. Fidatevi del disagio.

Più sottile è il difetto, più sicuro è il falso.

Suggerimenti per il rilevamento manuale senza strumenti

Non servono strumenti sofisticati per catturare un falso.

Gli occhi e le orecchie, se usati intenzionalmente, sono spesso sufficienti.

Fidatevi del vostro istinto. Se qualcosa non va, probabilmente è così. 

Confrontate il contenuto con filmati verificati della stessa persona, in particolare la voce, i modi di fare e i dettagli del viso.

I falsi profondi di solito non colgono le sfumature.

Rallentate i video per cogliere i tratti tremolanti o gli strani cambiamenti di illuminazione fotogramma per fotogramma.

Interrogate la fonte: Chi l'ha pubblicato per primo? I filmati di alta qualità, presumibilmente girati su dispositivi di fascia bassa o trovati in un solo posto, dovrebbero far sorgere qualche dubbio.

Anche senza metadati o analisi avanzate, la maggior parte dei falsi lascia indizi se si sa cosa cercare.

Deepfake vs Cheapfake: Conoscere la differenza

Falsi profondi

• Immagini o audio generati dall'intelligenza artificiale
• Scambio di volti, clonazione della voce, sincronizzazione sintetica delle labbra
• Richiedono dati di formazione e strumenti specializzati
• Spesso più difficili da produrre, ma più realistici.

Cheapfakes

• Nessuna IA coinvolta
• Editing di base: tagliare, ritagliare, rallentare, ridisegnare
• Contenuto reale, contesto sbagliato
• Più facile da individuare, ma spesso trascurato

I deepfake si basano su tecnologie avanzate, mentre i cheapfake si basano su manipolazione e depistaggio.

Entrambi possono ingannare, ma per motivi diversi.

I Cheapfakes spesso passano inosservati perché utilizzano contenuti reali distorti quanto basta per ingannare.

Sapere con quale dei due si ha a che fare aiuta a individuare più rapidamente il problema e a rimanere più intelligenti online.

Strumenti che potete usare per individuare un Deepfake

Mentre Il rilevamento manuale è prezioso, strumenti specializzati possono identificare contenuti sintetici che potrebbero ingannare gli osservatori umani.

Questi strumenti utilizzano algoritmi di apprendimento automatico addestrati specificamente per riconoscere i contenuti generati dall'intelligenza artificiale.

Per le immagini, provare Undetectable AI's Rilevatore di immagini AI per valutare se una foto contiene elementi sintetici.

Questo strumento analizza molteplici aspetti della generazione dell'immagine ed è in grado di individuare artefatti sottili che sfuggono all'occhio umano.

È particolarmente efficace nell'identificare volti e oggetti generati dall'intelligenza artificiale.

Per un rilevamento completo dei deepfake su più tipi di media, consultate il sito Rilevatore di Deepfake di TruthScan.

TruthScan combina l'analisi avanzata del volto, la verifica dell'audio e il tracciamento dei modelli comportamentali per valutare se un video o una registrazione sono stati alterati sinteticamente.

Non si limita a controllare i pixel, ma esegue una scansione del l'intera performance.

Le dimensioni della scansione includono:

• Rilevamento dello scambio di volti: Segnala transizioni e morphing innaturali nelle regioni del viso.
• Identificazione dei cloni vocali: Rileva le voci generate dall'intelligenza artificiale e le confronta con i modelli vocali naturali.
• Mappatura della coerenza comportamentale: Traccia le microespressioni e la stabilità dello sguardo fotogramma per fotogramma per individuare le interruzioni sintetiche delle prestazioni.
• Livello di video forensics: Esamina gli artefatti di compressione, gli errori temporali e le irregolarità dei metadati.

Il risultato è un rapporto completo sull'autenticità con una percentuale di fiducia e una ripartizione visiva dei punti in cui si è verificata la manipolazione.

TruthScan è particolarmente potente per giornalisti, investigatori e team di sicurezza che hanno bisogno di una convalida video affidabile e veloce.

Cosa fare se si sospetta un Deepfake

Non condividetela e non sfatatela.

Questo può inavvertitamente aumentarne la portata. Se pensate che il contenuto sia falso, segnalatelo direttamente alla piattaforma. La maggior parte dei siti dispone di strumenti per segnalare i media sintetici.

Verifica dei fatti attraverso fonti attendibili come Snopes o PolitiFact. Se non è ancora stata verificata, prendete in considerazione la possibilità di inviarla.

Fate screenshot o salvate i link prima che il contenuto scompaia, perché potrebbero essere utili a giornalisti o investigatori in seguito.

Avvertite la vostra rete, ma evitate di ripubblicare il falso. Concentratevi invece sull'insegnamento di come riconoscerlo. Se qualcuno viene impersonato, fatelo sapere.

Potrebbero voler rispondere o intraprendere un'azione legale.

Per i deepfake legati a minacce o crimini, segnalateli alle forze dell'ordine. Le leggi sui media sintetici si stanno aggiornando e la vostra segnalazione potrebbe fare la differenza.

Iniziate a esplorare: il nostro AI Detector e Humanizer vi aspettano nel widget qui sotto!

Domande frequenti sul rilevamento di deepfake

Linee sfocate e bugie in pixel

I deepfake rappresentano una delle sfide più significative all'integrità delle informazioni nell'era digitale. Ma non sono magici.

Con le conoscenze e gli strumenti giusti, potete proteggere voi stessi e gli altri dalla manipolazione dei media sintetici.

Ricordate i principi fondamentali: fidatevi del vostro istinto, esaminate attentamente i dettagli, verificate le fonti e utilizzate gli strumenti disponibili.

Cercate incongruenze nell'illuminazione, nei movimenti del viso, nella qualità dell'audio e negli elementi di sfondo. Prestate attenzione al contesto e considerate le motivazioni alla base dei contenuti sospetti.

La tecnologia continuerà a evolversi. I deepfakes miglioreranno, ma anche i metodi di rilevamento miglioreranno.

Rimanere informati su nuove tecniche e strumenti. Condividere le proprie conoscenze con altri. Costruire una rete di pensatori critici che possano aiutare a identificare e combattere i media sintetici.

La vostra vigilanza è importante. Ogni video falso che catturate, ogni immagine fuorviante che non condividete, ogni persona a cui insegnate a pensare in modo critico rende Internet un po' più affidabile.

In un mondo in cui la tecnologia può mettere le parole in bocca a chiunque, il vostro scetticismo e la vostra conoscenza sono armi potenti contro l'inganno.

AI non rilevabile offre strumenti che aiutano ad analizzare, interrogare e verificare più rapidamente i contenuti digitali. Usateli. Condivideteli. Siate il motivo per cui la disinformazione si ferma con voi.

Insieme, Undetectable AI e TruthScan offrono una protezione a tutto campo, dall'identificazione di contenuti scritti dall'intelligenza artificiale alla verifica di video deepfake e cloni vocali.

Provate l'AI Image Detector per le foto o TruthScan per i video e prendere il controllo della vostra realtà digitale.