Che cos'è un Deepfake? Definizione ed esempi reali

Il termine deepfake è comparsa per la prima volta su Reddit nel 2017quando un utente con lo stesso nome utente ha iniziato a condividere video alterati che utilizzavano l'intelligenza artificiale per scambiare i volti, inizialmente in contenuti per adulti. 

Sebbene Reddit abbia bandito il subreddit originale, l'idea era già decollata. 

Ma le radici di questa tecnologia risalgono ancora più indietro nel tempo.

Nel 1997, i ricercatori avevano già iniziato a sperimentare l'editing video attraverso l'apprendimento automatico. 

Il loro primo strumento di sincronizzazione labiale, chiamato Riscrittura del video potrebbe far sembrare che qualcuno abbia detto qualcosa che non ha detto.

Non si trattava tecnicamente di un deepfake secondo gli standard odierni, ma gettava le basi per ciò che sarebbe accaduto in seguito.

Il blog di oggi parla di come funziona questa tecnologia in evoluzione, di come si presenta nella vita di tutti i giorni e di quali rischi e benefici comporta. 

Cominciamo con il capire che cos'è in realtà un deepfake.

---

Punti di forza:

• I deepfakes sono media generati dall'intelligenza artificiale che fanno sembrare che le persone dicano o facciano cose che in realtà non hanno mai fatto.

• Con strumenti gratuiti e competenze di base, quasi tutti possono creare video, immagini o clip audio deepfake convincenti.

• Se da un lato i deepfakes possono essere creativi o divertenti, dall'altro comportano rischi seri come truffe, diffamazione e disinformazione.

• È possibile individuare la maggior parte dei deepfake utilizzando strumenti di rilevamento o osservando attentamente le incongruenze visive e comportamentali.

---

Che cos'è un Deepfake?

Un deepfake è un falso multimediale, di solito un video, un clip audio o un'immagine, che è stato alterato utilizzando l'intelligenza artificiale per far sembrare o sembrare che qualcuno stia facendo o dicendo qualcosa che in realtà non ha mai fatto. 

Ora, non confondetelo con un pessimo lavoro di Photoshop o con un doppiaggio approssimativo.

Stiamo parlando di manipolazioni di alto livello che utilizzano una tecnologia chiamata deep learning, che è un sottoinsieme dell'IA.

Questo è ciò che implica il termine "deepfake": deep learning e contenuti falsi.

L'obiettivo di un deepfake è solitamente quello di creare qualcosa che sembri abbastanza reale da ingannare le persone.

Forse avete visto quei video virali di celebrità che fanno cose bizzarre o di politici che fanno dichiarazioni oltraggiose che in realtà non direbbero mai. 

Questi sono i classici casi di utilizzo del deepfake. Ciò che vedete non è reale, ma la tecnologia che vi sta dietro è diventata abbastanza buona da far sì che il vostro cervello non si accorga immediatamente della falsificazione, a meno che non stiate davvero guardando.

Infatti, secondo il team di ricerca di Undetectable AI, 85 % degli americani affermano che i deepfakes hanno eroso la loro fiducia nelle informazioni online.

Avete appena appreso che cos'è in realtà un video o un media deepfake, ora vi spieghiamo come si fa a crearli.

Come vengono realizzati i deepfake

La tecnologia alla base della maggior parte dei deepfake è una categoria di algoritmi di apprendimento automatico chiamata reti generative avversarie (GAN). 

Le GAN sono composte da due parti: un generatore e un discriminatore. 

Il generatore crea media falsi in base a ciò che è stato addestrato a replicare, mentre il compito del discriminatore è quello di individuare ciò che sembra falso. 

Continuano ad andare avanti e indietro finché il generatore non diventa più bravo a creare contenuti falsi in grado di superare il test del discriminatore. 

Nel corso del tempo, questo tira e molla porta a media che appaiono sorprendentemente realistici.

Che cos'è un processo di generazione di video deepfake?

Quando costruisce un video deepfake, il sistema analizza i video da più angolazioni, studia il modo in cui la persona parla, come si muove il viso, come si sposta il corpo. 

Tutte queste informazioni vengono inserite nel generatore, che può così creare contenuti che imitano quei comportamenti. 

Poi, il discriminatore aiuta a perfezionare il risultato, segnalando gli errori, finché il risultato finale non appare perfetto.

Ecco perché l'illusione regge così bene in movimento.

Le tecniche utilizzate sono diverse, a seconda dello scopo del video deepfake. 

Se l'idea è quella di far sembrare che qualcuno dica o faccia qualcosa in un video che in realtà non ha mai detto o fatto, allora abbiamo a che fare con il cosiddetto deepfake di un video sorgente. 

Un deepfake autoencoder, composto da un encoder e da un decoder, studia il filmato originale e vi applica le espressioni, i gesti e i sottili movimenti della testa dell'obiettivo. 

Audio Deepfakes

Un deepfake audio funziona clonando la voce di una persona, sempre con l'ausilio di GAN, sulla base delle registrazioni di come parla naturalmente. 

Una volta addestrato, il modello può generare un nuovo discorso con quella voce, anche se la persona non ha mai pronunciato quelle parole. 

Un altro livello spesso aggiunto è la sincronizzazione labiale. 

In questo caso, il sistema mappa l'audio generato o preregistrato su un video.

L'obiettivo è far coincidere le labbra nel video con le parole nell'audio. 

Esempi di deepfake nel mondo reale

In questi giorni i deepfake sono presenti ovunque. 

Vi presentiamo alcuni deepfake popolari che mostrano i progressi compiuti dalla tecnologia.

Il deepfake del presidente Zelenskyy che chiede alle truppe ucraine di arrendersi

Nel marzo 2022, durante le prime fasi della guerra tra Russia e Ucraina, è apparso in rete un video che mostra il presidente ucraino Volodymyr Zelenskyy esortando i suoi soldati ad arrendersi. 

Sembrava un discorso nazionale, con tanto di voce e modi di fare di Zelenskyy. 

Il video si è diffuso sulle piattaforme dei social media ed è stato persino pubblicato su un sito web ucraino di notizie compromesso. 

Il Presidente ha agito rapidamente e ha rilasciato una dichiarazione ufficiale attraverso i suoi canali verificati per smentire il filmato. 

L'immagine virale deepfake di Papa Francesco con una giacca a vento griffata

A volte, non è necessario che un'immagine deepfake sia dannosa per causare confusione.

Nel 2023, una foto virale di Papa Francesco in giro con un elegante giubbotto bianco di Balenciaga ha fatto il giro di Internet.

Ha accumulato decine di milioni di visualizzazioni ed è stato ampiamente condiviso su tutte le piattaforme.

L'immagine è stata creata con uno strumento di intelligenza artificiale chiamato Midjourney da un utente anonimo di Chicago. 

Elon Musk: i deepfakes usati per le truffe online

Nel 2024, deepfakes con Elon Musk è diventato un elemento centrale di diverse truffe online su larga scala. 

I video di Musk generati dall'intelligenza artificiale hanno iniziato a spuntare su Facebook, TikTok e altre piattaforme, promuovendo falsi omaggi di criptovalute e schemi di investimento. 

Questi filmati sembravano e sembrano straordinariamente reali.

Il danno non è stato solo teorico. Un anziano pensionato avrebbe perso quasi $700.000 dopo essere stato convinto da uno di questi video. 

La telefonata di Joe Biden che ha preso di mira gli elettori statunitensi

All'inizio del 2024, poco prima delle primarie del New Hampshire, Gli elettori hanno ricevuto chiamate rapide che sembrava proprio il Presidente degli Stati Uniti Joe Biden. 

Nella telefonata, Joe Biden esortava gli elettori a rimanere a casa e a conservare il loro voto per le elezioni generali di novembre. L'intento era quello di confondere e fuorviare gli elettori per indurli a saltare le primarie.

L'incidente ha suscitato richieste di regolamentazione. I gruppi di difesa hanno chiesto alla Commissione elettorale federale degli Stati Uniti di intervenire, ma alla fine la FEC ha rifiutato, citando i limiti della sua autorità.

Nel frattempo, l'azienda di telecomunicazioni responsabile della distribuzione della robocall ha accettato di pagare una multa di $1 milioni di euro.

Uso di deepfake politici nelle elezioni indiane del 2020

Non tutti gli utilizzi della tecnologia deepfake sono dannosi o ingannevoli nell'intento (si veda più avanti nel blog).

Durante le elezioni per l'Assemblea legislativa di Delhi del 2020, la Il Bharatiya Janata Party ha usato l'intelligenza artificiale per personalizzare un annuncio elettorale per pubblici linguistici diversi. 

Il partito ha preso un video del suo leader Manoj Tiwari che parlava in inglese e ha usato una finta sincronizzazione labiale per produrre una versione in Haryanvi, un dialetto regionale.

Mentre la voce fuori campo proveniva da un attore, le immagini sono state modificate per adattarsi al nuovo audio utilizzando l'intelligenza artificiale addestrata su filmati reali di Tiwari. 

I membri del partito l'hanno vista come un'applicazione positiva della tecnologia che ha permesso loro di entrare in contatto con gli elettori in una lingua comprensibile, anche se il candidato non la parlava correntemente.

I Deepfakes sono pericolosi? Rischi e preoccupazioni

Finora abbiamo analizzato che cos'è un deepfake, come viene realizzato e dove si è già manifestato nel mondo reale. 

La tecnologia è innegabilmente impressionante, ma i rischi ad essa legati sono seri e in rapida crescita. 

I deepfake possono essere utilizzati come armi in diversi modi. Ecco alcune delle principali preoccupazioni.

Diffamazione

Quando le sembianze o la voce di qualcuno vengono utilizzate per creare commenti, dichiarazioni o video falsi, soprattutto se offensivi o controversi, possono rovinare la reputazione quasi istantaneamente. 

E a differenza delle vecchie bufale o delle citazioni false, un deepfake convincente lascia poco spazio ai dubbi nella mente dello spettatore.

A questo proposito, i deepfake possono suscitare indignazione, distruggere relazioni o semplicemente spingere una narrazione dannosa. 

Ciò che è particolarmente preoccupante è che il deepfake non ha nemmeno bisogno di essere perfetto.

Finché la persona è riconoscibile e il contenuto è sufficientemente credibile, può lasciare un impatto duraturo sull'opinione pubblica.

Credibilità delle informazioni

Un'altra grande preoccupazione è il modo in cui i deepfakes minano l'idea stessa di verità. 

Con il diffondersi dei deepfakes, diventa sempre più difficile sapere se ciò che vediamo o sentiamo è reale. Con il tempo, questo potrebbe portare a una più ampia erosione della fiducia in qualsiasi forma di comunicazione digitale.

Questa crisi di credibilità va oltre i singoli episodi.

Nelle società democratiche, le persone si basano su fatti condivisi per prendere decisioni, discutere questioni e risolvere problemi collettivi. 

Ma se gli elettori, i telespettatori o i cittadini iniziano a mettere in dubbio tutto, diventa molto più facile manipolare l'opinione pubblica o liquidare le verità scomode come "solo un altro deepfake". 

Ricatto

I media generati dall'intelligenza artificiale possono essere usati per incriminare falsamente le persone facendo credere che abbiano fatto qualcosa di illegale, non etico o imbarazzante. 

Questo tipo di prove fabbricate può essere usato per minacciarli o controllarli.

E questo vale in entrambi i sensi. Poiché i deepfake sono ormai così realistici, chi si trova di fronte a un vero ricatto potrebbe affermare che le prove sono false, anche se non lo sono. 

Questo fenomeno viene talvolta definito "inflazione da ricatto", in cui la mole di falsi credibili finisce per ridurre il valore del materiale effettivamente incriminato. 

La credibilità delle prove reali si perde nella nebbia e questo non fa che aggiungere un ulteriore livello di complessità quando si cerca di smascherare un illecito.

Frodi e truffe

Utilizzando video generati dall'intelligenza artificiale o voci di personaggi pubblici fidati, i truffatori stanno creando schemi incredibilmente convincenti.

In alcuni casi, i deepfake di celebrità come Elon Musk, Tom Hanks o Oprah Winfrey vengono utilizzati per sostenere prodotti o servizi di cui non si è mai sentito parlare.

Questi video vengono poi diffusi sulle piattaforme sociali, dove raggiungono milioni di persone.

Anche i privati sono a rischio, soprattutto nelle campagne di spearphishing che mirano a persone specifiche con contenuti personalizzati progettati per manipolare o ingannare.

Secondo un Rapporto 2024 di ForbesLe frodi guidate dai deepfake hanno già accumulato perdite globali stimate in $12 miliardi e si prevede che questa cifra sarà più che triplicata nei prossimi anni. 

Usi positivi e creativi dei deepfakes

Vale la pena notare che non tutte le applicazioni della tecnologia sono negative. 

Mentre molti blog che spiegano cosa sia un deepfake si concentrano sull'uso improprio, c'è un elenco crescente di modi creativi e produttivi in cui i deepfake vengono utilizzati. 

Di seguito sono riportati alcuni esempi significativi.

Interpretazioni cinematografiche e di recitazione

Gli studios stanno iniziando ad affidarsi alla tecnologia deepfake per cose come: 

• Miglioramento degli effetti visivi
• Riduzione dei costi di produzione
• Riportare in vita personaggi che non ci sono più 

Disneyha perfezionato modelli deepfake ad alta risoluzione che consentono di scambiare i volti e di de-invecchiare gli attori con un realismo impressionante.

La loro tecnologia opera a una risoluzione di 1024 x 1024 e può tracciare con precisione le espressioni facciali per far sembrare i personaggi più giovani o più espressivi.

Al di là di Hollywood, i deepfakes hanno permesso di realizzare campagne globali, come quando David Beckham è stato clonato digitalmente per trasmettere un messaggio sanitario in più lingue.

Arte

Nel 2018, l'artista multimediale Joseph Ayerle ha utilizzato la tecnologia deepfake per creare un attore AI che fondeva il volto della star del cinema italiano Ornella Muti con il corpo di Kendall Jenner. 

Il risultato è un'esplorazione surreale dell'identità generazionale e della provocazione artistica, parte di un'opera video intitolata Un'emozione per sempre 2.0.

I deepfakes sono comparsi anche nella satira e nella parodia. 

La serie web Sassy Justice del 2020, creata dai creatori di South Park Trey Parker e Matt Stone, ne è un esempio lampante. 

Utilizzava personaggi pubblici deepfaked per prendere in giro l'attualità, sensibilizzando al contempo sulla tecnologia stessa. 

Servizio clienti

Al di fuori delle industrie creative, le aziende stanno trovando utilità nei deepfake per i servizi rivolti ai clienti. 

Alcuni call center ora utilizzano voci sintetiche alimentate dalla tecnologia deepfake per automatizzare le richieste di base, come le richieste di informazioni sul conto o la registrazione di reclami. 

In questi casi, l'intento non è malevolo, ma semplicemente di razionalizzare.

I sistemi di risposta al chiamante possono essere personalizzati utilizzando voci generate dall'intelligenza artificiale per rendere i servizi automatizzati più naturali e coinvolgenti.

Poiché le attività gestite sono solitamente a basso rischio e ripetitive, i deepfake in questo contesto aiutano a ridurre i costi e a liberare agenti umani per questioni più complesse.

Istruzione

Anche le piattaforme educative hanno iniziato a incorporare tutor alimentati da deepfake per assistere gli studenti in modo più interattivo. 

Questi tutor guidati dall'intelligenza artificiale possono impartire lezioni utilizzando voci sintetiche e indicazioni personalizzate.

Strumenti e tecniche di rilevamento Deepfake

Man mano che i deepfakes diventano più avanzati e accessibili, cresce anche la necessità di identificarli prima che causino danni. 

Anche le persone e le organizzazioni hanno bisogno degli strumenti e delle tecniche giuste per essere sempre un passo avanti. Ecco quindi alcuni strumenti e tecniche.

Rilevatore di immagini AI da Undetectable AI

L'AI Image Detector di Undetectable AI rende più semplice il rilevamento dei deepfake, anche per chi non ha un background tecnico. 

Il rilevatore funziona analizzando vari elementi di un'immagine caricata, come modelli di colore, texture, tratti del viso e incongruenze strutturali. 

Supporta il rilevamento dei media creati con i più noti generatori di immagini AI come 

• Viaggio intermedio 
• DALL-E
• Diffusione stabile 
• Ideogramma
• Modelli basati su GAN

Per utilizzarlo, basta caricare un'immagine, lasciare che lo strumento la analizzi e ricevere un verdetto chiaro con un punteggio di fiducia.

Se non siete sicuri che un'immagine che avete trovato sia autentica, provate il nostro rilevatore di immagini AI per verificare eventuali segni di manomissione dell'IA.

Ad esempio, ecco l'immagine AI di un fenicottero generata utilizzando la Diffusione stabile.

Ora, mettiamo Rilevatore AI di Undetectable e vedere se è in grado di riconoscere con precisione che l'immagine è stata generata dall'intelligenza artificiale.

Come si può vedere, il rilevatore di immagini AI di Undetectable AI ha contrassegnato questa immagine come 100% generata dall'AI.

TruthScan

Un altro strumento degno di nota nella lotta contro i deepfakes è TruthScan. 

TruthScan è stato progettato per l'analisi di video ad alto rischio. È orientato alla protezione delle organizzazioni da frodi video, spoofing di identità e campagne di disinformazione sulle piattaforme digitali.

TruthScan offre un'ampia gamma di funzioni:

• Face Swap Detection cerca segni di sostituzioni facciali e attacchi di reenactment utilizzando l'analisi fotogramma per fotogramma.
• L'autenticazione facciale aiuta a verificare se il volto e le espressioni di una persona sono autentici o generati sinteticamente.
• L'analisi del flusso live è particolarmente utile per le videochiamate o gli eventi dal vivo, in quanto rileva i deepfake in tempo reale e a bassa latenza.
• La Video Forensics analizza gli artefatti di compressione, le incongruenze dei fotogrammi e le impronte digitali che possono rivelare segni di editing.

Tecniche visive e comportamentali per il rilevamento manuale

Esistono anche tecniche pratiche per individuare manualmente i deepfakes, soprattutto in situazioni in cui è necessaria un'analisi immediata.

Alcuni segnali visivi di allarme sono

• Posizionamento facciale imbarazzante o espressioni strane.
• Illuminazione o colorazione incoerente in diverse parti dell'immagine o del video.
• Sfarfallamento intorno al viso o all'attaccatura dei capelli, in particolare durante il movimento.
• Mancanza di ammiccamento naturale o movimento irregolare degli occhi.
• Discrepanze nella sincronizzazione labiale quando l'audio non corrisponde al parlato.

Da un punto di vista comportamentale, i deepfakes spesso faticano a imitare i sottili tratti umani. Prestate attenzione al linguaggio del corpo, alle espressioni emotive e ai gesti abituali.

E nelle conversazioni in tempo reale, soprattutto nei video live, chiedete una vista di profilo laterale.

Molti modelli deepfake faticano ancora a rendere con precisione un angolo del viso di 90 gradi o movimenti complessi come la rotazione della testa mantenendo espressioni naturali.

Individuare i falsi profondi nel testo e nel contesto

I deepfakes non si limitano alle immagini. Alcune versioni prevedono testi, voci o comportamenti sintetici che imitano lo stile di comunicazione di qualcuno.

Quando si analizzano i contenuti testuali o i dialoghi, è bene tenere d'occhio i seguenti elementi:

• Errori ortografici e stranezze grammaticali.
• Frasi che sembrano forzate o che non scorrono in modo naturale.
• Indirizzi di posta elettronica insoliti o con una formulazione incoerente.
• Messaggi che sembrano fuori contesto o non correlati alla situazione.

Anche il contesto è importante. Se un video o un messaggio appare in un contesto che non ha senso, come un politico che annuncia casualmente una decisione importante in una clip di bassa qualità, vale la pena di dubitare della sua autenticità.

Siete curiosi di conoscere i nostri AI Detector e Humanizer? Provateli nel widget qui sotto!

Domande frequenti su Deepfakes

Pensieri finali

Ora sapete cos'è un'immagine deepfake o un media in generale. Si tratta di una complessa miscela di IA e deep learning in grado di imitare in modo convincente le persone, visivamente o acusticamente, spesso a loro insaputa o senza il loro consenso. 

E se i pericoli sono molto reali, anche gli usi creativi non sono da meno.

La conclusione è che i deepfakes non andranno da nessuna parte. Con il continuo miglioramento della tecnologia, deve migliorare anche la nostra capacità di riconoscerli e reagire. 

Se volete un modo semplice ed efficace per verificare se un'immagine è stata generata dall'intelligenza artificiale, provate l'AI Image Detector di Undetectable AI. 

È veloce, preciso e facile da usare per tutti.

Controllate ora la vostra immagine con l'AI Image Detector e vedete cosa rivela.