Vad är en Deepfake? Definition och verkliga exempel

Begreppet deepfake dök först upp på Reddit 2017när en användare med samma skärmnamn började dela ändrade videor som använde AI för att byta ut ansikten, ursprungligen i vuxeninnehåll. 

Även om Reddit förbjöd den ursprungliga subredditen hade idén redan tagit fart. 

Men rötterna till denna teknik går ännu längre tillbaka.

Redan 1997 började forskare experimentera med videoredigering med hjälp av maskininlärning. 

Deras tidiga läppsynkroniseringsverktyg, kallat Omskrivning av video kan få någon att verka säga något som de inte har sagt.

Det var inte tekniskt sett en deepfake enligt dagens standard, men det lade grunden för vad som skulle komma härnäst.

Dagens blogg handlar om hur den här nya tekniken fungerar, var den dyker upp i vardagen och vilka risker och fördelar den för med sig. 

Låt oss börja med att förstå vad som är en deepfake faktiskt.

---

Viktiga slutsatser:

• Deepfakes är AI-genererade medier som får människor att se ut att säga eller göra saker som de egentligen aldrig har gjort.

• Med gratis verktyg och grundläggande färdigheter kan nästan vem som helst nu skapa övertygande deepfake-videor, bilder eller ljudklipp.

• Även om deepfakes kan vara kreativa eller underhållande innebär de också allvarliga risker som bedrägerier, ärekränkning och felaktig information.

• Du kan upptäcka de flesta deepfakes genom att använda detekteringsverktyg eller titta noga efter visuella och beteendemässiga inkonsekvenser.

---

Vad är en Deepfake?

En deepfake är fejkad media, vanligtvis en video, ett ljudklipp eller en bild, som har ändrats med hjälp av artificiell intelligens för att få någon att se ut eller låta som om de gör eller säger något som de faktiskt aldrig har gjort. 

Missta nu inte detta för ett dåligt Photoshop-jobb eller en skissartad voiceover.

Vi talar om manipulation på hög nivå med hjälp av en teknik som kallas djupinlärning, vilket är en delmängd av AI.

Det är vad termen "deepfake" innebär: djupinlärning och falskt innehåll.

Målet med en deepfake är vanligtvis att skapa något som ser tillräckligt verkligt ut för att lura människor.

Du kanske har sett de där virala videoklippen med kändisar som gör bisarra saker eller politiker som gör skandalösa uttalanden som de aldrig skulle säga. 

Det här är klassiska deepfake-användningsfall. Det du ser är inte verkligt, men tekniken bakom det har blivit tillräckligt bra för att din hjärna inte omedelbart plockar upp falskheten, såvida du inte verkligen letar.

I själva verket, enligt Undetectable AI: s forskargrupp, 85 % av amerikanerna säger att deepfakes har undergrävt deras förtroende för information på nätet.

Du har just lärt dig vad en deepfake-video eller media faktiskt är, nu på hur människor gör dessa.

Hur djupa förfalskningar görs

Tekniken bakom de flesta deepfakes är en kategori av maskininlärningsalgoritmer som kallas generativa adversariala nätverk, eller GAN. 

GAN:er består av två delar: en generator och en diskriminator. 

Generatorn skapar falska medier baserat på vad den har tränats att replikera, och diskriminatorns uppgift är att peka ut det som ser falskt ut. 

De fortsätter att gå fram och tillbaka tills generatorn blir bättre på att skapa falskt innehåll som kan klara diskriminatorns test. 

Med tiden leder denna fram- och återgång till medier som ser chockerande realistiska ut.

Vad är en Deepfake Video Generation Process?

När en deepfake-video skapas analyserar systemet videor från flera vinklar, studerar hur personen pratar, hur ansiktet rör sig och hur kroppen rör sig. 

All denna information matas in i generatorn så att den kan skapa innehåll som efterliknar dessa beteenden. 

Sedan hjälper diskriminatorn till att finjustera den genom att påpeka vad som är fel tills slutresultatet ser helt rätt ut.

Det är därför illusionen håller så bra i rörelse.

Det finns några olika tekniker som används beroende på syftet med deepfake-videon. 

Om tanken är att få någon att se ut att säga eller göra något i en video som de faktiskt aldrig sa eller gjorde, har vi att göra med vad som kallas en källvideo deepfake. 

En deepfake autoencoder, som består av en kodare och en avkodare, studerar originalfilmen och applicerar målpersonens uttryck, gester och subtila huvudrörelser på den. 

Audio Deepfakes

En deepfake för ljud fungerar genom att klona någons röst, återigen med hjälp av GAN, baserat på inspelningar av hur de naturligt talar. 

När modellen har tränats kan den generera nytt tal med den rösten, även om personen i fråga aldrig sa de orden. 

Ett annat lager som ofta läggs till är läppsynkning. 

Här mappar systemet genererat eller förinspelat ljud på en video.

Målet är att få läpparna i videon att stämma överens med orden i ljudet. 

Exempel på deepfakes i verkligheten

Deepfakes dyker upp överallt nuförtiden. 

Låt oss presentera dig för några populära deepfakes som visar hur långt tekniken har kommit.

Deepfake av president Zelenskyy som ber ukrainska trupper att kapitulera

I mars 2022, under de tidiga skedena av kriget mellan Ryssland och Ukraina, dök en video upp på nätet visar Ukrainas president Volodymyr Zelenskyy och uppmanade sina soldater att kapitulera. 

Det såg ut som ett nationellt tal, komplett med Zelenskyys röst och manér. 

Videon spreds över sociala medier och lades även upp på en komprometterad ukrainsk nyhetswebbplats. 

Presidenten agerade snabbt och släppte ett officiellt uttalande via sina verifierade kanaler för att avfärda bilderna. 

Den virala Deepfake-bilden av påven Franciskus i en designerpufferjacka

Ibland behöver en deepfake-bild inte vara skadlig för att skapa förvirring.

År 2023 har en viral bild av Påven Franciskus går runt i en snygg vit Balenciaga pufferjacka tog internet med storm.

Den visades tiotals miljoner gånger och delades flitigt på olika plattformar.

Bilden skapades med hjälp av ett AI-verktyg som heter Midjourney av en anonym användare i Chicago. 

Elon Musk Deepfakes används i online-bedrägerier

År 2024, deepfakes med Elon Musk blev en central del av flera storskaliga bedrägerier på nätet. 

AI-genererade videor av Musk började dyka upp på Facebook, TikTok och andra plattformar och marknadsförde falska kryptovalutautdelningar och investeringsscheman. 

Dessa klipp såg och lät anmärkningsvärt verkliga.

Skadan var inte bara teoretisk. En äldre pensionär förlorade enligt uppgift nästan $700 000 efter att ha blivit övertygad av en av dessa videor. 

Joe Biden Deepfake Robocall som riktade sig till amerikanska väljare

I början av 2024, strax före primärvalet i New Hampshire, väljare fick telefonsamtal från robotar som lät precis som USA:s president Joe Biden. 

I samtalet uppmanade Joe Biden väljarna att stanna hemma och spara sin röst till det allmänna valet i november. Avsikten var att förvirra och vilseleda väljarna till att hoppa över primärvalet.

Händelsen utlöste krav på reglering. Intressegrupper uppmanade den amerikanska valmyndigheten Federal Election Commission att ingripa, men FEC avböjde i slutändan med hänvisning till begränsningar i sina befogenheter.

Under tiden har telekomföretaget som ansvarar för att distribuera robocall gick med på att betala böter på $1 miljoner.

Politisk användning av deepfake i de indiska valen 2020

Inte all användning av deepfake-teknik är skadlig eller vilseledande i avsikt (mer om detta längre fram i bloggen).

Under valet till Delhis lagstiftande församling 2020 Bharatiya Janata Party använde AI för att skräddarsy en kampanjannons för olika språkliga målgrupper. 

Partiet tog en video av sin ledare Manoj Tiwari som talade engelska och använde deepfake läppsynkning för att producera en version på Haryanvi, en regional dialekt.

Medan berättarrösten kom från en skådespelare modifierades bilderna för att matcha det nya ljudet med hjälp av AI som tränats på riktiga bilder av Tiwari. 

Partimedlemmarna såg det som en positiv tillämpning av tekniken som gjorde det möjligt för dem att få kontakt med väljarna på ett språk som de förstod, även om kandidaten inte talade det flytande.

Är deepfakes farliga? Risker och farhågor

Hittills har vi tittat på vad som är en deepfake, hur den tillverkas och var den redan har dykt upp i den verkliga världen. 

Tekniken är onekligen imponerande, men de risker som är förknippade med den är allvarliga och växer snabbt. 

Deepfakes kan användas som vapen på många olika sätt. Här är några av de största farhågorna.

Ärekränkning

När någons likhet eller röst används för att skapa falska kommentarer, uttalanden eller videor, särskilt sådana som är stötande eller kontroversiella, kan det förstöra rykten nästan omedelbart. 

Och till skillnad från äldre bluffar eller falska citat lämnar en övertygande deepfake lite utrymme för tvivel i betraktarens sinne.

I detta avseende kan deepfakes väcka upprördhet, förstöra relationer eller helt enkelt driva en skadlig berättelse. 

Det som är särskilt oroande är att deepfake inte ens behöver vara perfekt.

Så länge personen är igenkännbar och innehållet är tillräckligt trovärdigt kan det få en bestående inverkan på den allmänna opinionen.

Trovärdigheten i informationen

Ett annat stort problem är hur deepfakes undergräver själva idén om sanning. 

I takt med att deepfakes blir allt vanligare blir det allt svårare att veta om det vi ser eller hör är äkta. Med tiden kan detta leda till en bredare erosion av förtroendet för alla former av digital kommunikation.

Denna trovärdighetskris går utöver enskilda incidenter.

I demokratiska samhällen förlitar sig människor på gemensamma fakta för att fatta beslut, debattera frågor och lösa kollektiva problem. 

Men om väljare, tittare eller medborgare börjar ifrågasätta allt blir det mycket lättare att manipulera den allmänna opinionen eller att avfärda obekväma sanningar som "bara ännu en deepfake". 

Utpressning

AI-genererade medier kan användas för att felaktigt belasta individer genom att få det att se ut som om de har gjort något olagligt, oetiskt eller pinsamt. 

Den här typen av fabricerade bevis kan sedan användas för att hota eller kontrollera dem.

Och det gäller åt båda hållen. Eftersom deepfakes nu är så realistiska kan någon som utsätts för verklig utpressning hävda att bevisen är falska, även om de inte är det. 

Detta kallas ibland för utpressningsinflation, där den stora mängden trovärdiga förfalskningar i slutändan minskar värdet på faktiskt komprometterande material. 

Trovärdigheten hos verkliga bevis försvinner i dimman, och det gör det bara ännu mer komplicerat att försöka avslöja missförhållanden.

Bedrägerier och bedrägerier

Med hjälp av AI-genererade videor eller röster från betrodda offentliga personer skapar bedragare otroligt övertygande upplägg.

I vissa fall används deepfakes av kändisar som Elon Musk, Tom Hanks eller Oprah Winfrey för att marknadsföra produkter eller tjänster som de aldrig har hört talas om.

Dessa videor sprids sedan på sociala plattformar, där de når miljontals människor.

Även privatpersoner är utsatta, särskilt i spearphishing-kampanjer som riktar sig till specifika personer med personligt innehåll som är utformat för att manipulera eller lura.

Enligt en 2024 rapport av Forbeshar deepfake-drivna bedrägerier redan orsakat uppskattningsvis $12 miljarder i globala förluster, och den siffran förväntas mer än tredubblas under de närmaste åren. 

Positiva och kreativa användningar av deepfakes

Det är värt att notera att inte alla tillämpningar av tekniken är negativa. 

Medan många bloggar som förklarar vad som är en deepfake fokuserar på missbruk, finns det en växande lista över kreativa och produktiva sätt som deepfakes används på. 

Nedan följer några viktiga exempel.

Film- och skådespelarframträdanden

Studios börjar förlita sig på deepfake-teknik för saker som: 

• Förbättring av visuella effekter
• Sänkta produktionskostnader
• Återuppliva karaktärer som inte längre finns kvar 

Disneyhar till exempel förfinat högupplösta deepfake-modeller som gör det möjligt att byta ansikte på och avåldra skådespelare med imponerande realism.

Deras teknik arbetar med en upplösning på 1024 x 1024 och kan exakt spåra ansiktsuttryck för att få karaktärer att se yngre eller mer uttrycksfulla ut.

Utöver Hollywood har deepfakes möjliggjort globala kampanjer, till exempel när David Beckham var digitalt klonad att leverera ett hälsobudskap på flera språk.

Konst

År 2018 använde multimediakonstnären Joseph Ayerle deepfake-teknik för att skapa en AI-skådespelare som blandade den italienska filmstjärnan Ornella Mutis ansikte med Kendall Jenners kropp. 

Resultatet blev ett surrealistiskt utforskande av generationsidentitet och konstnärlig provokation, en del av ett videokonstverk med titeln Un'emozione per sempre 2.0.

Deepfakes har också dykt upp i satir och parodi. 

Webbserien Sassy Justice från 2020, skapad av South Park-skaparna Trey Parker och Matt Stone, är ett utmärkt exempel. 

Den använde deepfaked offentliga personer för att driva med aktuella händelser och samtidigt öka medvetenheten om själva tekniken. 

Kundtjänst

Även andra företag än de kreativa branscherna ser fördelar med deepfakes för tjänster som riktar sig till kunder. 

Vissa callcenter använder nu syntetiska röster som drivs av deepfake-teknik för att automatisera grundläggande förfrågningar, till exempel kontoförfrågningar eller klagomålsloggning. 

I dessa fall är avsikten inte illvillig utan helt enkelt att effektivisera.

Svarssystem för uppringare kan anpassas med hjälp av AI-genererade röster så att automatiserade tjänster låter mer naturliga och engagerande.

Eftersom de uppgifter som hanteras vanligtvis är lågrisk och repetitiva bidrar deepfakes i detta sammanhang till att minska kostnaderna och frigöra mänskliga agenter för mer komplexa frågor.

Utbildning

Utbildningsplattformar har också börjat införliva deepfake-drivna handledare för att hjälpa eleverna på mer interaktiva sätt. 

Dessa AI-drivna handledare kan ge lektioner med hjälp av syntetiska röster och personlig vägledning.

Verktyg och tekniker för deepfake-detektering

I takt med att deepfakes blir allt mer avancerade och tillgängliga ökar också behovet av att identifiera dem innan de orsakar skada. 

Människor och organisationer behöver också de rätta verktygen och teknikerna för att ligga steget före. Så här är några verktyg och tekniker.

AI Image Detector av Undetectable AI

Undetectable AI:s AI Image Detector gör det enklare att upptäcka deepfake, även för dem som inte har någon teknisk bakgrund. 

Detektorn fungerar genom att analysera olika element i en uppladdad bild, till exempel färgmönster, texturer, ansiktsdrag och strukturella inkonsekvenser. 

Programmet stöder detektering av media som skapats med de mest välkända AI-bildgeneratorerna, t.ex. 

• MidJourney 
• DALL-E
• Stabil diffusion 
• Ideogram
• GAN-baserade modeller

För att använda det behöver du bara ladda upp en bild, låta verktyget analysera den och få en tydlig dom med en förtroendepoäng.

Om du är osäker på om en bild som du har stött på är äkta, prova vår AI-bilddetektor för att kontrollera om det finns några tecken på AI-intrång.

Här är till exempel en AI-bild av en flamingo som genererats med hjälp av Stable Diffusion.

Låt oss nu sätta Undetectables AI-detektor för att se om den kan avgöra om bilden är AI-genererad.

Som ni kan se har AI-detektorn Undetectable AI märkt den här bilden med flaggan 100% AI-generated.

TruthScan

Ett annat anmärkningsvärt verktyg i kampen mot deepfakes är TruthScan. 

TruthScan är byggt för videoanalys med höga insatser. Det är inriktat på att skydda organisationer från videobedrägerier, identitetsförfalskningar och kampanjer med felaktig information på digitala plattformar.

TruthScan erbjuder en bred uppsättning funktioner:

• Face Swap Detection letar efter tecken på ansiktsbyten och reenactment-attacker med hjälp av bildruta-för-bild-analys.
• Ansiktsautentisering hjälper till att verifiera om en persons ansikte och ansiktsuttryck är äkta eller syntetiskt genererade.
• Analys av liveströmmar är särskilt användbart för videosamtal eller live-evenemang, där deepfakes upptäcks i realtid med låg latens.
• Video Forensics undersöker komprimeringsartefakter, inkonsekvenser i bildrutor och digitala fingeravtryck som kan avslöja tecken på redigering.

Visuella och beteendemässiga tekniker för manuell detektering

Det finns också praktiska tekniker som enskilda personer kan använda för att upptäcka deepfakes manuellt, särskilt i situationer där omedelbar analys behövs.

Några visuella varningsflaggor är

• Obekväm ansiktspositionering eller udda uttryck.
• Inkonsekvent belysning eller färgsättning i olika delar av bilden eller videon.
• Flimmer runt ansiktet eller hårfästet, särskilt vid rörelse.
• Avsaknad av naturlig blinkning eller oregelbundna ögonrörelser.
• Avvikelser i läppsynkroniseringen när ljudet inte stämmer överens med talet.

Ur en beteendemässig vinkel kämpar deepfakes ofta för att efterlikna subtila mänskliga drag. Var uppmärksam på kroppsspråk, känslomässiga uttryck och vanliga gester.

Och i realtidskonversationer, särskilt livevideor, be om en sidoprofilvy.

Många deepfake-modeller kämpar fortfarande med att exakt återge en 90-graders ansiktsvinkel eller komplexa rörelser som att vrida på huvudet samtidigt som de bibehåller naturliga uttryck.

Att upptäcka deepfakes i text och kontext

Deepfakes är inte begränsade till visuella element. Vissa versioner involverar syntetisk text, röst eller beteende som efterliknar någons kommunikationsstil.

När du analyserar textinnehåll eller dialog, håll utkik efter:

• Felstavningar och udda grammatik.
• Meningar som känns forcerade eller inte flyter naturligt.
• Ovanliga e-postadresser eller inkonsekventa formuleringar.
• Meddelanden som känns utanför sitt sammanhang eller som inte är relaterade till situationen.

Sammanhanget spelar också roll. Om en video eller ett meddelande visas i en miljö som inte är logisk, som när en politiker meddelar ett viktigt beslut i ett klipp av låg kvalitet, är det värt att ifrågasätta dess äkthet.

Är du nyfiken på vår AI Detector och Humanizer? Prova dem i widgeten nedan!

Vanliga frågor om deepfakes

Avslutande tankar

Nu vet du vad en deepfake-bild eller media i allmänhet är. Det är en komplex blandning av AI och djupinlärning som på ett övertygande sätt kan efterlikna människor, visuellt eller auditivt, ofta utan deras vetskap eller samtycke. 

Och även om farorna är mycket verkliga, är de kreativa användningsområdena inte mindre heller.

Den sista slutsatsen är denna: deepfakes kommer inte att försvinna. I takt med att tekniken fortsätter att förbättras måste även vår förmåga att känna igen och reagera på den förbättras. 

Om du vill ha ett enkelt och effektivt sätt att verifiera om en bild är AI-genererad kan du prova Undetectable AI:s AI Image Detector. 

Det är snabbt, exakt och enkelt att använda för alla.

Kontrollera din bild nu med AI Image Detector och se vad den avslöjar.