Redan 2018 skapade Jordan Peele en video av USA:s tidigare president Barack Obama som lurade miljontals amerikaner.
Videon, som visade Obama när han framförde ett varnande budskap, spreds över hela världen.
Men gissa vad det handlade om? Falska nyheter.
Det avslöjades sedan att det var AI. Peele använde detta som en demonstration av hur teknik, särskilt deepfakes, kan manipulera verkligheten.
Men det var 2018, och sedan dess har deepfakes och AI-genererade videor blivit skrämmande bra.
Dåliga aktörer använder dem för allt från hämndporr till politisk desinformation.
Kändisars ansikten byts ut mot explicit innehåll.
Politiker verkar göra uttalanden som de aldrig har gjort. Din granne kan teoretiskt sett få dig att säga vad som helst på video.
Det som tidigare krävde dyr programvara och teknisk expertis kan nu göras med gratis appar för smartphones.
Vem som helst kan skapa övertygande falskt innehåll på några minuter. Men här är några goda nyheter: du kan lära dig att upptäcka dem.
Den här guiden lär dig exakt hur du identifierar deepfakes innan de lurar dig.
I en värld där man inte längre tror på det man ser, är kritiskt tänkande det bästa försvaret.
Viktiga slutsatser
- Deepfakes har ofta subtila visuella fel i ansiktsrörelser, belysning och ögonkontakt
- Ljudinkonsekvenser som onaturliga andningsmönster och röstfluktuationer är viktiga varningssignaler
- Manuella detektionstekniker fokuserar på att analysera läppsynk, blinkmönster och bakgrundskonsistens
- Professionella detekteringsverktyg kan identifiera syntetiskt innehåll med högre noggrannhet än mänsklig observation
- Att förstå skillnaden mellan deepfakes och cheapfakes hjälper dig att hålla ögonen öppna för olika typer av manipulation
- Snabba verifieringsmetoder inkluderar omvänd bildsökning och kontroll av källans trovärdighet
Vanliga tecken på att du tittar på en Deepfake
Deepfakes är inte perfekta. Inte än, i alla fall.
Även det mest sofistikerade AI-genererade innehållet lämnar tydliga tecken som ett tränat öga kan se. Tänk på dessa som den digitala motsvarigheten till ett dåligt falskt ID-kort.
Tekniken är imponerande, men den är inte felfri.
Oroa dig aldrig för att AI upptäcker dina texter igen. Undetectable AI Kan hjälpa dig:
- Få din AI-assisterade skrivning att synas människoliknande.
- Bypass alla större AI-detekteringsverktyg med bara ett klick.
- Användning AI säkert och självsäkert i skolan och på jobbet.
Det mest uppenbara avslöjandet är vanligtvis i ögonen.
Människoögon har en naturlig gnista, en livfullhet som är svår att återskapa. Deepfakes ger ofta ögon som ser lite glasartade eller ofokuserade ut.
Personen kan stirra rakt fram utan de naturliga mikrorörelser som riktiga ögon gör.
Det är subtilt, men när man väl vet vad man ska leta efter är det svårt att missa.
Ansiktsuttryck är en annan svag punkt.
Verkliga mänskliga ansikten har otaliga små muskelrörelser som sker samtidigt.
När du ler är det inte bara din mun som rör sig. Dina kinder lyfts, dina ögon rynkas, hela ditt ansikte deltar.
Deepfakes kämpar med denna komplexitet. De kanske lyckas med de stora uttrycken men missar de subtila stödrörelserna.
Hur man upptäcker en Deepfake-video
Video deepfakes är den vanligaste och potentiellt farligaste typen av syntetiska medier.
De används i allt från finansiella bedrägerier till politisk manipulation.
Att lära sig att analysera rörliga bilder kräver en annan kompetens än att upptäcka falska foton.
- Börja med att titta på personens blinkmönster. Människor blinkar regelbundet och naturligt, vanligtvis var 3-5:e sekund. För mycket blinkningar eller för lite blinkningar kan båda vara varningssignaler.
- Var uppmärksam på huvudrörelser och kroppsspråk. Riktiga människor har naturliga, flytande rörelser som motsvarar deras tal och känslor. Kroppsspråket kanske inte stämmer överens med tonfallet eller innehållet i talet.
- Granska bakgrunden noggrant. Deepfakes fokuserar ofta så mycket processorkraft på ansiktet att de försummar allt annat. Leta efter bakgrunder som verkar artificiellt suddiga eller statiska.
- Kontrollera om det finns digitala artefakter runt kanterna på ansiktet. Där det genererade ansiktet möter originalvideon kan du se subtila halos, färgskiftningar eller pixelering. Dessa digitala artefakter är särskilt synliga när personen vrider på huvudet eller rör sig snabbt. Tekniken har svårt att hålla kanterna rena under snabba rörelser.
- Inkonsekvenser i bildfrekvensen kan också avslöja deepfakes. Om ansiktet verkar röra sig med en annan bildfrekvens än resten av videon är det misstänkt.
- Ljudkvaliteten är avgörande. Även om de visuella elementen ser perfekta ut kan ljudet avslöja det falska.
Hur man analyserar ljud för Deepfake-ledtrådar
Ljudförfalskningar blir alltmer skrämmande sofistikerade.
Röstkloningsteknik kan nu replikera någons talmönster med bara några minuters ljudprov.
Men precis som visuella deepfakes har ljudförfalskningar egenskaper som noggranna lyssnare kan identifiera.
Börja med att vara uppmärksam på andningen. I verkliga samtal gör människor pauser för att andas in eller ut eller för att justera sin röststyrka.
Deepfakes hoppar ofta över detta helt eller sätter in andningsljud som känns robotaktiga och jämnt fördelade.
Resultatet? En röst som talar alltför smidigt, alltför kontinuerligt, nästan som om den glider på räls.
Du kan lättare upptäcka dessa avvikelser genom att lyssna efter:
- Inga andningspauseräven i långa meningar
- Andetag som låter likadana, jämnt tidsbestämd, eller konstigt placerad
- En platt ton utan trötthet eller röstansträngning
- Tal som känns "för perfekt", som om det vore konstruerat
Människor är inte så polerade. Våra röster vacklar.
Vi hostar, vi sväljer, vi tappar tråden mitt i tanken.
Så när du hör en röst som låter som om den har strukits platt från början till slut, är det en ledtråd.
Bakgrundsljud kan också avslöja en deepfake.
Om någon förmodligen är på ett livligt café, bör du höra koppar klirra, lågt prat, kanske ett billarm.
Om det är dödstyst eller fyllt med generiskt bakgrundssurr är det något som inte stämmer. Riktiga inspelningar kommer med miljöstruktur.
Tänk nu accenter. Manérismer. Små konstigheter i hur någon talar.
Det konstiga sättet din vän säger "knapp" på eller hur din kollega tappar bort den sista stavelsen i varje mening? Deepfakes missar ofta dessa. De kopierar rösten, inte personen.
Ljudkvaliteten är en annan berättelse. Vissa klipp har högklassig klarhet, men påstår sig vara telefoninspelningar.
Andra låter komprimerade, men inte på ett sätt som är rimligt i sammanhanget. Om ljudet inte matchar miljön har du en annan röd flagga.
Känslor är kanske det svåraste att fejka, och det lättaste att upptäcka.
Om någon låter glad när han eller hon levererar dåliga nyheter, eller robotaktig när han eller hon berättar en djupt personlig historia, lita på dina instinkter. Syntetiskt tal behärskar inte tonen ännu.
Deepfakes är imponerande. Men de är inte oupptäckbara. Inte ännu.
Och om du lyssnar noga ligger sanningen oftast begravd i detaljerna.
Hur man upptäcker ett Deepfake-foto
Grejen med deepfake-foton? De är ofta felfria i mitten, men blir konstiga i kanterna.
Låt oss börja med belysningen.
I verkliga livet följer skuggor och högdagrar regler.
Ett ansikte som är upplyst från vänster bör matcha resten av omgivningen.
Men deepfakes får inte alltid memot.
Du kommer att se skuggor som faller i motsatta riktningar eller belysning som känns dramatisk utan anledning.
En bildruta. Ett ögonblick. Ingen rörelse att analysera. Det är därför dessa förfalskningar är svårare att fånga.
Men det kan du fortfarande.
Titta på ögonen, och titta sedan på vad som reflekteras i dem.
Om man har glasögon bör man se världen reflekterad tillbaka: fönster, lampor, till och med andra människor.
Om det bara är brus eller konstigt tomt kan bilden vara syntetisk.
Sedan är det huden.
Människans hud är komplicerad: porer, struktur, missfärgningar och till och med en och annan finne.
Deepfakes tenderar att släta ut det för mycket. Inte som ett filter, utan mer som om någon slipat ner det i Photoshop.
Det kan se perfekt ut, tills det inte gör det.
Om något känns kusligt, zooma in. Titta dig omkring. Lita på obehaget.
Ju mer subtilt felet är, desto säkrare är fejken.
Tips för manuell detektering utan verktyg
Du behöver inga avancerade verktyg för att fånga en bluff.
Dina ögon och öron, när de används avsiktligt, är ofta tillräckliga.
Lita på dina instinkter. Om något känns fel, så är det förmodligen så.
Jämför innehållet med verifierade bilder av samma person, särskilt röst, manér och ansiktsdetaljer.
Deepfakes missar vanligtvis nyanserna.
Sakta ner videon för att fånga flimrande inslag eller konstiga ljusskiftningar bildruta för bildruta.
Fråga källan: Vem publicerade det först? Varför? Högkvalitativa klipp som påstås ha filmats med enklare enheter eller som bara finns på ett ställe bör få dig att höja på ögonbrynen.
Även utan metadata eller avancerad analys lämnar de flesta förfalskningar efter sig ledtrådar om du vet vad du ska leta efter.
Deepfake vs Cheapfake: Känn skillnaden
Deepfakes
- AI-genererade bilder eller ljud
- Ansiktsbyten, röstkloning, syntetisk läppsynk
- Kräver utbildningsdata och specialverktyg
- Ofta svårare att producera, men mer realistiskt
Billiga förfalskningar
- Ingen AI inblandad
- Grundläggande redigering: klippa, beskära, sakta ner, omforma
- Riktigt innehåll, fel sammanhang
- Lättare att upptäcka, men ofta förbisedd
Deepfakes förlitar sig på avancerad teknik, medan cheapfakes förlitar sig på manipulation och vilseledning.
Båda kan lura dig, men av olika skäl.
Cheapfakes glider ofta under radarn eftersom de använder riktigt innehåll som är vridet precis tillräckligt för att lura.
Om du vet vilken du har att göra med kan du upptäcka problemet snabbare och hålla dig smartare online.
Verktyg som du kan använda för att upptäcka en Deepfake
Medan manuell detektering är värdefullkan specialiserade verktyg identifiera syntetiskt innehåll som kan lura mänskliga observatörer.
Dessa verktyg använder maskininlärningsalgoritmer som tränats specifikt för att känna igen AI-genererat innehåll.
För bilder, prova Undetectable AI:s AI-bilddetektor för att utvärdera om ett foto innehåller syntetiska element.
Detta verktyg analyserar flera aspekter av bildgenereringen och kan upptäcka subtila artefakter som det mänskliga ögat missar.
Den är särskilt effektiv när det gäller att identifiera AI-genererade ansikten och objekt.
För omfattande deepfake-detektering över flera medietyper, kolla in TruthScans Deepfake-detektor.
Plattformen kombinerar flera detekteringsalgoritmer för att analysera videor, foton och ljud för tecken på syntetisk generering.
Verktyg för omvänd bildsökning som Google Images, TinEye eller Yandex kan hjälpa till att verifiera fotots äkthet.
Om du ser att samma bild används i flera sammanhang eller upptäcker att den har cirkulerat i flera år tyder det på att den kan vara manipulerad eller missbrukad.
Kom ihåg att detekteringsverktyg inte är perfekta. De kan ge falska positiva resultat (identifiera verkligt innehåll som falskt) och falska negativa resultat (missa faktiska deepfakes).
Använd verktygen som en del av en bredare verifieringsstrategi, inte som ett slutgiltigt bevis.
Vad du ska göra om du misstänker en Deepfake
Dela det inte eller avslöja det inte ens.
Det kan oavsiktligt öka dess räckvidd. Om du tror att innehållet är falskt ska du rapportera det direkt till plattformen. De flesta sajter har verktyg för att flagga syntetiska medier.
Faktakontroll genom pålitliga källor som Snopes eller PolitiFact. Om det inte har verifierats ännu kan du överväga att skicka in det.
Ta skärmdumpar eller spara länkar innan innehållet försvinner, eftersom det kan hjälpa journalister eller utredare senare.
Varna ditt nätverk, men undvik att lägga upp fejken igen. Fokusera i stället på att lära ut hur man upptäcker den. Om någon blir utpekad, låt dem veta det.
De kanske vill svara eller vidta rättsliga åtgärder.
För deepfakes som är kopplade till hot eller brott, rapportera dem till brottsbekämpande myndigheter. Lagarna för syntetiska medier håller på att komma ikapp och ditt tips kan göra skillnad.
Börja utforska - vår AI Detector och Humanizer väntar i widgeten nedan!
Vanliga frågor om Deepfake-detektering
Kan deepfakes upptäckas 100% av tiden?
Nej, även de bästa verktygen missar saker. Avslöjandet fungerar bäst när AI-verktyg, mänsklig granskning och kritiskt tänkande används tillsammans.
Vad ska jag göra om någon deepfuskar mig?
Spara bevismaterialet. Rapportera det till plattformen. Om det är skadligt eller olagligt, kontakta en advokat. Många regioner har nu lagar mot skadliga deepfakes.
Hur kan jag hjälpa andra att upptäcka deepfakes?
Fokusera på medvetenhet, inte rädsla. Lär ut observationsfärdigheter, dela med dig av tydliga exempel och påminn alltid människor om att kontrollera källor innan de delar med sig.
Suddiga linjer och pixellögner
Deepfakes utgör en av de största utmaningarna för informationsintegriteten i den digitala tidsåldern. Men de är inte magiska.
Med rätt kunskap och verktyg kan du skydda dig själv och andra från manipulation av syntetiska medier.
Kom ihåg de viktigaste principerna: lita på dina instinkter, granska detaljer noggrant, verifiera källor och använd tillgängliga verktyg.
Leta efter inkonsekvenser i belysning, ansiktsrörelser, ljudkvalitet och bakgrundselement. Var uppmärksam på sammanhanget och fundera över motiven bakom misstänkt innehåll.
Tekniken kommer att fortsätta att utvecklas. Deepfakes kommer att bli bättre, men detektionsmetoderna kommer också att förbättras.
Håll dig informerad om nya tekniker och verktyg. Dela med dig av dina kunskaper till andra. Bygg upp ett nätverk av kritiska tänkare som kan hjälpa till att identifiera och bekämpa syntetiska medier.
Din vaksamhet spelar roll. Varje fejkad video du fångar, varje vilseledande bild du inte delar, varje person du lär att tänka kritiskt gör internet lite mer pålitligt.
I en värld där tekniken kan lägga ord i munnen på vem som helst är din skepticism och kunskap kraftfulla vapen mot bedrägeri.
Odetekterbar AI erbjuder verktyg som hjälper dig att analysera, ifrågasätta och verifiera digitalt innehåll snabbare. Använd dem. Dela med dig av dem. Var anledningen till att felaktig information stannar hos dig.
Informationens framtid hänger på att vi alla blir bättre på att skilja på verklighet och påhitt.
Att se är inte längre att tro, men att veta vad man ska leta efter är det fortfarande.