Jak rozpoznat Deepfake: Úplný návod s příklady

V roce 2018 vytvořil Jordan Peele video s bývalým prezidentem USA Barackem Obamou, které oklamalo miliony Američanů.

Ve zprávách se objevilo video, na němž Obama předává varovné poselství. 

Ale hádejte, o čem to bylo? O falešné zprávy.

Poté se ukázalo, že se jedná o umělou inteligenci. Peele to použil jako ukázku toho, jak technologie, zejména deepfakes, mohou manipulovat s realitou.

Ale to bylo v roce 2018 a od té doby se deepfakes a videa generovaná umělou inteligencí stala až děsivě dobrými. 

Špatní aktéři je používají ke všemu možnému, od porna z pomsty po politické dezinformace.

Obličeje celebrit se mění na explicitní obsah.

Zdá se, že politici vydávají prohlášení, která nikdy neučinili. Váš soused vás teoreticky může donutit, abyste na videu řekli cokoli.

To, co dříve vyžadovalo drahý software a technické znalosti, se nyní děje pomocí bezplatných aplikací pro chytré telefony.

Přesvědčivý falešný obsah dokáže vytvořit kdokoli během několika minut. Ale máme pro vás dobrou zprávu: můžete se je naučit rozpoznat.

Tento průvodce vás naučí, jak přesně rozpoznat deepfakes dříve, než vás oklamou.

Protože ve světě, kde vidět přestává znamenat věřit, jsou vaše schopnosti kritického myšlení nejlepší obranou.

---

Klíčové poznatky

• Deepfakes se často vyznačují jemnými vizuálními chybami v pohybech obličeje, osvětlení a očním kontaktu.

• Zvukové nesrovnalosti, jako jsou nepřirozené vzorce dýchání a kolísání hlasu, jsou hlavním varovným signálem.

• Manuální detekční techniky se zaměřují na analýzu synchronizace rtů, vzorů mrkání a konzistence pozadí.

• Profesionální detekční nástroje dokáží identifikovat syntetický obsah s vyšší přesností než lidské pozorování.

• Pochopení rozdílu mezi deepfakes a cheapfakes vám pomůže udržet si ostražitost před různými typy manipulací.

• Mezi rychlé metody ověření patří zpětné vyhledávání obrázků a kontrola důvěryhodnosti zdroje.

---

Běžné příznaky, že se díváte na Deepfake

Deepfakes nejsou dokonalé. Alespoň zatím ne.

I ten nejdokonalejší obsah generovaný umělou inteligencí zanechává poznávací znamení, která mohou být zachycena zkušeným okem. Představte si je jako digitální obdobu špatného falešného občanského průkazu.

Technologie je působivá, ale není bezchybná.

Nejnápadnějším prozrazením jsou obvykle oči.

Lidské oči mají přirozenou jiskru, živost, kterou je těžké napodobit. Deepfakes často vytvářejí oči, které vypadají mírně skelné nebo rozostřené. 

Osoba se může dívat přímo před sebe bez přirozených mikropohybů, které dělají skutečné oči.

Je to nenápadné, ale když víte, co hledat, je těžké to přehlédnout.

Další slabinou je mimika obličeje.

Ve skutečných lidských tvářích se současně odehrává nespočet drobných svalových pohybů.

Když se usmíváte, nepohybují se jen vaše ústa. Zvedají se vám tváře, mrkají oči, zapojuje se celý obličej.

Deepfakes se s touto složitostí potýkají. Mohou zvládnout velké výrazy, ale chybí jim jemné podpůrné pohyby.

Jak rozpoznat falešné video

Nejběžnějším a potenciálně nejnebezpečnějším typem syntetických médií jsou deepfakes videa.

Používají se ve všech oblastech, od finančních podvodů až po politickou manipulaci.

Naučit se analyzovat pohyblivé obrázky vyžaduje jiné dovednosti než rozpoznávání falešných fotografií.

1. Začněte tím, že budete sledovat, jak osoba mrká. Lidé mrkají pravidelně a přirozeně, obvykle každých 3-5 sekund. Příliš časté nebo příliš slabé mrkání může být varovným signálem.
2. Věnujte pozornost pohybům hlavy a řeči těla. Skuteční lidé mají přirozené, plynulé pohyby, které odpovídají jejich řeči a emocím. Řeč těla nemusí odpovídat tónu hlasu nebo obsahu řeči.
3. Pečlivě prozkoumejte pozadí. Deepfakes často soustředí tolik výpočetního výkonu na obličej, že zanedbávají vše ostatní. Hledejte pozadí, které se zdá být uměle rozmazané nebo statické. 
4. Zkontrolujte, zda na okrajích obličeje nejsou digitální artefakty.. V místech, kde se vygenerovaná tvář setkává s původním videem, můžete vidět jemné halové jevy, barevné posuny nebo pixelizaci. Tyto digitální artefakty jsou viditelné zejména tehdy, když osoba otáčí hlavou nebo se rychle pohybuje. Technologie má problém udržet čisté okraje při rychlém pohybu.
5. Nekonzistence snímkové frekvence mohou také odhalit deepfakes. Pokud se zdá, že se obličej pohybuje jinou snímkovou frekvencí než zbytek videa, je to podezřelé.
6. Kvalita zvuku je klíčová. I když vizuální prvky vypadají dokonale, zvuk může prozradit podvrh. 

Jak analyzovat zvuk a hledat stopy Deepfake

Zvukové deepfakes se stávají až děsivě sofistikovanými.

Technologie klonování hlasu nyní dokáže replikovat něčí řečový vzor pomocí pouhých několika minut zvukové ukázky.

Stejně jako vizuální deepfakes mají i zvukové padělky vlastnosti, které pozorný posluchač dokáže rozpoznat.

Začněte tím, že budete věnovat pozornost dýchání. Při skutečném rozhovoru se lidé nadechují, vydechují nebo upravují hlasovou energii.

Hluboké falzifikáty tento krok často zcela vynechávají nebo vkládají zvuky dýchání, které působí roboticky a rovnoměrně.

Výsledek? Hlas, který mluví příliš hladce, příliš plynule, téměř jako by klouzal po kolejích.

Tyto anomálie můžete snáze odhalit, když budete poslouchat:

• Žádné pauzy na oddech, a to i v dlouhých větách
• Dechy, které znějí stejně, rovnoměrně načasované nebo podivně umístěné.
• Plochý tón bez únavy nebo hlasového napětí
• Řeč, která je "příliš dokonalá", jako by byla upravená.

Lidé nejsou tak uhlazení. Naše hlasy kolísají.

Kašleme, polykáme, ztrácíme se uprostřed myšlenky.

Takže když slyšíte hlas, který zní, jako by byl od začátku do konce vyžehlený, je to vodítko.

Šum na pozadí může také prozradit deepfake.

Pokud je někdo údajně v rušné kavárně, měli byste slyšet cinkání hrnků, tichý hovor, možná alarm auta.

Pokud je v něm mrtvé ticho nebo je naplněn obecným šuměním v pozadí, něco nesedí. Skutečné nahrávky mají texturu prostředí.

Nyní se zamyslete nad přízvuky. Manýry. Drobné zvláštnosti v tom, jak někdo mluví.

Ten divný způsob, jakým váš kamarád říká "knoflík", nebo jak váš kolega v každé větě vypouští poslední slabiku? Deepfakes je často přehlíží. Kopírují hlas, ne osobu.

Kvalita zvuku je dalším faktorem. Některé klipy mají špičkovou čistotu, ale tvrdí, že jde o telefonní nahrávky.

Ostatní zní komprimovaně, ale ne tak, aby to dávalo smysl v daném kontextu. Pokud zvuk neodpovídá prostředí, máte další červenou vlajku.

Emoce je asi nejtěžší předstírat a nejsnáze je odhalit.

Pokud vám někdo sděluje špatné zprávy vesele nebo roboticky, zatímco vypráví hluboce osobní příběh, důvěřujte svým instinktům. Syntetická řeč ještě nezvládla tón.

Deepfakes jsou působivé. Nejsou však neodhalitelné. Zatím ne.

A pokud posloucháte pozorně, pravda se obvykle skrývá v detailech.

Jak rozpoznat falešnou fotografii

Ohledně deepfake fotografie? Často jsou uprostřed bezchybné a na okrajích jsou divné.

Začněme osvětlením. 

V reálném životě se stíny a světla řídí pravidly.

Obličej osvětlený zleva by měl odpovídat zbytku prostředí.

Ale deepfakes to vždycky nechápou.

Všimnete si stínů padajících v opačných směrech nebo osvětlení, které působí bezdůvodně dramaticky.

Jeden snímek. Jeden okamžik. Žádný pohyb k analýze. Proto je těžší tyto padělky zachytit.

Ale stále můžete.

Podívejte se do očí a pak se podívejte, co se v nich odráží.

Pokud má někdo brýle, měl by vidět svět v odrazech: okna, světla, dokonce i ostatní lidi.

Pokud je to jen šum nebo podivně prázdný obraz, může být syntetický.

Pak je tu kůže.

Skutečná lidská pleť je složitá: póry, struktura, zabarvení, dokonce i občasný pupínek.

Deepfakes mají tendenci ji příliš vyhlazovat. Ne jako filtr, ale spíš jako by to někdo obrousil ve Photoshopu.

Může to vypadat perfektně, dokud to tak není.

Pokud vám něco připadá podivné, přibližte si to. Rozhlédněte se kolem sebe. Důvěřujte nepohodlí.

Čím jemnější je závada, tím jistější je podvrh.

Tipy pro ruční detekci bez nástrojů

K chycení padělku nepotřebujete nijak náročné nástroje.

Vaše oči a uši, pokud jsou používány záměrně, často stačí.

Důvěřujte svým instinktům. Pokud se vám něco nezdá, pravděpodobně to tak je. 

Porovnejte obsah s ověřenými záběry téže osoby, zejména s jejím hlasem, chováním a detaily obličeje.

Deepfakes obvykle postrádají nuance.

Zpomalte videa a zachyťte blikání prvků nebo podivné změny osvětlení snímek po snímku.

Ptejte se na zdroj: Kdo to zveřejnil jako první? Proč? Vysoce kvalitní klipy údajně natočené na nekvalitních zařízeních nebo nalezené pouze na jednom místě by měly vzbudit pozornost.

I bez metadat nebo pokročilé analýzy zanechává většina padělků stopy, pokud víte, co hledat.

Deepfake vs Cheapfake: Poznejte rozdíl mezi nimi

Deepfakes

• Vizuální nebo zvukové efekty generované umělou inteligencí
• Výměna obličeje, klonování hlasu, syntetická synchronizace rtů
• Vyžadují školící data a specializované nástroje
• Často obtížnější na výrobu, ale realističtější.

Cheapfakes

• Bez zapojení umělé inteligence
• Základní úpravy: střih, ořez, zpomalení, přefocení
• Skutečný obsah, špatný kontext
• Snadněji zjistitelné, ale často přehlížené

Deepfakes se spoléhají na pokročilé technologie, zatímco cheapfakes na manipulaci a klamání.

Obojí vás může oklamat, ale z různých důvodů.

Levné podvrhy často proklouznou pod pokličkou, protože používají skutečný obsah, který je zkreslený jen natolik, aby oklamal.

Když víte, s jakým problémem se potýkáte, můžete ho rychleji odhalit a zůstat chytřejší online.

Nástroje, které můžete použít k rozpoznání falešných zpráv

Zatímco ruční detekce je cenná, mohou specializované nástroje identifikovat syntetický obsah, který by mohl oklamat lidské pozorovatele.

Tyto nástroje využívají algoritmy strojového učení speciálně vyškolené k rozpoznávání obsahu vytvořeného umělou inteligencí.

Pro obrázky vyzkoušejte Undetectable AI's Detektor obrazu AI vyhodnotit, zda fotografie obsahuje syntetické prvky.

Tento nástroj analyzuje více aspektů generování obrazu a dokáže odhalit jemné artefakty, které lidské oko přehlédne.

Je obzvláště efektivní při identifikaci obličejů a objektů generovaných umělou inteligencí.

Pro komplexní detekci deepfake v různých typech médií se podívejte na aplikaci TruthScan. Detektor hlubokých falzifikátů.

Platforma kombinuje několik detekčních algoritmů, které analyzují videa, fotografie a zvuky a hledají známky syntetického vytváření.

S ověřením pravosti fotografií mohou pomoci nástroje pro zpětné vyhledávání obrázků, jako jsou Google Images, TinEye nebo Yandex.

Pokud najdete stejný obrázek použitý ve více kontextech nebo zjistíte, že koluje již několik let, naznačuje to možnou manipulaci nebo zneužití.

Nezapomeňte, že detekční nástroje nejsou dokonalé. Mohou produkovat falešně pozitivní výsledky (identifikace skutečného obsahu jako falešného) a falešně negativní výsledky (přehlédnutí skutečných deepfakes).

Nástroje používejte jako součást širší ověřovací strategie, nikoli jako definitivní důkaz.

Co dělat, když máte podezření na Deepfake?

Nesdílejte je, nebo je dokonce vyvracejte.

To může nechtěně zvýšit jeho dosah. Pokud si myslíte, že je obsah falešný, nahlaste ho přímo platformě. Většina webů má nástroje pro označování syntetických médií.

Kontrola faktů prostřednictvím důvěryhodných zdrojů, jako je Snopes nebo PolitiFact. Pokud ještě nebyla ověřena, zvažte její odeslání.

Než obsah zmizí, pořiďte si snímky obrazovky nebo uložte odkazy, protože by mohly později pomoci novinářům nebo vyšetřovatelům.

Upozorněte svou síť, ale vyhněte se přeposílání falešných zpráv. Místo toho se zaměřte na výuku, jak ho rozpoznat. Pokud se někdo za někoho vydává, dejte mu to vědět.

Možná budou chtít reagovat nebo podniknout právní kroky.

V případě deepfakes spojených s hrozbami nebo trestnými činy je nahlaste orgánům činným v trestním řízení. Zákony týkající se syntetických médií jsou v plném proudu a váš tip může mít význam.

Začněte zkoumat - náš detektor umělé inteligence a Humanizer čekají ve widgetu níže!

Časté dotazy o detekci falešných údajů Deepfake

Rozmazané čáry a pixelové lži

Deepfakes představují jednu z největších výzev pro integritu informací v digitálním věku. Nejsou však magické.

Se správnými znalostmi a nástroji můžete chránit sebe i ostatní před manipulací v syntetických médiích.

Pamatujte na hlavní zásady: důvěřujte svým instinktům, pečlivě zkoumejte detaily, ověřujte zdroje a používejte dostupné nástroje.

Hledejte nesrovnalosti v osvětlení, pohybech obličeje, kvalitě zvuku a prvcích pozadí. Věnujte pozornost kontextu a zvažte motivaci podezřelého obsahu.

Technologie se bude dále vyvíjet. Hluboké padělky se budou zlepšovat, ale zdokonalí se i metody jejich odhalování.

Informujte se o nových technikách a nástrojích. Podělte se o své znalosti s ostatními. Vytvořte si síť kritických myslitelů, kteří vám pomohou identifikovat syntetická média a bojovat proti nim.

Na vaší ostražitosti záleží. Každé falešné video, které zachytíte, každý zavádějící obrázek, který nesdílíte, každý člověk, kterého naučíte kriticky myslet, dělá internet o něco důvěryhodnějším.

Ve světě, kde technologie mohou vkládat slova do úst komukoli, jsou vaše skepse a znalosti mocnou zbraní proti podvodu.

Nezjistitelná AI nabízí nástroje, které vám pomohou rychleji analyzovat, zpochybňovat a ověřovat digitální obsah. Použijte je. Sdílejte je. Buďte důvodem, proč dezinformace přestanou u vás.

Budoucnost informací závisí na tom, zda se nám všem podaří lépe rozlišit realitu od výmyslů.

Vidět už neznamená věřit, ale vědět, co hledat, stále ještě ano.