Jak poznat, zda je obrázek vytvořen umělou inteligencí: Nejlepší metody, jak zjistit, zda je obraz

Viděli jste ten virální Papežova fotografie ve stylové bílé bundě v roce 2023?

Miliony lidí ji sdílely, zpravodajské weby o ní informovaly a všichni mluvili o tom, jak stylově papež vypadá. 

Byl tu jen jeden problém - nikdy se to nestalo. Obraz byl kompletně vytvořen umělou inteligencí. 

Nebo si možná vzpomenete na šokující obrázek výbuch v Pentagonu která krátce otřásla akciovým trhem. Falešné!

A co obrázky Trump je zadržen a zatčen? Opět je zcela vymyslela umělá inteligence.

Falešné snímky umělé inteligence způsobily skutečnou škodu. 

Lidé přišli o peníze při investování na základě falešných zpráv. 

Celebrity i obyčejní lidé jejich obličeje se objevily na jiných tělech v trapných nebo nevhodných situacích. 

Politici byli ukázáni, jak říkají a dělají věci, které ve skutečnosti nikdy neudělali.

Když nemůžeme věřit vlastním očím, potřebujeme nové způsoby, jak zjistit, co je skutečné a co ne. 

V tomto blogu vám ukážu, jak se technologie AI a DeepFake v průběhu let vyvíjela, jak je důležité rozpoznat AI vs. skutečné obrázky, jak zjistit, zda je obrázek vytvořený umělou inteligencí, nebo jaký je nejlepší nástroj pro detekci obrázků vytvořených umělou inteligencí. 

Jak se vyvíjelo umění umělé inteligence a technologie Deepfake

Promluvme si o AI nejprve...

Ještě nedávno vypadaly obrázky generované umělou inteligencí jako zlý sen - rozmazaný obličej, prsty navíc a spousta podivností. Dnes je však umění umělé inteligence až šokujícím způsobem realistické. 

Vše začalo kolem roku 2014 GANs (Generative Adversarial Networks), kde se dva modely umělé inteligence - jeden vytvářející padělky a druhý je odhalující - navzájem vylepšovaly. 

První obrázky GAN byly dost špatné - rozmazané obličeje s podivnýma očima a chybějícíma ušima. 

Do roku 2020 se situace výrazně zlepšila díky "difuzní modely". 

Začínají s chaotickým obrázkem plným teček a pomalu ho čistí, dokud nevypadá skutečně. 

To byl obrovský skok kupředu. Umělá inteligence najednou dokázala vytvářet mnohem jasnější a realističtější obrazy.

Technologie Deepfake funguje stejným, ale složitějším způsobem.

Využívá technologii AI a Deepfake.

Umělá inteligence se studiem mnoha videí a obrázků naučí, jak vypadá něčí obličej z mnoha úhlů a výrazů.

Pak může umístit tvář této osoby na tělo někoho jiného v jiném videu. 

Počítač se naučí přizpůsobit osvětlení, odstín pleti a dokonce i drobné výrazy, aby vypadaly reálně.

První deepfakes z roku 2017 vypadaly zjevně a chybně. Dnešní deepfakes mohou být téměř dokonalé.

Chcete-li se podívat na srovnání, podívejte se na videa níže:

Deepfake v roce 2017 - Falešné Obamovo video 

Deepfake v roce 2023 - Emma Watson ve filmu "Get Out (2017)"

V roce 2022 vytvořili lidé pomocí umělé inteligence přibližně 6 milionů obrázků. Na začátku roku 2023 to bylo již více než 20 milionů obrázků denně.

Dnes existují na internetu miliardy obrázků vytvořených umělou inteligencí a většina z nás je vidí denně, aniž by o tom věděla. 

Rizika dezinformačních obrázků generovaných umělou inteligencí

Falešné zprávy se na sociálních sítích šíří 6x rychleji než pravdivé. 

Škody jsou obvykle napáchány v okamžiku, kdy někdo upozorní na to, že obrázek je falešný. 

Rizika spojená s falešnými snímky jsou:

1) Manipulace - Falešné představy vytvářejí falešná vyprávění o ostatních, včetně voleb, vůdců a světových událostí. Například, Obrázky generované umělou inteligencí falešně zobrazovaly zatčení amerického prezidenta Donalda Trumpa.

2) Pomluva - Falešné snímky mohou zničit pověst. Například, v lednu 2024 se na internetu rozšířily obrázky Taylor Swift vytvořené umělou inteligencí, které ji falešně zobrazovaly.

3) Sociální nepokoje - Jediný falešný obrázek může vyvolat pobouření, nepokoje nebo dokonce násilí. Například, v květnu 2023 se na sociálních sítích rozšířil obrázek vygenerovaný umělou inteligencí, který zobrazoval výbuch poblíž Pentagonu.

4) Podvod - Podvodníci používají falešné obrázky, aby z lidí vylákali peníze. Například; Michael Hewson (finanční analytik) se vydával za účelem propagace podvodných investičních programů.

Nyní se objevuje další problém, tzv. "lhářská dividenda". 

Vzhledem k tomu, že se padělky umělé inteligence stávají běžnými, lidé přistižení při skutečných skandálech jednoduše odmítají důkazy jako "deepfake" - i když je pravá. Politici už tuto taktiku začali používat.

Důležitost rozpoznávání umělé inteligence a skutečných obrázků

Potřeba porozumět skutečnému a falešnému obrazu je větší než kdy jindy, a to z několika důvodů: 

1 - Narušení důvěry veřejnosti 

Naše společnost je založena na důvěře. Náš mozek přijímá to, co vidí ve zprávách, u soudu nebo od našich vůdců. 

Ale nyní, když umělá inteligence vytváří tak přesvědčivé falešné snímky, se tato důvěra rozpadá. 

Pokud budeme i nadále takto podezřívaví, zcela se změní naše spojení se světem. 

2 - Právní důsledky a vznikající předpisy

Vlády se snaží přijít na to, co dělat s falešnými obrázky umělé inteligence. 

Například, 

• Kalifornie právě přijala zákon který zakazuje vytváření falešných politických reklam pomocí umělé inteligence v době voleb. 

• Na stránkách Zpravodajský zákon EU ukládá povinnosti o označování požadavků na materiály AI & deepfake.

3 - Dopad na dovednosti v oblasti digitální gramotnosti

Umělá inteligence se zlepšuje ve vytváření falešných snímků, a proto se musíme všichni zlepšit v jejich rozpoznávání. 

Školy musí studenty učit o umělé inteligenci a neustále se vyvíjející technologii Deepfake.

Musíme si vytvořit úplnou představu, abychom nevěřili jen tomu, co vidíme na internetu.

4 - Udržování řetězců autenticity

Jedním z řešení může být "Řetězce autenticity." 

To znamená sledovat, odkud obraz pochází - od okamžiku, kdy je vytvořen, až do okamžiku, kdy ho vidíme. 

Speciální technologie dokáže do skutečných fotografií přidat neviditelné značky, které ukazují, kdo a kdy je pořídil. 

Pokud bychom ji použili, mohli bychom ověřit historii obrázku a jeho pravost.

Jak poznat, že je obrázek vytvořený umělou inteligencí (klíčové znaky)

Obrázky generované umělou inteligencí vypadají tak reálně, že nováček jen těžko najde rozdíl. 

Pokud se snažíte zjistit, zda je obrázek vytvořen umělou inteligencí, zaměřte se na tyto klíčové údaje: 

• 1. Nepřirozené nebo surrealistické detaily

Umělá inteligence nedokáže rozpoznat některé části těla, zejména ruce. 

Na každé ruce máme 5 prstů, ale umělá inteligence často dává lidem 6-8 prstů, srostlé prsty nebo podivně vypadající palce. Podívejte se na ruce.

Zdroj = Fltimes

Umělá inteligence také dělá nepořádek zuby hodně. 

Hledejte zuby, které se zdají být příliš dokonalé, příliš mnoho zubů v ústech nebo zuby, které nejsou v jedné linii. 

Někdy všechny zuby splynou v jednu bílou skvrnu.

Obrázek vygenerovaný ChatGPT 

Mezi další chyby těla patří:

• Oči, které se neshodují nebo se dívají trochu jiným směrem.
• Uši, které se k sobě nehodí nebo jsou v různých výškách.
• Brýle, které se podivně deformují nebo se snášejí z obličeje.
• Šperky, které se rozplývají v kůži nebo se neřídí pohybem těla.

• 2. Příliš hladké nebo plastické textury

Skutečná kůže má texturu (póry, vrásky, drobné nedokonalosti). Díky umělé inteligenci však pleť často vypadá jako plastová panenka - je příliš dokonalá!

Dalším vodítkem jsou vlasy. Skutečné vlasy mají jednotlivé prameny, které se rozbíhají různými směry. 

Vlasy s umělou inteligencí často vypadají jako jeden celek, zejména v místě, kde se stýkají s čelem. 

Linie vlasů by mohla vypadat spíše jako namalovaná, než aby se na ní zobrazovaly jednotlivé vlasy.

Zdroj = Mikestuzzi

Oblečení na obrázcích s umělou inteligencí jsou buď velmi hladké, nebo mají podivné vrásky, které nedávají fyzikální smysl. 

Podívejte se, jak se látky skládají - ohýbají se stejně jako skutečné materiály?

Umělá inteligence často způsobuje, že látka vypadá, jako by se roztavila nebo zmrzla nemožným způsobem.

Proč se to děje? Umělá inteligence nerozumí fyzice a materiálům - jen kopíruje vzory, které už viděla. 

Například,

Mohlo by to vědět jak vypadá džínovina, ale ne to, jak se džínovina chová, když si na ni někdo sedne. Podívejte se na tato vodítka. 

• 3. Rozmazaný nebo nesrozumitelný text na obrázku

Text je největší slabinou umělé inteligence. 

Když vidíte slova nebo písmena na obrázku s umělou inteligencí, jsou často rozmazaná, nesmyslná nebo prostě špatná. 

Obrázek vygenerovaný ChatGPT

Hledejte:

• Slova, která začínají normálně, ale mění se v bláboly.
• Písmena, která se mísí nebo mění tvar
• Nemožné kombinace symbolů
• Text na cedulích nebo tričkách, který nedává smysl.

K tomu dochází proto, že umělá inteligence nerozumí jazyku stejným způsobem jako obrázkům. Texty se zdají být dalším vizuálním vzorem.

• 4. Nekonzistentní osvětlení a stíny

Obrázky generované umělou inteligencí se neřídí pravidly světla a stínu ani jim nerozumí. 

Například, někdy to vypadá, že je na obloze více sluncí.

Nebo by se na objektech (kůže, kov, sklo) objevovaly stíny, které prostě nedávají smysl. 

Umělá inteligence nerozumí fyzice světla. Snaží se jen porovnat vzory, které už viděla, a ne počítat, jak se světlo odráží.

Zdroj = Creator.nightcafe.club

Tyto problémy se světlem se zlepšují, ale stále jsou běžné i u vysoce kvalitních snímků s umělou inteligencí. 

• 5. Podivné pozadí nebo nerealistické vnímání hloubky

Pozadí na snímcích umělé inteligence často napovídá, že něco není v pořádku. Hledejte:

• Budovy s nemožnou architekturou (okna, která nejsou v jedné linii, dveře, které nikam nevedou). 
• Objekty, které jako by splývaly s ostatními nebo s pozadím.
• Věci, které by měly být daleko, ale vypadají stejně velké jako věci zblízka. 

Zdroj = Wallpaperaccess.com

Někdy vypadá okraj, kde se osoba setkává s pozadím, divně - buď je příliš ostrý, nebo příliš rozmazaný. K tomu dochází proto, že umělá inteligence vytvoří osobu a pozadí zvlášť a pak se je snaží slepit dohromady. 

• 6. Zkontrolujte metadata a informace o zdroji

Každá fotografie pořízená skutečným fotoaparátem má "Metadata" - informace o tom, kdy a jak byl snímek pořízen. 

Snímky s umělou inteligencí nemají žádná metadata ani metadata, která by ukazovala, že byly vytvořeny programy jako DALL-E nebo Midjourney. 

Metadata můžete zkontrolovat pomocí: 

• Kliknutí pravým tlačítkem myši na obrázek a zobrazení položky "Vlastnosti" nebo "Informace". 
• Pomocí webových stránek, jako je např. metadata2go.com
• V telefonu použijte aplikace, jako je Photo Investigator.

Pokud si nejste jisti, zkuste zpětné vyhledávání obrázků.

• Přejít na Obrázky Google
• Nahrajte obrázek a zjistěte, zda se objevuje i jinde na internetu nebo v jiných verzích.

Pamatujte, že to, že někdo tvrdí, že pořídil fotografii, ještě neznamená, že je to pravda.

Kdo a proč to zveřejnil? Chtějí mě naštvat nebo vyděsit?

To jsou často příznaky falešných snímků. 

Nejlepší nástroj pro detekci obrázků vytvořených umělou inteligencí

Překvapivě máme k dispozici další nástroje vyškolené v oblasti umělé inteligence, které pomáhají při její detekci. V tomto případě se jedná o nástroj Detektor obrazu AI.

Podívejme se, co dělá dobrý detektor umělé inteligence dobrým.

1 - Přesnost: Některé detektorové nástroje jsou většinou správné, zatímco jiné dělají chyby. 

Nejlepší dnešní detektor se trefí přibližně v 80-85% případů, což není dokonalé, ale je to mnohem lepší než odhadovat. 

2 - Které generátory umělé inteligence dokáže detekovat: Některé nástroje dokáží skvěle rozpoznat jeden zdroj (např. snímky DALL-E), ale jiné přehlédnou (např. padělky Midjourney).

Tento nástroj je vyškolen na všech hlavních uměleckých nástrojích AI - DALL-E, Midjourney, Stable Diffusion a dalších.  

3 - Snadné používání: Ke kontrole, zda je obrázek falešný, byste neměli potřebovat titul z informatiky. 

Stačí nahrát obrázek a výsledek se zobrazí během několika sekund.

4 - Ochrana osobních údajů: Některé detektory uchovávají všechny nahrané snímky, což může být problém, pokud kontrolujete citlivé fotografie. Tento nástroj snímky po kontrole odstraní.

Zde se dozvíte, jak používat naše Detektor obrazu AI:

• Klikněte na tento odkaz a navštivte webové stránky.

• Vyberte požadovaný obrázek z počítače nebo telefonu. Nástroj přijímá formáty JPEG a PNG o velikosti až 4,5 MB.

• Klikněte na tlačítko a počkejte několik sekund.
• Celkové skóre od 1 do 100 ukazuje, s jakou pravděpodobností je obrázek vytvořen umělou inteligencí.

Nejlepších výsledků dosáhnete, když použijete obrázky, které nebyly silně komprimovány nebo jejichž velikost nebyla změněna.

Snímky obrazovky a obrázky ze sociálních médií jsou často komprimované, což může ztížit jejich detekci.

Někdy se detektory mýlí dvěma hlavními způsoby:

• Falešně pozitivní výsledky když detektor tvrdí, že obrázek je vytvořen umělou inteligencí, ale je skutečný. To se může stát u vysoce upravených fotografií, ilustrací nebo obrázků s neobvyklým osvětlením. 

Falešně negativní výsledky když detektor tvrdí, že je obrázek skutečný, ale ve skutečnosti je vytvořen umělou inteligencí.

To se nejčastěji stává u silně upravených snímků umělé inteligence nebo u snímků vytvořených novějšími modely umělé inteligence, o kterých se detektor ještě nedozvěděl.

Pokud hledáte snadný způsob, jak analyzovat obsah generovaný umělou inteligencí, podívejte se na náš detektor umělé inteligence a nástroj Humanizer v níže uvedeném widgetu!

Časté dotazy k detekci obrázků generovaných umělou inteligencí

Závěrečné myšlenky: Jak rozpoznat obrázky vytvořené umělou inteligencí

Tímto bychom to uzavřeli, a než tento blog ukončíme, mám pro vás jednu otázku.

Proč je náš mozek tak snadno oklamán obrázky umělé inteligence?

Odpověď spočívá v lidské psychologii.

Náš mozek se řídí "efekt obrazové nadřazenosti".

Podle toho nám obrázky utkví v paměti lépe než slova.

Když něco vypadá reálně a zapadá do toho, čemu už věříme, nezpochybňujeme to. Navíc jsme často příliš zaneprázdněni na to, abychom si dvakrát ověřili, zda je obrázek pravý, nebo falešný.

V tomto případě můžete hledat vodítka, o kterých jsme hovořili výše. Podivné ruce, zvláštní text a dokonalá pleť vám pomohou odhalit padělky umělé inteligence.

Nejdůležitější je si uvědomit, že vaše oči mohou být oklamány. To, že obrázek vypadá jako pravý, ještě neznamená, že je pravý.

Když na internetu uvidíte něco úžasného nebo šokujícího, chvíli se nad tím zamyslete, než to budete sdílet nebo hodnotit.

Umělá inteligence se každým dnem zlepšuje, a proto se musíme všichni zlepšit v jejich rozpoznávání. Až příště uvidíte úžasný obrázek, stanete se super obrazovým detektivem a budete hledat stopy?