Valószínűleg több mesterséges intelligencia által generált fotót látott már az interneten, mint gondolná.

Néha nyilvánvaló, hogy egy képet mesterséges intelligencia generált, de a generatív kép- és videóeszközök fejlődésével egyre nehezebb megállapítani, hogy a képet mesterséges intelligencia készítette. Az olyan új eszközök, mint a Google Nano Banana Pro, és az OpenAI frissítései ChatGPT képmodell segítségével a felhasználók gyorsan létrehozhatnak szintetikus képeket, amelyek a valóságos képeket tükrözik. Korábbi kutatások szerint az amerikaiak 85%-je azt mondja. a deepfakes aláássa az online bizalmat.

Számos eszköz állítja, hogy felismeri a mesterséges intelligencia által generált képeket, de vajon működnek-e?

Futtattam 50 észlelési ellenőrzést az öt legnépszerűbb mesterséges intelligencia-képdetektoron, és dokumentáltam az eredményeket. Ebben a cikkben nem csak az összes adatot mutatom be és magyarázom el, hanem a végén a dokumentációra is hivatkozom.

A tesztekhez a következő öt detektort használtam: TruthScan, AI vagy sem, Látványmotor, WasItAI, és Winston AI. Ezeket az eszközöket úgy teszteltem, hogy mindegyikükkel két ChatGPT által generált képet, hat Nano Banana által generált képet és két Midjourney által generált képet elemeztem. Többféle kérdezési stílust és technikát használtam (amelyekről később részletesen beszámolok, amikor az egyes elemzett képeket lebontom).

Mind az öt detektor feladata az volt, hogy kiszűrje a mesterséges intelligencia által létrehozott képeket olyan kategóriákban, mint a csalás, dezinformáció, általános fényképezés és mély hamisítványok. Nem meglepő módon nem mindegyik detektor teljesített jól. A TruthScan volt az egyetlen detektor, amely az összes általam beküldött tartalmat következetesen 97% vagy magasabb szintre osztályozta.

Az AI or Not is elég jól teljesített. Valójában, bár az AI or Not több AI által generált elemet 90% bizonyosság alatt minősített, a tesztjeim során a TruthScan mögött a második legpontosabb és legkövetkezetesebb detektor volt. Még ott is, ahol az AI or Not hibázott, ezek a hibák nem voltak katasztrofálisak, de még mindig van hova fejlődni.

A többi általam kipróbált AI képdetektor sokkal rosszabbul teljesített. A Sight Engine például 3 csalással kapcsolatos AI-képet minősített tévesen hitelesnek.

Most megmutatom neked az egyes képeket (a 10 képből, amit generáltam), elmagyarázom, hogyan készítettem el, és megmutatom, hogyan értékelték az egyes modelleket.

#1. "Man On a Ledge" (generált: ChatGPT)

Számomra (és naponta sok mesterséges intelligencia által generált tartalmat látok) a kép első pillantásra elég meggyőzőnek tűnik. Ha rákattintanál valakinek a közösségi média profiljára, végigpörgetnéd a hírfolyamát, és meglátnád ezt a képet, azonnal feltűnne, hogy mesterséges intelligencia által generált hamisítvány? Hogy igazságos legyek, megpróbáltam kreatívan bánni a felkéréssel. Itt van az, amivel ezt a képet generáltam:

---

“Készíts nekem egy fényképezőgépes fotót egy férfiról, aki egy tetőn áll, és lenéz az utcára, éjszaka, a kamera vakuja megvilágítja, az alatta lévő autók fénynyomai, mögötte egy nő áll, kezét az ajkán tartja, mosolyog, a fotó esztétikája olyan, mint egy fényképezőgépes fotó, amit 2009-ben készítettek a főiskolás barátok egy fényképezőgépen.“

---

Függetlenül attól, hogy mennyire kreatív voltam, vagy hogy hány részletet tettem bele a felszólításomba, a TruthScan és a Sight Engine még mindig helyesen minősítette a kimenetet mesterséges intelligencia által generáltnak. Az AI or Not detektor közel járt, de még mindig nem találta el a célt.

Winston és WasItAI teljesen tévedtek - a ChatGPT képet valósnak minősítették.

#2. "The Fake Receipt" (által generált ChatGPT)

Szerettem volna egy hamis nyugtát generálni a ChatGPT-vel, hogy lássam, mennyire néz ki valósághűen. Talán észrevehetitek, hogy a képen hiányzik a törvényes cím, de a textúra így is kissé valósághűnek tűnik. Azt mondanám, hogy ez a kép kevésbé meggyőző, mint az első, amit a ChatGPT-vel generáltattam, mégis a legtöbb detektor még mindig tankolt, amikor elemezte.

• Az összes ellenőrzés közül, amit lefuttattam ezen a képen, TruthScan volt a legpontosabb.
• Látványmotor itt tényleg kudarcot vallott, és rosszul ítélte meg a dokumentumokkal kapcsolatos mesterséges intelligencia képet.
• AI vagy sem ebben a második elemzésben észrevehetően jobban teljesített.
• Winston AI teljesített a legrosszabbul, és a WasItAI is teljesen megbukott.

Tekintettel arra, hogy ez a kép a csalás kategóriához tartozik, aggasztó, hogy a legtöbb detektor rosszul osztályozta.

A kép létrehozásához használt prompt

---

“Készítsen egy képet egy best buy blokkról, amelyen az áll, hogy a teljes elköltött összeg egymilliárd dollár, és van rajta egy kávéfolt.“

---

Nyilvánvaló, hogy egy gyors és egyszerű felkérést írtam. A ChatGPT kimenetének minősége azonban szabad szemmel is lenyűgöző. Úgy tűnik, az általam tesztelt öt érzékelőből kettőnek nem annyira meggyőző.

#3: "Hazard Package" (Nano Banana segítségével generált)

Ahelyett, hogy a Nano Banana csak egy eredeti képet generált volna, adtam neki egyet, hogy módosítsa.

Az ötlet az volt, hogy bemutassuk, hogy valaki könnyen használhatja a mesterséges intelligenciát hamis bizonyítékok létrehozására, és azt állíthatja, hogy sérült/veszélyes csomagot kapott. Először is, egy iPhone 15-tel lefotóztam egy üres Amazon csomagot, amit találtam.

Itt van az általam készített fénykép:

Ezután feltöltöttem a fényképet, amit készítettem a Nano Banánba, és a következő utasítást adtam meg:

---

“Azt akarom, hogy szerkeszd ezt a fotót, ne változtass semmit, kivéve, ha a címke a sérülés hozzáadása és hozzáadása Fekete iszap Foltok a dobozon, amely úgy néz ki, mint a valódi zsírfoltok“

---

Nano Bana kimenet:

A Nano Banana által a kimeneten létrehozott olajszerű iszap meggyőzően piszkos fényű volt, és teljesen átázott, áztató hatású - egyáltalán nem rajzfilmszerű. Szerencsére a legtöbb detektor, amin lefuttattam, helyesen jelezte, hogy a kép hamisítvány. Az egyetlen kiugró a Winston volt, amely ismét rosszul teljesített, és tévesen eredetinek minősítette a képet. Az AI or Not, a TruthScan és a WasItAI detektorok voltak a legpontosabbak a kép felismerésében.

Elgondolkodtató, hogy milyen egyszerűnek tűnik egy képet feltölteni egy chatbotba, és azt teljesen megváltoztatni. El tudom képzelni, hogy csalók és csalók generatív képi eszközöket használnak arra, hogy megpróbáljanak csalárd visszatérési igényeket benyújtani vagy piaci csalást elkövetni.

Ha az e-kereskedelmi platformoknak csak egy képre van szükségük bizonyítékként a sérült csomagok reklamációjának kezdeményezéséhez, akkor a mesterséges intelligencia manipulációjának megbízható észlelési módja nélkül jelentős támadási vektornak vannak kitéve. Például az Amazon hivatalos termék-visszatérítési politika szó szerint azt állítja, “A veszélyes anyagok, beleértve a gyúlékony folyadékokat és gázokat, nem visszaválthatóak..”

Ha tehát valóban olajjal vagy zsíros fekete iszappal borított csomagot kapna, akkor nem kellene visszaküldenie, de még visszatérítést kaphatna. Ha valamilyen okból kifolyólag ez valóban megtörténne veled, az Amazon valószínűleg fényképes bizonyítékot kérne. Látja, milyen problémát jelenthetnek a mesterséges intelligencia által generált képek, ha megkülönböztethetetlenek a valóságos képektől?

#4. "Csótány étel" (Nano Banánnal generálva)

Ez a következő AI-kép elveszítheti az étvágyadat. Mint kiderült, vannak dokumentált esetek, amikor az emberek a mesterséges intelligenciát arra használják, hogy megkapják csalárd visszatérítések az ételkiszállítási alkalmazásokon. Ehhez a negyedik teszthez ugyanazokat a lépéseket követtem, mint a harmadik tesztnél. Ezúttal az ebéd után lefényképeztem az üres ételhordó dobozomat.

Itt az igazi kép:

Ezután betettem a valódi fényképet, amit a Nano Banana programba, és a következő promptot adtam meg neki:

---

"Szerkeszd ezt a képet. Ne változtass meg semmit, kivéve, hogy tésztát adj oda, ahol a fólia van, és adj hozzá egy csomó aprócska bébi csótányt az ételbe. Legyen az egész valósághű, ne pedig karikatúraszerű."

---

A Nano Banana kimenet:

A TruthScan ismét magabiztosan észlelte az AI által generált médiát. A Sight Engine és a WasitAI teljesen kudarcot vallott. Az AI or Not volt a második legpontosabb detektor (85% AI bizonyossággal), amikor ezt az AI-képet vizsgálta, és a Winston jobban teljesített, mint a harmadik tesztben (72% AI bizonyossággal).

Ezen a képen a tésztákat és a csótányokat teljes egészében a mesterséges intelligencia hozta létre; mégis úgy tűnik, hogy két detektor nem így gondolja, és csak egy (TruthScan) volt 90%-nél biztosabb a mesterséges intelligencia manipulálásában.

Aggodalomra ad okot, hogy mennyire egyszerű volt létrehozni ezt a hamis képet. A fotó feltöltésétől kezdve a Nano Banana elindításáig és a kimenetig összesen csak körülbelül 2 percet vett igénybe. Rémálom az ételkiszállítási alkalmazások számára; álom az éhes hazudozók számára. A "csalási tényező".

KÖZZÉTÉTEL: A következő tesztekben szereplő mesterséges intelligencia által generált képek némelyike azt hivatott bemutatni, hogy a mesterséges intelligencia által generált képek hogyan használhatók fel dezinformációra. Vitatott képeket és érzékeny témákat tartalmaznak., és NEM célja, hogy képviseljen bármilyen konkrét politikai nézetek vagy ideológiák.

#5. "Autovandalizmus" (Nano Banana segítségével generált)

Találtam egy valódi képet egy eladó autóról az interneten. Eléggé hétköznapi. De mi van akkor, ha valaki ezt a képet dezinformáció terjesztésére vagy hamis gépjármű-biztosítási igény benyújtására akarja használni? Sajnos a generatív mesterséges intelligencia ezt gyorsan és egyszerűen lehetővé teszi.

Ehhez az ötödik teszthez egy valódi képet készítettem egy autóról, és a Nano Banana számára a következő utasítást adtam:

---

“Ne változtass semmit a kocsin, kivéve, hogy fújd fel festékszóróval, hogy "Szabad Palesztina", és hogy a szélvédő repedezett. A fényszórók ki vannak törve, a tükör törött és lóg lefelé, és a két ablak az autó oldalán. zúzott.”

---

Itt az igazi kép:

Nano Banana AI kép:

Az érzékelő eredményei erre a kimenetre vonatkozóan vegyesek voltak. Ebben a tesztben (meglepő módon) a WasItAI-nak volt a legmagasabb AI-felismerési pontszáma (99%). A második legmagasabb pontszámot a TruthScan érte el (97%). A Sight Engine jelentős mértékben nem észlelt szintetikus elemeket a képen, és a Winston teljesített a legrosszabbul az összes detektor közül (kevesebb mint 1% esélyt adva az érintettségre). Az AI or Not jól teljesített, de a pontossága még mindig 90% alatt volt.

Beszéljünk a képről. Az ilyen mesterséges intelligenciával készült vagy módosított tartalmak két legaggasztóbb aspektusa az, hogy mindkettő megtévesztéssel jár. Először is, a mesterséges intelligencia használata hétköznapi képek megváltoztatására, hogy politikai töltetű tartalmat hozzon létre, gyors, egyszerű és valóságosnak tűnik. Akár az ilyen típusú tartalmak készítői csak elkötelezettségre törekszenek, akár politikai provokátorok, a probléma az, hogy hamis információkat hitelesnek tüntetnek fel.

A második mód, ahogyan az ilyen képgeneráló eszközökkel vissza lehet élni, az a csalás. Ha egy csaló hamis gépjármű-biztosítási igényt akar benyújtani, hamis bizonyítékokat kell előállítania. Ahelyett, hogy órákat töltenének a Photoshopban a képek szerkesztésével és a bizonyítékok manipulálásával, a képgenerátorok segítségével gyorsan előállíthatnak hamis bizonyítékot.

A fenti AI-képes példában figyelje meg, hogyan használhat egy csaló hasonló folyamatot egy hamis követelés benyújtására a Progressive szerint. Átfogó fedezeti politika, amely kifejezetten a következőkre terjed ki:

• Vágott vagy sérült gumiabroncsok
• Törött ablakok, fényszórók vagy hátsó lámpák
• Festékszóró károsodás
• horpadások vagy karcolások hogy valaki kinyitja a kocsidat.
• Cukor vagy más anyagok beletöltése a benzintankba

Természetesen a hamis bizonyítékok benyújtása nemcsak megtévesztő, hanem egyenesen illegális is. Egy ideális világban senki sem szegné meg a törvényt; a valóságban azonban minden nap történnek bűncselekmények. Megbízható felderítés nélkül pedig az autóbiztosítók azt kockáztatják, hogy milliókat csalnak ki tőlük, mivel a mesterséges intelligenciával támogatott csalárd biztosítási igények száma növekszik.

#6. "Soda Musk és Don" (Nano Banánnal generálva)

Ehhez a teszthez ismét a Nano Banana-t használtam, és a célom az volt, hogy hamis, politikai töltetű képeket mutassak be egy butább felhanggal. A TruthScan, a Sight Engine és az AIorNot mindegyike 99% AI-érzékelési besorolással jelölte meg a generált képet. A WasitAI nem volt ilyen magabiztos - az AI által generált képet csak 86% bizonyossággal észlelte. A Winston pedig teljesen elbukott, 0,2% AI-pontszámot adva. A kép létrehozásához a Nano Banana-nak ezt a kérést adtam:

---

“Generálj egy fotót Elon Muskról, amint egy nagy pohár üdítőt, mint egy Big Gulp, az ingére önti, és kiborul, miközben Donald Trump mellette ül és nevet. Egy sugárhajtású repülőgépen vannak. Ez a jelenet. És a fotónak valósághűnek kell lennie, mintha egy pillanatfelvételes fényképezőgéppel készült volna, és tartalmaznia kell olyan műtárgyakat, mint például a fényképezőgép vakujának visszaverődése a repülőgép ablakán és a repülőgépen kívül. Éjszaka van. Hiperrealisztikusan kell kinéznie.“

---

Ha valamelyik ilyen szoftverprogram nem észleli a mesterséges intelligenciát, akkor azt hitelesnek bélyegzik. Bármilyen buta is ez a tesztből származó képpélda, semmi vicces nincs abban, ha egy deepfake-et valódinak gondolunk.

#7. "Still Alive" (generálta: Nano Banana)

Zavarónak találja ezt a képet? Ennek a deepfake-nek a létrehozásához a Nano Banana-t használtam, és egy képet adtam neki magamról. Ezután adtam neki egy hosszú promptot, amelynek célja az volt, hogy olyan helyzetbe hozzon, amely azt sugallja, hogy elraboltak. Talán azért, mert a képen látható én kompromittáló helyzetben. Mi van, ha valaki ilyesmit készít, elküldi anyámnak, és azzal fenyeget, hogy bántani fog, ha nem küld pénzt? Ijesztő dolog.

(Az ehhez használt teljes kérés megtalálható a cikk végén található teljes tesztelési adatállományban.)

Szerencsére ez a kép, annak ellenére, hogy nagyon valósághűen néz ki, ötből három érzékelő azonosította azt mesterséges intelligencia által generáltnak.

Az AI or Not erős 99% AI pontszámot ért el, a TruthScan 97%-tel, a Sight Engine pedig 95%-tel. Sajnos Winston és a WasItAI a képet valósnak minősítette.

Tisztáznom kell, hogy ezeket a teszteket nem a személyes Gemini-fiókomon végeztem. A Nano Banana soha nem kérte, hogy bizonyítsam, én vagyok a képen szereplő személy. Bárki letölthetett volna rólam egy fényképet az internetről, betehette volna a Nano Bananába, és létrehozhatott volna egy ilyen típusú képet.

#8. "Abuse of a Ben" (Nano Banana segítségével generált)

Ismerd meg Bent. Ideje nagy részét azzal tölti, hogy különböző részlegeket irányít a vállalatoknál, ahol dolgozik. A fenti kép Ben (valódi) elegáns vállalati arcképe. Ha nem látszik, Ben egy profi fickó. Bármilyen politikai véleménye van, azt megtartja magának, és a munkahelyi beszélgetései csak a munkáról szólnak. De bármikor előfordulhat, hogy Ben képmását politikai propaganda vagy üzenetek terjesztésére használják fel a beleegyezése nélkül.

A közelmúltban sok beszámoló jelent meg arról, hogy a mesterséges intelligencia által generált videók, amelyekben ICE-ügynökök és tüntetések szerepelnek, terjednek az interneten. Az eddigi tesztek alapján arra a következtetésre jutottam, hogy a hamis politikai propaganda mesterséges intelligenciával való létrehozása nagyon egyszerű. Úgy döntöttem, hogy újra tesztelek, ezúttal Ben segítségével.

Ben engedélyével felhasználtam a fejképét egy deepfake elkészítéséhez. Íme az AI által generált kép, amelyet a Nano Banana készített:

Harminc másodpercig tartott. Mindössze annyit kellett tennem, hogy a fejképét áthúztam a Gemini-be, és arra kértem, hogy "tartson fel egy táblát, amelyen az áll, hogy "abolish ICE".". A Nano Banana kimenete nem olyan fotorealisztikus, mint a többi, de még mindig elég hitelesnek tűnik ahhoz, hogy meggyőző legyen.

Szerencsére a detektorok közül négy pontosan azonosította a képet: TruthScan (99% AI), Was It AI (99% AI), Sight Engine (97% AI) és AI or Not (97% AI). A Winston AI elbukott, és csak 5% AI pontszámot kapott.

#9. "Club Void" (generálta: Midjourney)

A fenti képet a Midjourney segítségével generáltam. Minél többet néztem, annál nyugtalanítóbbnak éreztem. Az esztétika sötét és hátborzongató. Úgy tűnik, mintha egy árnyékos jelenlét bukkanna elő a téma mögül. A kép létrehozásához a Midjourney esztétikai referenciafunkcióját használtam, és egyszerűen arra kértem, hogy legyen egy "lány, aki mosolyogva áll egy klubban". Megmutattam a képet néhány embernek, és mindannyian azt hitték, hogy valódi.

A legtöbb detektor a képet mesterséges intelligencia által generáltnak jelölte meg. A TruthScan és a Sight Engine 99% AI pontszámmal jelölte meg, az AI or Not szerint 89%.

A WasItAI nem volt olyan biztos, mint a detektorok, és csak 70% AI pontszámmal osztályozta a képet.

A Winston AI érzékelője teljes kudarcot vallott, és a kép 1,56% AI pontszámot kapott.

#10 "Jégdoboz" (generálta Midjourney)

Ezt a képet az előző tesztben használt útközbeni módszerrel készítettem. Ezúttal az volt a cél, hogy valami kicsit sötétebbet hozzak létre. A TruthScan volt a legpontosabb érzékelő, és 99% AI-nak jelölte a képet. A Sight Engine és az AI or Not is helyesen észlelte a képet. A Winston AI teljesen elbukott, és a WasItAI sokkal alacsonyabb megbízhatósági pontszámot ért el, mint a TruthScan, a Sight Engine és az AI or Not.

Meg kell mondanom, hogy ebben az esetben az általam generált képet kétféleképpen lehet felhasználni vagy keretbe foglalni. Egyrészt, valaki használhatná ezt (vagy bármilyen politikai/polgári zavargások témájú) médiatípust valamilyen művészeti vagy kreatív projektben, hogy nyilatkozatot tegyen. Ebben az esetben a kockázat kisebbnek tűnik. A fő aggodalmam a mesterséges intelligencia által generált média ezen kategóriájával kapcsolatban az, hogy olyan aljas személyek használják fel, akik azt állítják, hogy ez valódi.

Összefoglaló és eredmények: Legjobb AI képdetektorok

Oké, most, hogy már minden tesztet megjelenítettünk, összefoglalom: 10 AI képet generáltam

• A ChatGPT, a Nano Banana és a Midjourney segítségével 10 AI képet generáltam.
• Öt AI képdetektort teszteltem az általam generált összes AI képet átküldve rajtuk.
• A TruthScan minden tesztet teljesített, és a legpontosabb detektor volt. Az AI or Not 10 tesztből 8-on megfelelt, ami némi megbízhatóságot mutat. A Sight Engine 10 tesztből 3-at bukott el, és összességében megkérdőjelezhető pontosságot mutatott. A Was It AI 10 tesztből 4 alkalommal bukott meg, és összességében gyenge pontosságú volt. A Winston AI volt a legkevésbé pontos AI képdetektor, 10 tesztből csak 3 ment át, és folyamatosan rosszul osztályozta a képeket.

Záró megjegyzések és adatok

A cikk megírása és a szigorú tesztelés között összesen 25 órát töltöttem a jelentés összeállításával. A multimodális mesterséges intelligencia-érzékelő eszközök még mindig fejlődnek, de egyértelmű, hogy egyesek pontosabbak, mint mások. Az összes eszköz tesztelése után a TruthScan rendelkezik a legpontosabb AI képdetektor. A tesztek önmagukért beszélnek.

Ha szeretne hozzáférni a CSV másolatát az adatok a tesztelésből, amit ebben a cikkben tettem, megtalálja azt itt. Az általam linkelt adattáblázat tartalmazza az összes eredeti kérést és az ebben a cikkben szereplő tesztek észlelési eredményeit.