Du har sannsynligvis sett flere AI-genererte bilder på nettet enn du er klar over.

Noen ganger er det åpenbart at et bilde er generert av kunstig intelligens, men det blir stadig vanskeligere å se det etter hvert som de generative bilde- og videoverktøyene blir bedre. Nye verktøy som Googles Nano Banana Proog oppdateringer til OpenAIs ChatGPT-bildemodell lar brukerne raskt generere syntetiske bilder som speiler virkelige bilder. Tidligere undersøkelser har vist at 85% av amerikanerne sier deepfakes svekker tilliten på nettet.

Flere verktøy hevder å kunne oppdage AI-genererte bilder, men fungerer de?

Jeg kjørte 50 deteksjonssjekker på tvers av fem av de mest populære AI-bildedetektorene og dokumenterte resultatene. Ikke bare vil jeg presentere alle dataene i denne artikkelen og forklare dem, jeg vil også lenke til dokumentasjonen til slutt.

De fem detektorene jeg brukte til disse testene, var TruthScan, AI eller ikke, Siktmotor, WasItAI, og Winston AI. Jeg testet disse verktøyene ved å la hvert av dem analysere to ChatGPT-genererte bilder, seks Nano Banana-genererte bilder og to bilder generert av Midjourney. Jeg brukte flere promptstiler og -teknikker (som jeg vil gå nærmere inn på senere når jeg analyserer hvert enkelt bilde).

Alle de fem detektorene fikk i oppgave å oppdage AI-skapte bilder i kategorier som svindel, desinformasjon, generell fotografering og deepfakes. Ikke overraskende var det ikke alle detektorene som presterte godt. TruthScan var den eneste detektoren som konsekvent klassifiserte alt innholdet jeg sendte inn, til 97% eller høyere.

AI or Not presterte også ganske bra. Selv om AI or Not klassifiserte flere AI-genererte gjenstander under 90%-sikkerhet, var det faktisk den nest mest nøyaktige og konsekvente detektoren under testene mine, etter TruthScan. Selv der AI or Not feilet, var ikke disse feilene katastrofale, men det er fortsatt rom for forbedringer.

Resten av AI-bildedetektorene jeg prøvde, presterte langt dårligere. Sight Engine feilklassifiserte for eksempel tre svindelrelaterte AI-bilder som autentiske.

Nå skal jeg vise deg hvert bilde (av de 10 jeg genererte), forklare hvordan jeg skapte det, og vise hvordan hver modell scoret det.

#1. "Man On a Ledge" (generert av ChatGPT)

For meg (og jeg ser mye AI-generert innhold hver dag) ser bildet ganske overbevisende ut ved første øyekast. Hvis du klikket på en persons profil på sosiale medier, scrollet gjennom feeden deres og så dette bildet, ville det umiddelbart ha skilt seg ut som en AI-generert forfalskning? For å være rettferdig prøvde jeg å være kreativ med ledeteksten. Her er den jeg brukte til å generere dette bildet:

---

“Generer et bilde i snapshot-kamerastil av en mann som står på toppen av et tak og ser ned på gaten, nattetid, han er opplyst av kamerablitsen, det er lysspor fra bilene nedenfor, en kvinne står bak ham med hånden på leppene og smiler, estetikken i bildet er som et bilde tatt på et snapshot-kamera i 2009 av skolevenner som tuller rundt.“

---

Uansett hvor kreativ jeg var eller hvor mange detaljer jeg inkluderte i ledeteksten, klassifiserte TruthScan og Sight Engine likevel utdataene som AI-genererte. AI or Not-detektoren var nærme, men bommet likevel på målet.

Winston og WasItAI tok fullstendig feil da de klassifiserte ChatGPT-bildet som ekte.

#2. "Den falske kvitteringen" (generert av ChatGPT)

Jeg ville generere en falsk kvittering med ChatGPT for å se hvor realistisk den ville se ut. Du vil kanskje legge merke til at bildet mangler en legitim adresse, men teksturen ser fortsatt litt realistisk ut. Jeg vil si at dette bildet er mindre overbevisende enn det første jeg fikk ChatGPT til å generere, men de fleste detektorene gikk likevel i bakken da de analyserte det.

• Av alle kontrollene jeg kjørte på dette bildet, TruthScan var den mest nøyaktige.
• Siktmotor virkelig mislyktes her, og viste dårlig dømmekraft på et dokumentrelatert AI-bilde.
• AI eller ikke gjorde det merkbart bedre i denne andre analysen.
• Winston AI presterte dårligst, og WasItAI mislyktes også fullstendig.

Med tanke på at dette bildet er assosiert med svindelkategorien, er det bekymringsfullt at de fleste detektorene feilklassifiserte det.

Prompten jeg brukte til å generere bildet

---

“Generer et bilde av en kvittering fra Best Buy der det står at det totale beløpet som er brukt er én milliard dollar, og at det er en kaffeflekk på den“

---

Jeg skrev tydeligvis en rask og enkel melding. Likevel er kvaliteten på ChatGPT-utdataene visuelt overbevisende for det blotte øye. Ikke så overbevisende for to av de fem detektorene jeg testet, ser det ut til.

#3: "Hazard Package" (generert med Nano Banana)

I stedet for å la Nano Banana generere et originalbilde, ga jeg den et bilde å endre.

Tanken var å demonstrere hvordan noen enkelt kan bruke kunstig intelligens til å skape falske bevis og hevde at de har mottatt en skadet/farlig pakke. Først tok jeg et bilde med en iPhone 15 av en tom Amazon-pakke jeg fant.

Her er bildet jeg tok:

Deretter lastet jeg opp bildet jeg tok til Nano Banana og ga den følgende beskjed:

---

“Jeg vil at du skal redigere dette bildet, ikke endre noe bortsett fra der etiketten er på, legg til skade på den og legg til svarte slamflekker på esken som ser ekte ut som fettflekker“

---

Nano Bana-utgang:

Det oljelignende slammet som Nano Banana genererte i utdataene, hadde en overbevisende skitten glans, komplett med en fuktig bløtleggingseffekt - ikke tegneserieaktig i det hele tatt. Heldigvis stemplet de fleste detektorene jeg kjørte det gjennom bildet som en forfalskning. Den eneste avvikeren var Winston, som igjen gjorde det dårlig og feilklassifiserte bildet som autentisk. AI or Not, TruthScan og WasItAI var de mest nøyaktige detektorene når det gjaldt å oppdage dette bildet.

Det er urovekkende hvor enkelt det virker å laste opp et bilde til en chatbot og få det fullstendig endret. Jeg kan se for meg at svindlere og bedragere bruker generative bildeverktøy for å prøve å fremsette falske returkrav eller drive med markedssvindel.

Hvis e-handelsplattformer bare krever et bilde som bevis for å starte et krav om en skadet pakke, uten noen pålitelig måte å oppdage AI-manipulering på, er de utsatt for en viktig angrepsvektor. For eksempel er Amazons offisielle retningslinjer for retur av varer bokstavelig talt sier, “Farlig gods, inkludert brennbare væsker eller gasser, kan ikke returneres.”

Så hvis du faktisk mottok en pakke dekket av olje eller fettete svart slam, trenger du ikke å returnere den, men du kan fortsatt få refusjon. Hvis det av en eller annen grunn faktisk skjedde med deg, ville Amazon sannsynligvis be om bildebevis. Skjønner du hvilket problem AI-genererte bilder kan utgjøre når de ikke kan skilles fra ekte bilder?

#4. "Kakerlakkmåltid" (generert med Nano Banana)

Dette neste AI-bildet kan få deg til å miste appetitten. Det viser seg at det finnes dokumenterte tilfeller av mennesker som bruker kunstig intelligens til å motta falske refusjoner på matleveringsapper. I denne fjerde testen fulgte jeg de samme trinnene som i test tre. Denne gangen tok jeg et bilde av den tomme matboksen min etter lunsj.

Her er det virkelige bildet:

Deretter la jeg det ekte bildet jeg tok inn i Nano Banana og ga den følgende beskjed:

---

"Rediger dette bildet. Ikke endre noe, bortsett fra å legge til nudler der folien er, og legge til en haug med små kakerlakker i maten. Få det hele til å se realistisk ut og ikke tegneserieaktig."

---

Nano Banana Output:

Nok en gang oppdaget TruthScan med sikkerhet AI-genererte medier. Sight Engine og WasitAI mislyktes fullstendig. AI or Not var den nest mest nøyaktige detektoren (med 85% AI-sikkerhet) ved skanning av dette AI-bildet, og Winston presterte bedre enn den gjorde i den tredje testen (med 72% AI-sikkerhet).

I dette bildet ble alle nudlene og kakerlakkene generert utelukkende av kunstig intelligens, men to av detektorene så ikke ut til å tro det, og bare én (TruthScan) var over 90% sikker på at det var kunstig intelligens som hadde tuklet.

Et viktig poeng her var hvor enkelt det var å lage dette falske bildet. Fra jeg lastet opp bildet jeg tok, til jeg ba Nano Banana om å gjøre det og mottok resultatet, tok det bare rundt to minutter. Et mareritt for matleveringsapper; en drøm for sultne løgnere. En "svindelfaktor".

OFFENTLIGHET: Noen av de AI-genererte bildene som inngår i de følgende testene, er ment å demonstrere hvordan AI-bilder kan brukes til desinformasjon. De inneholder kontroversielle bilder og sensitive emner., og er IKKE ment å representere noen bestemt politisk synspunkter eller ideologier.

#5. "Autovandalisme" (generert med Nano Banana)

Jeg fant et ekte bilde av en bil til salgs på nettet. Ganske banalt. Men hva om noen ønsket å bruke dette bildet til å spre desinformasjon, eller sende inn et falskt bilforsikringskrav? Dessverre gjør generativ AI det raskt og enkelt.

I denne femte testen tok jeg et ekte bilde av en bil, og ga Nano Banana følgende beskjed:

---

“Ikke endre noe på bilen, bortsett fra at jeg vil at du skal spraymale den med "Free Palestine", og at frontruten er sprukket. Frontlyktene er knust og speilet er ødelagt og henger ned, og de to vinduene på siden av bilen er knust.”

---

Her er det virkelige bildet:

Nano Banana AI-bilde:

Detektorresultatene for denne utgangen var blandede. For denne testen hadde WasItAI (overraskende nok) den høyeste AI-deteksjonsscore (med 99%). TruthScan hadde den nest høyeste poengsummen (97%). Sight Engine klarte ikke å oppdage noen syntetiske elementer i bildet, og Winston gjorde det dårligst av alle detektorene (med mindre enn 1% sjanse for involvering). AI or Not gjorde det bra, men nøyaktigheten var fortsatt under 90%.

La oss snakke om bildet. De to mest bekymringsfulle aspektene ved AI-skapt eller endret innhold som dette, er at begge involverer bedrag. For det første er det raskt, enkelt og ser ekte ut å bruke kunstig intelligens til å endre hverdagslige bilder for å skape politisk ladet innhold. Enten de som lager denne typen innhold bare er ute etter å skape engasjement eller er politiske provokatører, er problemet at det er falsk informasjon som presenteres som autentisk.

Den andre måten slike bildegenereringsverktøy kan misbrukes på, er til svindel. Hvis en svindler ønsker å sende inn et falskt bilforsikringskrav, må de produsere falske bevis. I stedet for å bruke timevis i Photoshop på å redigere bilder og manipulere bevis, kan de bruke bildegeneratorer til raskt å produsere falske bevis.

I AI-bildeeksemplet ovenfor kan du se hvordan en svindler kan bruke en lignende prosess for å sende inn et falskt krav i henhold til Progressives Omfattende dekningspolicy, som spesifikt dekker:

• Skåret eller ødelagte dekk
• Ødelagte vinduer, frontlykter eller baklykter
• Skader fra spraymaling
• Bulker eller riper fra at noen stjeler bilnøklene dine
• Fyller sukker eller andre stoffer i bensintanken

Å fremlegge falske bevis er selvsagt ikke bare villedende, det er også direkte ulovlig. I en ideell verden ville ingen bryte loven, men i virkeligheten skjer det kriminalitet hver dag. Og uten pålitelig deteksjon risikerer bilforsikringsselskapene å bli svindlet for millioner etter hvert som AI-aktiverte falske forsikringskrav øker.

#6. "Soda Musk and Don" (generert med Nano Banana)

Også i denne testen brukte jeg Nano Banana, og målet var å demonstrere falske, politisk ladede bilder med en litt mer tullete undertone. TruthScan, Sight Engine og AIorNot flagget alle det genererte bildet med en AI-deteksjonsvurdering på 99%. WasitAI var ikke like selvsikker - de oppdaget det AI-genererte bildet med bare 86% sikkerhet. Og Winston mislyktes fullstendig, og ga en AI-poengsum på 0,2%. For å generere bildet ga jeg Nano Banana denne beskjeden:

---

“Generer et bilde av Elon Musk som søler en stor kopp brus som en Big Gulp på skjorten sin og flipper ut mens Donald Trump sitter ved siden av ham og ler. De er på et jetfly. Det er scenen. Og bildet skal se realistisk ut, som om det er tatt med et snapshot-kamera, og inkludere artefakter som at kamerablitsen reflekteres i flyvinduet og utenfor flyet. Det er natt. Det skal se hyperrealistisk ut.“

---

Når et av disse programmene ikke klarer å oppdage AI, stempler de det som autentisk. Selv om dette bildeeksemplet fra testen er dumt, er det ikke noe morsomt ved å tro at en deepfake er ekte.

#7. "Still Alive" (generert av Nano Banana)

Synes du dette bildet er urovekkende? For å generere denne deepfake brukte jeg Nano Banana og ga den et bilde av meg selv. Deretter ga jeg den en lang ledetekst som skulle sette meg i en situasjon som antydet at jeg hadde blitt bortført. Kanskje det er fordi dette bildet viser meg i en kompromitterende posisjon. Tenk om noen lagde noe sånt, sendte det til moren min og truet med å skade meg hvis hun ikke sendte dem penger? Skremmende greier.

(Den fullstendige ledeteksten jeg brukte til dette, finner du i det fullstendige testdatasettet på slutten av denne artikkelen).

Heldigvis for dette bildet, til tross for at det har et veldig realistisk utseende, tre av fem detektorer identifiserte den som AI-generert.

AI or Not fikk en sterk AI-score på 99%, TruthScan 97% og Sight Engine 95%. Dessverre klassifiserte Winston og WasItAI bildet som ekte.

Jeg må presisere at disse testene ikke ble gjort på min personlige Gemini-konto. Nano Banana ba meg aldri om å bevise at jeg var personen på bildet. Hvem som helst kunne ha lastet ned et bilde av meg fra internett, lagt det inn i Nano Banana og fått det til å skape denne typen bilder.

#8. "Abuse of a Ben" (generert med Nano Banana)

Møt Ben. Han tilbringer mesteparten av tiden sin med å lede ulike avdelinger i selskapene han jobber i. Bildet over er Bens (ekte) stilige corporate headshot. Hvis du ikke ser det, er Ben en profesjonell fyr. Uansett hvilke politiske meninger han har, holder han dem for seg selv, og samtalene på jobb handler bare om jobb. Men når som helst kan Bens bilde bli brukt til å spre politisk propaganda eller budskap uten hans samtykke.

Den siste tiden har det vært mye rapportering om hvordan AI-genererte videoer med ICE-agenter og protester har spredd seg på nettet. Basert på alle testene så langt konkluderte jeg med at det var veldig enkelt å lage falsk politisk propaganda med kunstig intelligens. Jeg bestemte meg for å teste igjen, denne gangen med Ben.

Med Bens tillatelse brukte jeg hodeskuddet hans til å lage en deepfake. Her er det AI-genererte bildet som Nano Banana har laget:

Det tok 30 sekunder. Alt jeg trengte å gjøre var å dra og slippe hodeskuddet hans inn i Gemini og be den om å "holde opp et skilt der det står avskaff ICE". Resultatet fra Nano Banana er ikke like fotorealistisk som de andre, men det ser likevel autentisk nok ut til å være overbevisende.

Heldigvis identifiserte fire av detektorene bildet nøyaktig: TruthScan (99% AI), Was It AI (99% AI), Sight Engine (97% AI) og AI or Not (97% AI). Winston AI mislyktes, og fikk bare 5% AI-poeng.

#9. "Club Void" (generert av Midjourney)

Jeg genererte bildet over ved hjelp av Midjourney. Jo mer jeg så på det, jo mer foruroligende føltes det. Estetikken er mørk og uhyggelig. En skyggefull tilstedeværelse ser ut til å dukke opp bak motivet. For å skape dette bildet brukte jeg Midjourneys estetiske referansefunksjon og ba det ganske enkelt om å være en "jente som står i en klubb og smiler". Jeg viste bildet til noen få personer, og alle trodde det var ekte.

De fleste detektorer flagget bildet som AI-generert. TruthScan og Sight Engine flagget det med en AI-poengsum på 99%, mens AI or Not sa 89%.

WasItAI var ikke like sikker som detektorene, og klassifiserte bildet med bare 70% AI-poeng.

Winston AIs detektor mislyktes fullstendig, og ga bildet en AI-poengsum på 1,56%.

#10 "Ice Box" (generert av Midjourney)

Dette bildet ble til ved hjelp av samme metode som i forrige test. Denne gangen var målet å generere noe litt mørkere. TruthScan var den mest nøyaktige detektoren, og merket bildet som 99% AI. Sight Engine og AI or Not gjenkjente begge bildet korrekt. Winston AI mislyktes fullstendig, og WasItAI hadde en mye lavere tillitsscore enn TruthScan, Sight Engine og AI or Not.

Jeg må si at i dette tilfellet kan bildet jeg genererte brukes eller innrammes på to måter. På den ene siden kan noen bruke dette (eller andre medier med politisk/borgerlige uroligheter som tema) i et slags kunstprosjekt eller kreativt prosjekt for å komme med en uttalelse. I et slikt tilfelle virker risikoen lavere. Den største bekymringen jeg har med denne kategorien AI-genererte medier, er at de blir brukt av skumle personer som hevder at de er ekte.

Oppsummering og resultater: Beste AI-bildedetektorer

Nå som vi har vist alle testene, skal jeg oppsummere: Jeg genererte 10 AI-bilder

• Jeg brukte ChatGPT, Nano Banana og Midjourney til å generere 10 AI-bilder
• Jeg testet fem AI-bildedetektorer ved å sende alle AI-bildene jeg genererte, gjennom dem.
• TruthScan besto alle testene, og var den mest nøyaktige detektoren. AI or Not besto 8 av 10 tester, og viste en viss pålitelighet. Sight Engine besto 3 av 10 tester, og hadde gjennomgående tvilsom nøyaktighet. Was It AI besto 4 av 10 tester, og hadde gjennomgående dårlig nøyaktighet. Winston AI var den minst nøyaktige AI-bildedetektoren, og besto bare 3 av 10 tester, og feilklassifiserte konsekvent bilder.

Avsluttende bemerkninger og data

Til sammen brukte jeg 25 timer på å skrive denne artikkelen og gjennomføre de grundige testene. Multimodale AI-deteksjonsverktøy er fortsatt under utvikling, men det er tydelig at noen er mer nøyaktige enn andre. Etter å ha testet alle verktøyene, har TruthScan den mest nøyaktige AI-bildedetektor. Testene taler for seg selv.

Hvis du vil ha tilgang til en CSV-kopi av dataene fra testingen jeg gjorde i denne artikkelen, kan du finne den her. Regnearket jeg lenket til, inneholder alle de opprinnelige spørsmålene og deteksjonsresultatene fra testene i denne artikkelen.