Du har förmodligen sett fler AI-genererade foton på nätet än du tror.

Ibland är det uppenbart att en bild har genererats av AI, men det blir allt svårare att avgöra i takt med att de generativa bild- och videoverktygen förbättras. Nya verktyg som Googles Nano Banana Prooch uppdateringar av OpenAI:s ChatGPT-bildmodell låter användare snabbt generera syntetiska bilder som speglar verkliga bilder. Tidigare forskning visade att 85% av amerikanerna säger deepfakes urholkar förtroendet på nätet.

Flera verktyg gör anspråk på att upptäcka AI-genererade bilder, men fungerar de?

Jag körde 50 detektionskontroller över fem av de mest populära AI-bilddetektorerna och dokumenterade resultaten. Jag kommer inte bara att presentera all data i den här artikeln och förklara den, jag kommer också att länka till dokumentationen i slutet.

De fem detektorer som jag använde för dessa tester var TruthScan, AI eller inte, Siktmotor, WasItAI, och Winston AI. Jag testade dessa verktyg genom att låta var och en analysera två ChatGPT-genererade bilder, sex Nano Banana-genererade bilder och två bilder genererade av Midjourney. Jag använde flera olika promptstilar och tekniker (som jag kommer att gå in på i detalj senare när jag bryter ner varje analyserad bild).

Alla fem detektorerna fick i uppgift att upptäcka AI-skapade bilder i kategorier som bedrägeri, desinformation, allmän fotografering och deepfakes. Föga förvånande presterade inte alla detektorer bra. TruthScan var den enda detektorn som konsekvent klassificerade allt innehåll jag skickade in på 97% eller högre.

AI eller inte presterade också ganska bra. I själva verket, medan AI eller inte klassificerade flera AI-genererade objekt under 90%-säkerhet, var det den näst mest exakta och konsekventa detektorn under mina tester, bakom TruthScan. Även där AI eller inte misslyckades var dessa misslyckanden inte katastrofala, men det finns fortfarande utrymme för förbättringar.

Resten av de AI-bilddetektorer jag försökte presterade mycket sämre. Sight Engine felklassificerade till exempel 3 bedrägerirelaterade AI-bilder som autentiska.

Nu ska jag visa dig varje bild (av de 10 jag genererade), förklara hur jag skapade den och visa hur varje modell poängsatte den.

#1. "Man on a Ledge" (genereras av ChatGPT)

För mig (och jag ser mycket AI-genererat innehåll varje dag) ser bilden ganska övertygande ut vid första anblicken. Om du klickade på någons sociala medieprofil, bläddrade igenom deras flöde och såg den här bilden, skulle den omedelbart sticka ut som en AI-genererad falsk? För att vara rättvis försökte jag bli kreativ med prompten. Här är den jag använde för att generera den här bilden:

---

“Generera mig ett snapshot-kamerastilfoto av en man som står på toppen av ett tak och tittar ner på gatan, nattetid, han är upplyst av kamerablixten, det finns ljusspår från bilarna nedanför, en kvinna står bakom honom med handen på läpparna och ler, fotografiets estetik är som ett foto som togs på en snapshot-kamera 2009 av collegevänner som roade sig.“

---

Oavsett hur kreativ jag blev eller hur många detaljer jag inkluderade i min uppmaning klassificerade TruthScan och Sight Engine fortfarande korrekt utdata som AI-genererad. AI eller inte-detektorn kom nära, men missade ändå målet.

Winston och WasItAI hade helt fel när de klassificerade ChatGPT-bilden som verklig.

#2. "Det falska kvittot" (genererat av ChatGPT)

Jag ville generera ett falskt kvitto med ChatGPT för att se hur realistiskt det skulle se ut. Du kanske märker att bilden saknar en legitim adress, men strukturen ser fortfarande lite realistisk ut. Jag skulle säga att den här bilden är mindre övertygande än den första jag hade ChatGPT generera, men de flesta av detektorerna tankade fortfarande när de analyserade den.

• Av alla kontroller jag gjorde på den här bilden, TruthScan var den mest exakta.
• Siktmotor misslyckades verkligen här och visade dåligt omdöme om en dokumentrelaterad AI-bild.
• AI eller inte presterade märkbart bättre i denna andra analys.
• Winston AI presterade sämst, och WasItAI misslyckades också helt.

Med tanke på att den här bilden är associerad med bedrägerikategorin är det oroande att de flesta detektorerna felklassificerade den.

Den prompt jag använde för att generera bilden

---

“Generera en bild av ett kvitto från Best Buy där det står att det totala beloppet är en miljard dollar och att det finns en kaffefläck på det“

---

Det är uppenbart att jag skrev en snabb och enkel prompt. Ändå är kvaliteten på ChatGPT-utdata visuellt övertygande för blotta ögat. Inte så övertygande för två av de fem detektorer jag testade, verkar det som.

#3: "Hazard Package" (genereras med Nano Banana)

Istället för att bara låta Nano Banana generera en originalbild gav jag den en bild att ändra.

Tanken var att visa hur någon enkelt kan använda AI för att skapa falska bevis och hävda att de fått ett skadat/farligt paket. Först tog jag ett foto med en iPhone 15 av ett tomt Amazon-paket som jag hittade.

Här är fotot jag tog:

Sedan laddade jag upp fotot jag tog till Nano Banana och gav den följande uppmaning:

---

“Jag vill att du redigerar det här fotot, ändra ingenting förutom där etiketten sitter, lägg till skador på den och lägg till svarta slamfläckar på lådan som ser ut som riktiga fettfläckar“

---

Nano Bana-utgång:

Den oljeliknande sörjan som Nano Banana genererade i utmatningen hade en övertygande smutsig glans, komplett med en fuktig blötläggningseffekt - inte alls tecknad. Lyckligtvis märkte de flesta av de detektorer jag körde den igenom korrekt bilden som en falsk. Den enda avvikaren var Winston, som återigen presterade dåligt och felklassificerade bilden som autentisk. AI or Not, TruthScan och WasItAI var de mest exakta detektorerna för att upptäcka den här bilden.

Det är oroande hur enkelt det verkar vara att ladda upp en bild till en chatbot och få den helt förändrad. Jag kan tänka mig att bedragare använder generativa bildverktyg för att försöka göra bedrägliga returanspråk eller ägna sig åt marknadsbedrägerier.

Om e-handelsplattformar bara kräver en bild som bevis för att inleda ett krav på skadat paket, utan något tillförlitligt sätt att upptäcka AI-manipulation, utsätts de för en viktig attackvektor. Till exempel Amazons officiella returpolicy för varor bokstavligen säger, “Hazmat, inklusive brandfarliga vätskor eller gaser, är inte returvara.”

Så om du faktiskt fick ett paket täckt av olja eller oljigt svart slam skulle du inte behöva returnera det, men du kan fortfarande få en återbetalning. Om det av någon anledning faktiskt hände dig skulle Amazon sannolikt be om fotobevis. Förstår du vilket problem AI-genererade bilder kan utgöra när de inte går att skilja från riktiga bilder?

#4. "Cockroach Meal" (genereras med Nano Banana)

Nästa AI-bild kan få dig att tappa aptiten. Det visar sig att det finns dokumenterade fall där människor har använt AI för att få bedrägliga återbetalningar på appar för matleveranser. För detta fjärde test följde jag samma steg som i test tre. Den här gången tog jag en bild av min tomma matlåda efter lunch.

Här är den riktiga bilden:

Sedan lade jag in det riktiga fotot jag tog i Nano Banana och gav den följande uppmaning:

---

"Redigera den här bilden. Ändra ingenting förutom att lägga till nudlar där folien är och lägga till en massa små små babykackerlackor i maten. Få allt att se realistiskt ut och inte tecknad."

---

Nano Banana Output:

Återigen upptäckte TruthScan med säkerhet AI-genererad media. Sight Engine och WasitAI misslyckades helt. AI or Not var den näst mest exakta detektorn (med 85% AI-säkerhet) när den skannade den här AI-bilden, och Winston presterade bättre än i det tredje testet (med 72% AI-säkerhet).

I den här bilden genererades nudlarna och kackerlackorna helt och hållet av AI, men två av detektorerna verkade inte tro det och endast en (TruthScan) var över 90% säker på AI-manipulation.

Ett problem här var hur enkelt det var att skapa den här falska bilden. Från att ladda upp fotot jag tog, till att uppmana Nano Banana och ta emot resultatet, tog det bara cirka 2 minuter. En mardröm för matleveransappar; en dröm för hungriga lögnare. En "bedrägerifaktor".

OFFENTLIGGÖRANDE: Några av de AI-genererade bilder som ingår i följande tester var avsedda att visa hur AI-bilder kan användas för desinformation. De innehåller kontroversiella bilder och känsliga ämnen, och är INTE avsedda att representera någon särskild politisk åsikter eller ideologier.

#5. "Autovandalism" (genereras med Nano Banana)

Jag hittade en riktig bild av en bil som var till salu på nätet. Ganska vardagligt. Men tänk om någon ville använda den här bilden för att sprida desinformation eller lämna in ett falskt bilförsäkringsanspråk? Tyvärr gör generativ AI det snabbt och enkelt.

I det femte testet tog jag en riktig bild av en bil och gav Nano Banana följande uppmaning:

---

“Ändra ingenting på bilen förutom att jag vill att du sprayar på sprayfärg med texten "Free Palestine" och att vindrutan är sprucken. Strålkastarna är krossade och spegeln är trasig och hänger ner och de två fönstren på sidan av bilen är krossad.”

---

Här är den riktiga bilden:

Nano Banana AI-bild:

Detektorresultaten för denna utgång var blandade. För detta test hade WasItAI (överraskande) den högsta AI-detekteringspoängen (vid 99%). TruthScan hade den näst högsta poängen (97%). Sight Engine misslyckades avsevärt med att upptäcka några syntetiska element i bilden, och Winston gjorde det sämsta av alla detektorer (tilldelade en mindre än 1% chans att involvera). AI or Not klarade sig bra, men träffsäkerheten var fortfarande under 90%.

Låt oss prata om bilden. De två mest oroande aspekterna av AI-skapat eller ändrat innehåll som detta är att båda involverar bedrägeri. För det första är det snabbt, enkelt och ser äkta ut att använda AI för att ändra vardagliga bilder för att skapa politiskt laddat innehåll. Oavsett om de som skapar den här typen av innehåll bara siktar på engagemang eller är politiska provokatörer, är problemet att det är falsk information som presenteras som autentisk.

Det andra sättet att använda bildgenereringsverktyg som detta kan missbrukas är för bedrägeri. Om en bedragare vill lämna in ett falskt bilförsäkringsanspråk måste de producera falska bevis. Istället för att spendera timmar i Photoshop på att redigera bilder och förfalska bevis kan de använda bildgeneratorer för att snabbt producera falska bevis.

I exemplet med AI-bilden ovan ser du hur en bedragare kan använda en liknande process för att lämna in en falsk skadeanmälan enligt Progressives Policy för omfattande täckning, som särskilt omfattar:

• Slashed eller skadade däck
• Trasiga rutor, strålkastare eller baklyktor
• Skador på sprayfärg
• Bucklor eller repor från någon som stjäl din bil
• Fylla på socker eller andra ämnen i bensintanken

Att lämna in falska bevis är naturligtvis inte bara vilseledande, det är också direkt olagligt. I en idealisk värld skulle ingen bryta mot lagen, men i verkligheten sker brott varje dag. Och utan tillförlitlig upptäckt riskerar bilförsäkringsbolagen att bli lurade på miljontals kronor i takt med att AI-aktiverade falska försäkringsanspråk ökar.

#6. "Soda Musk and Don" (genereras med Nano Banana)

Återigen använde jag Nano Banana för det här testet, och målet var att demonstrera falska, politiskt laddade bilder med en mer fånig underton. TruthScan, Sight Engine och AIorNot flaggade alla den genererade bilden med ett 99% AI-detekteringsbetyg. WasitAI var inte lika självsäkert - detekterade den AI-genererade bilden med endast 86% säkerhet. Och Winston misslyckades helt och tilldelade en AI-poäng på 0,2%. För att generera bilden gav jag Nano Banana den här prompten:

---

“Skapa ett foto av Elon Musk som spiller en stor mugg läsk som en Big Gulp på sin skjorta och flippar ut medan Donald Trump sitter bredvid honom och skrattar. De befinner sig på ett jetplan. Det är scenen. Och fotot ska se realistiskt ut som om det togs med en snapshot-kamera och innehålla artefakter som kamerablixten som reflekteras på flygplansfönstret och utanför flygplanet. Det är nattetid. Det ska se hyperrealistiskt ut.“

---

När ett av dessa program misslyckas med att upptäcka AI betecknar de det som äkta. Hur fånigt det här bildexemplet från testet än må vara, finns det inget roligt med att tro att en deepfake är äkta.

#7. "Still Alive" (genereras av Nano Banana)

Tycker du att den här bilden är störande? För att generera denna deepfake använde jag Nano Banana och gav den en bild av mig själv. Därefter gav jag den en lång prompt som skulle försätta mig i en situation som antydde att jag hade blivit bortförd. Kanske är det för att det här fotot visar mig i en komprometterande position. Tänk om någon gjorde något sådant här, skickade det till min mamma och hotade att skada mig om hon inte skickade pengar till dem? Läskiga grejer.

(Den fullständiga uppmaningen som jag använde för detta finns i den fullständiga testdatasetet i slutet av den här artikeln).

Lyckligtvis för den här bilden, trots att den har ett mycket realistiskt utseende, tre av fem detektorer identifierade den som AI-genererad.

AI or Not kom in med en stark 99% AI-poäng, TruthScan med 97% och Sight Engine på 95%. Tyvärr klassificerade Winston och WasItAI bilden som verklig.

Jag bör klargöra att dessa tester inte gjordes på mitt personliga Gemini-konto. Nano Banana bad mig aldrig att bevisa att jag var personen på bilden. Vem som helst kunde ha laddat ner ett foto av mig från internet, lagt in det i Nano Banana och fått det att skapa den här typen av bild.

#8. "Abuse of a Ben" (genereras med Nano Banana)

Möt Ben. Han tillbringar det mesta av sin tid med att leda olika avdelningar på de företag han arbetar på. Bilden ovan är Bens (riktiga) snygga företagsfoto. Om du inte märker det så är Ben en professionell kille. Oavsett vilka politiska åsikter han har håller han dem för sig själv, och hans samtal på jobbet handlar bara om jobbet. Men när som helst kan Bens bild användas för att sprida politisk propaganda eller budskap utan hans medgivande.

Den senaste tiden har det rapporterats en hel del om hur AI-genererade videor med ICE-agenter och protester har spridits på nätet. Baserat på alla tester hittills drog jag slutsatsen att det var väldigt enkelt att skapa falsk politisk propaganda med AI. Jag bestämde mig för att testa igen, den här gången med Ben.

Med Bens tillåtelse använde jag hans huvudbild för att skapa en deepfake. Här är den AI-genererade bilden som Nano Banana skapade:

Det tog trettio sekunder. Allt jag behövde göra var att dra och släppa hans huvudbild i Gemini och uppmana den att "hålla upp en skylt som säger avskaffa ICE." Resultatet från Nano Banana är inte lika fotorealistiskt som de andra, men det ser ändå tillräckligt autentiskt ut för att vara övertygande.

Lyckligtvis identifierade fyra av detektorerna bilden korrekt: TruthScan (99% AI), Var det AI (99% AI), Sight Engine (97% AI) och AI eller inte (97% AI). Winston AI misslyckades och tilldelades endast 5% AI-poäng.

#9. "Club Void" (genererat av Midjourney)

Jag skapade bilden ovan med hjälp av Midjourney. Ju mer jag tittade på den, desto mer oroväckande kändes den. Estetiken är mörk och kuslig. En skugglik närvaro verkar dyka upp bakom motivet. För att skapa den här bilden använde jag Midjourneys estetiska referensfunktion och bad den helt enkelt att vara en "tjej som står på en klubb och ler". Jag visade bilden för några personer och de trodde alla att den var verklig.

De flesta detektorer flaggade bilden som AI-genererad. TruthScan och Sight Engine flaggade den med en AI-poäng på 99%, AI eller inte sa 89%.

WasItAI var inte lika säker som detektorerna och klassificerade bilden med endast en 70% AI-poäng.

Winston AI:s detektor misslyckades fullständigt och gav bilden en AI-poäng på 1,56%.

#10 "Isbox" (genererad av Midjourney)

Jag skapade den här bilden med hjälp av samma metod mitt under resan som i det föregående testet. Den här gången var målet att generera något lite mörkare. TruthScan var den mest exakta detektorn och märkte bilden som 99% AI. Sight Engine och AI or Not upptäckte båda bilden korrekt. Winston AI misslyckades helt och WasItAI hade ett mycket lägre konfidensvärde än TruthScan, Sight Engine och AI or Not.

Jag borde säga att i det här fallet kan den bild jag genererade användas eller inramas på två sätt. Å ena sidan kan någon använda den här typen av media (eller någon annan typ av media med temat politiska/civila oroligheter) i någon form av konst eller kreativt projekt för att göra ett uttalande. I ett sådant fall verkar risken lägre. Den största oro jag har med denna kategori av AI-genererade medier är att den används av skändliga individer som hävdar att den är verklig.

Sammanfattning och resultat: Bästa AI-bilddetektorer

Okej, så nu när vi har visat alla tester, ska jag sammanfatta: Jag genererade 10 AI-bilder

• Jag använde ChatGPT, Nano Banana och Midjourney för att generera 10 AI-bilder
• Jag testade fem AI-bilddetektorer genom att låta alla AI-bilder som jag genererade gå igenom dem.
• TruthScan klarade alla tester och var den mest exakta detektorn. AI or Not klarade 8 av 10 tester och visade viss tillförlitlighet. Sight Engine misslyckades med 3 av 10 tester och visade tvivelaktig noggrannhet. Was It AI misslyckades i 4 av 10 tester och hade dålig noggrannhet överlag. Winston AI var den minst noggranna AI-bilddetektorn, klarade bara 3 av 10 tester och klassificerade konsekvent bilder fel.

Avslutande kommentarer och data

Sammanlagt har jag lagt 25 timmar på att sammanställa den här rapporten, från det att jag skrev den här artikeln till de rigorösa testerna. Verktygen för multimodal AI-detektering är fortfarande under utveckling, men det är tydligt att vissa är mer exakta än andra. Efter att ha testat alla verktyg har TruthScan den mest exakta AI-bilddetektor. Testerna talar för sig själva.

Om du vill ha tillgång till en CSV-kopia av data från de tester jag gjorde i den här artikeln kan du hitta den här. Det kalkylblad som jag länkade till innehåller alla de ursprungliga uppmaningarna och detektionsresultaten från testerna i den här artikeln.