Je hebt online waarschijnlijk meer AI-gegenereerde foto's gezien dan je denkt.

Soms is het duidelijk dat een foto door AI is gemaakt, maar het wordt steeds moeilijker om dat te zien naarmate de generatieve beeld- en videotools verbeteren. Nieuwe tools zoals Google's Nano banaan Proen updates voor OpenAI's ChatGPT-beeldmodel kunnen gebruikers snel synthetische beelden genereren die echte beelden weerspiegelen. Uit eerder onderzoek bleek dat 85% van de Amerikanen zegt deepfakes ondermijnen online vertrouwen.

Verschillende tools beweren dat ze AI-gegenereerde afbeeldingen kunnen detecteren, maar werken ze ook?

Ik heb 50 detectiecontroles uitgevoerd op vijf van de populairste AI-beelddetectors en de resultaten gedocumenteerd. Ik zal niet alleen alle gegevens in dit artikel presenteren en uitleggen, ik zal aan het einde ook een link naar de documentatie plaatsen.

De vijf detectoren die ik voor deze tests gebruikte waren: TruthScan, AI of niet, Zichtmotor, WasItAIen Winston AI. Ik heb deze tools getest door ze elk twee ChatGPT-gegenereerde afbeeldingen, zes Nano Banana-gegenereerde afbeeldingen en twee door Midjourney gegenereerde afbeeldingen te laten analyseren. Ik gebruikte meerdere prompting stijlen en technieken (waar ik later in detail op in zal gaan als ik elke geanalyseerde afbeelding uitsplits).

Alle vijf detectoren kregen de opdracht om door AI gemaakte afbeeldingen te herkennen in categorieën zoals fraude, desinformatie, algemene fotografie en deepfakes. Het zal niemand verbazen dat niet alle detectoren goed presteerden. TruthScan was de enige detector die alle inhoud die ik instuurde consistent classificeerde met 97% of hoger.

AI or Not presteerde ook behoorlijk goed. Sterker nog, hoewel AI of Not meerdere door AI gegenereerde items met minder dan 90% zekerheid classificeerde, was het de op één na nauwkeurigste en meest consistente detector tijdens mijn tests, achter TruthScan. Zelfs waar AI or Not faalde, waren deze fouten niet catastrofaal, maar er is nog ruimte voor verbetering.

De rest van de AI-beelddetectors die ik heb geprobeerd presteerden veel slechter. Sight Engine classificeerde bijvoorbeeld 3 fraude-gerelateerde AI-afbeeldingen verkeerd als authentiek.

Nu zal ik je elke afbeelding laten zien (van de 10 die ik heb gegenereerd), uitleggen hoe ik ze heb gemaakt en laten zien hoe elk model ze heeft gescoord.

#1. "Man op een richel" (gegenereerd door ChatGPT)

Voor mij (en ik zie dagelijks veel AI-gegenereerde inhoud) ziet de afbeelding er op het eerste gezicht behoorlijk overtuigend uit. Als je op iemands sociale mediaprofiel zou klikken, door zijn of haar feed zou scrollen en deze afbeelding zou zien, zou het dan meteen opvallen als een door AI gegenereerde vervalsing? Om eerlijk te zijn heb ik geprobeerd creatief om te gaan met de prompt. Hier is degene die ik heb gebruikt om deze afbeelding te genereren:

---

“Genereer voor mij een snapshot camera stijl foto van een man die op de top van een dak staat en neerkijkt op de straat, 's nachts, hij wordt verlicht door de flits van de camera, er zijn lichtsporen van de auto's beneden, een vrouw staat achter hem met haar hand op haar lippen, glimlachend, de esthetiek van de foto is als een foto genomen op een snapshot camera in 2009 door studievrienden die wat aan het rotzooien zijn.“

---

Hoe creatief ik ook was of hoeveel details ik ook opnam in mijn prompt, TruthScan en Sight Engine classificeerden de uitvoer nog steeds correct als AI-gegenereerd. De AI or Not-detector kwam in de buurt, maar miste nog steeds het doel.

Winston en WasItAI zaten er helemaal naast door de ChatGPT-afbeelding als echt te classificeren.

#2. "Het valse ontvangstbewijs" (gegenereerd door ChatGPT)

Ik wilde een valse kwitantie genereren met ChatGPT om te zien hoe realistisch het eruit zou zien. Je zou kunnen merken dat de afbeelding een legitiem adres mist, maar de textuur ziet er nog steeds enigszins realistisch uit. Ik zou zeggen dat deze afbeelding minder overtuigend is dan de eerste die ChatGPT genereerde, maar toch hebben de meeste detectors nog steeds gefaald bij het analyseren ervan.

• Van alle controles die ik op deze afbeelding heb uitgevoerd, TruthScan was het meest accuraat.
• Zichtmotor hier echt gefaald, met een slecht oordeel over een document-gerelateerde AI-afbeelding.
• AI of niet presteerde aanzienlijk beter in deze tweede analyse.
• Winston AI presteerde het slechtst en WasItAI faalde ook volledig.

Aangezien deze afbeelding wordt geassocieerd met de fraudecategorie, is het verontrustend dat de meeste detectors deze afbeelding verkeerd hebben geclassificeerd.

De prompt die ik heb gebruikt om de afbeelding te genereren

---

“Genereer een afbeelding van een bonnetje van een Best Buy waarop staat dat het totaal uitgegeven bedrag een miljard dollar is en dat er een koffievlek op zit.“

---

Ik heb duidelijk een snelle en eenvoudige prompt geschreven. Toch is de kwaliteit van de ChatGPT uitvoer visueel aantrekkelijk voor het blote oog. Niet zo overtuigend voor twee van de vijf detectors die ik heb getest, zo lijkt het.

#3: "Gevarenpakket" (gegenereerd met Nano Banana)

In plaats van Nano Banana een originele afbeelding te laten genereren, gaf ik het een afbeelding om te wijzigen.

Het idee was om te laten zien hoe iemand gemakkelijk AI kan gebruiken om nepbewijs te creëren en te beweren dat hij een beschadigd/gevaarlijk pakket heeft ontvangen. Eerst nam ik een foto met een iPhone 15 van een leeg Amazon pakket dat ik vond.

Hier is de foto die ik nam:

Daarna uploadde ik de foto die ik had gemaakt naar Nano Banana en gaf het de volgende opdracht:

---

“Ik wil dat je deze foto bewerkt, verander niets behalve waar het label zit, voeg er schade aan toe en voeg zwarte slibvlekken toe op de doos die er echt uitzien als vetvlekken.“

---

Nano Bana uitgang:

De olie-achtige smurrie die Nano Banana genereerde in de uitvoer had een overtuigende vieze glans, compleet met een doorweekt effect - helemaal niet cartoonesk. Gelukkig bestempelden de meeste detectors die ik erdoor liet lopen de afbeelding correct als nep. De enige uitschieter was Winston, die opnieuw slecht presteerde en de afbeelding verkeerd classificeerde als authentiek. AI or Not, TruthScan en WasItAI waren de nauwkeurigste detectors die deze afbeelding herkenden.

Het is verontrustend hoe eenvoudig het lijkt om een afbeelding te uploaden naar een chatbot en deze volledig te laten veranderen. Ik kan me voorstellen dat fraudeurs en oplichters generatieve afbeeldingshulpmiddelen gebruiken om te proberen frauduleuze retourclaims in te dienen of marktplaatsfraude te plegen.

Als e-commerce platformen alleen een afbeelding als bewijs nodig hebben om een beschadigd pakket te claimen, dan worden ze, zonder een betrouwbare manier om manipulatie door AI te detecteren, blootgesteld aan een belangrijke aanvalsvector. Amazon's officiële retourbeleid staat letterlijk, “Gevaarlijke stoffen, waaronder brandbare vloeistoffen of gassen, kunnen niet worden geretourneerd..”

Dus als je echt een pakket hebt ontvangen dat onder de olie of vettige zwarte smurrie zit, hoef je het niet terug te sturen, maar kun je wel je geld terugkrijgen. Als dat je om de een of andere reden echt zou overkomen, zou Amazon waarschijnlijk om een foto vragen. Zie je het probleem dat AI-gegenereerde afbeeldingen kunnen opleveren als ze niet van echt te onderscheiden zijn?

#4. "Kakkerlakkenmeel" (gegenereerd met Nano Banana)

Dit volgende AI-beeld zou je wel eens honger kunnen doen krijgen. Het blijkt dat er gedocumenteerde gevallen zijn van mensen die AI gebruiken om frauduleuze terugbetalingen op apps voor voedselbezorging. Voor deze vierde test volgde ik dezelfde stappen als in test drie. Deze keer maakte ik een foto van mijn lege afhaalbox na de lunch.

Hier is de echte afbeelding:

Daarna plaatste ik de echte foto die ik had genomen in Nano Banana en gaf het de volgende opdracht:

---

"Bewerk deze afbeelding. Verander niets behalve noedels op de plek van de folie en een heleboel kleine babykakkerlakken in het eten. Zorg dat het er allemaal realistisch uitziet en niet cartoonesk."

---

De Nano Banana-uitgang:

Opnieuw detecteerde TruthScan vol vertrouwen de door AI gegenereerde media. Sight Engine en WasitAI faalden volledig. AI or Not was de op één na nauwkeurigste detector (met 85% AI-zekerheid) bij het scannen van deze AI-afbeelding en Winston presteerde beter dan in de derde test (met 72% AI-zekerheid).

In deze afbeelding zijn de noedels en kakkerlakken allemaal volledig door AI gegenereerd; toch leken twee van de detectors dat niet te denken en slechts één (TruthScan) was meer dan 90% zeker van AI-knoeierij.

Een punt van zorg hier was hoe eenvoudig het was om deze nepafbeelding te maken. Van het uploaden van de foto die ik maakte, tot het vragen aan Nano Banana en het ontvangen van de output, alles bij elkaar duurde het maar ongeveer 2 minuten. Een nachtmerrie voor voedselbezorgingsapps; een droom voor hongerige leugenaars. Een 'fraudefactor'.

ONTHULLING: Sommige van de AI-gegenereerde afbeeldingen in de volgende tests waren bedoeld om aan te tonen hoe AI-afbeeldingen kunnen worden gebruikt voor desinformatie. Ze bevatten controversiële beelden en gevoelige onderwerpen, en zijn NIET bedoeld om een bepaalde politieke standpunten of ideologieën.

#5. "Autovandalisme" (gegenereerd met Nano Banana)

Ik vond een echte afbeelding van een auto die online te koop staat. Vrij alledaags. Maar wat als iemand deze afbeelding zou willen gebruiken om desinformatie te verspreiden of een valse autoverzekeringsclaim in te dienen? Helaas maakt generatieve AI dat snel en gemakkelijk.

Voor deze vijfde test nam ik een echte afbeelding van een auto en gaf Nano Banana de volgende opdracht:

---

“Verander niets aan de auto, behalve dat ik wil dat je er verf op spuit met de tekst 'Free Palestine' en dat de voorruit gebarsten is. De koplampen zijn kapot en de spiegel is gebroken en hangt naar beneden en de twee ramen aan de zijkant van de auto zijn verbrijzeld.”

---

Hier is de echte afbeelding:

Nano Banana AI beeld:

De detectieresultaten voor deze uitvoer waren gemengd. Voor deze test had WasItAI (verrassend genoeg) de hoogste AI-detectiescore (99%). TruthScan had de op één na hoogste score (97%). Sight Engine slaagde er duidelijk niet in om synthetische elementen in de afbeelding te detecteren en Winston deed het het slechtst van alle detectors (met een kans van minder dan 1% op betrokkenheid). AI or Not deed het goed, maar de nauwkeurigheid was nog steeds lager dan 90%.

Laten we het over de afbeelding hebben. De twee meest verontrustende aspecten van door AI gemaakte of veranderde inhoud zoals deze, is dat beide misleiding inhouden. Ten eerste is het gebruik van AI om alledaagse afbeeldingen te veranderen om politiek geladen inhoud te creëren snel, gemakkelijk en ziet het er echt uit. Of degenen die dit soort inhoud maken nu alleen uit zijn op betrokkenheid of politieke provocateurs zijn, het probleem is dat het valse informatie is die als authentiek wordt gepresenteerd.

De tweede manier waarop tools voor het genereren van afbeeldingen zoals deze misbruikt kunnen worden is voor fraude. Als een oplichter een valse auto-verzekeringsclaim wil indienen, moet hij nepbewijs produceren. In plaats van uren in Photoshop door te brengen met het bewerken van afbeeldingen en het bewerken van bewijsmateriaal, kunnen ze gebruik maken van afbeeldingsgeneratoren om snel nepbewijs te produceren.

In het bovenstaande AI-beeldvoorbeeld ziet u hoe een oplichter een soortgelijk proces zou kunnen gebruiken om een valse claim in te dienen volgens Progressive's Uitgebreid dekkingsbeleiddie specifiek betrekking heeft op:

• Gesneden of beschadigde banden
• Kapotte ruiten, koplampen of achterlichten
• Verfspuitschade
• Deuken of krassen van iemand die je auto bekrast
• Suiker of andere stoffen in je benzinetank doen

Natuurlijk is het indienen van vals bewijs niet alleen misleidend, het is ook ronduit illegaal. In een ideale wereld zou niemand de wet overtreden, maar in werkelijkheid gebeurt misdaad elke dag. En zonder betrouwbare detectie lopen autoverzekeringsmaatschappijen het risico voor miljoenen te worden opgelicht naarmate het aantal frauduleuze verzekeringsclaims met behulp van AI toeneemt.

#6. "Soda Musk en Don" (gegenereerd met Nano Banana)

Voor deze test gebruikte ik opnieuw Nano Banana en het doel was om neppe, politiek geladen afbeeldingen met een gekkere ondertoon te demonstreren. TruthScan, Sight Engine en AIorNot markeerden de gegenereerde afbeelding allemaal met een 99% AI-detectiewaarde. WasitAI was niet zo zeker en detecteerde de door AI gegenereerde afbeelding met slechts 86% zekerheid. En Winston faalde volledig met een AI-score van 0,2%. Om de afbeelding te genereren, gaf ik Nano Banana deze opdracht:

---

“Maak een foto van Elon Musk die een grote beker frisdrank als een Big Gulp op zijn shirt morst en in paniek raakt terwijl Donald Trump naast hem zit te lachen. Ze zitten in een straalvliegtuig. Dat is de scène. En de foto moet er realistisch uitzien alsof hij is gemaakt met een snapshotcamera en artefacten bevatten zoals de flits van de camera die weerkaatst op het raam van het vliegtuig en buiten het vliegtuig. Het is nacht. Het moet er hyperrealistisch uitzien.“

---

Als een van deze softwareprogramma's er niet in slaagt om AI te detecteren, bestempelen ze het als authentiek. Hoe stom dit afbeeldingsvoorbeeld uit de test ook is, er is niets grappigs aan denken dat een deepfake echt is.

#7. "Still Alive" (gegenereerd door Nano Banana)

Vind je deze afbeelding verontrustend? Om deze deepfake te genereren, gebruikte ik Nano Banana en gaf het een foto van mezelf. Vervolgens gaf ik het een lange prompt om me in een situatie te plaatsen die suggereerde dat ik ontvoerd was. Misschien is het omdat deze foto ik in een compromitterende positie. Wat als iemand zoiets zou maken, het naar mijn moeder zou sturen en zou dreigen me pijn te doen als ze geen geld zou sturen? Enge dingen.

(De volledige prompt die ik hiervoor heb gebruikt, is te vinden in de volledige testdataset aan het einde van dit artikel).

Gelukkig voor deze afbeelding, ondanks dat het er erg realistisch uitziet, drie op de vijf detectoren identificeerde het als AI-gegenereerd.

AI or Not kwam binnen met een sterke 99% AI-score, TruthScan met 97% en Sight Engine met 95%. Helaas classificeerden Winston en WasItAI de afbeelding als echt.

Ik moet verduidelijken dat deze tests niet zijn uitgevoerd op mijn persoonlijke Gemini-account. Nano Banana heeft me nooit gevraagd om te bewijzen dat ik de persoon in de afbeelding was. Iedereen had een foto van mij kunnen downloaden van het internet, deze in Nano Banana kunnen stoppen en dit soort afbeeldingen kunnen laten maken.

#8. "Misbruik van een Ben" (gegenereerd met Nano Banana)

Maak kennis met Ben. Hij besteedt het grootste deel van zijn tijd aan het managen van verschillende afdelingen bij de bedrijven waar hij werkt. De afbeelding hierboven is Ben's (echte) chique bedrijfsfoto. Als je het niet kunt zien, Ben is een professionele man. Wat voor politieke mening hij ook heeft, hij houdt het voor zichzelf en zijn werkgesprekken gaan alleen over werk. Maar op elk moment kan Bens beeltenis worden gebruikt om politieke propaganda of berichten te verspreiden zonder zijn toestemming.

Er is de laatste tijd veel berichtgeving over hoe AI-gegenereerde video's over ICE-agenten en protesten zich online verspreiden. Op basis van alle tests tot nu toe concludeerde ik dat het maken van valse politieke propaganda met AI heel eenvoudig was. Ik besloot opnieuw te testen, deze keer met Ben.

Met toestemming van Ben heb ik zijn hoofdfoto gebruikt om een deepfake te maken. Dit is de AI-gegenereerde afbeelding die Nano Banana heeft gemaakt:

Het duurde dertig seconden. Ik hoefde alleen maar zijn hoofdfoto naar Gemini te slepen en het te vragen om "een bord omhoog te houden met de tekst abolish ICE". De output van Nano Banana is niet zo fotorealistisch als de anderen, maar het ziet er nog steeds authentiek genoeg uit om overtuigend te zijn.

Gelukkig identificeerden vier van de detectoren het beeld nauwkeurig: TruthScan (99% AI), Was It AI (99% AI), Sight Engine (97% AI) en AI or Not (97% AI). Winston AI faalde en gaf slechts een 5% AI score.

#9. "Club Void" (gegenereerd door Midjourney)

Ik heb bovenstaande afbeelding gegenereerd met Midjourney. Hoe meer ik ernaar keek, hoe verontrustender het aanvoelde. De esthetiek is donker en griezelig. Een schimmige aanwezigheid lijkt van achter het onderwerp tevoorschijn te komen. Om deze afbeelding te maken, gebruikte ik de esthetische referentiefunctie van Midjourney en vroeg ik eenvoudigweg om een "meisje dat in een club staat te glimlachen". Ik liet het beeld aan een paar mensen zien en ze dachten allemaal dat het echt was.

De meeste detectors markeerden het beeld als AI-gegenereerd. TruthScan en Sight Engine markeerden het met een 99% AI-score, AI or Not zei 89%.

WasItAI was niet zo zeker als de detectors en classificeerde de afbeelding met slechts een 70% AI-score.

De detector van Winston AI faalde volledig en gaf de afbeelding een AI-score van 1,56%.

#10 "Ijsdoos (gegenereerd door Midjourney)

Ik heb deze afbeelding gemaakt met dezelfde tussentijdse methode als bij de vorige test. Deze keer was het doel om iets donkerders te genereren. TruthScan was de meest nauwkeurige detector en labelde de afbeelding als 99% AI. Sight Engine en AI or Not detecteerden de afbeelding allebei correct. Winston AI faalde volledig en WasItAI had een veel lagere betrouwbaarheidsscore dan TruthScan, Sight Engine en AI or Not.

Ik moet zeggen dat in dit geval het beeld dat ik genereerde op twee manieren gebruikt of ingelijst kan worden. Aan de ene kant zou iemand dit (of elk ander politiek/civiele onrust thema) type media kunnen gebruiken in een soort kunst of creatief project om een statement te maken. In dat geval lijkt het risico kleiner. De grootste zorg die ik heb met deze categorie van AI-gegenereerde media, is dat het gebruikt wordt door snode individuen die beweren dat het echt is.

Recapitulatie en resultaten: Beste AI-beelddetectors

Oké, nu we alle tests hebben weergegeven, zal ik een samenvatting geven: Ik heb 10 AI-afbeeldingen gegenereerd

• Ik heb ChatGPT, Nano Banana en Midjourney gebruikt om 10 AI-afbeeldingen te genereren.
• Ik heb vijf AI-beelddetectors getest door alle AI-beelden die ik genereerde er doorheen te halen.
• TruthScan slaagde voor alle tests en was de nauwkeurigste detector. AI or Not slaagde voor 8 van de 10 tests en toonde daarmee enige betrouwbaarheid. Sight Engine slaagde niet voor 3 van de 10 tests en toonde allround twijfelachtige nauwkeurigheid. Was It AI slaagde niet voor 4 van de 10 tests en was over de hele linie niet erg nauwkeurig. Winston AI was de minst nauwkeurige AI-beelddetector, slaagde slechts voor 3 van de 10 tests en classificeerde afbeeldingen consequent verkeerd.

Slotopmerkingen en gegevens

In totaal heb ik tussen het schrijven van dit artikel en het rigoureus testen 25 uur besteed aan het samenstellen van dit rapport. Multimodale AI-detectietools zijn nog steeds in ontwikkeling, maar het is duidelijk dat sommige nauwkeuriger zijn dan andere. Na het testen van alle tools, heeft TruthScan de meest accurate AI beelddetector. De tests spreken voor zich.

Als je een CSV-kopie wilt van de gegevens van de tests die ik in dit artikel heb uitgevoerd, kun je die vinden hier. De spreadsheet met gegevens die ik heb gekoppeld, bevat alle oorspronkelijke prompts en detectieresultaten van de tests in dit artikel.