Probabil că ați văzut online mai multe fotografii generate de inteligența artificială decât vă imaginați.

Uneori este evident că o imagine a fost generată de inteligența artificială, dar este din ce în ce mai greu de spus pe măsură ce instrumentele generative de imagine și video se îmbunătățesc. Instrumente noi precum Google's Nano Banana Pro, și actualizări la OpenAI's Modelul de imagine ChatGPT permit utilizatorilor să genereze rapid imagini sintetice care le reflectă pe cele reale. Cercetările anterioare au arătat că 85% dintre americani spun deepfakes erodează încrederea online.

Mai multe instrumente pretind că detectează imaginile generate de AI, dar funcționează acestea?

Am efectuat 50 de verificări ale detectării în cinci dintre cele mai populare detectoare de imagini AI și am documentat rezultatele. Nu numai că voi prezenta toate datele în acest articol și le voi explica, dar voi face și un link către documentație la sfârșit.

Cele cinci detectoare pe care le-am folosit pentru aceste teste au fost: TruthScan, AI sau nu, Motor de vedere, A fostAI, și Winston AI. Am testat aceste instrumente prin analizarea a două imagini generate de ChatGPT, șase imagini generate de Nano Banana și două imagini generate de Midjourney. Am folosit mai multe stiluri și tehnici de prompting (despre care voi detalia mai târziu, când voi analiza fiecare imagine analizată).

Toate cele cinci detectoare au avut sarcina de a depista imagini create de AI din categorii precum fraudă, dezinformare, fotografie generală și deepfakes. Deloc surprinzător, nu toate detectoarele au avut rezultate bune. TruthScan a fost singurul detector care a clasificat constant tot conținutul pe care l-am trimis la 97% sau mai mult.

De asemenea, AI or Not s-a descurcat destul de bine. De fapt, deși AI or Not a clasificat mai multe elemente generate de AI sub nivelul de certitudine 90%, acesta a fost al doilea cel mai precis și consecvent detector în timpul testelor mele, după TruthScan. Chiar și atunci când AI or Not a eșuat, aceste eșecuri nu au fost catastrofale, dar există încă loc pentru îmbunătățiri.

Restul detectoarelor de imagini AI pe care le-am încercat au avut rezultate mult mai slabe. De exemplu, Sight Engine a clasificat greșit 3 imagini AI legate de fraudă ca fiind autentice.

Acum vă voi arăta fiecare imagine (din cele 10 pe care le-am generat), vă voi explica cum am creat-o și vă voi arăta cum a punctat-o fiecare model.

#1. "Man On a Ledge" (generat de ChatGPT)

Pentru mine (și văd zilnic o mulțime de conținut generat de AI), imaginea pare destul de convingătoare la prima vedere. Dacă ați da clic pe profilul cuiva de pe rețelele de socializare, ați derula prin feed-ul său și ați vedea această imagine, ar ieși imediat în evidență ca fiind un fals generat de AI? Ca să fiu corect, am încercat să fiu creativ cu invitația. Iată-l pe cel pe care l-am folosit pentru a genera această imagine:

---

“Găsește-mi o fotografie în stil snapshot cu un bărbat care stă în vârful unui acoperiș și se uită în jos pe stradă, noaptea, este luminat de blițul camerei, există urme de lumină de la mașinile de dedesubt, o femeie stă în spatele lui cu mâna pe buze, zâmbind, estetica fotografiei este ca o fotografie făcută cu o cameră snapshot în 2009 de niște prieteni de facultate care se distrau.“

---

Indiferent de cât de creativ am fost sau de câte detalii am inclus în solicitarea mea, TruthScan și Sight Engine au clasificat în mod corect rezultatul ca fiind generat de AI. Detectorul "AI or Not" s-a apropiat, dar tot a ratat ținta.

Winston și WasItAI au greșit categoric - clasificând imaginea ChatGPT ca fiind reală.

#2. "Chitanța falsă" (generată de ChatGPT)

Am vrut să generez o chitanță falsă cu ChatGPT pentru a vedea cât de realist ar arăta. Ați putea observa că imaginii îi lipsește o adresă legitimă, dar textura pare totuși ușor realistă. Aș spune că această imagine este mai puțin convingătoare decât prima pe care ChatGPT a generat-o. Cu toate acestea, majoritatea detectoarelor s-au blocat atunci când au analizat-o.

• Dintre toate verificările pe care le-am făcut pe această imagine, TruthScan a fost cel mai precis.
• Motor de vedere a eșuat cu adevărat aici, dând dovadă de o judecată slabă cu privire la o imagine AI legată de un document.
• AI sau nu a avut rezultate mult mai bune în această a doua analiză.
• Winston AI a avut cea mai slabă performanță, iar WasItAI a eșuat, de asemenea, complet.

Având în vedere că această imagine este asociată cu categoria fraudă, este îngrijorător faptul că majoritatea detectoarelor au clasificat-o greșit.

Solicitarea pe care am folosit-o pentru a genera imaginea

---

“Generați o imagine a unei chitanțe best buy, care spune că suma totală cheltuită este de un miliard de dolari, și există o pată de cafea pe ea“

---

În mod clar, am scris un prompt rapid și simplu. Totuși, calitatea ieșirii ChatGPT este convingătoare vizual cu ochiul liber. Nu atât de convingătoare pentru două din cele cinci detectoare pe care le-am testat, se pare.

#3: "Hazard Package" (generat cu Nano Banana)

În loc ca Nano Banana să genereze o imagine originală, i-am dat una pe care să o modifice.

Ideea a fost de a demonstra cum cineva ar putea utiliza cu ușurință inteligența artificială pentru a crea dovezi false și a pretinde că a primit un pachet deteriorat/periculos. Mai întâi, am făcut o fotografie cu un iPhone 15 a unui pachet Amazon gol pe care l-am găsit.

Iată fotografia pe care am făcut-o:

Apoi, am încărcat fotografia pe care am făcut-o în Nano Banana și i-am dat următoarea solicitare:

---

“Vreau să editați această fotografie, nu schimbați nimic, cu excepția locului unde se află eticheta, adăugați daune la ea și adăugați pete de noroi negru pe cutie care arată real ca petele de grăsime“

---

Nano Bana ieșire:

Noroiul asemănător uleiului pe care Nano Banana l-a generat la ieșire avea un luciu murdar convingător, completat cu un efect de înmuiere - deloc caricatural. Din fericire, majoritatea detectoarelor prin care am rulat-o au etichetat corect imaginea ca fiind falsă. Singura excepție a fost Winston, care a avut din nou rezultate slabe, clasificând greșit imaginea ca fiind autentică. AI or Not, TruthScan și WasItAI au fost detectoarele cele mai exacte în identificarea acestei imagini.

Este îngrijorător cât de simplu pare să încărcați o imagine într-un chatbot și să o modificați complet. Îmi pot imagina că escrocii și escrocii folosesc instrumente de generare a imaginilor pentru a încerca să facă cereri de returnare frauduloase sau să se angajeze în fraude pe piață.

Dacă platformele de comerț electronic au nevoie doar de o imagine ca dovadă pentru a iniția o reclamație privind un colet deteriorat, atunci, fără o modalitate fiabilă de a detecta manipularea AI, acestea sunt expuse unui vector de atac major. De exemplu, pagina oficială a Amazon politica de returnare a articolelor afirmă literalmente, “Materialele periculoase, inclusiv lichidele sau gazele inflamabile, nu sunt returnabile.”

Deci, dacă ați primit un pachet acoperit de ulei sau de noroi negru, nu ar trebui să îl returnați, dar ați putea obține o rambursare. Dacă, dintr-un motiv oarecare, vi s-ar întâmpla acest lucru, Amazon v-ar cere probabil o dovadă foto. Vă dați seama de problema pe care o pot reprezenta imaginile generate de inteligența artificială atunci când nu se pot distinge de cele reale?

#4. "Mâncare de gândaci" (generată cu Nano Banana)

Următoarea imagine AI ar putea să vă facă să vă pierdeți apetitul. După cum se pare, există cazuri documentate de oameni care folosesc inteligența artificială pentru a primi rambursări frauduloase privind aplicațiile de livrare de alimente. Pentru acest al patrulea test, am urmat aceiași pași ca în testul trei. De data aceasta, am făcut o poză cu cutia goală de mâncare la pachet după prânz.

Iată imaginea reală:

Apoi am pus fotografia reală pe care am făcut-o în Nano Banana și i-am dat următoarea solicitare:

---

"Modificați această imagine. Nu schimbați nimic, cu excepția faptului că adăugați tăiței în locul în care se află folia și adăugați o grămadă de pui de gândaci mici în mâncare. Fă ca totul să pară realist și nu caricatural."

---

Ieșirea Nano Banana:

Încă o dată, TruthScan a detectat cu încredere media generată de AI. Sight Engine și WasitAI au eșuat complet. AI or Not a fost al doilea cel mai precis detector (cu 85% AI certainty) atunci când a scanat această imagine AI, iar Winston a avut o performanță mai bună decât în al treilea test (cu 72% AI certainty).

În această imagine, tăițeii și gândacii au fost generați în întregime de AI; cu toate acestea, doi dintre detectoare nu păreau să creadă acest lucru și doar unul (TruthScan) a fost mai mult de 90% sigur de manipularea AI.

Un motiv de îngrijorare aici a fost cât de simplu a fost să creez această imagine falsă. De la încărcarea fotografiei pe care am făcut-o, până la solicitarea Nano Banana și primirea rezultatului, în total, a durat doar aproximativ 2 minute. Un coșmar pentru aplicațiile de livrare a alimentelor; un vis pentru mincinoșii înfometați. Un "factor de fraudă".

DEZVĂLUIRI: Unele dintre imaginile generate de AI incluse în următoarele teste au fost concepute pentru a demonstra modul în care imaginile AI pot fi utilizate pentru dezinformare. Acestea conțin imagini controversate și subiecte sensibile, și NU sunt destinate să reprezinte o anumită orientare politică puncte de vedere sau ideologii.

#5. "Autovandalism" (generat cu Nano Banana)

Am găsit o imagine reală a unei mașini de vânzare online. Destul de banal. Dar dacă cineva ar dori să folosească această imagine pentru a răspândi dezinformări sau pentru a depune o cerere de asigurare auto falsă? Din păcate, inteligența artificială generativă face asta rapid și ușor.

Pentru acest al cincilea test, am luat o imagine reală a unei mașini și i-am dat lui Nano Banana următoarea solicitare:

---

“Nu schimba nimic la mașină, cu excepția faptului că vreau să adaugi vopsea spray pe ea pe care să scrie "Palestina liberă", iar parbrizul este crăpat. Farurile sunt sparte, oglinda este spartă și atârnă în jos, iar cele două geamuri de pe partea laterală a mașinii sunt zdrobit.”

---

Iată imaginea reală:

Nano Banana AI imagine:

Rezultatele detectorului pentru această ieșire au fost mixte. Pentru acest test, WasItAI (în mod surprinzător) a avut cel mai mare scor de detectare AI (la 99%). TruthScan a avut al doilea cel mai mare scor (97%). Sight Engine nu a reușit în mod semnificativ să detecteze niciun element sintetic în imagine, iar Winston a avut cel mai slab rezultat dintre toate detectoarele (atribuind o șansă de implicare mai mică de 1%). AI or Not s-a descurcat bine, dar precizia a fost încă sub 90%.

Să vorbim despre imagine. Cele mai îngrijorătoare două aspecte ale conținutului creat sau modificat de inteligența artificială, cum ar fi acesta, sunt că ambele implică înșelăciune. În primul rând, utilizarea inteligenței artificiale pentru a modifica imagini banale pentru a crea conținut cu încărcătură politică este rapidă, ușoară și pare reală. Indiferent dacă cei care creează acest tip de conținut urmăresc doar implicarea sau sunt provocatori politici, problema este că este vorba de informații false prezentate ca fiind autentice.

Al doilea mod în care instrumentele de generare a imaginilor pot fi utilizate în mod abuziv este frauda. Dacă un escroc dorește să depună o cerere falsă de asigurare auto, va trebui să producă dovezi false. În loc să petreacă ore întregi în Photoshop editând imagini și falsificând dovezi, aceștia pot utiliza generatoare de imagini pentru a produce rapid dovezi false.

În exemplul de imagine AI de mai sus, observați cum un escroc ar putea utiliza un proces similar pentru a depune o cerere de despăgubire falsă, în conformitate cu Progressive Politică de acoperire cuprinzătoare, care acoperă în special:

• Tăiat sau anvelope deteriorate
• Geamuri, faruri sau stopuri sparte
• Deteriorarea vopselei spray
• Dentări sau zgârieturi de la cineva care vă zgârie mașina
• Introduceți zahăr sau alte substanțe în rezervorul de benzină

Bineînțeles, prezentarea de dovezi false nu este doar înșelătoare, ci și de-a dreptul ilegală. Într-o lume ideală, nimeni nu ar încălca legea; în realitate, infracțiunile au loc în fiecare zi. Iar fără o detectare fiabilă, companiile de asigurări auto riscă să fie înșelate cu milioane de euro, pe măsură ce cererile de asigurare frauduloase bazate pe inteligența artificială cresc.

#6. "Soda Musk and Don" (generat cu Nano Banana)

Încă o dată, am folosit Nano Banana pentru acest test, iar scopul a fost de a demonstra imagini false, cu încărcătură politică, cu o nuanță mai prostească. TruthScan, Sight Engine și AIorNot au marcat imaginea generată cu un rating de detectare AI de 99%. WasitAI nu a fost la fel de încrezător, detectând imaginea generată de AI cu o certitudine de doar 86%. Iar Winston a eșuat complet, atribuind un scor AI de 0,2%. Pentru a genera imaginea, i-am dat lui Nano Banana această solicitare:

---

“Generați o fotografie în care Elon Musk varsă o cană mare de suc ca un Big Gulp pe cămașa sa și se sperie în timp ce Donald Trump stă lângă el și râde. Sunt într-un avion cu reacție. Aceasta este scena. Iar fotografia ar trebui să arate realist, ca și cum ar fi fost făcută cu o cameră foto instantanee și să includă artefacte precum blițul camerei care se reflectă pe fereastra avionului și în afara avionului. Este noapte. Ar trebui să arate hiper-realist.“

---

Ori de câte ori unul dintre aceste programe software nu reușește să detecteze AI, îl etichetează ca fiind autentic. Oricât de prostesc ar fi acest exemplu de imagine din test, nu este nimic amuzant în a crede că un deepfake este real.

#7. "Still Alive" (generat de Nano Banana)

Vi se pare deranjantă această imagine? Pentru a genera acest deepfake, am folosit Nano Banana și i-am dat o poză cu mine. Apoi, i-am dat un prompt lung menit să mă pună într-o situație care să sugereze că am fost răpit. Poate pentru că această fotografie arată eu într-o poziție compromițătoare. Ce s-ar întâmpla dacă cineva ar face așa ceva, i l-ar trimite mamei mele și ar amenința că îmi va face rău dacă nu îi trimite bani? Chestii înfricoșătoare.

(Solicitarea completă pe care am folosit-o pentru acest lucru poate fi găsită în setul complet de date de testare de la sfârșitul acestui articol.)

Din fericire pentru această imagine, în ciuda faptului că are un aspect foarte realist, trei din cinci detectoare au identificat-o ca fiind generată de AI.

AI or Not a venit cu un scor AI puternic de 99%, TruthScan cu 97%, iar Sight Engine cu 95%. Din păcate, Winston și WasItAI au clasificat imaginea ca fiind reală.

Trebuie să precizez că aceste teste nu au fost efectuate pe contul meu personal Gemini. Nano Banana nu mi-a cerut niciodată să dovedesc că eu sunt persoana din imagine. Oricine ar fi putut să descarce o fotografie cu mine de pe internet, să o introducă în Nano Banana și să creeze acest tip de imagine.

#8. "Abuse of a Ben" (generat cu Nano Banana)

Faceți cunoștință cu Ben. El își petrece cea mai mare parte a timpului gestionând diverse departamente ale companiilor la care lucrează. Imaginea de mai sus este fotografia corporativă (reală) a lui Ben. Dacă nu vă puteți da seama, Ben este un tip profesionist. Indiferent de opiniile politice pe care le are, le păstrează pentru el, iar conversațiile sale de la serviciu sunt doar despre serviciu. Dar, în orice moment, imaginea lui Ben ar putea fi folosită pentru a răspândi propagandă sau mesaje politice fără acordul său.

În ultima vreme, s-a raportat foarte mult despre modul în care s-au răspândit online videoclipuri generate de AI care implică agenți ICE și proteste. Pe baza tuturor testelor de până acum, am ajuns la concluzia că crearea de propagandă politică falsă cu ajutorul inteligenței artificiale a fost foarte ușoară. Am decis să testez din nou, de data aceasta folosind Ben.

Cu permisiunea lui Ben, i-am folosit fotografia de cap pentru a crea un deepfake. Iată imaginea generată de inteligența artificială creată de Nano Banana:

A durat 30 de secunde. Tot ce a trebuit să fac a fost să trag și să eliberez fotografia capului său în Gemini și să îi cer să "ridice o pancartă pe care să scrie abolirea ICE". Rezultatul Nano Banana nu este la fel de fotorealist ca celelalte, dar arată suficient de autentic pentru a fi convingător.

Din fericire, patru dintre detectoare au identificat cu exactitate imaginea: TruthScan (99% AI), Was It AI (99% AI), Sight Engine (97% AI) și AI or Not (97% AI). Winston AI a eșuat, atribuind doar un scor 5% AI.

#9. "Club Void" (generat de Midjourney)

Am generat imaginea de mai sus folosind Midjourney. Cu cât mă uitam mai mult la ea, cu atât mi se părea mai tulburătoare. Estetica este întunecată și stranie. O prezență întunecată pare să apară din spatele subiectului. Pentru a crea această imagine, am folosit funcția de referință estetică a Midjourney și i-am cerut pur și simplu să fie o "fată care stă într-un club și zâmbește". Am arătat imaginea câtorva persoane și toate au crezut că este reală.

Majoritatea detectoarelor au marcat imaginea ca fiind generată de AI. TruthScan și Sight Engine au marcat-o cu un scor AI de 99%, AI or Not a spus 89%.

WasItAI nu a fost la fel de sigur ca detectoarele, clasificând imaginea cu doar un scor 70% AI.

Detectorul Winston AI a eșuat complet, oferind imaginii un scor AI de 1,56%.

#10 "Cutie de gheață" (generat de Midjourney)

Am creat această imagine folosind aceeași metodă de la mijlocul călătoriei din testul anterior. De data aceasta, scopul a fost de a genera ceva puțin mai întunecat. TruthScan a fost cel mai precis detector, etichetând imaginea ca 99% AI. Sight Engine și AI or Not au detectat ambele corect imaginea. Winston AI a eșuat complet, iar WasItAI a avut un scor de încredere mult mai mic decât TruthScan, Sight Engine și AI or Not.

Ar trebui să spun că, în acest caz, imaginea pe care am generat-o ar putea fi utilizată sau încadrată în două moduri. Pe de o parte, cineva ar putea utiliza acest tip de suport media (sau orice alt tip de suport cu tematică politică sau a tulburărilor civile) într-un fel de proiect artistic sau creativ pentru a face o declarație. Într-un astfel de caz, riscul pare mai scăzut. Principala preocupare pe care o am în legătură cu această categorie de media generată de inteligența artificială este utilizarea ei de către persoane răuvoitoare care pretind că este reală.

Recapitulare și rezultate: Cele mai bune detectoare de imagini AI

Bine, deci acum că am afișat toate testele, voi recapitula: Am generat 10 imagini AI

• Am folosit ChatGPT, Nano Banana și Midjourney pentru a genera 10 imagini AI
• Am testat cinci detectoare de imagini AI trecând prin ele toate imaginile AI pe care le-am generat.
• TruthScan a trecut toate testele și a fost cel mai precis detector. AI or Not a trecut 8 din 10 teste, demonstrând o anumită fiabilitate. Sight Engine a picat 3 din 10 teste și a demonstrat o acuratețe îndoielnică în general. Was It AI a picat 4 din 10 teste și a avut o acuratețe slabă în general. Winston AI a fost cel mai puțin precis detector de imagini AI, trecând doar 3 din 10 teste, clasificând în mod constant greșit imaginile.

Observații de încheiere și date

În total, între redactarea acestui articol și testarea riguroasă, am petrecut 25 de ore pentru a întocmi acest raport. Instrumentele de detectare a inteligenței artificiale multimodale sunt încă în curs de dezvoltare, dar este clar că unele sunt mai precise decât altele. După testarea tuturor instrumentelor, TruthScan are cea mai precisă Detector de imagini AI. Testele vorbesc de la sine.

Dacă doriți să accesați o copie CSV a datelor din testele pe care le-am efectuat în acest articol, o puteți găsi aici. Foaia de calcul cu care am făcut legătura conține toate solicitările originale și rezultatele detectării din testele din acest articol.