Olet luultavasti nähnyt verkossa enemmän tekoälyn luomia valokuvia kuin uskotkaan.

Joskus on selvää, että kuva on tekoälyn tuottama, mutta sitä on yhä vaikeampi sanoa, kun generatiiviset kuva- ja videotyökalut kehittyvät. Uudet työkalut, kuten Googlen Nano Banana Proja päivitykset OpenAI:n ChatGPT-kuvamalli avulla käyttäjät voivat luoda nopeasti synteettisiä kuvia, jotka heijastavat todellisia kuvia. Aiemmissa tutkimuksissa todettiin, että 85% amerikkalaisista sanoo, että väärennökset murentavat luottamusta verkossa.

Useat työkalut väittävät tunnistavansa tekoälyn luomat kuvat, mutta toimivatko ne?

Suoritin 50 tunnistustarkastusta viidellä suosituimmalla tekoälykuvien tunnistimella ja dokumentoin tulokset. Esittelen tässä artikkelissa kaikki tiedot ja selitän ne, mutta lopussa on myös linkki dokumentaatioon.

Näissä testeissä käyttämäni viisi ilmaisinta olivat: TruthScan, Tekoäly vai ei, Sight Engine, WasItAIja Winston AI. Testasin näitä työkaluja analysoimalla kummallakin kaksi ChatGPT:n tuottamaa kuvaa, kuusi Nano Bananan tuottamaa kuvaa ja kaksi Midjourneyn tuottamaa kuvaa. Käytin useita kehotustyylejä ja -tekniikoita (joista kerron yksityiskohtaisesti myöhemmin, kun analysoin jokaisen analysoidun kuvan).

Kaikkien viiden ilmaisimen tehtävänä oli havaita tekoälyn luomat kuvat eri luokissa, kuten petokset, disinformaatio, yleinen valokuvaus ja väärennökset. Ei ole yllättävää, että kaikki ilmaisimet eivät suoriutuneet hyvin. TruthScan oli ainoa ilmaisin, joka luokitteli johdonmukaisesti kaiken lähettämäni sisällön vähintään 97%:ksi.

AI or Not menestyi myös melko hyvin. Vaikka AI or Not luokitteli useita tekoälyn tuottamia kohteita alle 90%:n varmuuden, se oli testeissäni toiseksi tarkin ja johdonmukaisin ilmaisin TruthScanin jälkeen. Vaikka AI or Not epäonnistui, epäonnistumiset eivät olleet katastrofaalisia, mutta parantamisen varaa on edelleen.

Muut kokeilemani tekoälyn kuvantunnistimet toimivat paljon huonommin. Esimerkiksi Sight Engine luokitteli kolme petokseen liittyvää tekoälykuvaa virheellisesti aidoiksi.

Nyt näytän sinulle jokaisen kuvan (10:stä luomastani kuvasta), selitän, miten loin sen, ja näytän, miten kukin malli sai siitä pisteet.

#1. "Man On a Ledge" (tuottanut ChatGPT)

Minusta (ja näen päivittäin paljon tekoälyn tuottamaa sisältöä) kuva näyttää ensi silmäyksellä melko vakuuttavalta. Jos napsauttaisit jonkun sosiaalisen median profiilia, selaisit hänen syötteensä läpi ja näkisit tämän kuvan, erottuisiko se heti tekoälyn luoman väärennöksenä? Rehellisyyden nimissä yritin olla luova kehotuksen kanssa. Tässä on kuva, jota käytin tämän kuvan luomiseen:

---

“Luo minulle tilannekuvakameratyylinen valokuva miehestä, joka seisoo katon päällä ja katsoo alas kadulle, yöaikaan, häntä valaisee kameran salama, alla olevista autoista tulee valojälkiä, nainen seisoo hänen takanaan käsi huulillaan hymyillen, kuvan estetiikka on kuin valokuva, jonka opiskelukaverit ovat ottaneet tilannekuvakameralla vuonna 2009, kun he ovat pelleilleet.“

---

Riippumatta siitä, kuinka luova olin tai kuinka monta yksityiskohtaa sisällytin kehotukseeni, TruthScan ja Sight Engine luokittelivat tuloksen silti oikein tekoälyn tuottamaksi. AI or Not -ilmaisin pääsi lähelle, mutta ei silti osunut oikeaan.

Winston ja WasItAI olivat täysin väärässä, kun he luokittelivat ChatGPT:n kuvan todelliseksi.

#2. "Väärennetty kuitti" (luonut ChatGPT)

Halusin luoda väärennetyn kuitin ChatGPT:llä nähdäkseni, kuinka realistiselta se näyttäisi. Saatat huomata, että kuvasta puuttuu laillinen osoite, mutta tekstuuri näyttää silti hieman realistiselta. Sanoisin, että tämä kuva ei ole yhtä vakuuttava kuin ensimmäinen, jonka annoin ChatGPT:n luoda, mutta useimmat ilmaisimet eivät silti toimineet sitä analysoidessaan.

• Kaikista tarkistuksista, jotka tein tälle kuvalle, TruthScan oli tarkin.
• Sight Engine todella epäonnistui tässä, osoittaen huonoa harkintakykyä asiakirjoihin liittyvässä tekoälykuvassa.
• Tekoäly vai ei suoriutui huomattavasti paremmin tässä toisessa analyysissä.
• Winston AI toimi huonoimmin, ja myös WasItAI epäonnistui täysin.

Kun otetaan huomioon, että tämä kuva liittyy petosluokkaan, on huolestuttavaa, että useimmat ilmaisimet luokittelivat sen väärin.

Kuvan luomiseen käyttämäni kehote

---

“Luo kuva Best Buy -kuitista, jossa lukee, että kulutettu kokonaissumma on miljardi dollaria, ja siinä on kahvitahra.“

---

Kirjoitin selvästikin nopean ja yksinkertaisen kehotuksen. Silti ChatGPT:n tulosteen laatu on visuaalisesti vakuuttava paljaalla silmällä. Näyttää siltä, että kahdelle viidestä testaamastani ilmaisimesta se ei ole niin vakuuttava.

#3: "Vaarapaketti" (tuotettu Nano Banana -ohjelmalla).

Sen sijaan, että olisin antanut Nano Bananan luoda alkuperäisen kuvan, annoin sille mahdollisuuden muokata sitä.

Ajatuksena oli osoittaa, miten joku voisi helposti käyttää tekoälyä väärennettyjen todisteiden luomiseen ja väittää saaneensa vahingoittuneen/vaarallisen paketin. Ensin otin iPhone 15:llä kuvan löytämästäni tyhjästä Amazon-paketista.

Tässä on ottamani kuva:

Sitten latasin ottamani valokuvan Nano Bananaan ja annoin sille seuraavan kehotuksen:

---

“Haluan, että muokkaat tätä kuvaa, älä muuta mitään muuta kuin missä etiketti on, lisää siihen vaurioita ja lisää laatikkoon mustaa lietettä tahroja, jotka näyttävät todellisilta kuin rasvatahrat.“

---

Nano Banan tuotos:

Nano Banana tuotti tuotoksessa öljymäistä lietettä, joka oli vakuuttavan likaisen kiiltävää ja jossa oli märkä-läpimärkä vaikutus - ei lainkaan sarjakuvamainen. Onneksi useimmat ilmaisimet, joiden läpi ajoin sen, tunnistivat kuvan oikein väärennökseksi. Ainoa poikkeus oli Winston, joka taas toimi huonosti ja luokitteli kuvan virheellisesti aidoksi. AI or Not, TruthScan ja WasItAI olivat tarkimmat tunnistimet, jotka havaitsivat tämän kuvan.

On huolestuttavaa, miten yksinkertaiselta näyttää ladata kuva chatbottiin ja saada se täysin muuttumaan. Voin kuvitella, että petkuttajat ja huijarit käyttävät generatiivisia kuvatyökaluja yrittäessään tehdä vilpillisiä palautusvaatimuksia tai harjoittaakseen markkinahuijauksia.

Jos verkkokauppa-alustat vaativat vain kuvan todisteeksi vahingoittuneen paketin reklamaation käynnistämiseksi, ilman luotettavaa tapaa havaita tekoälyn manipulointi ne ovat alttiita merkittävälle hyökkäysvektorille. Esimerkiksi Amazonin virallinen tuotteiden palautusehdot kirjaimellisesti toteaa, “Vaaralliset aineet, mukaan lukien syttyvät nesteet tai kaasut, eivät ole palautettavissa..”

Jos siis sait paketin, joka oli öljyn tai rasvaisen mustan lietteen peitossa, sinun ei tarvinnut palauttaa sitä, mutta sait silti hyvityksen. Jos sinulle jostain syystä kävisi näin, Amazon todennäköisesti pyytäisi kuvatodisteita. Ymmärrätkö, millainen ongelma tekoälyn luomat kuvat voivat olla, kun niitä ei voi erottaa todellisista kuvista?

#4. "Torakka-ateria" (tuotettu Nano-banaanilla)

Tämä seuraava tekoälykuva saattaa saada sinut menettämään ruokahalusi. Kuten kävi ilmi, on olemassa dokumentoituja tapauksia, joissa ihmiset ovat käyttäneet tekoälyä saadakseen - vilpilliset palautukset ruoan toimitussovelluksista. Tässä neljännessä testissä noudatin samoja vaiheita kuin kolmannessa testissä. Tällä kertaa otin kuvan tyhjästä noutoruokalaatikostani lounaan jälkeen.

Tässä on oikea kuva:

Sitten laitoin ottamani oikean valokuvan Nano Bananaan ja annoin sille seuraavan kehotuksen:

---

"Muokkaa tätä kuvaa. Älä muuta mitään muuta kuin lisää nuudeleita siihen kohtaan, jossa folio on, ja lisää joukko pieniä pikkuruisia vauvojen torakoita ruokaan. Tee siitä realistisen näköistä eikä karikatyyrimäistä."

---

Nano Banana Output:

Jälleen kerran TruthScan havaitsi tekoälyn tuottaman median luotettavasti. Sight Engine ja WasitAI epäonnistuivat täysin. AI or Not oli toiseksi tarkin tunnistin (85% AI-varmuus) skannatessaan tätä AI-kuvaa, ja Winston toimi paremmin kuin kolmannessa testissä (72% AI-varmuus).

Tässä kuvassa nuudelit ja torakat olivat täysin tekoälyn luomia, mutta kaksi ilmaisinta ei näyttänyt ajattelevan niin, ja vain yksi (TruthScan) oli yli 90%:n varma tekoälyn manipuloinnista.

Huolestuttavaa oli se, kuinka helppoa tämän väärennetyn kuvan luominen oli. Kuvan lataamisesta Nano Bananan käynnistämiseen ja tulosteen vastaanottamiseen kului kaiken kaikkiaan vain noin 2 minuuttia. Painajainen ruoan toimitussovelluksille, unelma nälkäisille valehtelijoille. Petostekijä.

ILMOITUS: Tarkoituksena oli osoittaa, miten tekoälykuvia voidaan käyttää disinformaatioon. Ne sisältävät kiistanalaisia kuvia ja arkaluonteisia aiheita., ja niiden EI ole tarkoitus edustaa mitään tiettyä poliittista näkemyksiä tai ideologioita.

#5. "Autovandalismi" (tuotettu Nano Banana)

Löysin netistä oikean kuvan myytävästä autosta. Melko arkinen. Mutta entä jos joku haluaisi käyttää tätä kuvaa levittääkseen harhaanjohtavaa tietoa tai esittääkseen väärän autovakuutusvaatimuksen? Valitettavasti generatiivinen tekoäly tekee siitä helppoa ja nopeaa.

Tässä viidennessä testissä otin oikean kuvan autosta ja annoin Nano Bananalle seuraavan ohjeen:

---

“Älä muuta autossa mitään, paitsi että haluan sinun lisäävän siihen spraymaalia, jossa lukee "Free Palestine", ja tuulilasi on halki. Ajovalot ovat hajalla ja peili on rikki ja roikkuu alaspäin, ja auton sivussa olevat kaksi ikkunaa ovat... murskattu.”

---

Tässä on oikea kuva:

Nano Banana AI -kuva:

Tämän tuotoksen ilmaisimen tulokset olivat vaihtelevia. Tässä testissä WasItAI (yllättäen) sai korkeimman AI-tunnistustuloksen (99%). TruthScan sai toiseksi korkeimman tuloksen (97%). Sight Engine ei onnistunut merkittävästi havaitsemaan yhtään synteettistä elementtiä kuvassa, ja Winston pärjäsi kaikista ilmaisimista huonoimmin (antamalla alle 1%:n todennäköisyyden osallisuudelle). AI or Not pärjäsi ihan hyvin, mutta tarkkuus oli silti alle 90%.

Puhutaanpa kuvasta. Tekoälyn avulla tehtyyn tai muokattuun sisältöön liittyy kaksi huolestuttavinta näkökohtaa, jotka molemmat liittyvät petokseen. Ensinnäkin tekoälyn käyttäminen arkisten kuvien muuttamiseen poliittisesti latautuneen sisällön luomiseksi on nopeaa, helppoa ja näyttää aidolta. Olivatpa tämäntyyppisen sisällön tekijät sitten vain kiinnostuneita tai poliittisia provokaattoreita, ongelmana on, että kyseessä on väärennetty tieto, joka esitetään aitona.

Toinen tapa, jolla tämänkaltaisia kuvantuotantotyökaluja voidaan käyttää väärin, on petos. Jos huijari haluaa tehdä väärennetyn autovakuutushakemuksen, hänen on esitettävä väärennettyjä todisteita. Sen sijaan, että hän käyttäisi tuntikausia Photoshopissa kuvien muokkaamiseen ja todisteiden väärentämiseen, hän voi käyttää kuvageneraattoreita väärennettyjen todisteiden tuottamiseen nopeasti.

Yllä olevassa tekoälykuvaesimerkissä huijari voi käyttää samanlaista prosessia tehdäkseen väärennetyn korvausvaatimuksen Progressiven mukaan. Kattava kattavuuspolitiikka, joka kattaa erityisesti:

• Viilletty tai vaurioituneet renkaat
• Rikkinäiset ikkunat, ajovalot tai takavalot
• Ruiskumaalivauriot
• Lommot tai naarmut että joku avaisi autosi
• Sokerin tai muiden aineiden lisääminen bensatankkiin.

Väärien todisteiden esittäminen ei tietenkään ole pelkästään harhaanjohtavaa, vaan se on myös täysin laitonta. Ihanteellisessa maailmassa kukaan ei rikkoisi lakia, mutta todellisuudessa rikoksia tapahtuu joka päivä. Ilman luotettavaa havaitsemista autovakuutusyhtiöt ovat vaarassa saada miljoonia, kun tekoälyn avulla tehdyt vilpilliset vakuutushakemukset lisääntyvät.

#6. "Soda Musk ja Don" (tuotettu Nano Banana)

Jälleen kerran käytin tässä testissä Nano Bananaa, ja tavoitteena oli demonstroida väärennettyjä, poliittisesti latautuneita kuvia, joissa on typerämpi pohjavire. TruthScan, Sight Engine ja AIorNot merkitsivät kaikki luodun kuvan 99% AI-tunnistusluokituksella. WasitAI ei ollut yhtä luottavainen - se havaitsi tekoälyn luoman kuvan vain 86% varmuudella. Winston epäonnistui täysin, sillä se antoi tekoälypisteeksi 0,2%. Kuvan luomiseksi annoin Nano Bananalle tämän kehotuksen:

---

“Luo kuva Elon Muskista, joka kaataa ison limsamukin kuin Big Gulpin paidalleen ja sekoaa, kun Donald Trump istuu hänen vieressään nauraen. He ovat suihkukoneessa. Tuo on se kohtaus. Ja kuvan pitäisi näyttää realistiselta kuin se olisi otettu tilannekuvakameralla, ja siihen pitäisi sisältyä artefakteja, kuten kameran salaman heijastuminen lentokoneen ikkunaan ja lentokoneen ulkopuolelle. On yöaika. Sen pitäisi näyttää hyperrealistiselta.“

---

Aina kun jokin näistä ohjelmista ei havaitse tekoälyä, se merkitään aidoksi. Niin hölmöä kuin tämä testin kuvaesimerkki onkin, ei ole mitään hauskaa siinä, että deepfakea pidetään aitona.

#7. "Still Alive" (tuottanut Nano Banana)

Häiritseekö tämä kuva sinua? Tämän väärennöksen luomiseksi käytin Nano Bananaa ja annoin sille kuvan itsestäni. Seuraavaksi annoin sille pitkän kehotuksen, jonka tarkoituksena oli asettaa minut tilanteeseen, joka antoi ymmärtää, että minut oli siepattu. Ehkä se johtuu siitä, että kuvassa näkyy minä vaarantavassa asemassa. Mitä jos joku tekisi jotain tällaista, lähettäisi sen äidilleni ja uhkaisi satuttaa minua, ellei hän lähettäisi rahaa? Pelottavia juttuja.

(Täydellinen kehote, jota käytin tähän, löytyy tämän artikkelin lopussa olevasta täydellisestä testitietokannasta.)

Onneksi tämä kuva on hyvin realistisen näköinen, kolme viidestä ilmaisimesta tunnisti sen tekoälyn tuottamaksi.

AI or Not sai vahvat 99% AI-pisteet, TruthScan 97% ja Sight Engine 95%. Valitettavasti Winston ja WasItAI luokittelivat kuvan aidoksi.

Haluan selventää, että näitä testejä ei tehty henkilökohtaisella Gemini-tililläni. Nano Banana ei koskaan pyytänyt minua todistamaan, että olen kuvan henkilö. Kuka tahansa olisi voinut ladata minusta kuvan internetistä, laittaa sen Nano Bananaan ja antaa sen luoda tällaisen kuvan.

#8. "Benin väärinkäyttö" (tuotettu Nano Banana -ohjelmalla)

Tapaa Ben. Hän viettää suurimman osan ajastaan johtamalla eri osastoja yrityksissä, joissa hän työskentelee. Yllä oleva kuva on Benin (oikea) tyylikäs yrityskuva. Jos et huomaa, Ben on ammattilainen. Poliittiset mielipiteensä hän pitää omana tietonaan, ja työkeskustelut koskevat vain työtä. Benin kuvaa voidaan kuitenkin milloin tahansa käyttää poliittisen propagandan tai viestien levittämiseen ilman hänen suostumustaan.

Viime aikoina on raportoitu paljon siitä, miten tekoälyn luomat videot, joissa on mukana ICE-agentteja ja mielenosoituksia, ovat levinneet verkossa. Kaikkien tähänastisten testien perusteella tulin siihen tulokseen, että tekoälyn avulla on todella helppoa luoda väärennettyä poliittista propagandaa. Päätin testata uudelleen, tällä kertaa Benin avulla.

Benin luvalla käytin hänen pääkuvaansa deepfakea varten. Tässä on Nano Bananan luoma tekoälyn luoma kuva:

Se kesti kolmekymmentä sekuntia. Minun piti vain vetää ja pudottaa hänen pääkuvansa Geminiin ja pyytää sitä pitämään kylttiä, jossa lukee "abolish ICE". Nano Banana ei ole yhtä fotorealistinen kuin muut, mutta se näyttää silti tarpeeksi aidolta ollakseen vakuuttava.

Onneksi neljä ilmaisinta tunnisti kuvan tarkasti: TruthScan (99% AI), Was It AI (99% AI), Sight Engine (97% AI) ja AI or Not (97% AI). Winston AI epäonnistui ja sai vain 5% AI-pisteet.

#9. "Club Void" (tuottanut Midjourney)

Loin yllä olevan kuvan Midjourneyn avulla. Mitä enemmän katsoin sitä, sitä levottomammalta se tuntui. Estetiikka on synkkä ja aavemainen. Varjoinen läsnäolo näyttää nousevan esiin kohteen takaa. Tämän kuvan luomiseksi käytin Midjourneyn esteettistä viitetoimintoa ja yksinkertaisesti pyysin sitä olemaan "tyttö, joka seisoo klubilla hymyillen". Näytin kuvaa muutamalle ihmiselle, ja he kaikki pitivät sitä todellisena.

Useimmat ilmaisimet merkitsivät kuvan tekoälyn tuottamaksi. TruthScan ja Sight Engine merkitsivät sen 99% AI-pisteellä, AI or Not sanoi 89%.

WasItAI ei ollut yhtä varma kuin ilmaisimet, vaan se luokitteli kuvan vain 70% AI-pistemäärällä.

Winstonin tekoälyn tunnistin epäonnistui täysin, ja se antoi kuvalle 1,56% AI-pistemäärän.

#10 "Jääkaappi" (luonut Midjourney)

Loin tämän kuvan käyttäen samaa menetelmää matkan puolivälissä kuin edellisessä testissä. Tällä kertaa tavoitteena oli luoda jotain hieman tummempaa. TruthScan oli tarkin tunnistin, joka merkitsi kuvan 99% AI:ksi. Sight Engine ja AI or Not tunnistivat molemmat kuvan oikein. Winston AI epäonnistui täysin, ja WasItAI:n luotettavuus oli paljon alhaisempi kuin TruthScanin, Sight Enginen ja AI or Notin.

Tässä tapauksessa luomaani kuvaa voidaan käyttää tai kehystää kahdella tavalla. Toisaalta joku voisi käyttää tätä (tai mitä tahansa poliittista/kansalaislevottomuusteemaista) mediaa jonkinlaisessa taiteessa tai luovassa projektissa lausuman antamiseksi. Tällaisessa tapauksessa riski vaikuttaa pienemmältä. Suurin huolenaihe, joka minulla on tekoälyn luoman median suhteen, on se, että sitä käyttävät pahansuovat yksilöt, jotka väittävät, että se on todellista.

Yhteenveto ja tulokset: Parhaat tekoälyn kuvantunnistimet

Okei, nyt kun olemme näyttäneet kaikki testit, kertaan vielä kerran: Loin 10 tekoälykuvaa

• Käytin ChatGPT:tä, Nano Bananaa ja Midjourneytä luodakseni 10 tekoälykuvaa.
• Testasin viittä tekoälykuvien tunnistinta laittamalla kaikki luomani tekoälykuvat niiden läpi.
• TruthScan läpäisi kaikki testit, ja se oli tarkin ilmaisin. AI or Not läpäisi 8 testiä 10:stä, mikä osoittaa jonkinasteista luotettavuutta. Sight Engine ei läpäissyt 3 testiä 10:stä ja osoitti kaiken kaikkiaan kyseenalaista tarkkuutta. Was It AI reputti 4 testiä 10:stä, ja sen tarkkuus oli kaiken kaikkiaan heikko. Winston AI oli epätarkin tekoälyn kuvantunnistin, joka läpäisi vain 3 testiä 10:stä ja luokitteli kuvat jatkuvasti väärin.

Loppuhuomautukset ja tiedot

Tämän artikkelin kirjoittamisen ja tarkan testauksen välillä käytin yhteensä 25 tuntia tämän raportin kokoamiseen. Multimodaalisen tekoälyn tunnistustyökalut kehittyvät edelleen, mutta on selvää, että jotkin niistä ovat tarkempia kuin toiset. Kaikkien työkalujen testauksen jälkeen TruthScan on tarkin... AI-kuvailmaisin. Testit puhuvat puolestaan.

Jos haluat käyttää CSV-kopiota tässä artikkelissa tekemieni testien tiedoista, löydät sen osoitteesta täällä. Linkittämäni taulukkolaskenta sisältää kaikki alkuperäiset kehotukset ja havaintotulokset tässä artikkelissa esitetyistä testeistä.