Muhtemelen internette fark ettiğinizden daha fazla yapay zeka tarafından oluşturulmuş fotoğraf görmüşsünüzdür.

Bazen bir resmin yapay zeka tarafından oluşturulduğu çok açıktır, ancak üretken görüntü ve video araçları geliştikçe bunu anlamak zorlaşmaktadır. Google'ınki gibi yeni araçlar Nano Banana Prove OpenAI'ın güncellemeleri ChatGPT görüntü modeli kullanıcıların hızlı bir şekilde gerçek görüntüleri yansıtan sentetik görüntüler oluşturmasına olanak tanır. Önceki bir araştırmaya göre Amerikalıların 85%'si deepfakes i̇nternette güveni̇ aşindiriyor.

Çok sayıda araç yapay zeka tarafından oluşturulan görüntüleri tespit ettiğini iddia ediyor, ancak işe yarıyorlar mı?

En popüler beş yapay zeka görüntü dedektöründe 50 algılama kontrolü yaptım ve sonuçları belgeledim. Bu makalede tüm verileri sunmak ve açıklamakla kalmayıp, sonunda belgelere de bağlantı vereceğim.

Bu testler için kullandığım beş dedektör şunlardı: TruthScan, Yapay Zeka ya da Değil, Görüş Motoru, WasItAIve Winston AI. Bu araçları her birine ChatGPT tarafından oluşturulan iki görüntüyü, Nano Banana tarafından oluşturulan altı görüntüyü ve Midjourney tarafından oluşturulan iki görüntüyü analiz ettirerek test ettim. Birden fazla yönlendirme stili ve tekniği kullandım (daha sonra analiz edilen her bir görüntüyü incelerken ayrıntılara gireceğim).

Beş dedektörün tümü, dolandırıcılık, dezenformasyon, genel fotoğrafçılık ve derin sahtecilik gibi kategorilerdeki yapay zeka tarafından oluşturulan görüntüleri tespit etmekle görevlendirildi. Şaşırtıcı olmayan bir şekilde, dedektörlerin hepsi iyi performans göstermedi. TruthScan, gönderdiğim tüm içeriği tutarlı bir şekilde 97% veya daha yüksek bir değerde sınıflandıran tek dedektör oldu.

AI or Not da oldukça iyi performans gösterdi. Aslında, AI or Not yapay zeka tarafından üretilen birden fazla öğeyi 90% kesinliğinin altında sınıflandırırken, testlerim sırasında TruthScan'in ardından en doğru ve tutarlı ikinci dedektör oldu. AI or Not'un başarısız olduğu yerlerde bile, bu başarısızlıklar felaket değildi, ancak hala iyileştirme için yer var.

Denediğim diğer yapay zeka görüntü dedektörleri çok daha kötü performans gösterdi. Örneğin, Sight Engine dolandırıcılıkla ilgili 3 yapay zeka görüntüsünü gerçek olarak yanlış sınıflandırdı.

Şimdi size her bir resmi göstereceğim (oluşturduğum 10 resimden), nasıl oluşturduğumu açıklayacağım ve her bir modelin nasıl puan aldığını göstereceğim.

#1. "Man On a Ledge" (ChatGPT tarafından oluşturulmuştur)

Bana göre (ve her gün çok sayıda yapay zeka tarafından oluşturulmuş içerik görüyorum), bu görsel ilk bakışta oldukça ikna edici görünüyor. Birinin sosyal medya profiline tıklasanız, akışında gezinseniz ve bu görseli görseniz, bunun yapay zeka tarafından üretilmiş bir sahte olduğu hemen anlaşılır mıydı? Adil olmak gerekirse, soruyla yaratıcı olmaya çalıştım. İşte bu görseli oluşturmak için kullandığım görsel:

---

“Bana bir çatının tepesinde durmuş sokağa bakan bir adamın anlık fotoğraf makinesi tarzı bir fotoğrafını üretin, gece vakti, kamera flaşıyla aydınlatılmış, aşağıdaki arabalardan ışık izleri var, bir kadın arkasında duruyor, eli dudaklarında, gülümsüyor, fotoğrafın estetiği 2009'da üniversite arkadaşları tarafından şipşak bir fotoğraf makinesinde çekilmiş bir fotoğraf gibi.“

---

Ne kadar yaratıcı olursam olayım veya istemime ne kadar ayrıntı eklersem ekleyeyim, TruthScan ve Sight Engine çıktıyı yine de doğru bir şekilde YZ tarafından oluşturulmuş olarak sınıflandırdı. AI or Not dedektörü yaklaştı ama yine de hedefi ıskaladı.

Winston ve WasItAI, ChatGPT görüntüsünü gerçek olarak sınıflandırarak tamamen yanıldılar.

#2. "Sahte Makbuz" (ChatGPT tarafından oluşturulmuştur)

Ne kadar gerçekçi görüneceğini görmek için ChatGPT ile sahte bir makbuz oluşturmak istedim. Resimde meşru bir adres olmadığını fark edebilirsiniz, ancak doku yine de biraz gerçekçi görünüyor. Bu görüntünün ChatGPT'ye ürettirdiğim ilk görüntüden daha az zorlayıcı olduğunu söyleyebilirim, ancak dedektörlerin çoğu bunu analiz ederken yine de başarısız oldu.

• Bu resim üzerinde yaptığım tüm kontrollerden, TruthScan en doğru olanıydı.
• Görüş Motoru burada gerçekten başarısız oldu ve belgeyle ilgili bir yapay zeka görüntüsü üzerinde zayıf bir muhakeme gösterdi.
• Yapay Zeka ya da Değil bu ikinci analizde belirgin şekilde daha iyi performans göstermiştir.
• Winston AI en kötü performansı gösterdi ve WasItAI da tamamen başarısız oldu.

Bu görselin dolandırıcılık kategorisiyle ilişkili olduğu düşünüldüğünde, dedektörlerin çoğunun bu görseli yanlış sınıflandırması endişe vericidir.

Görüntüyü oluşturmak için kullandığım komut istemi

---

“Harcanan toplam miktarın bir milyar dolar olduğunu ve üzerinde kahve lekesi olduğunu söyleyen bir Best Buy fişinin görüntüsünü oluşturun“

---

Açıkçası, hızlı ve basit bir komut istemi yazdım. Yine de ChatGPT çıktısının kalitesi çıplak gözle bakıldığında görsel olarak ikna edici. Görünüşe göre test ettiğim beş dedektörden ikisi için o kadar da ikna edici değil.

#3: "Tehlike Paketi" (Nano Banana ile üretilmiştir)

Nano Banana'nın orijinal bir görüntü oluşturmasını sağlamak yerine, ona değiştirmesi için bir görüntü verdim.

Amaç, birisinin yapay zekayı kullanarak nasıl kolayca sahte kanıtlar yaratabileceğini ve hasarlı/tehlikeli bir paket aldığını iddia edebileceğini göstermekti. İlk olarak, bulduğum boş bir Amazon paketinin iPhone 15 ile fotoğrafını çektim.

İşte çektiğim fotoğraf:

Daha sonra çektiğim fotoğrafı Nano Banana'ya yükledim ve aşağıdaki komutu verdim:

---

“Bu fotoğrafı düzenlemenizi istiyorum, etiketin olduğu yer dışında hiçbir şeyi değiştirmeyin, hasar ekleyin ve kutunun üzerine gerçek yağ lekelerine benzeyen Siyah çamur lekeleri ekleyin“

---

Nano Bana çıkışı:

Nano Banana'nın çıktıda oluşturduğu yağ benzeri çamur, vıcık vıcık bir ıslatma efektiyle birlikte ikna edici bir kirli parlaklığa sahipti ve hiç de karikatürize değildi. Neyse ki, çalıştırdığım dedektörlerin çoğu görüntüyü doğru bir şekilde sahte olarak etiketledi. Aykırı olan tek dedektör Winston'dı ve o da yine kötü performans göstererek görüntüyü gerçek olarak yanlış sınıflandırdı. AI or Not, TruthScan ve WasItAI bu görüntüyü tespit eden en doğru dedektörlerdi.

Bir chatbot'a bir görsel yüklemenin ve bu görselin tamamen değiştirilmesinin bu kadar basit görünmesi endişe verici. Dolandırıcıların ve sahtekarların hileli iade taleplerinde bulunmak ya da pazar yeri dolandırıcılığı yapmak için görüntü oluşturma araçlarını kullandıklarını hayal edebiliyorum.

E-ticaret platformları hasarlı bir paket talebini başlatmak için kanıt olarak yalnızca bir görüntü gerektiriyorsa, yapay zeka müdahalesini tespit etmenin güvenilir bir yolu olmadan, büyük bir saldırı vektörüne maruz kalırlar. Örneğin, Amazon'un resmi ürün i̇ade poli̇ti̇kasi kelimenin tam anlamıyla devletler, “Yanıcı sıvılar veya gazlar da dahil olmak üzere tehlikeli maddeler iade edilemez.”

Yani gerçekten yağ veya yağlı siyah çamurla kaplı bir paket alırsanız, iade etmek zorunda kalmazsınız, ancak yine de para iadesi alabilirsiniz. Herhangi bir nedenle bu gerçekten başınıza gelirse, Amazon muhtemelen fotoğraflı kanıt isteyecektir. Yapay zeka tarafından üretilen görüntülerin gerçek görüntülerden ayırt edilemediğinde nasıl bir sorun oluşturabileceğini görüyor musunuz?

#4. "Hamamböceği Yemeği" (Nano Muz ile üretilmiştir)

Sıradaki yapay zekâ görüntüsü iştahınızı kaçırabilir. Görünüşe göre, insanların yapay zekayı kullanarak hileli geri ödemeler yemek dağıtım uygulamalarında. Bu dördüncü test için üçüncü testteki adımların aynısını izledim. Bu kez, öğle yemeğinden sonra boş paket servis kutumun fotoğrafını çektim.

İşte gerçek görüntü:

Sonra çektiğim gerçek fotoğrafı Nano Banana'ya koydum ve aşağıdaki komutu verdim:

---

"Bu resmi düzenleyin. Folyonun olduğu yere erişte eklemek ve yemeğin içine bir sürü küçük bebek hamamböceği eklemek dışında hiçbir şeyi değiştirmeyin. Her şeyin gerçekçi görünmesini sağlayın ve karikatürize etmeyin."

---

Nano Muz Çıkışı:

TruthScan bir kez daha yapay zeka tarafından üretilen medyayı güvenle tespit etti. Sight Engine ve WasitAI tamamen başarısız oldu. AI or Not, bu AI görüntüsünü tararken ikinci en doğru dedektördü (85% AI kesinliği ile) ve Winston üçüncü testte (72% AI kesinliği ile) olduğundan daha iyi performans gösterdi.

Bu görüntüde, erişteler ve hamamböcekleri tamamen yapay zeka tarafından üretilmiştir; ancak dedektörlerden ikisi böyle düşünmüyor gibi görünmektedir ve yalnızca biri (TruthScan) yapay zeka müdahalesinden 90%'nin üzerinde emindir.

Burada dikkat edilmesi gereken nokta, bu sahte görüntüyü oluşturmanın ne kadar basit olduğuydu. Çektiğim fotoğrafı yüklememden Nano Banana'ya komut vermem ve çıktıyı almam sadece 2 dakika sürdü. Yemek dağıtım uygulamaları için bir kabus; aç yalancılar içinse bir rüya. Bir 'dolandırıcılık faktörü'.

AÇIKLAMA: Aşağıdaki testlerde yer alan yapay zeka tarafından üretilen görüntülerden bazıları, yapay zeka görüntülerinin dezenformasyon için nasıl kullanılabileceğini göstermeyi amaçlamaktadır. Tartışmalı görüntüler ve hassas konular içermektedirler, ve herhangi bir siyasi partiyi temsil etme amacı taşımamaktadır. görüşler veya ideolojiler.

#5. "Autovandalism" (Nano Banana ile oluşturuldu)

İnternette satılık bir arabanın gerçek bir resmini buldum. Oldukça sıradan. Peki ya birisi bu görseli dezenformasyon yaymak ya da sahte bir otomobil sigortası talebinde bulunmak için kullanmak isterse? Maalesef, üretken yapay zeka bunu hızlı ve kolay hale getiriyor.

Bu beşinci test için gerçek bir araba resmi çektim ve Nano Banana'ya aşağıdaki komutu verdim:

---

“Arabada hiçbir şeyi değiştirmeyin, sadece üzerinde 'Özgür Filistin' yazan sprey boya eklemenizi istiyorum ve ön cam çatlamış. Farlar parçalanmış, ayna kırılmış ve aşağı sarkıyor ve arabanın yan tarafındaki iki pencere parçalanmış.”

---

İşte gerçek görüntü:

Nano Muz Yapay Zeka görüntüsü:

Bu çıktı için dedektör sonuçları karışıktı. Bu test için WasItAI (şaşırtıcı bir şekilde) en yüksek YZ tespit puanına sahipti (99%'de). TruthScan ikinci en yüksek skora sahipti (97%). Sight Engine görüntüdeki herhangi bir sentetik öğeyi tespit etmede önemli ölçüde başarısız oldu ve Winston tüm dedektörler arasında en kötüsünü yaptı (1%'den daha az bir katılım şansı atadı). AI or Not iyi iş çıkardı, ancak doğruluk hala 90%'nin altındaydı.

Görüntü hakkında konuşalım. Bu gibi yapay zeka yapımı ya da değiştirilmiş içeriklerin en endişe verici iki yönü, her ikisinin de aldatma içermesidir. Birincisi, sıradan görüntüleri değiştirerek siyasi içerikler oluşturmak için yapay zeka kullanmak hızlı, kolay ve gerçekçi görünüyor. Bu tür içerikleri hazırlayanlar ister sadece etkileşimi hedeflesin ister siyasi provokatör olsun, sorun sahte bilginin gerçekmiş gibi sunulmasıdır.

Bunun gibi görüntü oluşturma araçlarının suistimal edilebileceği ikinci yol ise dolandırıcılıktır. Bir dolandırıcı sahte bir otomobil sigortası talebinde bulunmak istiyorsa, sahte kanıtlar üretmek zorunda kalacaktır. Photoshop'ta görüntüleri düzenlemek ve kanıtları değiştirmek için saatler harcamak yerine, sahte kanıtı hızlı bir şekilde üretmek için görüntü oluşturucuları kullanabilirler.

Yukarıdaki yapay zeka görüntüsü örneğinde, bir dolandırıcının Progressive'e göre sahte bir talepte bulunmak için benzer bir süreci nasıl kullanabileceğine dikkat edin Kapsamlı Teminat Politikasıözellikle kapsar:

• Kesilmiş veya hasarlı lastikler
• Kırık camlar, farlar veya arka lambalar
• Sprey boya hasarı
• Ezikler veya çizikler arabanızı anahtarlayan birinden
• Benzin deponuza şeker veya başka maddeler koymak

Elbette sahte kanıt sunmak sadece aldatıcı değil, aynı zamanda düpedüz yasa dışıdır. İdeal bir dünyada kimse yasaları çiğnemez; gerçekte ise her gün suç işleniyor. Ve güvenilir bir tespit olmadan, yapay zeka destekli hileli sigorta talepleri arttıkça otomobil sigorta şirketleri milyonlarca dolar dolandırılma riskiyle karşı karşıya.

#6. "Soda Misk ve Don" (Nano Muz ile üretilmiştir)

Bu test için bir kez daha Nano Banana kullandım ve amacım sahte, siyasi içerikli görüntüleri daha aptalca bir tonla göstermekti. TruthScan, Sight Engine ve AIorNot, oluşturulan görüntüyü 99% AI algılama derecesiyle işaretledi. WasitAI o kadar emin değildi -YZ tarafından oluşturulan görüntüyü yalnızca 86% kesinlik ile tespit etti. Winston ise tamamen başarısız oldu ve 0,2%'lik bir YZ puanı atadı. Görüntüyü oluşturmak için Nano Banana'ya şu komutu verdim:

---

“Elon Musk'ın Big Gulp gibi büyük bir bardak sodayı gömleğine döktüğü ve Donald Trump yanında oturup gülerken çıldırdığı bir fotoğraf oluşturun. Bir jet uçağındalar. Sahne bu. Fotoğraf, enstantane bir kamerayla çekilmiş gibi gerçekçi görünmeli ve kamera flaşının uçak penceresine ve uçağın dışına yansıması gibi artefaktlar içermelidir. Gece vakti. Aşırı gerçekçi görünmeli.“

---

Bu yazılım programlarından biri yapay zekayı tespit edemediğinde, onu gerçek olarak etiketliyorlar. Testten alınan bu görüntü örneği ne kadar aptalca olursa olsun, bir deepfake'in gerçek olduğunu düşünmenin komik bir yanı yok.

#7. "Still Alive" (Nano Banana tarafından oluşturulmuştur)

Bu görüntüyü rahatsız edici buluyor musunuz? Bu deepfake'i oluşturmak için Nano Banana'yı kullandım ve ona kendi resmimi verdim. Ardından, beni kaçırıldığımı ima eden bir duruma sokmayı amaçlayan uzun bir ipucu verdim. Belki de bu fotoğrafta Ben Tehlikeli bir pozisyonda. Ya birisi böyle bir şey yapıp anneme gönderse ve para göndermezse bana zarar vermekle tehdit etse? Korkutucu şeyler.

(Bunun için kullandığım tam istem, bu makalenin sonundaki tam test veri setinde bulunabilir).

Çok gerçekçi bir görünüme sahip olmasına rağmen bu görüntü için şanslıyız, Dedektörlerin beşte üçü bunu yapay zeka tarafından üretilmiş olarak tanımladı.

AI or Not 99%, TruthScan 97% ve Sight Engine 95% ile güçlü bir AI skoru elde etti. Ne yazık ki Winston ve WasItAI görüntüyü gerçek olarak sınıflandırdı.

Bu testlerin benim kişisel Gemini hesabım üzerinden yapılmadığını belirtmeliyim. Nano Banana benden hiçbir zaman görüntüdeki kişinin ben olduğumu kanıtlamamı istemedi. Herhangi biri benim bir fotoğrafımı internetten indirebilir, Nano Banana'ya koyabilir ve bu tür bir görüntü oluşturmasını sağlayabilirdi.

#8. "Bir Ben'in İstismarı" (Nano Banana ile oluşturuldu)

Ben ile tanışın. Zamanının çoğunu çalıştığı şirketlerde çeşitli departmanları yöneterek geçiriyor. Yukarıdaki resim Ben'in (gerçek) şık kurumsal vesikalık fotoğrafı. Eğer anlayamadıysanız, Ben profesyonel bir adam. Siyasi görüşleri ne olursa olsun, kendine saklar ve iş konuşmaları sadece işle ilgilidir. Ancak herhangi bir zamanda, Ben'in benzerliği rızası olmadan siyasi propaganda veya mesaj yaymak için kullanılabilir.

Son zamanlarda ICE ajanları ve protestolarla ilgili yapay zeka tarafından üretilen videoların internette nasıl yayıldığına dair pek çok haber yapıldı. Şimdiye kadar yapılan tüm testlere dayanarak, yapay zeka ile sahte siyasi propaganda yaratmanın gerçekten kolay olduğu sonucuna vardım. Bu kez Ben'i kullanarak tekrar test etmeye karar verdim.

Ben'in izniyle, bir deepfake oluşturmak için onun vesikalık fotoğrafını kullandım. İşte Nano Banana'nın yapay zeka ile oluşturduğu görüntü:

Otuz saniye sürdü. Tek yapmam gereken fotoğrafını Gemini'ye sürükleyip bırakmak ve "ICE'yi kaldırın yazan bir tabela tutmasını" istemekti. Nano Banana'nın çıktısı diğerleri kadar fotogerçekçi değil ama yine de ikna edici olacak kadar gerçekçi görünüyor.

Neyse ki, dedektörlerden dördü görüntüyü doğru bir şekilde tanımladı: TruthScan (99% AI), Was It AI (99% AI), Sight Engine (97% AI) ve AI or Not (97% AI). Winston AI başarısız oldu ve yalnızca 5% AI puanı atadı.

#9. "Club Void" (Midjourney tarafından oluşturulmuştur)

Yukarıdaki görüntüyü Midjourney kullanarak oluşturdum. Ne kadar çok bakarsam, o kadar rahatsız edici hissettim. Estetik karanlık ve ürkütücü. Öznenin arkasından gölgeli bir varlık çıkıyor gibi görünüyor. Bu görseli oluşturmak için Midjourney'in estetik referans özelliğini kullandım ve basitçe "bir kulüpte gülümseyerek duran bir kız" olmasını istedim. Görüntüyü birkaç kişiye gösterdim ve hepsi gerçek olduğunu düşündü.

Çoğu dedektör görüntüyü YZ tarafından oluşturulmuş olarak işaretledi. TruthScan ve Sight Engine 99% AI skoru ile işaretlerken, AI or Not 89% dedi.

WasItAI, dedektörler kadar emin değildi ve görüntüyü yalnızca 70% AI puanı ile sınıflandırdı.

Winston AI'nın dedektörü tamamen başarısız oldu ve görüntüye 1,56% AI puanı verdi.

#10 "Buz Kutusu" (Midjourney tarafından oluşturulmuştur)

Bu görüntüyü bir önceki testteki aynı orta yolculuk yöntemini kullanarak oluşturdum. Bu sefer amaç biraz daha koyu bir görüntü elde etmekti. TruthScan, görüntüyü 99% AI olarak etiketleyerek en doğru algılayıcı oldu. Sight Engine ve AI or Not'ın her ikisi de görüntüyü doğru algıladı. Winston AI tamamen başarısız oldu ve WasItAI, TruthScan, Sight Engine ve AI or Not'tan çok daha düşük bir güven puanına sahipti.

Bu örnekte, ürettiğim görüntünün iki şekilde kullanılabileceğini veya çerçevelenebileceğini söylemeliyim. Bir yandan, birileri bu (veya herhangi bir siyasi/sivil ayaklanma temalı) medya türünü bir tür sanat veya yaratıcı projede bir açıklama yapmak için kullanabilir. Böyle bir durumda risk daha düşük görünmektedir. Yapay zeka tarafından üretilen bu medya kategorisiyle ilgili asıl endişem, gerçek olduğunu iddia eden kötü niyetli kişiler tarafından kullanılması.

Özet ve sonuçlar: En iyi yapay zeka görüntü dedektörleri

Tamam, şimdi tüm testleri gösterdiğimize göre, özetleyeceğim: 10 yapay zeka görüntüsü oluşturdum

• ChatGPT, Nano Banana ve Midjourney kullanarak 10 yapay zeka görüntüsü oluşturdum
• Ürettiğim tüm yapay zeka görüntülerini bu dedektörlerden geçirerek beş yapay zeka görüntü dedektörünü test ettim.
• TruthScan tüm testleri geçti ve en doğru dedektör oldu. AI or Not 10 testten 8'ini geçerek bir miktar güvenilirlik gösterdi. Sight Engine 10 testten 3'ünde başarısız oldu ve genel olarak şüpheli doğruluk gösterdi. Was It AI 10 testten 4'ünde başarısız oldu ve genel olarak zayıf bir doğruluk oranına sahipti. Winston AI, 10 testten yalnızca 3'ünü geçerek ve görüntüleri sürekli olarak yanlış sınıflandırarak en az doğru AI görüntü dedektörü oldu.

Kapanış Konuşması ve Veriler

Bu makalenin yazılması ve titiz testler arasında, bu raporu bir araya getirmek için toplam 25 saat harcadım. Multimodal yapay zeka tespit araçları hala gelişiyor, ancak bazılarının diğerlerinden daha doğru olduğu açık. Tüm araçları test ettikten sonra, TruthScan en doğru tespit yapan araç oldu. Yapay zeka görüntü dedektörü. Testler kendi adına konuşuyor.

Bu makalede yaptığım testten elde edilen verilerin CSV kopyasına erişmek isterseniz, bunu bulabilirsiniz Burada. Bağlantısını verdiğim veri tablosu, bu makaledeki testlerden elde edilen tüm orijinal istemleri ve tespit sonuçlarını içermektedir.