Anda mungkin telah melihat lebih banyak foto yang dihasilkan AI secara online daripada yang Anda sadari.

Kadang-kadang terlihat jelas bahwa sebuah gambar dihasilkan oleh AI, tetapi semakin sulit untuk mengatakannya seiring dengan semakin baiknya alat bantu gambar dan video generatif. Alat-alat baru seperti Google Nano Banana Prodan pembaruan ke OpenAI's Model gambar ChatGPT memungkinkan pengguna dengan cepat menghasilkan gambar sintetis yang mencerminkan gambar asli. Penelitian sebelumnya menemukan bahwa 85% orang Amerika mengatakan deepfakes mengikis kepercayaan secara online.

Banyak alat yang mengklaim dapat mendeteksi gambar yang dihasilkan oleh AI, tetapi apakah alat tersebut berfungsi?

Saya melakukan 50 pemeriksaan deteksi pada lima pendeteksi gambar AI yang paling populer dan mendokumentasikan hasilnya. Saya tidak hanya akan menyajikan semua data dalam artikel ini dan menjelaskannya, tetapi saya juga akan menautkan ke dokumentasi di bagian akhir.

Lima detektor yang saya gunakan untuk pengujian ini adalah: TruthScan, AI atau Tidak, Mesin Penglihatan, WasItAIdan Winston AI. Saya menguji alat-alat ini dengan masing-masing menganalisis dua gambar yang dihasilkan ChatGPT, enam gambar yang dihasilkan Nano Banana, dan dua gambar yang dihasilkan oleh Midjourney. Saya menggunakan beberapa gaya dan teknik permintaan (yang akan saya bahas secara rinci nanti saat saya menguraikan setiap gambar yang dianalisis).

Kelima pendeteksi ditugaskan untuk menemukan gambar yang dibuat oleh AI di seluruh kategori seperti penipuan, disinformasi, fotografi umum, dan pemalsuan. Tidak mengherankan, tidak semua pendeteksi bekerja dengan baik. TruthScan adalah satu-satunya detektor yang secara konsisten mengklasifikasikan semua konten yang saya kirimkan pada 97% atau lebih tinggi.

AI or Not juga memiliki kinerja yang cukup baik. Bahkan, meskipun AI or Not mengklasifikasikan beberapa item yang dihasilkan AI di bawah kepastian 90%, AI or Not merupakan detektor paling akurat dan konsisten kedua selama pengujian saya, di belakang TruthScan. Bahkan ketika AI or Not gagal, kegagalan itu tidak terlalu parah, tetapi masih ada ruang untuk perbaikan.

Pendeteksi gambar AI lainnya yang saya coba, kinerjanya jauh lebih buruk. Sebagai contoh, Sight Engine salah mengklasifikasikan 3 gambar AI yang terkait dengan penipuan sebagai asli.

Sekarang, saya akan menunjukkan kepada Anda, masing-masing gambar (dari 10 gambar yang saya hasilkan), menjelaskan bagaimana saya membuatnya, dan menunjukkan bagaimana masing-masing model menilainya.

#1. "Man On a Ledge" (dibuat oleh ChatGPT)

Bagi saya (dan saya melihat banyak konten yang dihasilkan oleh AI setiap hari), gambar tersebut terlihat cukup meyakinkan pada pandangan pertama. Jika Anda mengeklik profil media sosial seseorang, menelusuri feed-nya, dan melihat gambar ini, apakah gambar ini akan langsung terlihat sebagai gambar palsu yang dibuat oleh AI? Agar adil, saya mencoba berkreasi dengan prompt. Inilah yang saya gunakan untuk menghasilkan gambar ini:

---

“Hasilkan foto gaya kamera snapshot dari seorang pria yang berdiri di atas atap melihat ke bawah ke jalan, malam hari, dia disinari oleh lampu kilat kamera, ada jejak cahaya dari mobil-mobil di bawahnya, seorang wanita berdiri di belakangnya dengan tangan di bibirnya, tersenyum, estetika foto itu seperti foto yang diambil dengan kamera snapshot pada tahun 2009 oleh teman-teman kuliah yang sedang bermain-main.“

---

Terlepas dari seberapa kreatifnya saya atau seberapa banyak detail yang saya sertakan dalam prompt saya, TruthScan dan Sight Engine tetap mengklasifikasikan output dengan benar sebagai hasil dari AI. Detektor AI atau Bukan, hampir mendekati, tetapi masih meleset.

Winston dan WasItAI benar-benar salah - mengklasifikasikan gambar ChatGPT sebagai gambar asli.

#2. "Tanda Terima Palsu" (dibuat oleh ChatGPT)

Saya ingin membuat tanda terima palsu dengan ChatGPT untuk melihat seberapa realistis tampilannya. Anda mungkin menyadari bahwa gambar tersebut tidak memiliki alamat yang sah, tetapi teksturnya masih terlihat sedikit realistis. Menurut saya, gambar ini kurang menarik dibandingkan dengan gambar pertama yang saya buat dengan ChatGPT, tetapi sebagian besar detektor masih gagal saat menganalisisnya.

• Dari semua pemeriksaan yang saya lakukan pada gambar ini, TruthScan adalah yang paling akurat.
• Mesin Penglihatan benar-benar gagal di sini, menunjukkan penilaian yang buruk pada gambar AI terkait dokumen.
• AI atau Tidak tampil lebih baik dalam analisis kedua ini.
• Winston AI menampilkan performa terburuk, dan WasItAI juga gagal total.

Mengingat bahwa gambar ini dikaitkan dengan kategori penipuan, sungguh memprihatinkan bahwa sebagian besar detektor salah mengklasifikasikannya.

Perintah yang saya gunakan untuk menghasilkan gambar

---

“Buat gambar struk pembelian terbaik, yang menyatakan jumlah total yang dibelanjakan adalah satu miliar dolar, dan ada noda kopi di atasnya“

---

Yang jelas, saya menulis prompt yang cepat dan sederhana. Namun demikian, kualitas output ChatGPT secara visual memikat secara kasat mata. Tidak begitu menarik bagi dua dari lima detektor yang saya uji, tampaknya.

#3: "Paket Bahaya" (dibuat dengan Nano Banana)

Alih-alih hanya meminta Nano Banana menghasilkan gambar asli, saya memberinya satu gambar untuk diubah.

Idenya adalah untuk mendemonstrasikan bagaimana seseorang dapat dengan mudah menggunakan AI untuk membuat bukti palsu dan mengklaim bahwa mereka menerima paket yang rusak/berbahaya. Pertama, saya mengambil foto dengan iPhone 15 dari paket Amazon kosong yang saya temukan.

Inilah foto yang saya ambil:

Kemudian, saya mengunggah foto yang saya ambil ke Nano Banana dan memberikan prompt berikut ini:

---

“Saya ingin Anda mengedit foto ini, jangan ubah apa pun kecuali pada bagian label, tambahkan kerusakan dan tambahkan Noda lumpur hitam pada kotak yang terlihat nyata seperti noda minyak“

---

Keluaran Nano Bana:

Lumpur seperti minyak yang dihasilkan Nano Banana dalam outputnya memiliki kilau kotor yang meyakinkan, lengkap dengan efek basah kuyup-bukan kartun sama sekali. Untungnya, sebagian besar detektor yang saya jalankan dengan benar melabeli gambar tersebut sebagai gambar palsu. Satu-satunya pencilan adalah Winston, yang lagi-lagi berkinerja buruk, salah mengklasifikasikan gambar sebagai asli. AI or Not, TruthScan, dan WasItAI adalah pendeteksi yang paling akurat dalam mengenali gambar ini.

Sangat memprihatinkan betapa mudahnya mengunggah gambar ke chatbot dan mengubahnya sepenuhnya. Saya bisa membayangkan para penipu dan penipu menggunakan alat gambar generatif untuk mencoba membuat klaim pengembalian yang curang atau terlibat dalam penipuan di pasar.

Jika platform e-commerce hanya membutuhkan gambar sebagai bukti untuk memulai klaim paket yang rusak, maka, tanpa cara yang dapat diandalkan untuk mendeteksi gangguan AI, mereka terekspos pada vektor serangan utama. Sebagai contoh, situs resmi Amazon kebijakan pengembalian barang secara harfiah menyatakan, “Hazmat, termasuk cairan atau gas yang mudah terbakar, tidak dapat dikembalikan.”

Jadi, jika Anda benar-benar menerima paket yang berlumuran minyak atau lumpur hitam berminyak, Anda tidak perlu mengembalikannya, tetapi masih bisa mendapatkan pengembalian dana. Jika, karena suatu alasan, hal itu benar-benar terjadi pada Anda, Amazon kemungkinan besar akan meminta bukti foto. Apakah Anda melihat masalah yang dapat ditimbulkan oleh gambar yang dihasilkan AI ketika gambar tersebut tidak dapat dibedakan dengan gambar asli?

#4. "Makanan Kecoa" (dibuat dengan Nano Banana)

Gambar AI berikut ini mungkin akan membuat Anda kehilangan selera makan. Ternyata, ada beberapa kasus yang terdokumentasi tentang orang-orang yang menggunakan AI untuk menerima pengembalian dana yang curang pada aplikasi pesan antar makanan. Untuk pengujian keempat ini, saya mengikuti langkah-langkah yang sama seperti pada pengujian ketiga. Kali ini, saya memotret kotak makanan saya yang kosong setelah makan siang.

Inilah gambar yang sesungguhnya:

Kemudian saya memasukkan foto asli yang saya ambil ke dalam Nano Banana dan memberikan prompt berikut ini:

---

"Suntinglah gambar ini. Jangan mengubah apa pun, kecuali menambahkan mie ke tempat kertas timah dan menambahkan sekumpulan bayi kecoak kecil di dalam makanan. Buat semuanya terlihat realistis dan tidak seperti kartun."

---

Keluaran Pisang Nano:

Sekali lagi, TruthScan dengan percaya diri mendeteksi media yang dihasilkan oleh AI. Sight Engine dan WasitAI benar-benar gagal. AI or Not adalah detektor paling akurat kedua (dengan kepastian AI 85%) saat memindai gambar AI ini, dan Winston berkinerja lebih baik daripada yang dilakukan pada pengujian ketiga (dengan kepastian AI 72%).

Dalam gambar ini, mie dan kecoak semuanya dihasilkan sepenuhnya oleh AI; namun dua detektor tampaknya tidak berpikir demikian, dan hanya satu (TruthScan) yang berada di atas 90% yang yakin akan adanya campur tangan AI.

Hal yang menjadi perhatian di sini yaitu, betapa sederhananya menciptakan gambar palsu ini. Dari mengunggah foto yang saya jepret, hingga memerintahkan Nano Banana dan menerima hasilnya, secara keseluruhan, hanya membutuhkan waktu sekitar 2 menit. Mimpi buruk bagi aplikasi pengantaran makanan; mimpi bagi para pembohong yang lapar. Sebuah 'faktor penipuan'.

PENGUNGKAPAN: Beberapa gambar yang dihasilkan oleh AI yang disertakan dalam pengujian berikut ini dimaksudkan untuk menunjukkan bagaimana gambar AI dapat digunakan untuk disinformasi. Gambar-gambar tersebut mengandung gambar kontroversial dan subjek yang sensitif, dan TIDAK dimaksudkan untuk mewakili politik tertentu. pandangan atau ideologi.

#5. "Autovandalisme" (dihasilkan dengan Nano Banana)

Saya menemukan gambar nyata dari sebuah mobil yang dijual secara online. Cukup biasa. Namun, bagaimana jika seseorang ingin menggunakan gambar ini untuk menyebarkan disinformasi, atau mengajukan klaim asuransi mobil palsu? Sayangnya, AI generatif membuat hal itu menjadi cepat dan mudah.

Untuk pengujian kelima ini, saya mengambil gambar nyata sebuah mobil, dan memberikan Nano Banana prompt berikut ini:

---

“Jangan ubah apa pun tentang mobil itu kecuali saya ingin Anda menambahkan cat semprot bertuliskan 'Bebaskan Palestina' dan kaca depannya retak. Lampu depan pecah dan kaca spion pecah dan menggantung dan dua jendela di sisi mobil hancur.”

---

Inilah gambar yang sesungguhnya:

Gambar AI Nano Banana:

Hasil detektor untuk keluaran ini beragam. Untuk pengujian ini, WasItAI (secara mengejutkan) memiliki skor deteksi AI tertinggi (pada 99%). TruthScan memiliki skor tertinggi kedua (97%). Sight Engine secara signifikan gagal mendeteksi elemen sintetis apa pun dalam gambar, dan Winston melakukan yang terburuk dari semua pendeteksi (memberikan peluang keterlibatan kurang dari 1%). AI or Not bekerja dengan baik, tetapi akurasinya masih di bawah 90%.

Mari kita bicara tentang gambar. Dua aspek yang paling mengkhawatirkan dari konten yang dibuat atau diubah oleh AI seperti ini, adalah bahwa keduanya melibatkan penipuan. Pertama, menggunakan AI untuk mengubah gambar biasa untuk membuat konten bermuatan politik itu cepat, mudah, dan terlihat nyata. Entah mereka yang membuat konten jenis ini hanya bertujuan untuk menarik perhatian atau provokator politik, masalahnya adalah bahwa itu adalah informasi palsu yang disajikan sebagai informasi asli.

Cara kedua penggunaan alat pembuat gambar seperti ini dapat disalahgunakan adalah untuk penipuan. Jika penipu ingin mengajukan klaim asuransi mobil palsu, mereka harus membuat bukti palsu. Daripada menghabiskan waktu berjam-jam mengedit gambar di Photoshop dan memalsukan bukti, mereka bisa menggunakan generator gambar untuk menghasilkan bukti palsu dengan cepat.

Pada contoh gambar AI di atas, perhatikan bagaimana penipu dapat menggunakan proses yang sama untuk mengajukan klaim palsu menurut Progressive Polis Pertanggungan Komprehensifyang secara khusus mencakup:

• Disayat atau ban yang rusak
• Jendela, lampu depan, atau lampu belakang yang rusak
• Kerusakan cat semprot
• Penyok atau goresan dari seseorang yang mengunci mobil Anda
• Memasukkan gula atau zat lain ke dalam tangki bensin Anda

Tentu saja, menyerahkan bukti palsu tidak hanya menipu, tetapi juga melanggar hukum. Di dunia yang ideal, tidak ada orang yang akan melanggar hukum; pada kenyataannya, kejahatan terjadi setiap hari. Dan tanpa deteksi yang dapat diandalkan, perusahaan asuransi mobil berisiko ditipu jutaan dolar seiring dengan meningkatnya klaim asuransi palsu yang diaktifkan oleh AI.

#6. "Soda Musk dan Don" (dihasilkan dengan Nano Banana)

Sekali lagi, saya menggunakan Nano Banana untuk pengujian ini, dan tujuannya adalah untuk mendemonstrasikan gambar palsu yang bermuatan politik dengan nada yang lebih konyol. TruthScan, Sight Engine, dan AIorNot semuanya menandai gambar yang dihasilkan dengan peringkat deteksi AI 99%. WasitAI tidak begitu percaya diri -mendeteksi gambar yang dihasilkan AI hanya dengan kepastian 86%. Dan Winston benar-benar gagal, dengan memberikan skor AI sebesar 0,2%. Untuk menghasilkan gambar, saya memberikan perintah ini kepada Nano Banana:

---

“Buatlah foto Elon Musk yang sedang menumpahkan secangkir besar soda seperti Big Gulp di kemejanya dan panik sementara Donald Trump duduk di sebelahnya sambil tertawa. Mereka berada di pesawat jet. Itulah pemandangannya. Dan foto tersebut harus terlihat realistis seperti diambil dengan kamera jepretan dan menyertakan artefak seperti lampu kilat kamera yang memantul di jendela pesawat dan di luar pesawat. Saat itu malam hari. Ini harus terlihat sangat realistis.“

---

Setiap kali salah satu program perangkat lunak ini gagal mendeteksi AI, mereka melabelinya sebagai otentik. Walaupun contoh gambar dari pengujian ini mungkin konyol, tidak ada yang lucu jika Anda berpikir bahwa deepfake itu nyata.

#7. "Still Alive" (dibuat oleh Nano Banana)

Menurut Anda, apakah gambar ini mengganggu? Untuk menghasilkan deepfake ini, saya menggunakan Nano Banana dan memberinya foto diri saya sendiri. Selanjutnya, saya memberikan perintah panjang yang dimaksudkan untuk menempatkan saya dalam situasi yang menyiratkan bahwa saya telah diculik. Mungkin karena foto ini menunjukkan saya dalam posisi yang membahayakan. Bagaimana jika seseorang membuat sesuatu seperti ini, mengirimkannya kepada ibu saya, dan mengancam akan menyakiti saya kecuali jika ibu saya mengirimkan uang kepada mereka? Hal yang menakutkan.

(Prompt lengkap yang saya gunakan untuk ini bisa ditemukan dalam kumpulan data pengujian lengkap di akhir artikel ini).

Untungnya, gambar ini memiliki penampilan yang sangat realistis, tiga dari lima detektor mengidentifikasinya sebagai buatan AI.

AI or Not hadir dengan skor AI 99% yang kuat, TruthScan dengan 97%, dan Sight Engine pada 95%. Sayangnya, Winston dan WasItAI mengklasifikasikan gambar tersebut sebagai gambar asli.

Saya harus mengklarifikasi bahwa tes ini tidak dilakukan pada akun Gemini pribadi saya. Nano Banana tidak pernah meminta saya untuk membuktikan bahwa saya adalah orang yang ada di dalam gambar tersebut. Siapa pun bisa saja mengunduh foto saya dari internet, memasukkannya ke dalam Nano Banana, dan membuatnya menjadi gambar seperti ini.

#8. "Penyalahgunaan Ben" (dibuat dengan Nano Banana)

Perkenalkan Ben. Dia menghabiskan sebagian besar waktunya untuk mengelola berbagai departemen di perusahaan tempat dia bekerja. Gambar di atas adalah foto kepala perusahaan Ben yang (asli) rapi. Jika Anda tidak tahu, Ben adalah seorang pria yang profesional. Apapun pendapat politik yang ia miliki, ia simpan untuk dirinya sendiri, dan pembicaraan di tempat kerjanya hanya seputar pekerjaan. Namun pada waktu tertentu, kemiripan Ben dapat digunakan untuk menyebarkan propaganda atau pesan politik tanpa persetujuannya.

Baru-baru ini ada banyak laporan tentang bagaimana video yang dibuat oleh AI yang melibatkan agen ICE dan protes telah menyebar secara online. Berdasarkan semua pengujian sejauh ini, saya menyimpulkan bahwa membuat propaganda politik palsu dengan AI sangatlah mudah. Saya memutuskan untuk menguji lagi, kali ini dengan menggunakan Ben.

Dengan izin Ben, saya menggunakan bidikan kepalanya untuk menciptakan deepfake. Inilah gambar yang dihasilkan oleh AI yang dibuat oleh Nano Banana:

Hanya butuh waktu tiga puluh detik. Yang harus saya lakukan adalah menyeret dan menjatuhkan foto kepalanya ke Gemini dan memintanya untuk "mengangkat tanda yang bertuliskan hapuskan ICE." Hasil dari Nano Banana tidak sefotorealistis yang lain, tetapi masih terlihat cukup otentik untuk menjadi persuasif.

Untungnya, empat detektor mengidentifikasi gambar secara akurat: TruthScan (99% AI), Was It AI (99% AI), Sight Engine (97% AI), dan AI or Not (97% AI). Winston AI gagal, hanya memberikan skor 5% AI.

#9. "Club Void" (dibuat oleh Midjourney)

Saya menghasilkan gambar di atas dengan menggunakan Midjourney. Semakin saya mencermatinya, semakin terasa mengganggu. Estetika yang gelap dan menakutkan. Kehadiran bayangan seakan-akan muncul dari balik subjek. Untuk menciptakan gambar ini, saya menggunakan fitur referensi estetika Midjourney dan hanya memintanya untuk menjadi "seorang gadis yang berdiri di sebuah klub sambil tersenyum. Saya menunjukkan gambar tersebut kepada beberapa orang, dan mereka semua mengira bahwa gambar itu nyata.

Sebagian besar detektor menandai gambar sebagai gambar yang dihasilkan oleh AI. TruthScan dan Sight Engine menandainya dengan skor AI 99%, AI or Not mengatakan 89%.

WasItAI tidak seyakin detektor, mengklasifikasikan gambar hanya dengan skor AI 70%.

Detektor Winston AI sama sekali gagal, memberikan skor AI 1,56% pada gambar tersebut.

#10 "Kotak Es" (dihasilkan oleh Midjourney)

Saya menciptakan gambar ini dengan menggunakan metode pertengahan perjalanan yang sama dari pengujian sebelumnya. Kali ini, tujuannya adalah menghasilkan sesuatu yang sedikit lebih gelap. TruthScan adalah detektor yang paling akurat, melabeli gambar sebagai 99% AI. Sight Engine dan AI or Not keduanya mendeteksi gambar dengan benar. Winston AI benar-benar gagal, dan WasItAI memiliki skor kepercayaan yang jauh lebih rendah daripada TruthScan, Sight Engine, dan AI or Not.

Saya harus mengatakan bahwa dalam hal ini, gambar yang saya hasilkan dapat digunakan atau dibingkai dalam dua cara. Di satu sisi, seseorang dapat menggunakan jenis media ini (atau jenis media bertema politik/kerusuhan sipil) dalam suatu proyek seni atau kreatif untuk membuat suatu pernyataan. Dalam kasus seperti ini, risikonya tampak lebih rendah. Kekhawatiran utama yang saya miliki dengan kategori media yang dihasilkan AI ini, apakah media ini digunakan oleh orang-orang jahat yang mengklaim bahwa media ini nyata.

Rekap dan hasil: Detektor gambar AI terbaik

Oke, sekarang kita sudah menampilkan semua pengujian, saya akan merekapnya: Saya menghasilkan 10 gambar AI

• Saya menggunakan ChatGPT, Nano Banana, dan Midjourney untuk menghasilkan 10 gambar AI
• Saya menguji lima detektor gambar AI dengan menaruh semua gambar AI yang saya hasilkan melalui detektor tersebut.
• TruthScan lulus dalam semua tes, dan merupakan detektor yang paling akurat. AI or Not lulus 8 dari 10 tes, menunjukkan keandalannya. Sight Engine gagal 3 dari 10 pengujian, dan menunjukkan akurasi yang meragukan. Was It AI gagal 4 dari 10 tes, dan memiliki akurasi yang buruk secara keseluruhan. Winston AI adalah pendeteksi gambar AI yang paling tidak akurat, hanya lulus 3 dari 10 tes, dan secara konsisten salah mengklasifikasikan gambar.

Keterangan dan Data Penutup

Secara keseluruhan, antara penulisan artikel ini dan pengujian yang ketat, saya menghabiskan waktu 25 jam untuk menyusun laporan ini. Alat pendeteksi AI multimodal masih terus berkembang, tetapi sudah jelas bahwa ada yang lebih akurat daripada yang lain. Setelah menguji semua alat, TruthScan memiliki yang paling akurat Detektor gambar AI. Tes tersebut berbicara sendiri.

Jika Anda ingin mengakses salinan CSV data dari pengujian yang saya lakukan di artikel ini, Anda dapat menemukannya di sini. Spreadsheet data yang saya tautkan berisi semua petunjuk asli dan hasil deteksi dari pengujian dalam artikel ini.