Deepfake Nedir? Tanım ve Gerçek Örnekler

Deepfake terimi ilk olarak 2017'de Reddit'te ortaya çıktıAynı ekran adına sahip bir kullanıcı, başlangıçta yetişkinlere yönelik içeriklerde yüzleri değiştirmek için yapay zeka kullanan değiştirilmiş videolar paylaşmaya başladığında. 

Reddit orijinal subreddit'i yasaklamış olsa da, fikir çoktan yayılmıştı. 

Ancak bu teknolojinin kökleri daha da eskiye dayanıyor.

1997'de araştırmacılar makine öğrenimi yoluyla video düzenleme denemelerine başlamışlardı bile. 

İlk dudak senkronizasyon araçları Video Yeniden Yazma birinin söylemediği bir şeyi söylemiş gibi görünmesine neden olabilir.

Bugünün standartlarına göre teknik olarak bir deepfake değildi, ancak daha sonra olacaklar için zemin hazırladı.

Bugünkü blogumuz, bu gelişen teknolojinin nasıl çalıştığı, günlük hayatta nerelerde karşımıza çıktığı ve beraberinde ne gibi riskler ve faydalar getirdiği ile ilgili. 

Deepfake'in aslında ne olduğunu anlamakla başlayalım.

---

Anahtar Çıkarımlar:

• Deepfakes, insanların gerçekte hiç yapmadıkları şeyleri söylemiş veya yapmış gibi görünmelerini sağlayan yapay zeka tarafından üretilen medyadır.

• Ücretsiz araçlar ve temel becerilerle artık neredeyse herkes ikna edici deepfake videolar, görüntüler veya ses klipleri oluşturabilir.

• Deepfake'ler yaratıcı veya eğlenceli olsalar da dolandırıcılık, karalama ve yanlış bilgilendirme gibi ciddi riskler de taşırlar.

• Çoğu deepfake'i tespit araçlarını kullanarak veya görsel ve davranışsal tutarsızlıkları yakından izleyerek tespit edebilirsiniz.

---

Deepfake Nedir?

Deepfake, bir kişinin aslında hiç yapmadığı bir şeyi yapıyormuş ya da söylüyormuş gibi görünmesini ya da duyulmasını sağlamak için yapay zeka kullanılarak değiştirilen sahte medya, genellikle bir video, ses klibi ya da görüntüdür. 

Şimdi, bunu sadece kötü bir Photoshop çalışması ya da yarım yamalak bir seslendirme sanmayın.

Yapay zekanın bir alt kümesi olan derin öğrenme adı verilen bir teknolojiyi kullanarak üst düzey manipülasyondan bahsediyoruz.

"Deepfake" terimi de bu anlama geliyor: derin öğrenme ve sahte içerik.

Bir deepfake'in amacı genellikle insanları kandıracak kadar gerçek görünen bir şey yaratmaktır.

Belki de ünlülerin tuhaf şeyler yaptığı veya politikacıların aslında asla söylemeyecekleri çirkin açıklamalar yaptığı viral videoları görmüşsünüzdür. 

Bunlar klasik deepfake kullanım durumlarıdır. Gördüğünüz şey gerçek değildir, ancak arkasındaki teknoloji, gerçekten bakmadığınız sürece beyninizin sahteliği hemen algılayamayacağı kadar iyi hale gelmiştir.

Aslında, Undetectable AI'nın araştırma ekibine göre, Amerikalıların 85 %'si deepfake'lerin çevrimiçi bilgilere olan güvenlerini sarstığını söylüyor.

Deepfake video veya medyanın gerçekte ne olduğunu öğrendiniz, şimdi insanların bunları nasıl yaptığına gelelim.

Deepfakes Nasıl Yapılır?

Çoğu deepfake'in arkasındaki teknoloji, üretken düşman ağları veya GAN'lar olarak adlandırılan bir makine öğrenimi algoritması kategorisidir. 

GAN'lar iki bölümden oluşur: bir üreteç ve bir ayırıcı. 

Üreteç, taklit etmek üzere eğitildiği şeylere dayalı olarak sahte medya yaratır ve ayırt edicinin görevi de sahte görünenleri ortaya çıkarmaktır. 

Jeneratör, ayırt edicinin testini geçebilecek sahte içerik oluşturmada daha iyi olana kadar ileri geri gitmeye devam ederler. 

Zamanla, bu ileri-geri gidiş gelişler şaşırtıcı derecede gerçekçi görünen medyaya yol açar.

Deepfake Video Oluşturma Süreci Nedir?

Bir deepfake video oluştururken, sistem videoları birden fazla açıdan analiz ediyor, kişinin nasıl konuştuğunu, yüzünün nasıl hareket ettiğini, vücudunun nasıl değiştiğini inceliyor. 

Tüm bu bilgiler, bu davranışları taklit eden içerikler oluşturabilmesi için oluşturucuya aktarılır. 

Ardından, ayırıcı, sonuç tam olarak doğru görünene kadar neyin yanlış olduğunu göstererek ince ayar yapılmasına yardımcı olur.

İllüzyonun hareket halinde bu kadar iyi dayanmasının nedeni budur.

Deepfake videonun amacına bağlı olarak kullanılan birkaç farklı teknik vardır. 

Eğer amaç, bir kişinin bir videoda aslında hiç söylemediği ya da yapmadığı bir şeyi söylemiş ya da yapmış gibi görünmesini sağlamaksa, o zaman kaynak video deepfake'i denen şeyle karşı karşıyayız demektir. 

Kodlayıcı ve kod çözücüden oluşan bir deepfake otomatik kodlayıcı, orijinal görüntüleri inceler ve hedefin ifadelerini, jestlerini ve ince baş hareketlerini bu görüntülere uygular. 

Audio Deepfakes

Bir ses deepfake'i, bir kişinin sesini, yine GAN'ları kullanarak, doğal olarak nasıl konuştuğuna dair kayıtlara dayanarak klonlayarak çalışır. 

Model eğitildikten sonra, kişi bu kelimeleri hiç söylememiş olsa bile o sesle yeni konuşmalar üretebilir. 

Sıklıkla eklenen bir diğer katman da dudak senkronizasyonudur. 

Burada sistem, üretilen veya önceden kaydedilen sesi bir videoya eşler.

Amaç, videodaki dudakların sesteki kelimelerle eşleşmesini sağlamaktır. 

Gerçek Dünyadan Derin Sahtekarlık Örnekleri

Deepfake'ler bugünlerde her yerde karşımıza çıkıyor. 

Sizi teknolojinin ne kadar ilerlediğini gösteren bazı popüler deepfake'lerle tanıştıralım.

Devlet Başkanı Zelenskiy'nin Ukrayna Birliklerinden Teslim Olmalarını İstediği Deepfake

Mart 2022'de, Rusya-Ukrayna savaşının ilk aşamalarında, internette bir video ortaya çıktı Ukrayna Devlet Başkanı Volodymyr Zelenskyy'nin askerlerini teslim olmaya çağırıyor. 

Zelenskyy'nin sesi ve tavırlarıyla tamamlanmış bir ulusal konuşmaya benziyordu. 

Video sosyal medya platformlarında yayıldı ve hatta ele geçirilen bir Ukrayna haber sitesinde yayınlandı. 

Başkan hızlı davrandı ve görüntüleri çürütmek için doğrulanmış kanalları aracılığıyla resmi bir açıklama yayınladı. 

Papa Francis'in Tasarım Puffer Ceketli Viral Deepfake Görüntüsü

Bazen bir deepfake görselin kafa karışıklığına neden olması için kötü niyetli olması gerekmez.

2023 yılında, viral bir fotoğraf Papa Francis şık beyaz Balenciaga puffer ceketiyle dolaşıyor interneti kasıp kavurdu.

On milyonlarca kez izlendi ve platformlar arasında geniş çapta paylaşıldı.

Görüntü, Chicago'daki anonim bir kullanıcı tarafından Midjourney adlı bir yapay zeka aracı kullanılarak oluşturuldu. 

Elon Musk Deepfakes Çevrimiçi Dolandırıcılıkta Kullanıldı

2024'te, Elon Musk'ın yer aldığı deepfakes birkaç büyük ölçekli çevrimiçi dolandırıcılığın merkezi bir parçası haline geldi. 

Musk'ın yapay zeka tarafından üretilen videoları Facebook, TikTok ve diğer platformlarda ortaya çıkmaya başladı ve sahte kripto para hediye ve yatırım planlarını tanıttı. 

Bu klipler oldukça gerçekçi görünüyor ve ses çıkarıyordu.

Hasar sadece teorik değildi. Yaşlı bir emeklinin bu videolardan biri tarafından ikna edildikten sonra yaklaşık $700,000 kaybettiği bildirildi. 

ABD Seçmenlerini Hedef Alan Joe Biden Deepfake Robocall

2024'ün başlarında, New Hampshire ön seçimlerinden hemen önce, seçmenler robot çağrılar aldı ABD Başkanı Joe Biden'ın sesine benziyordu. 

Telefon görüşmesinde Joe Biden seçmenleri evde kalmaya ve oylarını Kasım ayındaki genel seçimlere saklamaya çağırıyordu. Amaç, seçmenlerin kafasını karıştırmak ve yanıltarak önseçimi atlamalarını sağlamaktı.

Olay düzenleme çağrılarını tetikledi. Savunuculuk grupları ABD Federal Seçim Komisyonu'nu devreye girmeye çağırdı, ancak FEC nihayetinde yetkisindeki sınırlamaları gerekçe göstererek reddetti.

Bu arada, robocall dağıtımından sorumlu telekom şirketi $1 milyon para cezası ödemeyi kabul etti.

Hindistan 2020 Seçimlerinde Siyasi Deepfake Kullanımı

Deepfake teknolojisinin tüm kullanımları zararlı veya aldatıcı değildir (blogun ilerleyen bölümlerinde bu konuya daha fazla değinilecektir).

2020 Delhi Yasama Meclisi seçimleri sırasında Bharatiya Janata Partisi bir kampanya reklamını uyarlamak için yapay zekayı kullandı farklı dilsel kitleler için. 

Parti, lideri Manoj Tiwari'nin İngilizce konuştuğu bir videoyu aldı ve bölgesel bir lehçe olan Haryanvi dilinde bir versiyon üretmek için deepfake dudak senkronizasyonu kullandı.

Seslendirme bir aktörden gelirken, görseller Tiwari'nin gerçek görüntüleri üzerinde eğitilmiş yapay zeka kullanılarak yeni sese uyacak şekilde değiştirildi. 

Parti üyeleri bunu, aday akıcı bir şekilde konuşmasa bile seçmenlerle anladıkları bir dilde bağlantı kurmalarını sağlayan olumlu bir teknoloji uygulaması olarak gördüler.

Deepfakes Tehlikeli mi? Riskler ve Endişeler

Şimdiye kadar deepfake'in ne olduğuna, nasıl yapıldığına ve gerçek dünyada nerelerde görüldüğüne baktık. 

Teknoloji inkar edilemez derecede etkileyici, ancak buna bağlı riskler ciddi ve hızla büyüyor. 

Deepfake'ler çeşitli şekillerde silah haline getirilebilir. İşte birkaç ana endişe kaynağı.

Hakaret

Birinin benzerliği veya sesi sahte açıklamalar, ifadeler veya videolar, özellikle de saldırgan veya tartışmalı olanlar oluşturmak için kullanıldığında, itibarı neredeyse anında mahvedebilir. 

Ve eski aldatmacaların veya sahte alıntıların aksine, ikna edici bir deepfake izleyicinin zihninde şüpheye çok az yer bırakır.

Bu bağlamda, deepfake'ler öfke uyandırabilir, ilişkileri yok edebilir ya da sadece zarar verici bir anlatıyı öne çıkarabilir. 

Özellikle endişe verici olan şey, deepfake'in mükemmel olmasına bile gerek olmamasıdır.

Kişi tanınabilir ve içerik yeterince inandırıcı olduğu sürece, kamuoyu üzerinde kalıcı bir etki bırakabilir.

Bilginin Güvenilirliği

Bir diğer önemli endişe kaynağı da derin sahtekarlıkların hakikat fikrinin altını nasıl oyduğudur. 

Deepfake'ler yaygınlaştıkça, gördüğümüz veya duyduğumuz şeylerin gerçek olup olmadığını bilmek zorlaşıyor. Zaman içinde bu durum, her türlü dijital iletişime duyulan güvenin daha da aşınmasına yol açabilir.

Bu güvenilirlik krizi münferit olayların ötesine geçmektedir.

Demokratik toplumlarda insanlar karar vermek, konuları tartışmak ve kolektif sorunları çözmek için paylaşılan gerçeklere güvenirler. 

Ancak seçmenler, izleyiciler veya vatandaşlar her şeyi sorgulamaya başlarsa, kamuoyunu manipüle etmek veya uygunsuz gerçekleri "başka bir deepfake" olarak reddetmek çok daha kolay hale gelir. 

Şantaj

Yapay zeka tarafından üretilen medya, bireyleri yasadışı, etik dışı veya utanç verici bir şey yapmış gibi göstererek yanlış bir şekilde suçlamak için kullanılabilir. 

Bu tür üretilmiş kanıtlar daha sonra onları tehdit etmek veya kontrol etmek için kullanılabilir.

Ve her iki taraf için de geçerli. Deepfake'ler artık çok gerçekçi olduğu için, gerçek şantajla karşı karşıya kalan biri, kanıt sahte olmasa bile sahte olduğunu iddia edebilir. 

Bu durum bazen şantaj enflasyonu olarak adlandırılır; inandırıcı sahtekarlıkların çokluğu gerçek suçlayıcı materyallerin değerini düşürür. 

Gerçek kanıtların inandırıcılığı sisin içinde kayboluyor ve bu da yanlışları ortaya çıkarmaya çalışırken karmaşıklığa bir katman daha ekliyor.

Dolandırıcılık ve Sahtekarlıklar

Dolandırıcılar, yapay zeka tarafından oluşturulmuş videolar veya güvenilir tanınmış kişilerin seslerini kullanarak inanılmaz derecede ikna edici planlar oluşturuyorlar.

Bazı durumlarda, Elon Musk, Tom Hanks veya Oprah Winfrey gibi ünlülerin deepfake'leri, hiç duymadıkları ürün veya hizmetleri desteklemek için kullanılıyor.

Bu videolar daha sonra sosyal platformlarda yayınlanarak milyonlara ulaşıyor.

Özellikle manipüle etmek veya kandırmak için tasarlanmış kişiselleştirilmiş içerikle belirli kişileri hedef alan kimlik avı kampanyalarında özel kişiler bile risk altındadır.

Bir rapora göre Forbes tarafından hazırlanan 2024 raporudeepfake odaklı dolandırıcılık şimdiden $12 milyar küresel zarara yol açmış durumda ve bu rakamın önümüzdeki birkaç yıl içinde üç katından fazla artması bekleniyor. 

Deepfakes'in Olumlu ve Yaratıcı Kullanımları

Teknolojinin her uygulamasının olumsuz olmadığını belirtmek gerekir. 

Deepfake'in ne olduğunu açıklayan birçok blog kötüye kullanıma odaklanırken, deepfake'lerin yaratıcı ve üretken kullanım şekillerinin listesi de giderek artıyor. 

Aşağıda bazı kayda değer örnekler yer almaktadır.

Film ve Oyunculuk Performansları

Stüdyolar deepfake teknolojisine aşağıdaki gibi şeyler için güvenmeye başlıyor: 

• Görsel efektlerin iyileştirilmesi
• Üretim maliyetlerinin azaltılması
• Artık ortalıkta olmayan karakterleri geri getirmek 

Disneyörneğin, aktörlerin etkileyici bir gerçekçilikle yüzlerinin değiştirilmesine ve yaşlandırılmasına olanak tanıyan yüksek çözünürlüklü deepfake modellerini geliştiriyor.

Teknolojileri 1024 x 1024 çözünürlükte çalışıyor ve karakterlerin daha genç veya daha etkileyici görünmesini sağlamak için yüz ifadelerini doğru bir şekilde takip edebiliyor.

Hollywood'un ötesinde, deepfake'ler küresel kampanya çalışmalarına da olanak sağlamıştır, örneğin David Beckham dijital olarak klonlandı Birden fazla dilde sağlık mesajı vermek için.

Sanat

2018 yılında multimedya sanatçısı Joseph Ayerle, deepfake teknolojisini kullanarak İtalyan film yıldızı Ornella Muti'nin yüzünü Kendall Jenner'ın vücuduyla harmanlayan bir yapay zeka aktörü yarattı. 

Sonuç, Un'emozione per sempre 2.0 başlıklı video sanat eserinin bir parçası olan, kuşak kimliği ve sanatsal provokasyon üzerine gerçeküstü bir keşif oldu.

Deepfake'ler hiciv ve parodilerde de ortaya çıkmıştır. 

South Park'ın yaratıcıları Trey Parker ve Matt Stone tarafından yaratılan 2020 web dizisi Sassy Justice bunun en iyi örneği. 

Teknolojinin kendisi hakkında farkındalık yaratırken güncel olaylarla dalga geçmek için deepfaked kamusal figürleri kullandı. 

Müşteri Hizmetleri

Yaratıcı sektörlerin dışında, işletmeler müşteriye yönelik hizmetler için deepfake'lerden faydalanıyor. 

Bazı çağrı merkezleri artık hesap sorgulama veya şikayet kaydı gibi temel talepleri otomatikleştirmek için deepfake teknolojisiyle desteklenen sentetik sesler kullanıyor. 

Bu gibi durumlarda amaç kötü niyetli değil, sadece işleri kolaylaştırmaktır.

Arayan yanıt sistemleri, otomatik hizmetlerin daha doğal ve ilgi çekici görünmesini sağlamak için yapay zeka tarafından oluşturulan sesler kullanılarak kişiselleştirilebilir.

Ele alınan görevler genellikle düşük riskli ve tekrarlı olduğundan, bu bağlamda deepfakes maliyetleri azaltmaya ve insan temsilcilerini daha karmaşık sorunlar için serbest bırakmaya yardımcı olur.

Eğitim

Eğitim platformları da öğrencilere daha etkileşimli yollarla yardımcı olmak için deepfake destekli eğitmenler kullanmaya başladı. 

Bu yapay zeka güdümlü öğretmenler, sentetik sesler ve kişiselleştirilmiş rehberlik kullanarak dersler verebilir.

Deepfake Tespit Araçları ve Teknikleri

Deepfake'ler daha gelişmiş ve erişilebilir hale geldikçe, zarar vermeden önce onları tespit etme ihtiyacı da artıyor. 

İnsanlar ve kuruluşlar da bir adım önde olmak için doğru araç ve tekniklere ihtiyaç duyarlar. İşte size birkaç araç ve teknik.

Undetectable AI tarafından Yapay Zeka Görüntü Dedektörü

Undetectable AI'nın Yapay Zeka Görüntü Dedektörü, teknik geçmişi olmayanlar için bile deepfake tespitini daha kolay hale getirir. 

Dedektör, yüklenen bir görüntüdeki renk desenleri, dokular, yüz özellikleri ve yapısal tutarsızlıklar gibi çeşitli unsurları analiz ederek çalışır. 

Gibi en iyi bilinen AI görüntü oluşturucuları kullanılarak oluşturulan medya için algılamayı destekler. 

• Yolculuğun Ortası 
• DALL-E
• Kararlı Difüzyon 
• İdeogram
• GAN tabanlı modeller

Kullanmak için bir görsel yükleyin, aracın analiz etmesine izin verin ve bir güven puanı ile net bir karar alın.

Karşılaştığınız bir görselin gerçek olup olmadığından emin değilseniz, Yapay Zeka Görüntü Dedektörümüzü deneyin herhangi bir yapay zeka müdahalesi olup olmadığını kontrol etmek için.

Örneğin, burada Kararlı Difüzyon kullanılarak oluşturulmuş bir flamingo yapay zeka görüntüsü var.

Şimdi, koyalım Undetectable'ın Yapay Zeka Dedektörü test edin ve görüntünün yapay zeka tarafından oluşturulduğunu doğru bir şekilde söyleyip söyleyemeyeceğini görün.

Gördüğünüz gibi, Undetectable AI tarafından geliştirilen görüntü yapay zeka dedektörü bu görüntüyü 100% yapay zeka tarafından oluşturulmuş olarak işaretlemiştir.

TruthScan

Derin sahtecilikle mücadelede dikkate değer bir başka araç da TruthScan. 

TruthScan yüksek riskli video analizi için geliştirilmiştir. Kurumları dijital platformlardaki video sahtekarlığı, kimlik sahtekarlığı ve yanlış bilgilendirme kampanyalarından korumaya yöneliktir.

TruthScan geniş bir özellik seti sunar:

• Yüz Değiştirme Algılama, kare kare analiz kullanarak yüz değiştirme ve yeniden canlandırma saldırılarının belirtilerini arar.
• Yüz Kimlik Doğrulama, bir kişinin yüzünün ve ifadelerinin gerçek mi yoksa sentetik olarak mı oluşturulduğunu doğrulamaya yardımcı olur.
• Canlı Akış Analizi özellikle video görüşmeleri veya canlı etkinlikler için kullanışlıdır ve düşük gecikme süresiyle gerçek zamanlı olarak derin sahtekarlıkları tespit eder.
• Video Forensics, düzenleme belirtilerini ortaya çıkarabilecek sıkıştırma artefaktlarını, kare tutarsızlıklarını ve dijital parmak izlerini araştırır.

Manuel Tespit için Görsel ve Davranışsal Teknikler

Ayrıca, özellikle acil analize ihtiyaç duyulan durumlarda, bireylerin deepfake'leri manuel olarak tespit etmek için kullanabilecekleri pratik teknikler de vardır.

Bazı görsel kırmızı işaretler şunlardır:

• Garip yüz pozisyonları veya garip ifadeler.
• Görüntü veya videonun farklı bölümlerinde tutarsız aydınlatma veya renklendirme.
• Özellikle hareket sırasında yüz veya saç çizgisi etrafında titreme.
• Doğal göz kırpma eksikliği veya düzensiz göz hareketi.
• Ses konuşmayla eşleşmediğinde dudak senkronizasyonunda tutarsızlıklar.

Davranışsal açıdan bakıldığında, deepfake'ler genellikle ince insan özelliklerini taklit etmekte zorlanırlar. Beden diline, duygusal ifadelere ve alışılmış jestlere dikkat edin.

Ve gerçek zamanlı konuşmalarda, özellikle de canlı videolarda, yan profil görüntüsü isteyin.

Birçok deepfake modeli hala 90 derecelik bir yüz açısını veya doğal ifadeleri korurken kafayı çevirmek gibi karmaşık hareketleri doğru bir şekilde oluşturmakta zorlanıyor.

Metin ve Bağlamda Derin Sahtekarlıkları Tespit Etme

Deepfake'ler görsellerle sınırlı değildir. Bazı versiyonlar, birinin iletişim tarzını taklit eden sentetik metin, ses veya davranış içerir.

Metin içeriğini veya diyaloğu analiz ederken şunlara dikkat edin:

• Yazım yanlışları ve garip dilbilgisi.
• Zorlama hissi veren veya doğal bir şekilde akmayan cümleler.
• Alışılmadık e-posta adresleri veya tutarsız ifadeler.
• Bağlamdan kopuk veya durumla ilgisi olmayan mesajlar.

Bağlam da önemlidir. Bir video veya mesaj, bir politikacının düşük kaliteli bir klipte önemli bir kararı gelişigüzel duyurması gibi mantıklı olmayan bir ortamda görünüyorsa, gerçekliğini sorgulamaya değer.

Yapay Zeka Dedektörümüzü ve İnsancıllaştırıcımızı merak mı ediyorsunuz? Aşağıdaki widget'ta deneyin!

Deepfakes Hakkında SSS

Son Düşünceler

Artık deepfake görüntünün ya da genel olarak medyanın ne olduğunu biliyorsunuz. Yapay zeka ve derin öğrenmenin karmaşık bir karışımıdır ve genellikle insanların bilgisi veya rızası olmadan görsel veya işitsel olarak insanları ikna edici bir şekilde taklit edebilir. 

Tehlikeler çok gerçek olsa da, yaratıcı kullanımlar da az değil.

Son çıkarım şu: deepfake'ler hiçbir yere gitmiyor. Teknoloji gelişmeye devam ettikçe, onu tanıma ve yanıt verme becerimiz de gelişmelidir. 

Bir görüntünün yapay zeka tarafından oluşturulup oluşturulmadığını doğrulamak için basit ve etkili bir yol istiyorsanız, Undetectable AI'nın Yapay Zeka Görüntü Dedektörünü deneyin. 

Hızlı, doğru ve herkes için kullanımı kolay.

AI Image Detector ile görüntünüzü şimdi kontrol edin ve neler ortaya çıkardığını görün.