Yapay Zeka Siber Suç Trendleri ve 2025'te Size Nasıl Zarar Verebilirler?

"Yapay zeka, siber suçlular için bir performans artırıcı görevi görüyor. Orta seviye kötü adamların seviyesini etkili bir şekilde yükseltiyor." [1]

Geçtiğimiz yıl, yapay zeka (AI) hızla gelişti ve kişiselleştirilmiş aramadan gelişmiş tıbbi teşhislere kadar her şeye güç verdi. Ancak teknoloji hızla ilerlerken, daha karanlık bir gerçek ortaya çıkıyor: siber suçlular aynı yapay zeka buluşlarını silah olarak kullanıyorlar. dolandırıcılıkları iyileştirmek, kurbanları taklit etmek ve yasadışı girişimleri büyütmek için. 

FBI'ın İnternet Suçları Şikayet Merkezi'nden (IC3) İç Güvenlik Bakanlığı'na (DHS) kadar devlet kurumları, yapay zeka kaynaklı siber suçları hızla büyüyen bir sorun olarak işaretlemiştir. [2][8]

Yapay zekanın 2024 yılında siber suçlar için nasıl kullanıldığına dair ABD hükümetinin bulgularını ve güvenilir üçüncü taraf analizlerini araştırdık. itibaren korkunç deepfake dolandırıcılığı güçlü oltalama kampanyalarıİşte verilerin ve gerçeklerin ortaya koyduğu şey.

Anahtar Çıkarımlar:

1. Yapay zeka, her siber saldırının tek nedeni olmasa da katkıda bulunan bir faktördür. Geleneksel bilgisayar korsanlığı büyük ölçekte devam ediyor.
2. Deepfake taklidi artık bilim kurgu değil; şu anda gerçekleşiyor.
3. Yapay zeka kullanarak cinsel taciz ve CSAM oluşturma, kolluk kuvvetleri ve çocuk koruma kurumları için acil bir önceliktir.
4. Dezenformasyon, yapay zekanın daha inandırıcı sahte kişilikleri ve anlatıları beslemesiyle birlikte bir ulusal güvenlik tehdididir.
5. DOJ ve FBI, yapay zeka destekli suçları daha ciddi bir şekilde ele alma sözü verdiği için ufukta daha sert yaptırımlar görünüyor.
6. Ankete katılan Amerikalıların 56%'si Derin Sahtecilik, YZ'nin insan yaşamına tehdit oluşturması veya yasadışı kullanımı konusunda endişeli olduklarını söyledi. [9]* 

1. Yapay zeka ile geliştirilmiş kimlik avı ve sosyal mühendislik

Yeni Bir İkna Edici Kimlik Avı Dönemi

• Ne oluyor?
  Suçlular mükemmel, kişiselleştirilmiş kimlik avı e-postaları ve metinleri oluşturmak için üretken yapay zeka kullanıyor. Gülünç dilbilgisi hatalarının olduğu günler geride kaldı. Artık bu e-postalar gösterişli ve hiper hedefli görünerek dikkatli alıcıları bile kandırıyor. [2][3]
• Resmi Uyarılar
  FBI'ın San Francisco birimi, "yüksek hedefli kimlik avı kampanyaları düzenlemek için yapay zeka destekli araçlar kullanan siber suçluların artan tehdidi" konusunda uyarıda bulunuyor. [2] IC3, 2024 yılında kimlik avıyla ilgili kayıplarda sürekli bir artış olduğunu bildirmiştir - ancak kaç tanesinin yapay zeka kaynaklı olduğuna dair kesin bir çetele sunmamaktadır. [3] Bununla birlikte, niteliksel olarak, araştırmacılar tipik kırmızı bayrakları atlayan daha sofistike kimlik avı girişimlerinde kayda değer bir artış görüyorlar.
• Doğruluk Kontrolü Öne Çıkanlar
  Kimlik avı şikayetleri genel olarak hızla artarken, FBI yalnızca yapay zekaya atfedilen kesin bir yüzde yayınlamadı. Bunun yerine, bu yapay zeka destekli dolandırıcılıkların artan gerçekçiliğini ve başarı oranlarını vurguluyorlar. Bu, kesin rakamlara ulaşılamasa bile gerçek olan bir tehdidin en önemli örneğidir.

İşletmeler ve Bireyler Üzerindeki Etkiler

• Ticari E-posta Tehlikesi (BEC):
  Yapay zeka, dolandırıcıların yönetici e-postalarını kopyalamasına veya mesajları birden fazla dilde uyarlamasına yardımcı olarak BEC dolandırıcılığında başarıyı artırıyor. FBI'a göre BEC dolandırıcılığından kaynaklanan kayıplar 2023 yılında $2.9 milyarı aştı ve 2024'ün bunu geride bırakması bekleniyor - yapay zeka dilimi hala izleniyor olsa da. [3]
• Kişisel Kayıplar:
  İnsanlar iyi hazırlanmış sahte banka uyarıları veya yürek parçalayıcı derecede gerçek görünen "aşk dolandırıcılığı" mektuplarıyla karşılaşıyor. Bu durum kimlik bilgilerinin çalınmasına, banka hesaplarının boşaltılmasına ve kimlik hırsızlığına yol açmıştır [2]. Suçlular sesleri klonlayabildikleri veya bakıcı benzeri mesajlar üretebildikleri için yaşlı insanlar özellikle savunmasız kalmaktadır.

2. Deepfake Taklitçiliği ve Dolandırıcılık

Sahte Sesler, Gerçek Para

Sevdiğiniz birinin sesinden fidye için yalvaran çılgınca bir telefon aldığınızı hayal edin. Gerçekte, Yapay zeka, tam olarak bu ses imzasını oluşturmak için sosyal medyadan örnekler kullandı. 

FBI'ın IC3 bültenlerine göre, ses klonlama gasp ve finansal dolandırıcılık için yeni bir araç olarak ortaya çıkmıştır. [2][5] Çalışanları kandırarak para havalesi yaptıran "sahte CEO" aramaları vakaları da rapor edilmiştir.

Örnek olay: 2023 yılında Arizona'lı bir anne, sahte bir "kaçırılma" çağrısında genç kızının hıçkıran sesini duyduğuna inandığında neredeyse dolandırılıyordu. Neyse ki, parayı havale etmeden önce kızının güvende olduğunu doğruladı.

Deepfake Videolar ve Taklitçilik

Suçlular ayrıca gerçekçi "CEO'ların" veya "iş ortaklarının" yer aldığı ve çalışanlara büyük transferleri onaylama talimatı veren yapay zeka tarafından oluşturulmuş video görüşmeleri de üretiyor. Adalet Bakanlığı (DOJ), bu sahte video görüşmelerinin özellikle uzak veya karma çalışma ortamlarında endişe verici derecede inandırıcı olduğu konusunda uyarıyor. [4][7]

Doğruluk Kontrolü Notu:
Kolluk kuvvetleri birden fazla olayı doğruladı ancak deepfake vakalarının resmi bir sayısını yayınlamadı. Bununla birlikte, bildirilen örnekler, dolandırıcılık için deepfake teknolojisinin kullanımında "keskin bir artış" olduğuna dair tutarlı FBI/DOJ uyarılarıyla uyumludur. [2][4][7]

3. Yapay Zeka Tarafından Üretilen Seks Şantajı ve Sentetik Medya İstismarı

Masum Görüntülerin Sömürüye Dönüştürülmesi

• Ne oluyor?
  Suçlular iyi huylu fotoğrafları (sosyal medyadan veya başka bir şekilde) alır ve bunları müstehcen materyallere dönüştürür. "Deepfake sextortion" olarak adlandırılan bu durum, yapay zekanın rahatsız edici derecede ikna edici görüntüler veya videolar üretme becerisiyle gelişmektedir. [5]
• Mağdurlar Arasında Küçükler de Var
  FBI, 2023 tarihli bir PSA'da, reşit olmayanların resimlerinin sahte pornografik materyallere dönüştürüldüğü sextortion vakalarında artış olduğunu belirtmiştir. Suçlular daha sonra mağdurlar ödeme yapmadığı veya gerçek cinsel içerik sağlamadığı takdirde bu uydurma görüntüleri paylaşmak veya yayınlamakla tehdit etmektedir. [5]
• Çocuk Cinsel İstismarı Materyali (CSAM)
  DHS ve DOJ, yapay zeka araçlarının yapay zeka tarafından üretilen çocuk cinsel istismarı içeriği oluşturmak için kullanıldığını doğruladı. Ağustos 2024'te DOJ, çocuk pornografisi üretmek için YZ kullandığı gerekçesiyle bir kişiyi tutuklamıştır. [Kolluk kuvvetleri "YZ tarafından üretilen CSAM'ın hala CSAM olduğunu" vurgulamaktadır. 

Doğruluk Kontrolü Hatırlatma:
Resmi kaynaklar, YZ tarafından manipüle edilen CSAM'ı kesin bir şekilde yasa dışı olarak değerlendirmektedir. Kesin yaygınlık verileri azdır, ancak çok sayıda yaptırım eylemi gerçek ve büyüyen tehdidi doğrulamaktadır.

4. Yapay Zeka Güdümlü Dezenformasyon ve Siyasi Müdahale

• Seçimlere Karışma 2.0
  Temmuz 2024'te Adalet Bakanlığı, dezenformasyon yaymak için yapay zeka ile geliştirilmiş sahte kişilikler kullanan gizli bir Rus bot çiftliğini çökertti [4][7]. Yapay zeka tarafından oluşturulan bu sosyal medya hesapları, otomatik filtrelerin tespit etmekte zorlandığı bir karmaşıklıkla bölücü anlatılar yaydı.
• Yurtiçi ve Yurtdışı Etki
  FBI Direktörü Wray, "üretken yapay zekanın... giriş engelini düşürdüğünü" [1] ve hem yabancı düşmanların hem de yerli grupların makul "sahte haberler", deepfake videolar oluşturmasını veya politikacıları taklit etmesini kolaylaştırdığını belirtiyor.
• Sadece Spam Değil
  Bu içerik kamu güvenini sarsabilir, seçimler sırasında kafa karışıklığı yaratabilir veya kötü niyetli finansal planları teşvik edebilir. [4][8] DHS, yapay zeka güdümlü dezenformasyonu, doğrudan bilgisayar korsanlığı içermese de dijital platformları yasadışı veya aldatıcı amaçlar için kullandığını kabul ederek "siber destekli" bir suç olarak sınıflandırmaktadır.

Doğruluk Kontrolü Bağlamı:
Adalet Bakanlığı "bot çiftliği "nin kapatılmasını iyi bir şekilde belgelemiştir. [4][7] Bağımsız güvenlik araştırmacıları, yapay zeka tarafından oluşturulan persona yaratımının artmakta olduğunu doğrulamaktadır. Bununla birlikte, resmi kurumlar nadiren kesin ölçümler yayınlamaktadır (örneğin, "dezenformasyonun 30%'si artık yapay zeka tabanlıdır"). Bunun yerine, bu kampanyaların ciddiyetini ve karmaşıklığını kamuoyuna duyurmaya odaklanıyorlar.

5. Yeni Ortaya Çıkan Tehditler: Yapay Zeka Destekli Kötü Amaçlı Yazılımlar ve Bilgisayar Korsanlığı

WormGPT ve Ötesi

Yeraltı forumlarında suçlular, kötü amaçlı yazılım yazmak için ince ayarlanmış "WormGPT" gibi yapay zeka modellerini tanıtıyorlar. DHS, bu araçların "bilgisayar kodlama gibi bilgi boşluklarını doldurarak" nispeten vasıfsız bilgisayar korsanlarının gelişmiş saldırılar başlatmasına olanak sağladığı konusunda uyarıyor [8]. Yapay zeka tarafından yazılan büyük ölçekli kötü amaçlı yazılımlar hala sınırlı olsa da, uzmanlar bunun ileride büyük bir endişe kaynağı olacağını tahmin ediyor.

Uyarlanabilir Kötü Amaçlı Yazılım?

Güvenlik araştırmacıları, yapay zeka güdümlü kötü amaçlı yazılımların antivirüs tespitinden kaçmak için kodunu değiştirebileceğini ("polimorfizm") göstermiştir. DHS, yeni açıkları otonom olarak test eden "kendi kendine öğrenen" kötü amaçlı yazılımlar hakkında da teoriler geliştirmiştir, ancak gerçek dünya örnekleri 2024'te nadir kalmaktadır. [8]

Doğruluk Kontrolü Notu:
Çoğu yüksek profilli saldırı (fidye yazılımı gibi) hala geleneksel yöntemlere dayanıyor, ancak FBI, NSA ve siber güvenlik uzmanları yapay zekanın giderek siber suçluların cephaneliğinin bir parçası olduğuna dair işaretler görüyor. 2025'e kadar daha fazla gelişme ve muhtemelen daha resmi istatistikler bekliyoruz.

Etkiler ve Temel İstatistikler (Doğruluğu Kontrol Edildi)

1. Genel Siber Suç Şikayetleri
   • FBI'ın IC3'ü 2023 yılında 880.000'den fazla siber suç şikayeti almıştır ve bildirilen kayıplar $12,5 milyarı aşmıştır - 2022 yılına göre kayıplarda 22%'lik bir artış. [3]
   • YZ'yi içeren kesin kısım takip edilmese de, uzmanlar YZ'nin gerçekçiliğinin kimlik avı, BEC ve taklit dolandırıcılıklarında daha yüksek başarı oranlarına yol açtığına inanmaktadır. [2][3]
2. Kurumsal E-posta Gizliliğinin İhlali (BEC)
   • 2023'te bildirilen kayıplarda $2,9 milyar doları aşarak siber suçların en maliyetli biçimlerinden biri olmaya devam ediyor. [3] Yapay zekanın rolü? Daha gösterişli e-postalar, daha iyi yerelleştirme ve zaman zaman sahte aramalar ya da videolar.
3. Deepfake Sextortion
   • FBI, deepfake tabanlı sextortion olaylarının kesin bir sayısını yayınlamamaktadır, ancak "her ay birden fazla yeni rapor" ortaya çıkmıştır. [5]
   • Mağdur Etkisi: Kişisel aşağılanma, mali gasp ve duygusal travma.
4. Dezenformasyon Operasyonları
   • Adalet Bakanlığı Temmuz 2024'te yapay zeka destekli bir Rus bot çiftliğini çökertmiştir [4][7]. Federal kurumlar, YZ tarafından yayılan dezenformasyonun ABD seçimlerine ve demokratik süreçlere yönelik tehdidini vurgulamaktadır.
5. "Üçüncü En Büyük Ekonomi" Efsanesi Üzerine Doğruluk Kontrolü
   • Bazı medya başlıkları küresel siber suç maliyetlerini büyük ülkelerin GSYİH'leriyle karşılaştırmaktadır, ancak ABD'nin yıllık rapor edilen $10-12 milyarlık kayıplarının bu ölçekte olmadığı açıktır [3]. Analistler, siber suçların küresel ekonomik etkisinin trilyonlara ulaşabileceğini ve tüm dolaylı maliyetlerin dahil edilmesi halinde teorik olarak en büyük ekonomiler arasında yer alabileceğini tahmin etmektedir.
6. "Her Beş Suçtan Biri Çevrimiçi" Bağlamı
   • Bazı bölgelerde, rapor edilen suçların yaklaşık 20-25%'si artık siber bağlantılıdır. Bu rakam tüm dünya için geçerli olmamakla birlikte, toplam suçlar içinde dijital suçların payının arttığını göstermektedir.

Kolluk Kuvvetleri ve Politika Yanıtları

1. Adalet Bakanlığı'nın Daha Sert Tutumu
   • Başsavcı Yardımcısı Lisa Monaco, suçları artırmak için yapay zekadan yararlanan suçlular için "daha ağır cezalar" sözü verdi ve yapay zekayı dolandırıcılık, çocuk istismarı ve daha fazlası için ağırlaştırıcı bir faktör olarak ele aldı. [6]
2. İç Güvenlik Yapay Zeka Görev Gücü
   • DHS, yapay zeka kaynaklı dolandırıcılıkları tespit etme, deepfake tespitini yönetme ve küçükleri yapay zeka kaynaklı istismardan koruma çabalarını genişletiyor. [8] Ayrıca, anomaliler için ağları tarayarak savunma için yapay zekanın nasıl kullanılacağını araştırıyor.
3. Kurumsal Uyumluluk
   • Adalet Bakanlığı artık şirketlerden uyum programlarında YZ risklerini nasıl ele aldıklarını göstermelerini istiyor. Çalışanların YZ'yi kötüye kullanmasını engellememek veya YZ güvenlik açıklarını göz ardı etmek, kurumsal sorumluluğu artırabilir. [6]
4. Kamuoyu Bilinçlendirme Kampanyaları
   • FBI, FCC ve FTC, yapay zeka tabanlı "büyükanne-büyükbaba" dolandırıcılığı ve sahte çocuk kaçırma aramaları konusunda tüketici uyarıları yayınladı. Mesaj nedir? Şüpheli aramaları veya mesajları her zaman doğrulayın - yapay zeka çağında görmek (veya duymak) artık inanmak değildir. [2][5]

Amerikalıların 56%'si Zararlı Yapay Zeka Konusunda Endişeli Olduğunu Söylüyor

Undetectable AI, Kasım 2024'te Amerika Birleşik Devletleri genelinde 1.000 Amerikalıyla anket yapmıştır. [9] Yaşları 18 ila 27 arasında değişen katılımcılar, 23%'sinin YZ'nin insanlık için varoluşsal bir tehdit oluşturduğuna inandığını, 18%'sinin verilerin yasa dışı kullanımı veya veri gizliliğiyle ilgili endişelerini dile getirdiğini ve 15%'sinin YZ teknolojisinin derin sahtekarlıklar yaratmak için kullanılmasından endişe duyduğunu belirtti.

İleriye Bakmak: 2025 ve Sonrası

Yapay zeka güdümlü saldırıların tam olarak yaygınlığı hakkında sınırlı veri olmasına rağmen, eğilim açıktır: Yapay zeka suçlular için engelleri azaltmakta, daha gerçekçi dolandırıcılıklara olanak sağlamakta ve dezenformasyonu yoğunlaştırmaktadır. Bu arada, savunucular - kolluk kuvvetleri, siber güvenlik uzmanları ve düzenleyiciler - hızlanıyor. Bekliyoruz:

• Savunmada Daha Fazla Yapay Zeka: Deepfake adli tıp, yapay zeka tabanlı kimlik avı filtreleri ve ağlarda anormallik tespiti için araçlar.
• Genişletilmiş Düzenleyici Gözetim: DOJ, SEC ve diğerleri muhtemelen YZ'nin kötüye kullanımını daha fazla engelleyecek ve YZ ile ilgili suçları kolaylaştıran bireylere veya kuruluşlara daha ağır cezalar uygulayacaktır.
• Daha Geniş Uluslararası İşbirliği: Siber suçlar sınır tanımaz ve Adalet Bakanlığı'nın Temmuz 2024'te bir Rus bot çiftliğini çökertmesi gibi ortak operasyonlar daha sık hale gelecektir.

Sonuç: Siber Suçlar için Bir Güç Çarpanı

Resmi kaynaklardan ve uzman analizlerinden ortaya çıkan ana tema, yapay zekanın mevcut siber suç yöntemlerini güçlendirdiğidir. Hiper-gerçekçi kimlik avından "sahte CEO" sesli aramalarına kadar, suçlular başarı oranlarını büyük ölçüde artırmak ve bir zamanlar dolandırıcılıkları tespit etmek için basit "içgüdüsel kontrollere" (yazım yanlışları, bozuk aksanlar vb.) güvenen kurbanları istismar etmek için üretken yapay zekayı kullanıyor.

Uyanık ve Bilgili Kalın

Hızla büyüyen bu ortamda kamu bilinci ve doğrulama kritik önem taşıyor. İster son dakika telgraf talebi alan bir C-suite yöneticisi, ister "krizdeki torunu" tarafından aranan bir emekli ya da bir politikacının sansasyonel bir videosuyla karşılaşan bir sosyal medya kullanıcısı olun, unutmayın: bir şey yanlış geliyorsa, doğrulayın. Yapay zeka, suçluların gerçek insanları taklit edebileceği veya şaşırtıcı bir doğrulukla yanılsamalar yaratabileceği anlamına geliyor.

Metodoloji

Bu araştırmayı resmi devlet kaynaklarını inceleyerek gerçekleştirdik (Adalet Bakanlığı'nın yayınlanmış belgeleri ve yıllık IC3 İnternet Suçları Yıllık Raporu gibi). Ayrıca güvenilir üçüncü taraf yorumlarını ve Yapay zeka ile ilgili ortaya çıkan siber suç tehditlerinin kapsamını da inceledik. Ayrıca Amerika Birleşik Devletleri'ndeki 1000'den fazla muhabirle yapay zeka konusundaki endişelerini anlamak için anket yaptık. Son olarak, atıfta bulunulan tüm kaynakların doğru ve güncel olduğunu garanti etmek için bu raporu kontrol ettik.

Adil Kullanım

Bu verileri bir haber veya makalede kullanmanız memnuniyetle karşılanır ve teşvik edilir. Lütfen Undetectable AI'ya atıfta bulunduğunuzdan ve okuyucuların raporun tamamını görüntüleyebilmesi için bu sayfaya bir bağlantı eklediğinizden emin olun.

Referanslar

1. FBI: Yapay Zekaya Sahip Kötü Adamlar Tarafından Desteklenen Yüksek Tempolu Tehditlerle Seçim Yılına Hazırlanın - Savunma Bir
2. FBI Yapay Zeka Kullanan Siber Suçluların Tehdidinin Arttığı Uyarısında Bulundu (8 Mayıs 2024)
3. İnternet Suçları Şikayet Merkezi (IC3) - 2023 İnternet Suçları Raporu ve İlgili PSA'lar
4. Halkla İlişkiler Ofisi | Adalet Bakanlığı, Rus Hükümeti Tarafından İşletilen Gizli Sosyal Medya Bot Çiftliğini Bozma Çabalarına Öncülük Ediyor (9 Temmuz 2024)
5. İnternet Suçları Şikayet Merkezi (IC3) | PSA: Müstehcen İçerik ve Sextortion Şemaları Oluşturmak için Fotoğraf ve Videoları Manipüle Eden Kötü Niyetli Aktörler (5 Haziran 2023)
6. Cinsel İçerikli Davranışlarda Bulunan Reşit Olmayan Kişilerin Yapay Zeka Tarafından Oluşturulan Görüntülerini Üretmek, Dağıtmak ve Bulundurmaktan Tutuklanan Adam
7. DOJ ve Ortakları Rus Bot Çiftliğini Bozdu - İcra Detayları (Temmuz 2024)
8. DHS: "Yapay Zekanın Suç ve Yasadışı Faaliyetler Üzerindeki Etkisi" (27 Eylül 2024) 
9. 2024 Araştırması Tespit Edilemeyen Yapay Zeka Tarafından Gerçekleştirildi