Az AI kiberbűnözési trendek és hogyan károsíthatják Önt 2025-ben

"A mesterséges intelligencia teljesítményfokozóként hat a kiberbűnözők számára. Gyakorlatilag a középszintű rosszfiúk szintjét emeli." [1]

Az elmúlt évben a mesterséges intelligencia (AI) gyorsan fejlődött, és a személyre szabott kereséstől kezdve a fejlett orvosi diagnosztikáig mindent működtet. De miközben a technológia rohamosan fejlődik, egy sötétebb valóság is fenyeget: a kiberbűnözők ugyanezeket a mesterséges intelligencia áttöréseket használják fegyverként. az átverések finomítására, az áldozatok megszemélyesítésére és az illegális vállalkozások felerősítésére. 

A kormányzati szervek - az FBI Internetes Bűnügyi Panaszközpontjától (IC3) a Belbiztonsági Minisztériumig (DHS) - a mesterséges intelligencia által vezérelt kiberbűnözést gyorsan növekvő problémaként jelölték meg. [2][8]

Az amerikai kormány megállapításait és hiteles, harmadik fél által készített elemzéseket vizsgáltuk meg azzal kapcsolatban, hogy 2024-ben hogyan használják a mesterséges intelligenciát a kiberbűnözéshez. A weboldalról ijesztő deepfake átverések a hatásos adathalász kampányok, az adatok - és a tényellenőrzések - a következőket mutatják.

A legfontosabb tudnivalók:

1. A mesterséges intelligencia hozzájárul, de nem kizárólagos oka minden kibertámadásnak. A hagyományos hackertámadások továbbra is terjednek.
2. A Deepfake megszemélyesítés már nem sci-fi; ez már most történik.
3. A mesterséges intelligenciát használó szextorongálás és CSAM-generálás sürgős prioritás a bűnüldöző és gyermekvédelmi szervek számára.
4. A dezinformáció nemzetbiztonsági fenyegetést jelent, a mesterséges intelligencia pedig egyre hihetőbb hamis személyiségeket és narratívákat táplál.
5. Szigorúbb végrehajtás van kilátásban, mivel a DOJ és az FBI megfogadta, hogy a mesterséges intelligencia által támogatott bűncselekményeket fokozottan komolyan fogja kezelni.
6. A megkérdezett amerikaiak 56%-je mondta, hogy aggódik a mélyhamisítás, az emberi életet fenyegető mesterséges intelligencia vagy a jogellenes használat miatt. [9]* 

1. AI-fejlesztett adathalászat és Social Engineering

A meggyőző adathalászat új korszaka

• Mi történik?
  A bűnözők a generatív mesterséges intelligenciát használják a tökéletes, személyre szabott adathalász e-mailek és szövegek létrehozására. Elmúltak a nevetséges nyelvtani hibák. Ma már ezek az e-mailek csiszoltnak és hipercélzottnak tűnnek, és még az éber címzetteket is megtévesztik. [2][3]
• Hivatalos figyelmeztetések
  Az FBI San Franciscó-i részlege arra figyelmeztet, hogy "a kiberbűnözők egyre nagyobb fenyegetést jelentenek, amikor a mesterséges intelligenciával működő eszközöket használnak a rendkívül célzott adathalász kampányok megszervezésére". [2] 2024-ben az IC3 az adathalászattal kapcsolatos veszteségek folyamatos növekedéséről számolt be - bár nem adnak pontos számadatot arról, hogy ezek közül mennyi az AI által vezérelt. [3] Minőségi szempontból azonban a nyomozók a kifinomultabb, a tipikus piros zászlókat megkerülő adathalászkísérletek számottevő növekedését látják.
• Tényellenőrzés kiemelése
  Bár az adathalászattal kapcsolatos panaszok összességében az egekbe szöknek, az FBI nem tette közzé a kizárólag a mesterséges intelligenciának tulajdonítható pontos százalékos arányt. Ehelyett inkább az ilyen, mesterséges intelligenciával feljavított csalások növekvő realitását és sikerességi arányát hangsúlyozzák. Ez egy kiváló példa arra, hogy a fenyegetés valós - még akkor is, ha pontos számok nem állnak rendelkezésre.

A vállalkozásokra és a magánszemélyekre gyakorolt hatások

• Üzleti e-mail veszélyeztetés (BEC):
  A mesterséges intelligencia segít a csalóknak lemásolni a vezetői e-maileket, vagy több nyelven testre szabni az üzeneteket, növelve ezzel a BEC-csalások sikerét. A BEC-csalásokból származó veszteségek az FBI szerint 2023-ban meghaladták az $2,9 milliárdot, és 2024-ben várhatóan még ezt is túlszárnyalják - bár az AI-szeletet még figyelik. [3]
• Személyi veszteségek:
  Az emberek jól megtervezett hamis banki figyelmeztetésekkel vagy "romantikus átverés" levelekkel szembesülnek, amelyek szívszorítóan valóságosnak tűnnek. Ez lopott hitelesítő adatokhoz, kiürített bankszámlákhoz és személyazonosság-lopáshoz vezetett [2]. Az idősek továbbra is különösen sebezhetőek, mivel a bűnözők képesek hangokat klónozni vagy gondnok-szerű üzeneteket előállítani.

2. Deepfake megszemélyesítés és csalás

Hamis hangok, valódi pénz

Képzelje el, hogy kap egy kétségbeesett hívást egy szerettének a hangjától, aki váltságdíjért könyörög. A valóságban, Az AI a közösségi médiából származó mintákat használt, hogy pontosan ezt az énekhangot hozza létre. 

Az FBI IC3 közleménye szerint a hangklónozás a zsarolás és a pénzügyi csalások új eszközévé vált. [2][5] Olyan esetekről is beszámoltak, amikor "hamis vezérigazgatói" hívásokat kezdeményeztek, amelyekkel az alkalmazottakat pénzeszközök átutalására csalták.

Példa erre: 2023-ban egy arizonai anyát majdnem átvertek, amikor azt hitte, hogy tinédzser lánya zokogó hangját hallja egy hamis "emberrablás" hívásban. Szerencsére meggyőződött lánya biztonságáról, mielőtt pénzt utalt volna.

Deepfake videók és megszemélyesítés

A bűnözők mesterséges intelligencia által generált videohívásokat is készítenek, amelyekben valósághű "vezérigazgatók" vagy "üzleti partnerek" szerepelnek, és arra utasítják az alkalmazottakat, hogy engedélyezzenek nagy összegű átutalásokat. Az Igazságügyi Minisztérium (DOJ) figyelmeztet, hogy ezek a mélyen hamisított videohívások idegesítően hitelesek, különösen távoli vagy hibrid munkakörnyezetekben. [4][7]

Tényellenőrzés:
A bűnüldöző szervek több esetet is megerősítettek, de nem tettek közzé hivatalos számot a deepfake esetekről. A bejelentett példák azonban összhangban vannak az FBI/DOJ következetes figyelmeztetéseivel, amelyek szerint a deepfake technológia csalásokhoz való felhasználása "erőteljesen megugrott". [2][4][7]

3. Mesterséges intelligencia által generált szextorongálás és szintetikus média visszaélés

Ártatlan képek megváltoztatása kizsákmányolásra

• Mi történik?
  A bűnözők jóindulatú fotókat vesznek (a közösségi médiából vagy más módon), és manipulálják azokat explicit anyaggá. Ez az úgynevezett "deepfake sextortion" az AI azon képességéből él, hogy zavaróan meggyőző képeket vagy videókat tud létrehozni. [5]
• Az áldozatok között kiskorúak is vannak
  Az FBI egy 2023-as PSA-ban megjegyezte, hogy megnőtt a szextorziós esetek száma, amikor kiskorúak képeiből hamis pornográf anyagokat készítettek. Az elkövetők ezután azzal fenyegetőznek, hogy megosztják vagy közzéteszik ezeket a hamisított képeket, hacsak az áldozatok nem fizetnek vagy nem szolgáltatnak valódi szexuális tartalmakat. [5]
• Gyermekek szexuális zaklatásával kapcsolatos anyagok (CSAM)
  A DHS és a DOJ megerősítette, hogy mesterséges intelligencia eszközöket használnak mesterséges intelligenciával generált, gyermekek szexuális zaklatását tartalmazó tartalmak létrehozására. 2024 augusztusában a DOJ letartóztatott egy személyt, aki AI-t használt gyermekpornográfia előállítására. [6] A bűnüldöző szervek hangsúlyozzák, hogy "az AI által generált CSAM még mindig CSAM". 

Tényellenőrzési emlékeztető:
A hivatalos források egyértelműen illegálisnak tekintik az AI által manipulált CSAM-ot. A pontos elterjedési adatok hiányosak, de több végrehajtási intézkedés is megerősíti a valós és növekvő fenyegetést.

4. Mesterséges intelligencia által vezérelt dezinformáció és politikai beavatkozás

• Választási beavatkozás 2.0
  2024 júliusában az igazságügyi minisztérium felszámolt egy titkos orosz botfarmot, amely mesterséges intelligenciával feljavított hamis személyiségeket használt a dezinformáció terjesztésére [4][7]. Ezek az AI által generált közösségi média fiókok olyan kifinomultan terjesztettek megosztó narratívákat, amelyeket az automatizált szűrők nehezen tudtak felismerni.
• Belföldi és külföldi befolyás
  Wray FBI-igazgató megjegyzi, hogy "a generatív mesterséges intelligencia... csökkenti a belépési korlátot" [1], megkönnyítve mind a külföldi ellenfelek, mind a hazai csoportok számára, hogy hihető "álhíreket" készítsenek, videókat hamisítsanak vagy politikusoknak adják ki magukat.
• Nem csak spam
  Ez a tartalom alááshatja a közbizalmat, zavart kelthet a választások során, vagy rosszindulatú pénzügyi tervekre ösztönözhet. [4][8] A DHS a mesterséges intelligencia által vezérelt dezinformációt a "kibernetikai eszközökkel támogatott" bűncselekmények közé sorolja - felismerve, hogy bár nem feltétlenül jár közvetlen hackertámadással, de illegális vagy megtévesztő célokra használja ki a digitális platformokat.

Tényellenőrzés kontextus:
A DOJ jól dokumentálta a "botfarm" felszámolását. [4][7] Független biztonsági kutatók megerősítik, hogy a mesterséges intelligencia által generált személyiségek létrehozása növekszik. A hivatalos ügynökségek azonban ritkán adnak ki pontos mérőszámokat (pl. "A dezinformáció 30%-je ma már AI-alapú"). Ehelyett inkább arra összpontosítanak, hogy e kampányok komolyságát és kifinomultságát hozzák nyilvánosságra.

5. Új fenyegetések: Malware és hacker támadások

WormGPT és azon túl

Az underground fórumokon a bűnözők olyan mesterséges intelligenciamodelleket reklámoznak, mint a "WormGPT", amelyeket rosszindulatú programok írására hangoltak. A DHS figyelmeztet, hogy ezek az eszközök "olyan tudáshiányt pótolnak, mint a számítógépes kódolás", lehetővé téve a viszonylag képzetlen hackerek számára, hogy fejlett támadásokat indítsanak [8]. Bár a nagyszabású, mesterséges intelligenciával írt rosszindulatú szoftverek még korlátozottak, a szakértők szerint a jövőben komoly aggodalomra adnak majd okot.

Adaptív malware?

Biztonsági kutatók bebizonyították, hogy a mesterséges intelligencia által vezérelt rosszindulatú szoftverek képesek kódjukat átalakítani ("polimorfizmus"), hogy elkerüljék a vírusirtók észlelését. A DHS elméletileg olyan "öntanuló" rosszindulatú szoftverekről is beszélt, amelyek önállóan tesztelik az új exploitokat, de 2024-ben még ritkák a valós példák. [8]

Tényellenőrzés:
A legtöbb nagy horderejű támadás (például a zsarolóprogramok) még mindig hagyományos módszerekre támaszkodik, de az FBI, az NSA és a kiberbiztonsági szakértők annak jeleit látják, hogy a mesterséges intelligencia egyre inkább a kiberbűnözők arzenáljának részévé válik. További fejleményekre - és valószínűleg több hivatalos statisztikára - számíthatunk 2025-ig.

Hatások és főbb statisztikák (tényellenőrzés)

1. Általános számítógépes bűnözéssel kapcsolatos panaszok
   • Az FBI IC3-hoz 2023-ban több mint 880 000 kiberbűnözéssel kapcsolatos panasz érkezett, a bejelentett veszteségek meghaladták az $12,5 milliárdot - ez 22% veszteségnövekedést jelent 2022-hez képest. [3]
   • Bár a mesterséges intelligencia pontos részét nem követik nyomon, a szakértők úgy vélik, hogy a mesterséges intelligencia realizmusa magasabb sikerességi arányt eredményez az adathalász, BEC és megszemélyesítő csalásokban. [2][3]
2. Üzleti e-mail kompromittálás (BEC)
   • Továbbra is a számítógépes bűnözés egyik legköltségesebb formája, a bejelentett veszteségek 2023-ban meghaladják az $2,9 milliárd eurót. [3] Az AI szerepe? Kifinomultabb e-mailek, jobb lokalizáció, és esetenként mélyreható hívások vagy videók.
3. Deepfake szextorzió
   • Az FBI nem tesz közzé végleges számot a deepfake-alapú szextorziós incidensekről, de "havonta több új jelentés is felbukkan". [5]
   • Áldozati hatás: Személyes megaláztatás, pénzügyi zsarolás és érzelmi trauma.
4. Dezinformációs műveletek
   • A DOJ 2024 júliusában megzavart egy mesterséges intelligenciával működő orosz botfarmot [4][7]. A szövetségi ügynökségek hangsúlyozzák az AI által terjesztett dezinformáció veszélyét az amerikai választásokra és a demokratikus folyamatokra.
5. Tényellenőrzés a "harmadik legnagyobb gazdaság" mítoszról
   • Egyes médiaszalagcímek a kiberbűnözés globális költségeit a nagy nemzetek GDP-jéhez hasonlítják, de az Egyesült Államokban jelentett $10-12 milliárdos éves veszteségek nyilvánvalóan nem ilyen mértékűek [3]. Elemzők becslései szerint azonban a számítógépes bűnözés globális gazdasági hatása elérheti a trilliárdokat, ami elméletileg a legnagyobb gazdaságok közé sorolja, ha az összes közvetett költséget is figyelembe vesszük.
6. "Ötből egy bűncselekmény online" Kontextus
   • Bizonyos régiókban a bejelentett bűncselekmények mintegy 20-25% része ma már kibernetikai vonatkozású. Ez a szám nem feltétlenül érvényes az egész világra, de rávilágít arra, hogy a teljes bűnözés növekvő hányada digitális.

Jogérvényesítő és szakpolitikai válaszok

1. A DOJ keményebb álláspontja
   • Lisa Monaco főállamügyész-helyettes "szigorúbb büntetéseket" ígért az olyan bűnözőknek, akik a mesterséges intelligenciát a bűncselekmények felerősítésére használják fel - a mesterséges intelligenciát súlyosbító tényezőként kezelve csalás, gyermekkizsákmányolás és más bűncselekmények esetében. [6]
2. Belbiztonsági mesterséges intelligencia munkacsoport
   • A DHS kiterjeszti erőfeszítéseit a mesterséges intelligencia által vezérelt csalások felderítésére, a deepfake felderítés kezelésére és a kiskorúak védelmére a mesterséges intelligencia által generált kizsákmányolással szemben. [8] Azt is vizsgálja, hogyan lehet a mesterséges intelligenciát védelmi célokra használni, a hálózatokat anomáliák után kutatva.
3. Vállalati megfelelés
   • A DOJ most azt kéri a vállalatoktól, hogy mutassák be, hogyan kezelik a mesterséges intelligenciával kapcsolatos kockázatokat megfelelőségi programjaikban. Ha nem akadályozzák meg, hogy az alkalmazottak visszaéljenek a mesterséges intelligenciával, vagy figyelmen kívül hagyják a mesterséges intelligencia biztonsági réseit, az a vállalati felelősséget növelheti. [6]
4. Ismeretterjesztő kampányok
   • Az FBI, az FCC és az FTC mind fogyasztói figyelmeztetést adott ki a mesterséges intelligencia alapú "nagyszülői" csalásokról és a mélyenszántó emberrabló hívásokról. Az üzenet? Mindig ellenőrizzük a gyanús hívásokat és üzeneteket - a mesterséges intelligencia korszakában a látás (vagy hallás) már nem számít hitnek. [2][5]

56% az amerikaiak közül azt mondja, hogy aggódik a káros mesterséges intelligencia miatt

2024 novemberében az Undetectable AI 1000 amerikait kérdezett meg az Egyesült Államokban. [9] A 18 és 27 év közötti válaszadók 23% szerint az AI egzisztenciális fenyegetést jelent az emberiségre nézve, 18% aggodalmát fejezte ki az adatok jogellenes felhasználása vagy az adatvédelem miatt, 15% pedig amiatt aggódott, hogy az AI technológiát mély hamisítványok létrehozására használják.

Előretekintés: 2025 és azon túl

Annak ellenére, hogy a mesterséges intelligencia által vezérelt támadások pontos elterjedtségére vonatkozó adatok korlátozottak, a tendencia egyértelmű: a mesterséges intelligencia csökkenti a bűnözők előtt álló akadályokat, reálisabb csalásokat tesz lehetővé és fokozza a dezinformációt. Eközben a védők - a bűnüldöző szervek, a kiberbiztonsági szakértők és a szabályozó hatóságok - fokozzák a védekezést. Várhatóan:

• További mesterséges intelligencia a védelemben: Eszközök a mély hamisítványok törvényszéki vizsgálatához, AI-alapú adathalász-szűrők és anomália-érzékelés a hálózatokban.
• Kibővített szabályozási felügyelet: A DOJ, a SEC és mások valószínűleg tovább fognak fellépni a mesterséges intelligenciával való visszaélésekkel szemben, súlyosabb büntetéseket szabva ki a mesterséges intelligenciával kapcsolatos bűncselekményeket elősegítő személyekre vagy szervezetekre.
• Szélesebb körű nemzetközi együttműködés: A kiberbűnözés nem ismer határokat, és a közös műveletek - mint például a DOJ 2024 júliusában végrehajtott, egy orosz botfarm elleni akciója - egyre gyakoribbá válnak.

Következtetés: A kiberbűnözés erősségének fokozója

A hivatalos forrásokból és a szakértői elemzésekből az derül ki, hogy a mesterséges intelligencia a meglévő kiberbűnözői módszereket felturbózza. A bűnözők a hiperrealisztikus adathalászattól a "hamis vezérigazgatói" hanghívásokig a generatív mesterséges intelligenciát arra használják, hogy jelentősen javítsák sikerességi arányukat - és kihasználják az áldozatokat, akik korábban egyszerű "megérzésekre" (helyesírási hibák, hamis akcentus stb.) támaszkodtak az átverések kiszűrése során.

Maradjon éber és tájékozott

A nyilvánosság tudatossága és ellenőrzése kritikus fontosságú ebben a gyorsan növekvő környezetben. Legyen szó akár a C-suite vezetőjéről, aki az utolsó pillanatban kap egy távirati kérést, akár egy nyugdíjasról, akit egy "válságban lévő unoka" hív, vagy egy közösségi média felhasználóról, aki egy politikusról készült szenzációs videóval szembesül, ne feledje: ha valami nem stimmel, ellenőrizze le. A mesterséges intelligencia azt jelenti, hogy a bűnözők megdöbbentő pontossággal képesek valódi embereket utánozni vagy illúziókat kelteni.

Módszertan

Ezt a kutatást hivatalos kormányzati források (például az Igazságügyi Minisztérium által közzétett dokumentumok és az IC3 éves internetes bűnözésről szóló éves jelentése) vizsgálatával végeztük. Megvizsgáltuk továbbá a mesterséges intelligenciával kapcsolatos, újonnan megjelenő kiberbűnözési fenyegetésekről szóló, megbízható harmadik féltől származó kommentárokat és tudósításokat. Több mint 1000 amerikai levelezőt is megkérdeztünk, hogy megértsük a mesterséges intelligenciával kapcsolatos aggodalmaikat. Végezetül a jelentést tényellenőrzésnek vetettük alá, hogy garantáljuk a hivatkozott források pontosságát és naprakészségét.

Tisztességes használat

Szívesen látjuk és bátorítjuk, hogy ezeket az adatokat egy történetben vagy cikkben szerepeltesse. Kérjük, feltétlenül adjon meg egy hivatkozást a Undetectable AI-ra, és csatoljon egy linket erre az oldalra, hogy az olvasók megtekinthessék a teljes jelentést.

Hivatkozások

1. FBI: FBI: Készüljünk fel a választási évre a zsíros tempójú fenyegetésekkel, amelyeket a rosszfiúk mesterséges intelligenciával hajtanak végre - Defense One
2. Az FBI a mesterséges intelligenciát használó kiberbűnözők növekvő fenyegetésére figyelmeztet (2024. május 8.)
3. Internetes Bűnügyi Panaszközpont (IC3) - 2023-as internetes bűnügyi jelentés és kapcsolódó PSA-k
4. Office of Public Affairs | Az Igazságügyi Minisztérium vezeti az erőfeszítéseket... az orosz kormány által működtetett titkos közösségi média botfarm megzavarására (2024. július 9.)
5. Internet Crime Complaint Center (IC3) | PSA: Rosszindulatú szereplők manipulálják a fényképeket és videókat, hogy explicit tartalmakat és szextorziós módszereket hozzanak létre (2023. június 5.)
6. Letartóztattak egy férfit, aki AI-generált képeket gyártott, terjesztett és birtokolt szexuálisan kihívóan viselkedő kiskorúakról
7. DOJ & Partners Disrupt Russian Bot Farm - Enforcement Details (July 2024)
8. DHS: "A mesterséges intelligencia hatása a bűnügyi és tiltott tevékenységekre" (2024. szeptember 27.) 
9. 2024 Felmérést végzett a kimutathatatlan AI