Tekoälyn tietoverkkorikollisuuden trendit ja miten ne voivat vahingoittaa sinua vuonna 2025

"Tekoäly toimii verkkorikollisten suorituskyvyn tehostajana. Se nostaa tehokkaasti keskitason pahiksia." [1]

Viime vuoden aikana tekoäly on kehittynyt nopeasti, ja sen avulla voidaan tehdä kaikkea henkilökohtaisista hakutoiminnoista kehittyneeseen lääketieteelliseen diagnostiikkaan. Mutta samalla kun teknologia ryntää eteenpäin, pimeämpi todellisuus uhkaa: tietoverkkorikolliset... käyttävät näitä samoja tekoälyn läpimurtoja aseina - tarkentaa huijauksia, esiintyä uhreina ja vahvistaa laittomia yrityksiä. 

Valtion virastot - FBI:n Internet Crime Complaint Center (IC3) ja sisäisen turvallisuuden ministeriö (DHS) - ovat pitäneet tekoälyyn perustuvaa tietoverkkorikollisuutta nopeasti kasvavana ongelmana. [2][8]

Tutkimme Yhdysvaltain hallituksen havaintoja ja uskottavia kolmansien osapuolten analyysejä siitä, miten tekoälyä käytetään tietoverkkorikollisuudessa vuonna 2024. Osoitteesta pelottavia deepfake-huijauksia voimakkaaseen phishing-kampanjatTässä on, mitä tiedot - ja faktatarkastukset - paljastavat.

Keskeiset asiat:

1. Tekoäly on osasyynä mutta ei yksin syynä kaikkiin verkkohyökkäyksiin. Perinteinen hakkerointi jatkuu edelleen laajamittaisena.
2. Deepfake-imitointi ei ole enää tieteiskirjallisuutta, vaan sitä tapahtuu nyt.
3. Tekoälyn avulla tapahtuva seksisironta ja CSAM-tuotanto on lainvalvonta- ja lastensuojeluviranomaisten kiireellinen painopistealue.
4. Harhaanjohtava informaatio on kansallinen turvallisuusuhka, ja tekoäly lisää uskottavampia väärennettyjä henkilöitä ja tarinoita.
5. Tiukempi valvonta on näköpiirissä, sillä oikeusministeriö ja FBI lupaavat suhtautua tekoälyavusteisiin rikoksiin entistä vakavammin.
6. 56% kyselyyn vastanneista amerikkalaisista ilmoitti olevansa huolissaan syväväärennöksistä, tekoälystä, joka uhkaa ihmishenkiä, tai sen laittomasta käytöstä. [9]* 

1. Tekoälyllä tehostettu phishing ja Social Engineering

Vakuuttava phishingin uusi aikakausi

• Mitä tapahtuu?
  Rikolliset käyttävät generatiivista tekoälyä luodakseen täydellisiä, yksilöllisiä phishing-sähköposteja ja tekstejä. Naurettavien kielioppivirheiden ajat ovat ohi. Nyt nämä sähköpostiviestit näyttävät hiotuilta ja erittäin kohdennetuilta ja huijaavat jopa valppaita vastaanottajia. [2][3]
• Viralliset varoitukset
  FBI:n San Franciscon osasto varoittaa "kasvavasta uhasta, jonka mukaan verkkorikolliset käyttävät tekoälyllä toimivia työkaluja erittäin kohdennettujen phishing-kampanjoiden järjestämiseen". [2] Vuonna 2024 IC3 raportoi, että phishingiin liittyvät tappiot lisääntyvät edelleen, mutta se ei anna tarkkaa tietoa siitä, kuinka moni niistä on tekoälyn ohjaama. [3] Laadullisesti tutkijat näkevät kuitenkin huomattavaa kasvua kehittyneemmissä phishing-yrityksissä, jotka ohittavat tyypilliset punaiset liput.
• Faktatarkistus Kohokohta
  Vaikka phishing-ilmoitusten määrä on yleisesti ottaen kasvanut huimasti, FBI ei ole julkaissut tarkkaa prosenttiosuutta, joka johtuisi yksinomaan tekoälystä. Sen sijaan he korostavat näiden tekoälyllä tehostettujen huijausten kasvavaa realistisuutta ja onnistumisprosenttia. Se on erinomainen esimerkki uhasta, joka on todellinen - vaikka tarkat luvut ovatkin vaikeasti määritettävissä.

Vaikutukset yrityksiin ja yksityishenkilöihin

• Yrityssähköpostivirhe (BEC):
  Tekoäly auttaa huijareita kopioimaan johtajien sähköpostiviestejä tai räätälöimään viestejä useilla kielillä, mikä lisää BEC-petosten onnistumista. FBI:n mukaan BEC-huijausten tappiot ylittivät $2,9 miljardia euroa vuonna 2023, ja vuonna 2024 niiden odotetaan ylittävän tämän määrän - vaikka tekoälyn osuutta seurataan edelleen. [3]
• Henkilökohtaiset menetykset:
  Ihmiset kohtaavat hyvin laadittuja väärennettyjä pankkihälytyksiä tai "romanssihuijauskirjeitä", jotka vaikuttavat sydäntäsärkevän aidoilta. Tämä on johtanut varastettuihin tunnistetietoihin, tyhjennettyihin pankkitileihin ja identiteettivarkauksiin [2]. Erityisen haavoittuvaisia ovat iäkkäät ihmiset, sillä rikolliset voivat kloonata ääniä tai tuottaa hoitajan kaltaisia viestejä.

2. Deepfake-imitaatio ja petos

Fake Voices, Real Money

Kuvittele, että saat hätäisen puhelun, jossa rakkaasi ääni anelee lunnasrahoja. Todellisuudessa, Tekoäly käytti sosiaalisesta mediasta otettuja näytteitä luodakseen juuri tuon äänenkäytön. 

FBI:n IC3-tiedotteiden mukaan äänikloonaus on noussut uudeksi välineeksi kiristykseen ja taloudellisiin huijauksiin. [2][5] On myös raportoitu tapauksista, joissa "väärennetyt toimitusjohtajapuhelut" huijaavat työntekijöitä siirtämään varoja.

Esimerkkitapaus: Vuonna 2023 arizonalaista äitiä melkein huijattiin, kun hän uskoi kuulleensa teini-ikäisen tyttärensä nyyhkyttävän äänen väärennetyssä "kidnappaussoitossa". Onneksi hän varmisti tyttärensä turvallisuuden ennen rahan siirtämistä.

Deepfake-videot ja imitaatio

Rikolliset tuottavat myös tekoälyn luomia videopuheluita, joissa esiintyy realistisia "toimitusjohtajia" tai "liikekumppaneita", jotka kehottavat työntekijöitä hyväksymään suuria siirtoja. Oikeusministeriö (DOJ) varoittaa, että nämä väärennetyt videopuhelut ovat huolestuttavan uskottavia erityisesti etä- tai hybridityöympäristöissä. [4][7]

Faktatarkistus:
Lainvalvontaviranomaiset ovat vahvistaneet useita tapauksia, mutta eivät ole julkaisseet virallista lukua väärennösten määrästä. Raportoidut esimerkit ovat kuitenkin linjassa FBI:n ja oikeusministeriön johdonmukaisten varoitusten kanssa, joiden mukaan deepfake-teknologian käyttö huijauksissa on lisääntynyt jyrkästi. [2][4][7]

3. Tekoälyn luoma seksuaalisuusrikollisuus ja synteettisen median väärinkäyttö

Viattomien kuvien muuttaminen hyväksikäyttöön

• Mitä tapahtuu?
  Rikolliset ottavat hyvänlaatuisia valokuvia (sosiaalisesta mediasta tai muusta) ja muokkaavat niitä eksplisiittiseksi materiaaliksi. Tämä niin sanottu "deepfake-sextortion" perustuu tekoälyn kykyyn luoda häiritsevän vakuuttavia kuvia tai videoita. [5]
• Uhrit ovat alaikäisiä
  FBI totesi vuonna 2023 julkaisemassaan PSA:ssa, että sextortion-tapaukset, joissa alaikäisten kuvia muutettiin väärennetyksi pornografiseksi materiaaliksi, lisääntyivät. Rikoksentekijät uhkaavat sitten jakaa tai julkaista nämä väärennetyt kuvat, elleivät uhrit maksa tai anna todellista seksuaalista sisältöä. [5]
• Lasten seksuaalista hyväksikäyttöä koskeva materiaali (CSAM)
  DHS ja DOJ vahvistavat, että tekoälytyökaluja käytetään tekoälyn tuottaman lasten seksuaalisen hyväksikäytön sisällön luomiseen. Elokuussa 2024 DOJ pidätti henkilön, joka käytti tekoälyä lapsipornon tuottamiseen. [6] Lainvalvontaviranomaiset korostavat, että "tekoälyn tuottama CSAM on edelleen CSAM". 

Muistutus faktatarkistuksesta:
Viralliset lähteet pitävät tekoälyn manipuloimaa CSAM-järjestelmää yksiselitteisesti laittomana. Tarkkoja levinneisyystietoja on niukasti, mutta useat täytäntöönpanotoimet vahvistavat sen todellisen ja kasvavan uhan.

4. Tekoälyn ohjaama disinformaatio ja poliittinen häirintä

• Vaaleihin sekaantuminen 2.0
  Heinäkuussa 2024 oikeusministeriö hajotti salaisen venäläisen bottifarmin, joka käytti tekoälyn avulla parannettuja valehenkilöitä disinformaation levittämiseen [4][7]. Nämä tekoälyn luomat sosiaalisen median tilit levittivät eripuraisia tarinoita niin hienostuneesti, että automaattisten suodattimien oli vaikea havaita niitä.
• Kotimainen ja ulkomainen vaikutusvalta
  FBI:n johtaja Wray toteaa, että "generatiivinen tekoäly... madaltaa kynnystä päästä markkinoille" [1], mikä helpottaa sekä ulkomaisten vastustajien että kotimaisten ryhmien mahdollisuuksia luoda uskottavia "valeuutisia", väärennettyjä videoita tai esiintyä poliitikkoina.
• Ei vain roskapostia
  Tällainen sisältö voi heikentää kansalaisten luottamusta, aiheuttaa hämmennystä vaalien aikana tai rohkaista pahantahtoisiin rahoitusjärjestelyihin. [4][8] Sisäisen turvallisuuden ministeriö luokittelee tekoälystä johtuvan disinformaation "kyberrikollisuudeksi", sillä vaikka siihen ei välttämättä liity suoraa hakkerointia, siinä hyödynnetään digitaalisia alustoja laittomiin tai harhaanjohtaviin tarkoituksiin.

Tarkista asiayhteys:
Oikeusministeriö on dokumentoinut hyvin "bottifarmin" alasajon. [4][7] Riippumattomat tietoturvatutkijat vahvistavat, että tekoälyn luoma henkilöityminen on lisääntymässä. Viralliset virastot julkaisevat kuitenkin harvoin tarkkoja mittareita (esim. "30% disinformaatiosta on nyt tekoälyyn perustuvaa"). Sen sijaan ne keskittyvät julkistamaan näiden kampanjoiden vakavuuden ja kehittyneisyyden.

5. Uudet uhat: Tekoälyavusteiset haittaohjelmat ja hakkerointi

WormGPT ja sen jälkeen

Maanalaisilla foorumeilla rikolliset mainostavat tekoälymalleja, kuten "WormGPT", jotka on hienosäädetty haittaohjelmien kirjoittamista varten. Turvallisuusministeriö varoittaa, että nämä työkalut "täyttävät tietämyksen puutteet, kuten tietokoneen koodauksen", minkä ansiosta suhteellisen ammattitaidottomat hakkerit voivat käynnistää kehittyneitä hyökkäyksiä [8]. Vaikka laajamittaiset tekoälyllä kirjoitetut haittaohjelmat ovat vielä vähäisiä, asiantuntijat ennustavat, että niistä tulee tulevaisuudessa suuri huolenaihe.

Mukautuva haittaohjelma?

Tietoturvatutkijat ovat osoittaneet, että tekoälyn ohjaamat haittaohjelmat voivat muuttaa koodiaan ("polymorfismi") välttääkseen virustorjunnan havaitsemisen. Turvallisuusministeriö on myös esittänyt teorioita "itseoppivista" haittaohjelmista, jotka testaavat itsenäisesti uusia hyväksikäyttötapoja, mutta todelliset esimerkit ovat harvinaisia vuonna 2024. [8]

Faktatarkistus:
Useimmat korkean profiilin hyökkäykset (kuten lunnasohjelmat) perustuvat edelleen perinteisiin menetelmiin, mutta FBI, NSA ja kyberturvallisuusasiantuntijat näkevät merkkejä siitä, että tekoäly on yhä useammin osa verkkorikollisten arsenaalia. Odotettavissa on lisää kehitystä - ja mahdollisesti lisää virallisia tilastoja - vuoteen 2025 mennessä.

Vaikutukset ja keskeiset tilastot (tarkistettu)

1. Tietoverkkorikollisuutta koskevat valitukset yhteensä
   • FBI:n IC3 vastaanotti vuonna 2023 yli 880 000 tietoverkkorikollisuuteen liittyvää valitusta, ja raportoidut tappiot ylittivät $12,5 miljardia euroa - tappiot kasvoivat 22% vuodesta 2022. [3]
   • Vaikka tekoälyn tarkkaa osuutta ei seurata, asiantuntijat uskovat, että tekoälyn realistisuus lisää onnistumisprosenttia phishing-, BEC- ja impersonointihuijauksissa. [2][3]
2. Yrityssähköpostin vaarantaminen (BEC)
   • Se on edelleen yksi kalleimmista tietoverkkorikollisuuden muodoista, sillä vuonna 2023 raportoitujen tappioiden määrä ylittää $2,9 miljardia euroa. [3] Tekoälyn rooli? Hienostuneemmat sähköpostit, parempi lokalisointi ja satunnaisesti deepfake-puhelut tai -videot.
3. Deepfake Sextortion
   • FBI ei julkaise lopullista lukumäärää deepfake-pohjaisista seksirikostapauksista, mutta "useita uusia raportteja joka kuukausi" on tullut esiin. [5]
   • Uhriin kohdistuvat vaikutukset: Henkilökohtainen nöyryytys, taloudellinen kiristys ja henkinen trauma.
4. Desinformaatio-operaatiot
   • Oikeusministeriö hajotti tekoälyllä toimivan venäläisen bottifarmin heinäkuussa 2024 [4][7]. Liittovaltion virastot korostavat tekoälyn levittämän disinformaation uhkaa Yhdysvaltain vaaleille ja demokraattisille prosesseille.
5. Tosiasioiden tarkistus myytistä "kolmanneksi suurin talous".
   • Joissakin otsikoissa verrataan tietoverkkorikollisuuden maailmanlaajuisia kustannuksia suurten valtioiden BKT:hen, mutta Yhdysvaltojen raportoimat $10-12 miljardin euron vuotuiset tappiot eivät tietenkään ole tässä mittakaavassa [3]. Analyytikot kuitenkin arvioivat, että tietoverkkorikollisuuden maailmanlaajuiset taloudelliset vaikutukset voivat nousta biljooniin euroihin, mikä sijoittaa sen teoriassa suurimpien talouksien joukkoon, jos kaikki epäsuorat kustannukset otetaan huomioon.
6. "Yksi viidestä rikoksesta verkossa" Konteksti
   • Joillakin alueilla noin 20-25% ilmoitetuista rikoksista liittyy nykyään tietoverkkoon. Tämä luku ei välttämättä päde maailmanlaajuisesti, mutta se osoittaa, että digitaalisen rikollisuuden osuus kokonaisrikollisuudesta kasvaa.

Lainvalvonta ja poliittiset reaktiot

1. Oikeusministeriön tiukempi kanta
   • Apulaisoikeusministeri Lisa Monaco lupasi "kovempia tuomioita" rikollisille, jotka hyödyntävät tekoälyä rikostensa vahvistamiseen - tekoälyä pidetään raskauttavana tekijänä muun muassa petoksissa ja lasten hyväksikäytössä. [6]
2. Kotimaan turvallisuuden tekoälytyöryhmä
   • Sisäisen turvallisuuden ministeriö laajentaa toimia, joilla pyritään havaitsemaan tekoälyyn perustuvia huijauksia, hallitsemaan väärennösten havaitsemista ja suojelemaan alaikäisiä tekoälyn tuottamalta hyväksikäytöltä. [8] Se tutkii myös, miten tekoälyä voidaan käyttää puolustukseen, kun verkkoja skannataan poikkeavuuksien varalta.
3. Yrityksen vaatimustenmukaisuus
   • Oikeusministeriö pyytää nyt yrityksiä osoittamaan, miten ne käsittelevät tekoälyriskejä compliance-ohjelmissaan. Jos työntekijöitä ei estetä käyttämästä tekoälyä väärin tai jos tekoälyn tietoturva-aukkoja ei oteta huomioon, se voi lisätä yrityksen vastuuta. [6]
4. Julkisuuskampanjat
   • FBI, FCC ja FTC julkaisivat kaikki kuluttajille varoitukset tekoälyyn perustuvista "isovanhempien" huijauksista ja väärennetyistä kidnappauspuheluista. Viesti? Tarkista aina epäilyttävät puhelut ja viestit - tekoälyaikakaudella ei enää uskota, jos näkee (tai kuulee). [2][5]

56% amerikkalaisista sanoo olevansa huolissaan haitallisesta tekoälystä.

Marraskuussa 2024 Undetectable AI -kyselytutkimuksessa haastateltiin 1000 amerikkalaista eri puolilla Yhdysvaltoja. [9] 18-27-vuotiaat vastaajat ilmoittivat, että 23% uskoi tekoälyn olevan eksistentiaalinen uhka ihmiskunnalle, 18% ilmaisi huolensa tietojen laittomasta käytöstä tai tietosuojasta ja 15% oli huolissaan siitä, että tekoälyteknologiaa käytetään syväjäljitelmien luomiseen.

Katse eteenpäin: 2025 ja sen jälkeen

Vaikka tekoälyyn perustuvien hyökkäysten tarkasta yleisyydestä on vain vähän tietoa, suuntaus on selvä: tekoäly madaltaa rikollisten esteitä, mahdollistaa realistisemmat huijaukset ja tehostaa disinformaatiota. Samaan aikaan puolustajat - lainvalvontaviranomaiset, kyberturva-asiantuntijat ja sääntelyviranomaiset - tehostavat toimintaansa. Odotettavissa:

• Lisää tekoälyä puolustukseen: Työkalut deepfake-tekniseen rikostutkintaan, tekoälyyn perustuvat phishing-suodattimet ja poikkeamien havaitseminen verkoissa.
• Laajennettu sääntelyvalvonta: ja määräävät kovempia rangaistuksia henkilöille tai organisaatioille, jotka helpottavat tekoälyyn liittyviä rikoksia.
• Laajempi kansainvälinen yhteistyö: Yhteiset operaatiot - kuten DOJ:n heinäkuussa 2024 tekemä venäläisen bottifarmin tuhoaminen - tulevat yleistymään.

Johtopäätökset: Verkkorikollisuuden moninkertaistaminen

Virallisista lähteistä ja asiantuntijoiden analyyseistä käy ilmi, että tekoäly tehostaa nykyisiä tietoverkkorikollisuuden menetelmiä. Rikolliset käyttävät tekoälyä hyperrealistisesta phishingistä "väärennettyihin toimitusjohtajan" äänipuheluihin parantaakseen huomattavasti onnistumisprosenttiaan - ja hyväksikäyttääkseen uhreja, jotka aiemmin luottivat pelkkään "vaistotarkistukseen" (kirjoitusvirheisiin, väärään aksenttiin jne.) huijausten havaitsemiseksi.

Pysy valppaana ja valistuneena

Yleisön tietoisuus ja todentaminen ovat ratkaisevan tärkeitä tässä nopeasti kasvavassa ympäristössä. Olitpa sitten johtava virkamies, joka saa viime hetken sähkepyynnön, eläkeläinen, joka saa puheluita kriisissä olevalta lapsenlapselta, tai sosiaalisen median käyttäjä, joka kohtaa sensaatiomaisen videon poliitikosta, muista: jos jokin tuntuu oudolta, tarkista se. Tekoälyn avulla rikolliset voivat jäljitellä oikeita ihmisiä tai luoda illuusioita hämmästyttävän tarkasti.

Menetelmä

Tutkimus toteutettiin tutkimalla virallisia viranomaislähteitä (kuten oikeusministeriön julkaistuja asiakirjoja ja IC3:n vuosittaista Internet-rikollisuuden vuosiraporttia). Lisäksi tarkastelimme luotettavien kolmansien osapuolten kommentteja ja uutisointia tekoälyyn liittyvistä uusista tietoverkkorikollisuuden uhkista. Lisäksi teimme kyselytutkimuksen yli 1000 yhdysvaltalaiselle kirjeenvaihtajalle selvittääksemme heidän tekoälyyn liittyviä huolenaiheitaan. Lopuksi tarkistimme tämän raportin tiedot varmistaaksemme, että kaikki mainitut lähteet ovat oikeita ja ajantasaisia.

Oikeudenmukainen käyttö

Olet tervetullut ja rohkaistut käyttämään näitä tietoja jossakin jutussa tai artikkelissa. Muistathan mainita Undetectable AI:n ja liittää linkin tälle sivulle, jotta lukijat voivat tutustua koko raporttiin.

Viitteet

1. FBI: FBI: Valmistautukaa vaalivuoteen, jolloin uhkat ovat lihavia ja tekoälyllä varustetut pahikset - Puolustus Yksi
2. FBI varoittaa tekoälyä hyödyntävien kyberrikollisten kasvavasta uhasta (8. toukokuuta 2024)
3. Internet Crime Complaint Center (IC3) - 2023 Internet Crime Report & Related PSAs (Internetrikosraportti ja siihen liittyvät PSA:t)
4. Office of Public Affairs | Oikeusministeriö johtaa ponnisteluja... Venäjän hallituksen ylläpitämän salaisen sosiaalisen median bottifarmin hajottamiseksi (9. heinäkuuta 2024)
5. Internet Crime Complaint Center (IC3) | PSA: Kuvia ja videoita manipuloivat pahansuovat toimijat luovat eksplisiittistä sisältöä ja seksikiristysjärjestelmiä (5. kesäkuuta 2023)
6. Mies pidätettiin tekoälyn tuottamista, levittämistä ja hallussapitoa varten kuvien tuottamisesta, jakelusta ja hallussapidosta, joissa alaikäiset ovat mukana seksuaalisesti törkeässä toiminnassa.
7. DOJ ja kumppanit häiritsevät venäläistä bot-farmia - täytäntöönpanotiedot (heinäkuu 2024)
8. DHS: "Tekoälyn vaikutus rikolliseen ja laittomaan toimintaan" (27. syyskuuta 2024). 
9. 2024 Huomaamattoman tekoälyn toteuttama tutkimus