Generatiiviset tekoälytyökalut ovat kehittäneet syväväärennökset tieteellisestä tutkimuksesta suureksi julkiseksi huolenaiheeksi. Kesäkuun 2025 tutkimustulosten mukaan ihmiset osoittavat pelkoa synteettistä mediaa kohtaan ja samalla kyvyttömyyttä havaita se.
FBI toteaa, että tekoälyteknologia mahdollistaa rikollisen toiminnan kolmella päämenetelmällä, joita ovat tekoälyn luomat roskapostiviestit, tekoälyn luomat sosiaalisen median persoonat ja tekoälyn koodaamat phishing-sivustot.
Näiden järjestelmien tavoitteena on sekä yritysten että yksittäisten kuluttajien taloudellinen hyväksikäyttö. Deepfake-teknologian ja tekoälyn yhdistelmä johti yli $200 miljoonan euron tappiot vuoden 2025 aikana.
Suurin osa amerikkalaisista (85%) menetti luottamuksensa verkkotietoihin viime vuoden aikana väärennösten vuoksi ja 81% pelkää henkilökohtaista haittaa väärennetystä ääni- ja videosisällöstä. Yli 90% käyttäjistä ei käytä tunnistustyökaluja. Tiedot osoittavat, että luottamusvaje on kasvussa, mikä edellyttää sääntelyviranomaisilta, alustojen ylläpitäjiltä ja teknologiaosaajilta välitöntä puuttumista asiaan.
Keskeiset havainnot
| Insight | Tukevat tiedot |
|---|---|
| Deepfake-video on pelkoindeksin kärjessä. | 73,5 % vastaajista valitsi väärennetyn videon muodoksi, josta he ovat "eniten huolissaan", ja seuraavina olivat kuvat (63,6 %), ääni (52,5 %) ja teksti (47,2 %). |
| Täysimittainen luottamuskriisi on kehittymässä. | 85,4 % ilmoittaa, että he ovat viimeisten 12 kuukauden aikana luottaneet vähemmän uutisiin, valokuviin tai videoihin verkossa realististen väärennösten vuoksi. |
| Henkilökohtaisesta uhkailusta on tullut valtavirtaa. | 80,8 % ovat huolissaan siitä, että huijarit tai pahantekijät voivat käyttää väärennettyä sisältöä heitä tai heidän perhettään vastaan. |
| Vahva moraalinen yksimielisyys suostumuksesta. | 62.2 % sanovat, että oikean henkilön kuvan käyttäminen ilman lupaa on ei koskaan hyväksyttävää; vain 2.7 % sanovat, että se on aina hyväksyttävää. |
Menetelmä
- Näyte ja kenttätyö. Rekrytoimme 1 000 yhdysvaltalaista aikuista käyttämällä ikä-, sukupuoli- ja aluekohtaisia kiintiöitä, jotka on sovitettu yhteen Yhdysvaltojen väestönlaskennan vertailuarvojen kanssa. Kenttätyö saatiin päätökseen 18 kesäkuuta 2025.
- Kysymyksen suunnittelu. Viidellä suljetulla kysymyksellä mitattiin huolta erilaisista väärennösmuodoista, viimeaikaisia muutoksia luottamuksessa, koettua henkilökohtaista riskiä, eettisiä näkemyksiä suostumuksesta ja havaitsemisohjelmiston aiempaa käyttöä.
- Virhemarginaali. ±3,1 prosenttiyksikköä 95 % luottamustasolla.
- Painotus. Stratifioinnin jälkeisellä painotuksella korjattiin pienet poikkeamat kansallisesta väestötiedosta.
Kysymykset
Kysymys 1: Mistä tekoälyn syväväärennösten muodosta olet eniten huolissasi? (Valitse kaikki soveltuvat)
Kysymys 2: Onko realististen tekoälyn väärennettyjen kuvien ja videoiden yleistyminen vähentänyt todennäköisyyttäsi luottaa uutisiin ja videoihin/valokuviin/artikkeleihin, joita olet nähnyt verkossa viimeisten 12 kuukauden aikana?
Kysymys 3: Oletko huolissasi siitä, että joku voisi käyttää tekoälyn deepfake-teknologiaa luodakseen sinusta tai perheestäsi väärän videon tai äänen (esimerkiksi esiintyäkseen sinuna huijauksessa tai mustamaalatakseen sinua)?
Kysymys 4: Onko mielestänne hyväksyttävää, että elokuvat tai tiedotusvälineet käyttävät tekoälyn deepfake-teknologiaa kuvaamaan oikeita ihmisiä (kuten näyttelijöitä tai julkisuuden henkilöitä) ilman heidän suostumustaan?
Trendianalyysi
- Videon ahdistuneisuus ylittää muut formaatit
Aikaisemmin video oli luotettava väline, johon ihmiset uskoivat, kun he näkivät sen. Synteettiset videohuolet hallitsevat nyt amerikkalaisten mieliä, koska video on menettänyt luotettavan asemansa. Ihmiset pelkäävät videota enemmän kuin kuvaa 10 pisteen marginaalilla (73,5% vs. 63,6%), koska videon liike yhdistettynä synkronoituun ääneen ja realistiseen ulkonäköön lisäävät heidän huoltaan. Mediaorganisaatioiden olisi otettava käyttöön tiukat videosisällön todentamismenettelyt ennen sen julkaisemista yleisölle.
- Tietoon perustuvan luottamuksen rapautuminen
Yleisön luottamuksen massiivinen 85%-pudotus osoittaa, että kaikenlainen digitaalinen sisältö epäilyttää laajalti riippumatta sen ilmeisestä uskottavuuden puutteesta. "Halpaa puhetta" koskeva teoria osoittaa, kuinka helppoa sepittäminen on tehnyt totuuden todentamisen kuluttajan vastuulle. Julkisuuden henkilöiden ja toimittajien sekä poliittisten päättäjien on valmistauduttava lisääntyneeseen valvontaan investoimalla selkeisiin todentamismenetelmiin (kuten kryptografisiin vesileimoihin ja allekirjoitettuihin metatietoihin).
Älä enää koskaan murehdi tekoälyn havaitsevan tekstejäsi. Undetectable AI Voi auttaa sinua:
- Tee tekoälyavusteinen kirjoittaminen näkyväksi ihmisen kaltainen.
- Bypass kaikki tärkeimmät tekoälyn tunnistustyökalut yhdellä napsautuksella.
- Käytä AI turvallisesti ja luottavaisesti koulussa ja työssä.
- Deepfakesista tulee henkilökohtaisia
Suurin osa vastaajista (85%) kuvittelee, että he tai heidän perheenjäsenensä joutuvat väärennettyjen hyökkäysten uhreiksi. Käsitys syväfakeista vaaleihin ja julkisuuteen keskittyvinä poliittisina disinformaatiovälineinä on viime aikoina siirtynyt henkilökohtaisiin uhkauksiin. Tekoälyn äänikloonaus- ja kasvojenvaihtosovellusten yleistyminen on tehnyt identiteettivarkauksista ja taloushuijauksista uskottavia uhkia tavallisille kotitalouksille, mikä on herättänyt vaatimuksia uhrien oikeussuojakeinojen ja identiteettisuojaa koskevien lakien parantamisesta.
- Lähes yleinen suostumuksen vaatimus
Kyselyn eettinen kysymys paljastaa, miten Hollywood-yhteisö on edelleen jakautunut synteettisten näyttelijöiden ja postuumisti tehtyjen esitysten suhteen. Yleisön vahva kanta yksilön oikeuksien loukkaamista vastaan nousi vaihtoehdoksi "ei koskaan hyväksyttävä", jota kannatti 62,2 prosenttia vastaajista. Viranomaisten tulisi käyttää tätä näyttöä luodakseen lakeja, jotka edellyttävät yksilöiden nimenomaista suostumusta ennen tekoälyllä luotujen kaltaisten esitysten luomista, ja varmistaakseen asianmukaisten merkintöjen julkistamisen.
- Valmiuskuilu ja koulutusmahdollisuudet
Vaikka asiasta ollaan erittäin huolissaan, 89,5 prosenttia vastaajista ei ole käyttänyt havaitsemisvälineitä. Markkinoilla on piilevää potentiaalia, sillä kiinnostus ylittää nykyiset käyttömahdollisuudet, mikä viittaa käytettävyyteen ja tietoisuuteen liittyviin ongelmiin sekä epäilyihin tehokkuudesta. Undetectable AI:n on muiden alan toimijoiden ohella luotava yksinkertaisia käyttöönottoprosesseja ja lisättävä havaintotyökaluja kuluttaja-alustoihin sekä kehitettävä koulutusohjelmia, joissa selitetään tekoälyteknologiaa yleisölle.
Vaikutukset sidosryhmiin
| Sidosryhmä | Toimintakelpoinen hyöty |
|---|---|
| Uutiset ja sosiaaliset alustat | Otetaan käyttöön todennettuja mediastandardeja (C2PA, W3C:n provenance-standardit) ja "alkuperän todennettuja" merkkejä yleisön luottamuksen palauttamiseksi. |
| Viihdestudiot | Laaditaan nimenomaiset suostumussopimukset synteettisistä kuvista ja otetaan käyttöön ruudulla olevat ilmoitukset, kun tekoälyä käytetään virkistyskäyttöön. |
| Säätimet | Edistetään julkisuusoikeus- ja väärennösmerkintälakiesityksiä, jotta ne vastaisivat yleisön suostumusodotuksia. |
| Yritykset & tuotemerkit | Seuraa ennakoivasti tuotemerkin kuvia manipuloinnin varalta ja kouluta työntekijöitä epäilyttävän sisällön havaitsemiseen. |
| Kuluttajat | Etsi hyvämaineisia tunnistustyökaluja ja harjoittele digitaalista hygieniaa "pysäytä, tarkista ja jaa" ennen median monistamista. |
Kommentit
Keräsimme kyselyyn osallistujilta lisävastauksia, jotka liittyivät tekoälyn syvien väärennösten tunnistustyökalujen käyttöön, ja niistä kävi ilmi, että jotkut käyttävät niitä jo, ja suuri osa henkilöistä ilmoitti, etteivät he olleet tietoisia niistä, mutta ovat kiinnostuneita oppimaan lisää. Kyselyn täydelliset tiedot ovat saatavilla pyydettäessä.
Tämä raportti on tekoälytiivistelmä kaikista havainnoistamme, jotka ovat saatavilla pyynnöstä.
Päätelmä
Deepfake-huolia vuonna 2025 määrittää jyrkkä paradoksi: Yleisön hälytyksen lisääntyminen ja vähäiset suojelutoimet ovat risteytyneet. Koska luottamus on perustavanlaatuisessa laskussa, organisaatioilla on kiireellinen tehtävä todentaa, merkitä ja todentaa digitaalinen sisältö.
Oikeudenmukainen käyttö
Voit vapaasti käyttää näitä tietoja artikkelissa tai blogikirjoituksessa, kunhan annat meille linkin ja viittauksen. Jos haluat tutustua koko tutkimusaineistoon, ota meihin suoraan yhteyttä.
Jos haluat lehdistölle tiedusteluja tai saada käyttöönsä täydelliset ristiintaulukot, ota yhteyttä [email protected] tai [email protected]