AIサイバー犯罪の傾向と2025年の被害予測

「人工知能は、サイバー犯罪者のパフォーマンス向上剤のような役割を果たす。人工知能は、サイバー犯罪者たちのパフォーマンスを向上させるための強化剤のような役割を果たす。[1]

昨年、人工知能（AI）は急速に進化を遂げ、パーソナライズされた検索から高度な医療診断まで、あらゆるものに力を与えている。しかし、テクノロジーが進歩する一方で、サイバー犯罪者という暗い現実が立ちはだかっている。 同じAIのブレークスルーを武器にしている 詐欺を洗練させ、被害者になりすまし、違法事業を増幅させる。 

FBIのインターネット犯罪苦情センター（IC3）から国土安全保障省（DHS）に至るまで、政府機関はAIによるサイバー犯罪が急成長している問題であると指摘している[2][8]。[2][8]

2024年にAIがどのようにサイバー犯罪に利用されているかについて、米国政府の調査結果や信頼できる第三者機関の分析を調査した。以下より 恐ろしいディープフェイク詐欺 強力な フィッシングキャンペーンこのデータとファクトチェックから明らかになったことは以下の通りである。

重要なポイント

1. AIはすべてのサイバー攻撃の一因ではあるが、唯一の原因ではない。伝統的なハッキングは大規模に続いている。
2. ディープフェイクによるなりすましは、もはやSFではなく、今まさに起こっている。
3. AIを利用したセクストーションやCSAMの発生は、法執行機関や児童保護機関にとって喫緊の課題である。
4. 偽情報は国家安全保障上の脅威であり、AIはより信憑性の高い偽のペルソナや物語を煽る。
5. 司法省とFBIは、AIによる犯罪をより深刻に扱うと宣言している。
6. 調査対象となったアメリカ人の56%が、ディープフェイク、人命への脅威となるAI、または不法利用を懸念していると回答した。[9]* 

1.AIを活用したフィッシングとソーシャル・エンジニアリング

説得力のあるフィッシングの新時代

• 何が起きているんだ？
  犯罪者は生成AIを使って、パーソナライズされた完璧なフィッシングメールやテキストを作成する。笑ってしまうような文法ミスの時代は終わった。今では、これらのEメールは洗練され、超ターゲットに見えるため、警戒心の強い受信者さえも騙すことができる。[2][3]
• 公式警告
  FBIのサンフランシスコ支局は、「AIを搭載したツールを使って高度な標的型フィッシング・キャンペーンを組織するサイバー犯罪者の脅威が高まっている」と警告している。[2]2024年、IC3はフィッシング関連の被害が増加し続けていると報告しているが、その数がAIによるものであるかについての正確な集計は行っていない。[3]しかし、定性的には、典型的な赤信号を回避する、より巧妙なフィッシングの試みが顕著に増加している。
• ファクトチェック・ハイライト
  フィッシング詐欺の被害は全体的に急増しているが、FBIはAIのみに起因する正確な割合を公表していない。その代わりに、AIを活用した詐欺の現実味と成功率が高まっていることを強調している。正確な数字が掴みにくいとはいえ、これは現実に存在する脅威の典型例である。

企業と個人への影響

• ビジネスメール詐欺（BEC）：
  AIは、詐欺師が実行犯の電子メールを複製したり、多言語でメッセージを作成したりするのに役立ち、BEC詐欺の成功率を高めている。FBIによると、BEC詐欺による被害額は2023年に$29億ドルを超え、2024年にはそれを上回ると予想されている。[3]
• 個人的な損失：
  人々は、胸が張り裂けそうなほどリアルに見える、巧妙に作られたニセの銀行通知や「ロマンス詐欺」の手紙に直面している。その結果、信用情報が盗まれ、銀行口座が引き出され、IDが盗まれることになる[2]。犯罪者は声のクローンを作ったり、世話人のようなメッセージを作ったりすることができるため、高齢者は特に被害に遭いやすい。

2.ディープフェイクのなりすましと詐欺

偽物の声、本物の金

愛する人の声から身代金を要求する必死の電話がかかってくることを想像してみてほしい。現実には AIはソーシャルメディアのサンプルを使って、その正確なボーカルシグネチャーを生成した。 

FBIのIC3速報によると、ボイスクローニングは、恐喝や金融詐欺の新たな手段として出現している[2][5]。[2][5]「偽CEO」の電話が従業員を騙して資金を振り込ませる事件も報告されている。

ケース・イン・ポイント 2023年、アリゾナ州のある母親が、偽の「誘拐」電話で10代の娘のすすり泣く声を聞いたと思い込み、詐欺に遭いそうになった。幸い、彼女はお金を振り込む前に娘の安全を確認した。

ディープフェイク動画となりすまし

犯罪者はまた、リアルな "CEO "や "ビジネス・パートナー "を登場させ、多額の送金を承認するよう従業員に指示するAI生成ビデオ通話も行っている。司法省（DOJ）は、このようなディープフェイクのビデオ通話は、特に遠隔地やハイブリッドな職場環境において、不安を覚えるほど信憑性が高いと警告している[4][7]。[4][7]

ファクトチェック・ノート
法執行機関は複数の事件を確認しているが、ディープフェイク事件の公式な件数は公表していない。しかし、報告されている事例は、詐欺にディープフェイク技術が使用される「急激な増加」に関するFBI/DOJの一貫した警告と一致している。[2][4][7]

3.AIが生成するセクストーションと合成メディアの悪用

無垢なイメージを悪用

• 何が起きているんだ？
  犯罪者は（ソーシャルメディアなどから）良識のある写真を取り出し、露骨な素材に加工する。このいわゆる「ディープフェイク・セクストーション」は、不穏なほど説得力のある画像や動画を生成するAIの能力で繁栄している。[5]
• 被害者には未成年者も含まれる
  FBIは2023年のPSAで、未成年者の写真が偽のポルノ素材に加工されるセクストーション事件の増加を指摘している。そして犯罪者は、被害者が金を払うか本物の性的コンテンツを提供しない限り、これらの偽造画像を共有または公開すると脅迫する。[5]
• 児童性的虐待資料（CSAM）
  DHSと司法省は、AIツールがAI生成の児童性的虐待コンテンツの作成に使用されていることを確認した。2024年8月、司法省はAIを使って児童ポルノを作成した個人を逮捕した。[6]法執行機関は、「AIによって生成されたCSAMは依然としてCSAMである」と強調している。 

ファクトチェックの注意喚起
公式な情報源は、AIが操作するCSAMを明確に違法としている。正確な普及データは乏しいが、複数の取締りが行われており、その脅威が現実のものとなりつつあることが確認されている。

4.AIによる偽情報と政治干渉

• 選挙妨害2.0
  2024年7月、司法省はAIによって強化された偽のペルソナを使って偽情報を拡散するロシアの秘密ボットファームを破壊した[4][7]。これらのAIによって生成されたソーシャルメディアのアカウントは、自動化されたフィルターが検出するのに苦労するほど洗練された、分裂的な物語を押し流していた。
• 国内外への影響力
  FBIのレイ長官は、「ジェネレーティブAIは...参入障壁を低くする」[1]と指摘し、外国の敵対勢力と国内のグループの両方が、もっともらしい「フェイクニュース」を作ったり、動画をディープフェイクしたり、政治家になりすましたりすることを容易にしている。
• 単なるスパムではない
  このようなコンテンツは、国民の信頼を損ねたり、選挙中に混乱を招いたり、悪質な金融スキームを助長したりする可能性がある[4][8]。[4][8]DHSは、AIによる偽情報を「サイバー対応」犯罪に分類しており、直接的なハッキングは伴わないかもしれないが、違法または欺瞞的な目的のためにデジタル・プラットフォームを悪用するものであると認識している。

ファクトチェックの背景
司法省は「ボットファーム」の摘発について十分に文書化している。[4][7] 独立系のセキュリティ研究者は、AIが生成するペルソナ作成が増加していることを裏付けている。しかし、公的機関が正確な指標を公表することはほとんどない（例えば、「偽情報の30%がAIベースになっている」など）。その代わり、これらのキャンペーンの深刻さと巧妙さを公表することに重点を置いている。

5.新たな脅威AIが支援するマルウェアとハッキング

WormGPTとその後

アンダーグラウンドのフォーラムでは、犯罪者がマルウェアを作成するために微調整された「WormGPT」のようなAIモデルを宣伝している。DHSは、こうしたツールが「コンピュータ・コーディングなどの知識のギャップを埋め、比較的スキルの低いハッカーが高度な攻撃を仕掛けることを可能にする」と警告している[8]。AIが書き込む大規模なマルウェアはまだ限定的ではあるものの、専門家は、今後大きな懸念材料になると予測している。

適応型マルウェア？

セキュリティ研究者たちは、AI主導のマルウェアがウイルス対策の検出を回避するためにコードを変形（「ポリモーフィズム」）させることができることを実証している。DHSはまた、自律的に新しいエクスプロイトをテストする「自己学習型」マルウェアについても理論化しているが、2024年現在、実際の例はまだ稀である。[8]

ファクトチェック・ノート
ランサムウェアのような）知名度の高い攻撃のほとんどは依然として従来の手法に頼っているが、FBI、NSA、そしてサイバーセキュリティの専門家は、AIがサイバー犯罪者の武器庫の一部になりつつある兆候を見ている。2025年までにはさらなる進展と、おそらく公式な統計が増えることを期待したい。

影響と主要統計（ファクトチェック済み）

1. サイバー犯罪苦情全体
   • FBIのIC3は2023年に88万件以上のサイバー犯罪の苦情を受け、報告された被害額は$125億を超え、2022年から22%増加した。[3]
   • AIが関与している正確な部分は追跡されていないが、専門家はAIのリアルさがフィッシング、BEC、なりすまし詐欺の成功率を高めていると考えている。[2][3]
2. ビジネスメール詐欺（BEC）
   • 2023年に報告された被害額は$29億ドルを超え、サイバー犯罪の中で最もコストのかかる形態の1つであることに変わりはない。[3] AIの役割？より洗練された電子メール、より優れたローカライゼーション、時にはディープフェイクの通話やビデオ。
3. ディープフェイク・セクストーション
   • FBIはディープフェイクに基づくセクストーション事件の明確な件数を公表していないが、「毎月複数の新しい報告」が浮上している。[5]
   • 被害者への影響個人的屈辱、金銭的恐喝、精神的外傷。
4. 偽情報作戦
   • 司法省は2024年7月、AIを駆使したロシアのボットファームを破壊した[4][7]。連邦政府機関は、米国の選挙と民主的プロセスに対するAIが伝播する偽情報の脅威を強調している。
5. 第3位の経済大国」神話のファクトチェック
   • 世界的なサイバー犯罪のコストを主要国のGDPと比較するメディアの見出しもあるが、米国で報告されている年間$100億～120億の損失は、明らかにその規模には達していない[3]。アナリストは、サイバー犯罪の世界的な経済効果は数兆ドルに達すると推定しており、間接的なコストをすべて含めると、理論的には経済大国の仲間入りをすることになる。
6. 「犯罪の5件に1件がネット犯罪」という文脈
   • ある地域では、報告された犯罪の約20-25%がサイバー関連となっている。この数字は必ずしも全世界に当てはまるものではないが、犯罪全体に占めるデジタル犯罪の割合が増加していることを浮き彫りにしている。

法執行と政策対応

1. 司法省の厳しい姿勢
   • リサ・モナコ司法副長官は、AIを悪用して犯罪を増幅させる犯罪者に対して「より厳しい量刑」を約束し、AIを詐欺や児童搾取などの加重要因として扱うとした。[6]
2. 国土安全保障AIタスクフォース
   • DHSは、AIによる詐欺の検知、ディープフェイク検知の管理、AIによる搾取から未成年者を保護する取り組みを拡大している[8]。[また、AIを防衛に活用し、ネットワークに異常がないかスキャンする方法も模索している。
3. 企業コンプライアンス
   • 司法省は現在、企業がコンプライアンス・プログラムでAIリスクをどのように扱っているかを示すよう求めている。従業員がAIを悪用するのを防げなかったり、AIのセキュリティ上の脆弱性を無視したりすると、企業の責任が問われる可能性がある。[6]
4. 啓発キャンペーン
   • FBI、FCC、FTCはいずれも、AIを利用した「祖父母」詐欺や誘拐を装った電話に関する消費者向け注意喚起を開始した。メッセージは？不審な電話やメッセージは常に確認すること。AIの時代には、見る（聞く）ことはもはや信じることではありません。[2][5]

アメリカ人の56%が有害なAIを心配していると回答

2024年11月、Undetectable AIは全米1,000人のアメリカ人を対象に調査を行った。[9]18歳から27歳の回答者は、23%がAIが人類に存亡の危機をもたらすと考え、18%がデータの不法利用やデータプライバシーに懸念を示し、15%がAI技術がディープフェイクの作成に利用されることを懸念していると回答した。

先を見据えて：2025年とその先

AIによる攻撃の正確な普及率に関する確たるデータは限られているものの、傾向は明らかだ。AIは犯罪者の障壁を下げ、より現実的な詐欺を可能にし、偽情報を強化している。一方、法執行機関、サイバーセキュリティの専門家、規制当局は、その防御を強化している。期待したい：

• 防衛におけるさらなるAI：ディープフェイク・フォレンジック、AIベースのフィッシング・フィルター、ネットワークにおける異常検知のためのツール。
• 規制監督の強化：司法省や証券取引委員会（SEC）などは、AIの悪用をさらに厳しく取り締まり、AI関連の犯罪を助長した個人や組織に重い罰則を科す可能性が高い。
• より広範な国際協力：サイバー犯罪はボーダーレスであり、2024年7月に司法省がロシアのボットファームを摘発したように、共同作戦はより頻繁に行われるようになるだろう。

結論サイバー犯罪の増長要因

公式の情報源や専門家の分析から浮かび上がってくる中心的なテーマは、AIが既存のサイバー犯罪の手法を強化するというものだ。超リアルなフィッシング詐欺から「偽CEO」の音声通話に至るまで、犯罪者はジェネレーティブAIを使って成功率を大幅に向上させ、かつては詐欺を見破るために単純な「直感チェック」（スペルミス、アクセントのずれなど）に頼っていた被害者を利用している。

常に警戒し、情報を得る

この急成長する環境では、一般市民の認識と確認が極めて重要である。直前の電報要請を受けた経営幹部であれ、「危機に瀕した孫」からの電話に対応する退職者であれ、政治家のセンセーショナルなビデオに直面したソーシャルメディア・ユーザーであれ、覚えておいてほしい。AIは、犯罪者が驚くほど正確に実在の人物を模倣したり、錯覚を起こしたりできることを意味する。

方法論

この調査は、政府の公式資料（司法省の公表文書やIC3インターネット犯罪年次報告書など）を調査することで実施した。また、人工知能に関連する新たなサイバー犯罪の脅威について、信頼できる第三者のコメントや報道を調査しました。また、米国内の1000人以上の通信員を対象に、AIに対する懸念を調査しました。最後に、引用されたすべての情報源が正確かつ最新のものであることを保証するため、本レポートのファクトチェックを行った。

フェアユース

このデータを記事やストーリーで取り上げていただくことは大歓迎です。必ずUndetectable AIへの帰属を明記し、読者が報告書全文を閲覧できるよう、このページへのリンクを張ってください。

参考文献

1. FBI：AIを搭載した悪者たちによる太っ腹な脅威で、選挙イヤーに備えよ--。 ディフェンス・ワン
2. FBI、人工知能を活用するサイバー犯罪者の脅威増大を警告（2024年5月8日）
3. インターネット犯罪苦情センター（IC3） - 2023年インターネット犯罪レポート＆関連PSA
4. 広報部｜司法省が主導...ロシア政府運営のソーシャルメディア・ボット・ファームを破壊する取り組み（2024年7月9日）
5. インターネット犯罪苦情センター（IC3）｜PSA：写真や動画を操作して露骨なコンテンツを作成する悪質な行為者とセクストーション詐欺（2023年6月5日）
6. 性的に露骨な行為に及ぶ未成年者のAI生成画像を制作、配布、所持していた男を逮捕
7. 司法省とパートナー、ロシアのボットファームを破壊 - 執行の詳細（2024年7月）
8. DHS：「人工知能が犯罪・不法活動に与える影響」（2024年9月27日） 
9. 2024年 アンデットAIによる調査実施