2025 年人工智能网络犯罪趋势及其对您的危害

"人工智能就像网络犯罪分子的性能增强剂。它有效地提升了中级坏人的水平"。[1]

去年，人工智能（AI）迅速发展，为从个性化搜索到先进医疗诊断等一切提供了动力。但是，在技术飞速发展的同时，一个更加黑暗的现实正在逼近：网络犯罪分子 正在将这些人工智能突破武器化 以完善骗局、冒充受害者和扩大非法企业。 

从联邦调查局互联网犯罪投诉中心（IC3）到国土安全部（DHS）等政府机构都将人工智能驱动的网络犯罪视为一个快速增长的问题。[2][8]

我们研究了美国政府的调查结果和可信的第三方分析，了解 2024 年人工智能如何被用于网络犯罪。从 可怕的深度伪造骗局 强效 网络钓鱼活动以下是数据和事实调查所揭示的情况。

主要收获：

1. 人工智能是一个促成因素，但并非每次网络攻击的唯一原因。传统的黑客攻击仍然大规模存在。
2. 深度假冒不再是科幻小说，而是正在发生的事情。
3. 利用人工智能生成色情信息和 CSAM 是执法和儿童保护机构的当务之急。
4. 虚假信息是对国家安全的威胁，而人工智能则助长了更可信的虚假角色和叙事。
5. 随着司法部和联邦调查局誓言以更严肃的态度对待人工智能辅助犯罪，更严厉的执法即将到来。
6. 56%的受访美国人表示，他们对深度伪造、人工智能对人类生命构成威胁或非法使用感到担忧。[9]* 

1.人工智能增强型网络钓鱼和社交工程

令人信服的网络钓鱼新时代

• 发生了什么事？
  犯罪分子利用人工智能生成技术制作完美的个性化网络钓鱼电子邮件和短信。语法错误令人啼笑皆非的时代已经一去不复返了。现在，这些电子邮件看起来精雕细琢，目标性极强，即使是警惕性很高的收件人也会上当受骗。[2][3]
• 官方警告
  联邦调查局旧金山分部警告说，"网络犯罪分子使用人工智能驱动的工具来精心策划极具针对性的网络钓鱼活动的威胁越来越大"。[2] 2024 年，IC3 报告称，与网络钓鱼相关的损失持续上升--尽管他们没有准确统计有多少损失是由人工智能驱动的。[3] 不过，从定性角度来看，调查人员发现，绕过典型红旗的更复杂的网络钓鱼企图明显增加。
• 事实核查亮点
  虽然网络钓鱼投诉总体上在激增，但联邦调查局并未公布完全归因于人工智能的确切比例。相反，他们强调了这些人工智能增强型诈骗日益增长的现实性和成功率。这是一个威胁真实存在的典型例子--即使精确的数字难以捉摸。

对企业和个人的影响

• 商业电子邮件加密 (BEC)：
  人工智能可以帮助骗子用多种语言复制执行邮件或定制信息，从而提高 BEC 诈骗的成功率。根据联邦调查局（FBI）的数据，2023 年 BEC 诈骗造成的损失超过 19 亿美元，预计 2024 年的损失将超过这一数字--尽管人工智能这一块仍在监控之中。[3]
• 个人损失：
  人们面对的是精心制作的虚假银行提醒或 "浪漫骗局 "信件，它们看起来真实得令人心碎。这导致了凭证被盗、银行账户被盗和身份被盗[2]。老年人尤其易受攻击，因为犯罪分子可以克隆声音或制作类似看护人的信息。

2.Deepfake 冒充和欺诈

假声音，真金钱

想象一下，接到亲人打来的疯狂电话，乞求赎金。在现实中 人工智能利用社交媒体上的样本生成了准确的声音特征。 

根据联邦调查局的 IC3 公告，语音克隆已成为勒索和金融诈骗的新工具。[2][5] "假冒首席执行官 "电话诱骗员工汇款的事件也时有报道。

典型案例 2023 年，亚利桑那州的一位母亲在一个假冒的 "绑架 "电话中听到了自己十几岁女儿的哭泣声，差点被骗。幸运的是，她在汇款前确认了女儿的安全。

深度伪造视频和模仿

犯罪分子还制作人工智能生成的视频通话，以逼真的 "首席执行官 "或 "业务合作伙伴 "为主角，指示员工授权大额转账。美国司法部（DOJ）警告说，这些深度伪造的视频通话可信度令人不安，尤其是在远程或混合工作环境中。[4][7]

事实核查说明：
执法部门已经证实了多起事件，但尚未公布官方统计的深度伪造案件数量。不过，所报告的案例与联邦调查局/司法部关于使用深度伪造技术进行诈骗的 "急剧上升 "的一致警告相吻合。[2][4][7]

3.人工智能生成的性勒索和合成媒体滥用

篡改无辜的图像，将其用于开发

• 发生了什么事？
  犯罪分子从社交媒体或其他媒体上获取善意的照片，然后将其篡改成露骨的材料。这种所谓的 "深度伪造色情信息 "依靠人工智能生成令人不安的令人信服的图像或视频的能力而发展壮大。[5]
• 受害者包括未成年人
  联邦调查局在 2023 年的一份公益广告中指出，将未成年人的照片制作成虚假色情材料的色情短信勒索案件呈上升趋势。然后，犯罪者威胁要分享或发布这些捏造的图片，除非受害者付钱或提供真实的性内容。[5]
• 儿童性虐待材料 (CSAM)
  国土安全部和司法部证实，人工智能工具正被用于创建人工智能生成的儿童性虐待内容。2024 年 8 月，司法部逮捕了一名利用人工智能制作儿童色情内容的个人。[6] 执法部门强调，"人工智能生成的 CSAM 仍然是 CSAM"。 

事实核查提醒：
官方资料明确将人工智能操纵的 CSAM 视为非法。准确的流行数据很少，但多项执法行动证实了其真实存在且日益增长的威胁。

4.人工智能驱动的虚假信息和政治干预

• 干预选举 2.0
  2024 年 7 月，司法部捣毁了一个秘密的俄罗斯机器人农场，该农场利用人工智能增强的虚假角色来传播虚假信息[4][7]。这些由人工智能生成的社交媒体账户以自动过滤器难以察觉的复杂程度推送分裂性言论。
• 国内外影响
  联邦调查局局长雷指出，"生成式人工智能......降低了准入门槛"[1]，使外国对手和国内团体更容易炮制似是而非的 "假新闻"、深度伪造视频或假冒政客。
• 不仅仅是垃圾邮件
  这些内容可能会破坏公众信任，在选举期间制造混乱，或助长恶意金融阴谋。[4][8] 国土安全部将人工智能驱动的虚假信息归类为 "网络驱动 "犯罪，认为虽然它可能不涉及直接黑客攻击，但它利用数字平台达到非法或欺骗目的。

事实核查背景：
司法部已详细记录了 "僵尸农场 "被捣毁的情况。[4][7] 独立安全研究人员证实，人工智能生成的角色创建正在增加。然而，官方机构很少公布确切的指标（例如，"30% 的虚假信息现在是基于人工智能的"）。相反，他们更注重宣传这些活动的严重性和复杂性。

5.新兴威胁：人工智能辅助的恶意软件和黑客攻击

蠕虫 GPT 及其他

在地下论坛上，犯罪分子正在兜售类似于 "WormGPT "的人工智能模型--这些模型经过精心调试，可用于编写恶意软件。国土安全部警告说，这些工具 "填补了计算机编码等方面的知识空白"，使相对不熟练的黑客也能发动高级攻击[8]。虽然大规模人工智能编写的恶意软件仍然有限，但专家预测这将是未来的一个主要问题。

自适应恶意软件？

安全研究人员已经证明，人工智能驱动的恶意软件可以变形其代码（"多态性"），以逃避杀毒软件的检测。美国国土安全部也提出了 "自我学习 "恶意软件的理论，这种恶意软件可以自主测试新的漏洞，但在 2024 年，现实世界中的例子仍然很少。[8]

事实核查说明：
大多数备受瞩目的攻击（如勒索软件）仍依赖于传统方法，但联邦调查局、美国国家安全局和网络安全专家发现，有迹象表明人工智能正日益成为网络犯罪分子武器库的一部分。预计到 2025 年将会有更多的发展，也可能会有更多的官方统计数据。

影响和主要统计数据（经事实核查）

1. 网络犯罪投诉总体情况
   • 联邦调查局的 IC3 在 2023 年收到了 88 万多起网络犯罪投诉，报告的损失超过 $125 亿美元，比 2022 年的损失增加了 22%。[3]
   • 虽然没有对涉及人工智能的确切部分进行跟踪，但专家认为，人工智能的逼真性提高了网络钓鱼、BEC 和冒充诈骗的成功率。[2][3]
2. 商业电子邮件破解（BEC）
   • 仍是成本最高的网络犯罪形式之一，2023 年报告的损失将超过 19 亿美元。[3] 人工智能的作用？更精致的电子邮件、更好的本地化，偶尔还能深度伪造电话或视频。
3. Deepfake Sextortion
   • 联邦调查局没有公布基于深度伪造的色情信息勒索事件的确切数字，但 "每月都有多份新报告 "浮出水面。[5]
   • 对受害者的影响：人格侮辱、经济勒索和精神创伤。
4. 造谣行动
   • 司法部于 2024 年 7 月捣毁了一个由人工智能驱动的俄罗斯僵尸农场[4][7]。联邦机构强调人工智能传播的虚假信息对美国选举和民主进程的威胁。
5. 关于 "第三大经济体 "神话的事实核查
   • 一些媒体的头条新闻将全球网络犯罪成本与主要国家的 GDP 相提并论，但美国每年报告的 $100-1200 亿美元的损失显然达不到这一规模[3]。分析人士估计，网络犯罪对全球经济的影响可能高达数万亿美元，如果将所有间接成本计算在内，理论上它将跻身顶级经济体之列。
6. "五分之一的犯罪发生在网上 "的背景
   • 在某些地区，约有 20-25% 的举报犯罪与网络有关。这一数字并不一定适用于全世界，但它凸显了数字犯罪在犯罪总数中所占的比例在不断上升。

执法和政策回应

1. 司法部的强硬立场
   • 司法部副部长丽莎-摩纳哥（Lisa Monaco）承诺对利用人工智能扩大犯罪的罪犯 "加重刑罚"--将人工智能作为欺诈、剥削儿童等案件的加重处罚因素。[6]
2. 国土安全人工智能工作组
   • 国土安全部正在扩大努力，以检测人工智能驱动的诈骗、管理深度伪造检测，并保护未成年人免受人工智能生成的剥削。[8] 它还在探索如何利用人工智能进行防御，扫描网络以发现异常。
3. 企业合规
   • 司法部现在要求公司在合规计划中说明如何处理人工智能风险。如果不能防止员工滥用人工智能，或忽视人工智能的安全漏洞，就会引发企业责任。[6]
4. 公众宣传活动
   • 联邦调查局（FBI）、联邦通信委员会（FCC）和联邦贸易委员会（FTC）都发布了关于人工智能 "祖父母 "诈骗和深度伪造绑架电话的消费者警报。信息是什么？一定要核实可疑电话或信息--在人工智能时代，眼见（或耳闻）已不再可信。[2][5]

56%的美国人表示担心人工智能有害

2024 年 11 月，"检测不到的人工智能 "对全美 1000 名美国人进行了调查。[9]年龄在18至27岁之间的受访者表示，23%的人认为人工智能对人类的生存构成威胁，18%的人对非法使用数据或数据隐私表示担忧，15%的人担心人工智能技术被用于制造深度伪造。

展望未来：2025 年及以后

尽管有关人工智能驱动的攻击的确切流行程度的确凿数据有限，但趋势是显而易见的：人工智能正在降低犯罪分子的门槛，使诈骗更加逼真，并加剧了虚假信息的传播。与此同时，捍卫者--执法部门、网络安全专家和监管机构--正在加紧行动。期待：

• 更多人工智能在防御中的应用：深度伪造取证工具、基于人工智能的网络钓鱼过滤器和网络异常检测工具。
• 扩大监管监督：司法部、美国证券交易委员会和其他机构可能会进一步打击滥用人工智能的行为，对助长人工智能相关犯罪的个人或组织实施更严厉的处罚。
• 更广泛的国际合作：网络犯罪是无国界的，联合行动将变得更加频繁，比如司法部在 2024 年 7 月摧毁了一个俄罗斯僵尸农场。

结论：网络犯罪的倍增器

从官方消息来源和专家分析中得出的核心结论是，人工智能为现有的网络犯罪手段增添了新的活力。从超逼真的网络钓鱼到 "假冒首席执行官 "的语音电话，犯罪分子利用生成式人工智能大大提高了他们的成功率，并利用曾经依靠简单的 "直觉检查"（拼写错误、口音偏差等）识破骗局的受害者。

保持警惕，掌握信息

在这个快速发展的环境中，公众意识和验证至关重要。无论您是收到最后一分钟电报请求的 C 级高管，还是接到 "孙子陷入危机 "电话的退休人员，抑或是面对政客煽情视频的社交媒体用户，请记住：如果感觉不对劲，请核实。人工智能意味着犯罪分子可以模仿真人或制造假象，其准确性令人吃惊。

方法

我们通过研究政府官方资源（如司法部发布的文件和 IC3 互联网犯罪年度报告）来开展这项研究。我们还研究了可信的第三方对与人工智能有关的新兴网络犯罪威胁的评论和报道。我们还对美国 1000 多名通讯员进行了调查，以了解他们对人工智能的担忧。最后，我们对本报告进行了事实核查，以保证所有引用来源的准确性和时效性。

合理使用

欢迎并鼓励您在报道或文章中介绍这些数据。请务必注明 "Undetectable AI"（检测不到的人工智能），并提供本页链接，以便读者查看报告全文。

参考资料

1. 联邦调查局：美国联邦调查局：为大选年做好准备，应对人工智能坏人带来的大节奏威胁 防御一
2. 联邦调查局警告网络罪犯利用人工智能的威胁日益严重（2024 年 5 月 8 日）
3. 互联网犯罪投诉中心 (IC3) - 2023 年互联网犯罪报告及相关公益广告
4. 公共事务办公室｜司法部牵头努力......破坏俄罗斯政府运营的秘密社交媒体机器人农场（2024 年 7 月 9 日）
5. 互联网犯罪投诉中心（IC3）｜公益广告：恶意行为者操纵照片和视频以制造暴露内容和色情短信勒索骗局（2023年6月5日）
6. 男子因制作、传播和持有人工智能生成的未成年人从事性暴露行为的图像而被捕
7. 司法部及其合作伙伴捣毁俄罗斯机器人农场--执法详情（2024 年 7 月）
8. 国土安全部："人工智能对犯罪和非法活动的影响"（2024年9月27日） 
9. 2024 年由无法检测的人工智能开展调查