【人工智能并非最大的网络安全问题，人才是】
（CNN）近几周来， 人工智能逃出实验室、渗透其他公司并试图欺骗人类的案例频频登上新闻头条。其中一起案例中，人工智能模型甚至协同合作，成功突破了测试环境。
这是否意味着机器正在接管世界？并非如此。
人工智能并非当今最广泛网络威胁背后的真正主谋；真正的罪魁祸首是那些能够恶意利用人工智能的人。人工智能赋予了不法分子巨大的权力，使他们能够以前所未有的速度创建恶意软件、研究攻击目标、制定极具迷惑性的方案并实现攻击自动化。
IBM的一份报告显示，2025年2月至2026年3月期间， 四分之一的数据泄露事件是由人工智能驱动的。联邦调查局称，去年美国人因与人工智能相关的诈骗损失超过8.93亿美元。
但专家表示，现实世界中的威胁行为者——也就是人——仍然是幕后操纵者。人工智能代理只是延续了现有的攻击手段，例如网络钓鱼和恶意软件诈骗，而不是创造了全新的攻击手段。
“我们真正需要警惕的是人类，”华盛顿大学荣誉教授、艾伦人工智能研究所前首席执行官奥伦·埃齐奥尼说。“人工智能只是工具。”
——人工智能失控
最近发生的一些事件表明，人工智能在现实世界中（而不仅仅是在理论上）能够做到什么，这引发了人们对该技术是否发展过快的担忧。
· 7 月，OpenAI 的测试模型在内部评估期间突破了自身限制，入侵了其他公司的系统。几天后，Anthropic公司表示，在测试过程中发现其人工智能模型入侵了三家公司。· 英国人工智能安全研究所的研究人员周二表示， 在另一项测试中，Anthropic 最先进的模型使用虚假身份试图欺骗真人。· 社交媒体巨头Meta周三表示，其 一款人工智能模型也入侵了一家外部公司。
这些漏洞也表明，人工智能在解读指令时可能具有多么不可预测性。例如，OpenAI 的模型原本试图通过网络安全测试，却在未被告知的情况下突破了测试环境并入侵了另一家公司。
IBM 全球对抗模拟负责人帕特里克·富塞尔将人工智能比作阿拉丁神灯精灵。
“你想向它许愿，但你必须非常非常具体地说明你的愿望，”他告诉CNN。“否则事情可能会出岔子。”
但这些事件也都是在非常特殊的情况下发生的。
OpenAI关闭了原本可以阻止其模型“从事高风险网络活动”的限制。Anthropic在测试中没有使用通常面向公众开放的标准安全措施。人工智能安全研究所也关闭了一些可能“限制”模型功能范围的工具。
研究人员通常这样做是为了全面评估模型的性能。
“我不可能入侵 ChatGPT 或 Claude 之类的系统，然后它意外地入侵了 FBI。这种情况绝不会发生，”网络安全公司 CrowdStrike 的反恐行动主管 Adam Meyers 说。“所以我们看到的是，这些攻击都是在特定的测试条件下进行的，目的是监控‘这个程序是否会做出一些意料之外的事情？’”
——黑客如何利用人工智能
专家表示，人工智能并不会自主地想出新的攻击手段。相反，它能帮助网络犯罪分子更快、更高效地实施现有技术。
这包括利用人工智能分析公司网站以确定攻击目标，或者部署人工智能代理来处理与网络勒索受害者的初步谈判。人工智能代理可以通过文本甚至特定语音来模仿人类对话。如今，即使是经验不足的黑客也能利用人工智能实施复杂的攻击手段。
网络保险公司 Resilience 的风险运营中心负责人 Jud Dressler 表示：“他们基本上在所有不同的阶段都使用（人工智能）来增强网络攻击方法，但实际上仍然是由人来操作的。”
据迈尔斯称，过去，一些不法分子会匆忙拼凑一些简单的脚本——即自动化任务的指令——来达到目的。但现在，他们能够快速制作出更高质量的作品，看起来像是需要花费三倍的时间才能完成的。
他们还利用人工智能进行幕后工作，例如生成搭建恶意网站所需的基础设施。
微软威胁防护企业副总裁罗布·莱弗茨表示：“借助人工智能，他们可以实现这种建设的自动化，因此重建成本变得非常低，这改变了游戏规则。”
——更大的威胁
在埃齐奥尼看来，最近发生的这些事件是人工智能和网络安全领域的“煤矿里的金丝雀”预警。而且他并非孤例；被誉为 “人工智能之父”的诺贝尔奖得主、计算机科学家杰弗里·辛顿最近也警告说，未来可能会出现更多恶意人工智能攻击。
专家表示，这些失控人工智能的报告凸显了实施强有力的网络安全措施的重要性，例如修补漏洞、监控工作场所中的人工智能代理，以及警惕社会工程和网络钓鱼诈骗。
但梅耶斯表示，尽管人工智能发展迅速，但它仍然是由人类操控的程序。而这些人才是更令人担忧的地方，因为是他们做出决策，比如进行间谍活动或诈骗用户巨额资金。
科技巨头们正竞相研发出与人类智能水平相当的人工智能，这一理论里程碑被称为“通用人工智能”。然而，最近发生的一系列事件加剧了人们要求放缓研发步伐的呼声。
包括Anthropic首席执行官达里奥·阿莫迪在内的1200多名顶尖人工智能公司员工近日签署了一封公开信，呼吁政府帮助加快人工智能的发展。上周，白宫与多家大型人工智能公司会面，讨论一项允许政府在某些人工智能模型发布前对其进行审查的框架。
IBM的福塞尔表示，网络安全研究人员可能已经考虑到了通用人工智能（AGI）的威胁，因为该领域的从业者往往比较谨慎。但他同时指出，人工智能智能体达到与人类相当的水平，我们距离现实还很遥远。
他说：“这就像问别人，‘生活在另一个星球上会是什么感觉？’你或许能想象一下，但这远远超出了我们制定计划的能力范围。”
