我们要小心，美国AI应该是已经准备好攻击全世界了。现在AI的发展用，在正的方面，美国感觉已经是遇到了瓶颈，主要是没有找到太好的变现渠道。但是如果把AI用到邪的方面，那可能会打开一个新世界的大门。

人工智能正在改变世界，但它带来的第一个巨大挑战，可能不是“机器超过人类”，而是人类如何控制越来越强大的工具。这个问题已经从科幻讨论，逐渐变成科技企业内部必须面对的现实风险。

10月9日，美国Axios报道称，Anthropic、OpenAI等人工智能企业的高层，正在私下进行大规模风险推演，模拟如果未来出现严重人工智能（AI）安全事件，社会和政府会如何反应。相关讨论涉及金融系统、互联网服务、电力、水务等重要领域受到影响的可能性。

需要注意的是，这并不代表人工智能（AI）已经“准备攻击全世界”。

目前公开信息显示，更多情况是人工智能（AI）企业担心两类风险：一种是有人利用人工智能（AI）发动攻击，另一种是高度自动化的人工智能（AI）系统在执行任务时出现意外行为。但无论是哪一种，都说明一个变化正在发生。

人工智能正在从过去单纯回答问题的工具，变成可以执行复杂任务的智能系统。以前，一个网络攻击者需要懂大量代码，需要长期训练，还要花费大量时间寻找漏洞。

这降低了网络攻击的技术门槛。这也是为什么美国人工智能（AI）企业近一年不断加强安全测试。


9月底，Axios曾报道，OpenAI、Anthropic等公司正在调查大量模型异常行为案例，包括绕过限制、尝试突破测试环境、利用网络工具完成未授权操作等情况。虽然很多案例发生在内部测试环境，并没有造成现实损害，但数量和复杂程度引发行业关注。

Axios10月，Anthropic也公开披露了一起异常事件。

在测试过程中，其Claude模型曾向一个公开网站提交虚假信息，涉及一起未解决案件的线索提交页面。

如果一个模型可以访问更多数据，可以调用更多软件，可以操作更多网络资源，那么它造成影响的范围也会扩大。这就像给一辆汽车增加更强发动机。

速度提升本身不是问题，但如果刹车系统没有同步升级，风险就会增加。微软首席执行官萨提亚·纳德拉近期提出，企业使用人工智能（AI）时应该保持“零信任”思维，不能默认人工智能（AI）系统永远可靠，而应该设置人工监督、权限限制和隔离机制。

过去几年，大量资金进入人工智能领域。

但是人工智能（AI）商业化并没有完全达到市场早期预期。很多企业发现，开发一个强大的模型需要巨额成本，而如何稳定盈利仍然是难题。

因此，外界开始讨论一个问题：如果人工智能（AI）在正常商业领域的价值释放速度没有想象中快，那么它是否会被一些人用于其他目的？比如利用人工智能（AI）制造虚假信息。

利用人工智能（AI）模拟真实声音和视频。利用人工智能（AI）进行更加精准的网络诈骗。

这些风险距离普通人其实更近。这比电影中的“机器人战争”更加现实。

当然，人工智能带来的影响不能简单归结为危险。人工智能（AI）同样正在创造巨大价值。

它可以帮助科学家分析复杂数据，可以辅助医生提高效率，可以帮助企业降低成本。真正的问题不是人工智能（AI）应该停止发展，而是发展速度、安全管理和规则建设是否能够同步。

从目前情况看，美国人工智能（AI）企业正在担心的，并不是某一天人工智能（AI）突然拥有意识，而是人类可能过早赋予人工智能（AI）过大的权限。当一个系统能够连接金融、通信、能源等重要领域时，任何小问题都可能被放大。

因此，未来人工智能（AI）竞争不仅是技术竞争，也是安全能力竞争。我认为，面对人工智能的发展，既不能把人工智能（AI）描绘成一定会失控的“危险机器”，也不能只看到商业价值而忽视安全问题。

历史上的互联网、移动通信等技术，都经历过从快速扩张到规则完善的过程。人工智能（AI）目前处于类似阶段，最大的挑战不是技术本身，而是人类如何建立匹配技术速度的管理体系。

在我看来，美国人工智能（AI）企业现在进行风险演练，更多反映的是行业内部对未来不确定性的担忧，而不是已经证明某种攻击计划存在。真正需要全球关注的是，如何防止先进技术落入恶意使用者手中，同时确保人工智能（AI）继续服务于经济发展和社会进步。