众力资讯网

达里奥可能没想到,精心制造的安全叙事这次反噬自己了 上周五,Anthropic 发布了一份关于 AI 安全与滥用的报告 ​ 报告一边强调AI越来越有风险:模型正在获得更强的自主性,开始参与网络攻击、武器研发、AI 自身研发等活动,因此需要放慢前沿AI的发展速度;​一边继续攻击中国模型公司对美国 前沿模型 ​

达里奥可能没想到,精心制造的安全叙事这次反噬自己了

上周五,Anthropic 发布了一份关于 AI 安全与滥用的报告

报告一边强调AI越来越有风险:模型正在获得更强的自主性,开始参与网络攻击、武器研发、AI 自身研发等活动,因此需要放慢前沿AI的发展速度;一边继续攻击中国模型公司对美国 前沿模型的“蒸馏”,并且直接点名 Alibaba、Moonshot、DeepSeek、Zhipu、Xiaomi、MiniMax 等公司,并公布了大量账号、请求量、技术路径和案例。

达里奥原本想通过这个王炸级的报告达到的效果是:AI 越来越危险,所以必须加强安全;中国公司通过蒸馏快速获得美国前沿模型能力,因此要用国家机器“干”他们。

但事情没有按照这个剧本走。

我观察一周,发现最有意思的是,关于“中国公司蒸馏”的讨论,没有像过去那样成为舆论中心。

这次注意力开始转向了另一个问题:原来你们能够看到这么多东西?

闭源模型不仅提供能力,也拥有观察使用者的能力:它可以看到请求、调用模式、账号关系、代理网络、异常行为,甚至能够根据这些信息判断一个组织正在做什么。这意味着平台与用户之间存在严重的信息不对称。

开源模型突然获得了另一种价值。事实上前几天美国人自己发现美国联邦政府下的一个机构(美国国家档案与记录管理局运营的《联邦公报》FederalRegister.gov)就用了中国的千问模型做搜索,虽然被指出后立刻隐藏了,这也让 Dario 的言论更被质疑了:如果只有少数几家公司拥有最强大的模型,那么“安全”最终是不是也意味着让少数几家公司拥有更大的规则制定权?

这件事的第二个反转是:美国政府,不管是川普的前顾问、万斯还是川普自己,都很反感达里奥这个完美小天使的叙事逻辑,并且把他的言行直接定义为“监管俘获”。

大意就是:少来这一套,你不就是想通过威胁论为自己获得更多利益么?

不止政府,这次连投资界、科技界和学界都纷纷发言,比如杨乐昆嘲笑达里奥,说他早在GPT2.0的时候就觉得不应该发布,结果自己哐哐哐发了这么多远超GPT2.0D 模型,这不是言行不一致么?皮草黄也毫不客气说:你如果担心AI有风险那就去解决它。甚至连一贯反华的美国主流媒体在后续的报道中都不在把“蒸馏”作为关注的内容,而是开始分析:达里奥为什么要把这些内容放在一起说,他到底想表达什么?

达里奥可能会非常后悔自己最近的一系列神操作,打死也想不到花了大力气写的报告竟然是搬起石头砸自己的脚的结局。