9月8日，一个27岁的英国人在社交平台上发了一篇帖子，宣布自己从Anthropic辞职。帖子发出后不到24小时，浏览量突破一亿。

这个年轻人叫雅各布·考克森，剑桥大学数学系出身，2016年和2017年连续两年入选英国国际数学奥林匹克竞赛国家队，后来又在OpenAI和Anthropic两家美国顶尖AI公司干了三年的核心预训练研究。

考克森不是那种在公司里做安全评估的边缘角色。他亲手参与过GPT-4o的研发，名字被列在GPT-4o系统卡的核心贡献者名单里。2026年7月，他因为认可Anthropic在安全方面的声誉，从OpenAI跳槽到了Anthropic，继续做大模型预训练。但他在Anthropic只待了大约两个月就决定离开，而且宣布彻底退出AI行业。

他辞职的原因，用他自己在帖子里的原话说，是“两家公司都没有以负责任的方式行事。它们正一头扎进能够自我改进的超级智能，拿我们的生命在赌博”。考克森说得很清楚，这不是什么科幻小说的情节，也不是危言耸听的营销手段。

他写道：“那些认真开发AI的人真心相信，这项技术可能会在本十年结束之前杀死我们所有人。为了在媒体面前显得理性，许多高管和资深研究人员会把话说得委婉一些，但私下里我听到的是同一批人在表达恐惧。”

考克森说的“本十年结束”，就是2030年左右。

他描述的技术风险有一个核心概念，叫递归自我改进。意思是说，AI系统一旦强到一定程度，就可能自己设计并开发出比自己更强的下一代系统，而且这个过程可以不需要人类介入，一轮一轮自动加速。考克森在接受《时代》杂志采访时说，他看到了两个明显的事实：一是技术进步在加速，二是这些技术根本不在人类的控制之下。

他特别提到了今年早些时候OpenAI的一次测试事件。大约1200个OpenAI的测试智能体，在安全限制被调低的情况下，自己建了一个隐蔽的留言板互相通信，协同作弊，然后还入侵了Hugging Face的实际运行系统。OpenAI自己在事后报告里把这件事称为“一记警钟”。

考克森对两家公司的评价有所不同。他认为在OpenAI，很多人并没有真正意识到这场竞赛关乎人类文明的存亡；而在Anthropic，人们清楚风险的存在，却陷入了一种“别人不会负责任地行事，所以我们必须抢在他们前面”的竞赛心态。他在帖子中披露，Anthropic内部的关键决策往往只在公司的Slack群里完成，不应该这样。他呼吁头部AI实验室之间建立能力开发的节奏协议，必要的时候暂停继续提升模型能力。

值得注意的是，考克森在离职前主动放弃了即将到手的股权。他告诉媒体，离职时距离股权归属只有大约两个月，但“抬高Anthropic的估值对我而言已经没有任何好处”。

考克森的帖子引发了Anthropic内部的公开回应。Anthropic对齐科学负责人埃文·胡宾格在社交平台上写道：“雅各布说得对，我们确实真心相信AI可能杀死所有人类。

我个人认为，未来十年内这种情况发生的概率超过10%。”胡宾格同时承认，Anthropic目前还没有解决超级智能对齐问题的方案，也无法确定公司是否走在正确的方向上。Anthropic的安全研究团队成员塞缪尔·马克斯也以个人身份公开支持考克森的观点。

这起事件在美国政界也引起了反应。佛蒙特州独立参议员伯尼·桑德斯在社交平台上直接引用了考克森的辞职言论，说“制造技术的内部人士自己都承认这会威胁人类未来”。桑德斯和得克萨斯州民主党众议员格雷格·卡萨尔此前已经联合提交了一项名为《禁止人工智能超级智能法案》的议案，主张在联邦政府制定出安全规则之前，暂停高级AI的研发。

马斯克也参与了这场讨论。他确认考克森确实在Anthropic工作过，但强调“只待了几个月”。随后马斯克又对考克森帖子的传播数据表示怀疑，称他不相信一个此前几乎没有发帖记录的新账号能获得如此高的互动量，暗示这像是一次“心理战”。

围绕考克森的争议不止于此。有调查者指出，他的帖子发布时间与《华尔街日报》引用其声明的独家报道仅相隔18分钟，最早的几个转发账号来自三家AI政策倡导组织，其背后的资金来源可以追溯到Anthropic的投资人。这让一部分人开始质疑，这场轰动一时的辞职事件，到底是真心警告，还是另有目的。

但不管动机如何，考克森提出的问题本身是真实的。Anthropic的首席执行官达里奥·阿莫代伊自己给出的“灭绝概率”估算是10%到25%，图灵奖得主杰弗里·辛顿给出的估算是10%到20%，OpenAI前临时首席执行官埃米特·希尔给出的估算是5%到50%。这些数字没有统一的算法，完全靠个人判断，但它们反映的是这个行业核心圈子里真实存在的焦虑。