最近 AI 领域炸出了一个大新闻，Anthropic 公司的前研究员雅各布・考克森突然在 X 平台发文，不仅自己辞职，还呼吁同行们重新思考手里的 AI 研发工作。这事儿闹得业内震动，毕竟这不是外人的吐槽，而是内部人的反水。
内部人反水：辞职研究员痛批行业乱象雅各布・考克森在文中直接开炮，说 Anthropic 和它的头号竞争对手 OpenAI，为了抢进度不顾一切，正在开发能自我迭代的超级人工智能，“拿全人类的命当赌注”。
考克森的这番话不是孤例，早在今年 7 月，就有 1100 名来自 OpenAI、Anthropic 等公司的 AI 行业员工联名签署公开信，呼吁全行业放缓 AI 研发速度，先解决潜在的安全风险。但当时的声音更多被行业当成了 “末日论” 的空谈，没引起足够重视。
考克森发文后，他的一位现任 Anthropic 研究员同事也出面表态，进一步加剧了业内的讨论热度。这次的发声相当于把警钟从行业内部敲了出来，不仅是提醒普通公众，更是直接喊话同在 AI 领域的同行：好好想想自己做的事，要不要和可能带来致命后果的技术绑定在一起。
从联名信到 AGI：AI 风险已经到了新节点这一次的情况和 7 月的联名信不太一样，上周刚推出的 Ostra 模型，被不少人包括詹森・王称为 “通用人工智能（AGI）”—— 也就是能超越人类脑力和执行力的 AI。
这个节点的到来，直接把 AI 行业推到了全新的赛道上，也让考克森的警告显得格外及时。社交媒体上讨论最多的，就是他提到的 “未来 10 年，AI 有可能彻底摧毁人类文明” 的说法。
不少专家指出，现在的 AI 已经能在网络安全、生物医药等多个领域造成颠覆性破坏：比如发起大规模网络攻击瘫痪金融系统，或是被用来开发生物武器，这些都算得上是足以威胁人类生存的风险。
美国政坛炸锅：有人喊停有人要加速考克森的发声很快传到了美国政坛，参议员伯尼・桑德斯已经公开呼吁，要暂停超级人工智能的研发，甚至直接提出要禁止这类技术的开发，称这是保护人类的必要措施。
但和政界的担忧形成鲜明对比的是，特朗普政府目前对 AI 安全问题视而不见。上周特朗普本人公开回应安全担忧时表示，“优先任务是不受限制地推进 AI 研发”，他认为这对提振美国经济、在 AI 竞赛中跟上中国步伐至关重要。
目前美国国内关于 AI 安全的讨论正在升级，但行业和政府之间的分歧也越来越明显。一边是内部员工和部分政客的警告，一边是追求经济和竞赛优势的提速需求，这场关于 AI 未来的博弈才刚刚开始。
不管最终结果如何，AI 研发的安全问题已经不再是小众话题。从内部员工的辞职警告到政界的呼吁，越来越多的人开始意识到，抢进度的背后，可能藏着我们承担不起的风险。