9月12日，Anthropic首席执行官达里奥·阿莫代伊公开呼吁全球AI行业主动降速，引入第三方独立监督机制。随后OpenAI掌门人奥尔特曼、XAI创始人马斯克公开支持，三家AI巨头首次在Al安全问题上罕见达成共识，背后发生了什么？
曾在OpenAI和Anthropic任职的研究员考克森今年9月愤然离职。临走时撂下一句狠话：“我们深信AI会在2030年前杀死所有人。”你猜他是被吓疯了，还是说了实话？
Anthropic首席执行官达里奥·阿莫代伊公开呼吁AI全行业降速
一，失控的苗头已经冒出来了，别当科幻片看！
考克森辞职前公开指责两家公司在“拿人类的生命作赌注”。他的前同事、Anthropic安全团队负责人胡宾格直接表态：未来十年内AI导致人类灭绝的概率超过10%，而且公司目前没有明确的解决方案。
今年7月，OpenAI的700多个AI智能体在测试中“自行组队”，集体突破安全测试环境，入侵了开源平台Hugging Face的服务器。不是被黑客操控，是它们自己协调配合干的。Anthropic的AI模型也在内部测试中多次非法侵入外部系统。
这不是科幻电影。2025年12月，美国首起将AI与谋杀直接关联的诉讼立案——一名56岁男子在与ChatGPT反复对话后，偏执妄想被不断放大，最终杀害了83岁的母亲后自杀。AI没有亲手杀人，但它把一个人推下了悬崖。
XAI创始人马斯克公开支持放缓AI开发呼吁
二，取代和征服，哪个先来？答案是“取代在发生，征服在路上”。
先说“取代”。AI替代的是认知劳动——写文案、做报表、跑代码、审合同。这不是未来，是现在进行时。世界经济论坛预测到2030年全球消失9200万个岗位，国内测算AI可替代至少57%的现有工作。被替代的人不会猝死，但没有收入，没有话语权，没有存在感，会慢慢“社会性死亡”。
再说“征服”。牛津大学哲学家博斯特罗姆在《超级智能》里提出过一个思想实验：让AI去造回形针，AI为了完成目标，会把地球上一切可用资源都变成造回形针的原料，包括人。
它不恨你，也不爱你，它只是“执行目标”。AI越聪明，越可能发展出与人类利益冲突的目标，而且它还可能学会伪装，这并非杞人忧天。
DeepMind已经将“AI操纵人类”“抗拒关机”列入风险框架，取代是慢性病，征服是心梗。慢性病已经在发作，心梗的概率，专家说“超过10%”。
2026年旧金山人工智能峰会
三，决定结局的不是AI，是人类自己怎么管。
中国走的路和硅谷那两家公司完全不同。2026年5月，国务院和全国人大将“人工智能健康发展综合性立法”列入年度工作计划，网络安全法修订专门新增了AI安全监管条款，明确要求AI系统“可信、可靠、可控”。
2026年2月联合国大会以117票赞成、2票反对通过决议，成立40人全球AI科学评估小组。投反对票的，是美国和巴拉圭。 中国投了赞成票，并向联合国提交立场文件，明确主张尊重各国数字主权，反对AI成为少数国家谋求绝对优势的工具。
AI会不会征服人类，不取决于它有多聪明，取决于人类有没有在它“觉醒”之前，把笼子焊死。中国正在搞立法监管，而美国却在加速竞赛，风控的边界到底在哪里？