据多家外媒报道，27岁的AI研究员雅各布·考克森（Jacob Coxon）宣布离开Anthropic。过去三年，他先后在OpenAI和Anthropic从事模型预训练研究。

离职时，他公开指责这两家公司正在冲向能够自我改进的超级智能，认为这是在“拿我们的生命下注”。他最担心的是“递归自我改进”：AI实质性地参与下一代AI的研发，形成越转越快的循环，最终变成人类无法控制的系统。

他的判断是，到2030年前后，AI就存在造成人类大规模伤亡的风险。从眼下的2026年算起，这只剩四年左右。

Anthropic对齐科学负责人埃文·胡宾格公开支持他，称自己估计未来十年AI导致人类灭绝的概率超过10%。这样的警告是否危言耸听，单靠研究者的判断很难下结论。

更值得追问的是：真正推动这项技术的人，怎样看待“AI终结人类”这种可能？他们又是否愿意为它设下护栏？

马斯克长期认为，AI有相当大的可能对全人类构成生存威胁。在一次火药味十足的《经济学人》专访中，记者问他：你是否仍然认为，“杀手机器人”终结人类的概率有10%到20%？

记者还补了一句，这已经是相当高的“末日概率”了。马斯克的回答是：“从长远看，我们当然都会死。”

他说，按照物理学的标准模型，宇宙的结局是一锅漫长、乏味、逐渐冷却的“稀薄灰汤”，也就是所谓的“热寂”。既然终点如此糟糕，重要的就只是过程。

记者试图追问，十年并不算很长，但他的思路已经很清楚了。在评论这段采访的节目中，主持人把马斯克的态度称为这一阶层“漫不经心的冷酷”。

在她看来，他的潜台词是：我做的事也许会毁灭全人类，可那又怎样？马斯克还谈到自己的转变。

他说，当初正是出于对AI的担忧，他才参与了OpenAI，希望能把它掌控住；后来却发现，自己做的一切只是在加速AI的发展，于是干脆放弃，加入了这场竞赛。

另一位主持人艾米莉提到，OpenAI从非营利机构转型时，马斯克曾经反对，但事情最终还是走到了今天。主持人特别指出，马斯克是地球上最有权势的人之一。

当他决定砍掉美国国际开发署的整笔预算时，他有办法做成，节目认为这让非洲的疟疾患儿面临死亡威胁。

然而，她说，看不到任何迹象表明马斯克在特朗普政府中动用过自己的影响力，去推动AI研发的全球合作协议，或者建立测试和安全护栏机制，哪怕只是放慢这项强大技术的推广速度。

他的选择是：第一次尝试没成功，那就加入竞赛，也许自己就会成为那个毁灭人类的人。艾米莉还举了星链的例子。

在乌克兰和以色列的冲突中，美国政府以及乌克兰、以色列政府都不得不依赖他的星链，这让他握有对两场战争施加巨大影响的能力，而在以无人机为主的战争中，这一点尤其关键。

她强调，这说的不是将来，而是现在：如此集中的权力就在他手里，却没有人对此采取任何措施。

马斯克并不是孤例。节目同时谈到，硅谷精英中的反民主思想已经相当普遍。

据《财富》报道，市值约1540亿美元的Shopify公司首席执行官托比亚斯·吕特克在社交媒体上提出：领取养老金的人可以获得有保障的财务未来，但要被重新归类为“受抚养人”，像未成年人一样失去投票权。

一位自称退休银行高管的网友随后提出分级方案：不缴所得税的人没有投票权，年收入1000至10万美元的人一票，10万至20万美元的人两票，依此递增，年收入50万美元以上封顶五票。吕特克称这是一个“好制度”。

艾米莉认为，科技寡头的内核就是相信权力应当集中在自己手里，因为他们“确实更懂”。

这种信念不只体现在投票问题上，也体现在他们对经济的设计上：只要让他们完全主导，他们就能建立一个公正的体系，给所有人带来和平与乌托邦，其他人领一份“全民高收入”就可以了。她说，他们真正想要的是控制。

他们认为，正是那些懂得不如自己多的人在拖累系统。主持人则提醒，富豪本来就能用金钱主导政治。

马斯克向特朗普竞选投入了2.5亿美元；有政治学研究发现，普通人的意见对立法者几乎没有影响，富人的意见却影响很大；国会议员托马斯·马西在初选中也遭到数百万美元的抹黑攻击。在这样的格局下，还要拿走普通人手中仅剩的选票，说明这类思想已经走到台前。

过去，它被自由派的身份政治话语掩盖；如今，有人公开主张不再需要民主，要建立“网络国家”，让寡头像国王一样管理一切。艾米莉补充说，在Web 1.0时代，硅谷信奉的是自由意志主义的乌托邦：科技会把人类带向更好、更自由的地方。

后来，这些科技人物成了热衷权力的寡头。他们意识到，自己的技术正在制造高度集中的权力，而这种权力最终必然落到少数人手中。

他们没有去想办法用民主的方式分散权力，而是说：既然无能为力，就让聪明人来掌舵吧。主持人认为，自由意志主义者对政府滥权很敏感，对企业权力却常常存在盲区。

一个人可以向选举砸下2.5亿美元，再拿到整个联邦政府的“钥匙”，为全球数百万人做出生死攸关的决定，在他们眼里这不成问题，甚至是好事，因为这些人是“赢家”。正是这群人，此刻掌握着AI的方向盘。

主持人说，他们已经在主导局面，现在还想确保马斯克这样的人永远拥有无限权力。

AI的算力离不开数据中心，而数据中心正在遭遇反弹。节目指出，这股反弹是真正跨党派的，连共和党人也对数据中心不满，这出乎一些科技精英的意料。

于是，一些公司开始在当地社区大笔花钱，换取对方放行。艾米莉认为，人们反对数据中心，不只是因为项目本身，也是在借此表达对权力集中、对经济和文化被少数人控制的不满。

这种情绪已经进入选举议程。在威斯康星州民主党州长初选中，一张根据选民投票依据制作的词云图显示，最突出的两大议题是医疗和数据中心，其次才是生活成本、经济和特朗普。

在此前的一场辩论中，候选人被问到是否支持暂停数据中心建设一年或更久，只有与美国民主社会主义者立场相近的州众议员弗朗西斯卡·洪举手支持。纽约州州长霍楚尔刚刚实施了为期一年的暂停令。

威斯康星本身也是这场争论的热点地区，该州东南部的反数据中心运动声势不小。最新民调中，洪的支持率为44%，接近半数；戴维·克劳利为15%，副州长曼德拉·巴恩斯为14%，未决定的选民占13%。

距离投票约两周，对手已经很难通过退选整合票源。主持人也提醒，多候选人的州级初选民调并不容易做准，但从目前看，洪占据明显优势。

AI会不会在四年后“杀死所有人”，目前没有定论。科技界对2030年前后是否会出现毁灭性风险存在明显分歧：一部分科学家认为这是过度悲观的末日论；另一部分研究者认为，不能等灾难发生后再补救，应当提前设防。

不过，比概率数字更值得关注的，是掌握这项技术的人如何回应风险。考克森选择辞职并公开示警，马斯克则一边承认存在不小的灭绝概率，一边以“宇宙终将热寂”轻轻带过，并承认自己已经加入竞赛；也没有迹象表明他用手中的影响力推动过全球合作或安全护栏。

风险最终能否被控制，很大程度上取决于这些人是否愿意为技术设下护栏。与此同时，公众对数据中心的不满已经开始进入选举议程，至于它能在多大程度上影响AI的走向，还有待观察。