据《The Information》披露,奥特曼(Sam Altman)上周在 OpenAI 内部给员工梳理了 AI 安全的三种终局方案,其中最炸裂的一条居然是:率先搞出超级 AI,然后直接把竞争对手的 GPU 统统“熔掉”。
你以为 AI 安全还在讨论怎么防止机器人把人类当成电池?不,大佬们已经在研究怎么给对手拔插头了。
奥特曼口中有以下三种终局。
第一种是走国际原子能机构(IAEA)路线,成立全球监管组织统一发牌照;
第二种是巨头大合并,大家组成“超级实验室”集中搞开发;
第三种最狠,也就是源自 AI 安全狂人 Eliezer Yudkowsky 思想的“Eliezer 方案”——某家公司先一步触发递归自我改进(RSI),技术瞬间碾压全场,然后利用绝对的技术和经济优势,阻止其他人继续开发。
奥特曼甚至极其形象地把它总结为:“melt everyone else's GPUs”(熔掉别人的 GPU)。
虽然奥特曼自己也承认第三种方案“糟糕透顶”,但它能被郑重其事地摆在顶级 AI 实验室的讨论桌上,本身就极其讽刺。
Yudkowsky 当年因为提议“必要时可以用空袭炸毁未经授权的数据中心”而被当作极端派,如今他的思路却被硅谷最有权势的人当成了潜在的备选战术。
这不就是经典的核威慑逻辑吗?我有核武器是为了捍卫和平,至于你为什么不能有,因为你不够安全。
更耐人寻味的是,奥特曼一边承认大家需要一起踩刹车,一边又坦白:OpenAI 眼下绝不能为了合作而向竞争对手让步。
这可以说是当今科技界最露骨的囚徒困境。英伟达的顶级算力芯片源源不断地发往各大机房,微软、谷歌、Meta 和 OpenAI 正在进行一场史上最昂贵的军备竞赛。
大家都知道悬崖就在前面,但谁也不敢先把脚从油门上挪开——因为谁先减速,谁就会成为那个被“熔掉”的弱者。
所谓的 AI 安全,正在从一场关于代码和伦理的技术探讨,迅速蜕变为一场关于权力如何分配的政治博弈。坐在桌前讨论“谁有权决定别人能不能继续研发”的人,恰恰就是最不可能放弃权力的人。
以前我们总担心超级 AI 会觉醒并毁灭世界,现在看来,在 AI 还没来得及开口说话之前,人类巨头们已经开始认真规划怎么给对方的显卡下毒了。
以后显卡涨价大家也别抱怨,毕竟你买的不是显卡,是你在这个“GPU 互保条约”时代里的个人防御性战术储备。

