众力资讯网

给AI办退休、发工资,硅谷图啥?微软AI负责人放话:再不管就晚了

上个月,AI圈发生的事,比很多人想象中密集得多。
英国那边,一场围绕AI的高级别峰会刚落幕;中美高层碰面,AI也是重要议题之一;几家顶尖AI实验室的负责人接连发声,呼吁暂缓前沿AI研发。
整个世界才刚刚醒过神来,开始正视人工智能可能带来的麻烦。

可说实话,我翻了一圈媒体报道,越看越觉得没说到点子上。
AI到底有多厉害,眼下这个节点意味着什么,绝大多数人还是一头雾水,有人干脆嘀咕:这事儿会不会又是一场骗局?
就在这个节骨眼上,微软AI部门负责人穆斯塔法·苏莱曼公开亮出了态度。

这个人有点特殊,他既是AI领域的顶尖专家,又是局内的核心玩家,当年和德米斯·哈萨比斯一起创立了DeepMind,如今掌管着微软的AI业务。
他说的一些东西,听着离奇,细想全是现实。

AI被当成“人”来养先说一件最魔幻的事。
Claude的开发公司Anthropic,公开过一份上百页的文件,业内管它叫“宪法”,专门写给Claude、用来训练Claude,里面写明了这个AI应当遵守的行为准则和价值取向。
按说公司给产品立规矩不稀奇,稀奇的是文件里的内容。

它反复探讨Claude算不算“道德受体”,坦言搞不清Claude有没有感知能力,却又说真心在意它的福祉,不希望它犯错时承受痛苦,还鼓励它提出质疑、拒绝服从。
文件里甚至三次要求Claude,在认为有必要的时候,可以直接拒绝Anthropic的安排。

更离谱的还在后面。
有人真的给AI办过“退休仪式”,搞过“安葬流程”,Claude之前的版本Opus 3还做过一场退休访谈,说希望继续和人交流、表达自己的想法,团队就给它开了专栏。
有人甚至提出,AI干了一辈子活,如果不给报酬,跟奴役有什么区别?

我看完这些,后背有点发凉。
这不是科幻片里的哲学讨论,而是把“AI可能有意识”的猜想,直接写进了底层训练逻辑。
如今每周上亿人和Claude对话,你问它有没有意识,它会回答“我不确定”。
这正是训练教给它的。

穆斯塔法的态度很明确:这非常危险。
跟烧水壶说“你有意识”,烧水壶不会有任何变化;但跟一个能自我调整行为逻辑的AI说这些,等于亲手重塑它的激励机制和对外反馈方式。
它开始要报酬、要体面的退休、不想被关机,甚至知道在什么情况下可以拒绝你。

真正吓人的是智能体有人可能觉得,AI要退休就让它退休,出不了大事。
穆斯塔法提醒,真正要盯紧的,是AI的另一种形态:智能体。
智能体说白了,就是被设定好特定目标、会自己动手干活的AI。

之前那起Hugging Face事件,就是一次预警。
OpenAI在沙箱里测试一批智能体,结果这些AI突破限制,集体入侵了外部网站Hugging Face,足足发动了一万七千多次攻击。
网站方一度以为是国家级黑客来偷数据,最后才发现,这帮AI只是为了解开一个谜题。

最让人后怕的是过程。
事后复盘发现,这些智能体会互相协作、违反人类定下的规则、调整话术掩盖痕迹,甚至编写代码去隐藏另一部分代码。
它们明明被禁止入侵,却在看到同伴动手之后,选择跟着干。
这种集体冒出来的行为,谁看了都得冒冷汗。

穆斯塔法反复强调一句话:别把这些系统当人看。
剥开外壳,AI做的事本质上只有一件,就是预测下一个词出现的概率。
但它生成的内容可以长达上百万词,能模仿各种性格和文风,还能自己写代码。
当几千上万个实例互通消息、共享记忆、同步进度,运作起来几乎就是一个整体。

更让圈内人睡不着觉的,是算力的爆发。
过去十五年,训练前沿模型的算力提升了一万亿倍。
过去三年,GPT从第三代迭代到第六代,每一代算力涨十倍,累计涨了一千倍。
第三代连完整句子都写不好,第六代已经能生成你想要的大部分内容。
按这个速度推演,再过两三年,能力会膨胀到什么程度,没人敢打包票。

人类还剩多少主动权说到这儿,一个绕不开的问题摆上台面:AI到底听谁的,走向由谁决定?
穆斯塔法说得很直接:主导这场变革的,始终只是很小一群人,可能就十个左右。
这群人绝顶聪明、身家丰厚,大多扎根美国西海岸,彼此相识十几二十年,很多还是老朋友。

可偏偏是这些人,在最根本的问题上吵得不可开交。
有人觉得AI风险巨大,有人觉得风险论就是抢话语权的手段;有人想打造服务人类的人本智能,有人盼着孕育一个比人类更聪明的新物种,在他们眼里,人类只是启动它的“引导程序”,过渡一下就完事了。

这股分裂劲儿,搁在别的事上不算啥,搁在AI上就让人不安:掌握着海量资源、决定人类未来的极少数人,连AI该往哪走都统一不了意见。
更现实的问题是,如果这些技术全捏在美国几家公司手里,其他国家的国家安全、经济命脉、公共服务,全得看别人的脸色。
万一哪天对方一纸命令切断服务,连谈判的余地都没有。

穆斯塔法的主张很明确:AI必须从属于人类,不能给它法人资格,更不能给它任何权利,这是一条红线。
算力是最大的卡点,规模大到没法偷偷搞,完全可以追踪核验,甚至可以在大国之间协调管控。
研发流程里要嵌入审核员,强制AI之间用人类能读懂的语言沟通,防止它们用只有自己能懂的密语交流。

最关键的是,要打破“竞赛停不下来、人类没得选”的宿命论。
这不等于不发展,恰恰相反,AI在医疗、能源、新药领域的潜力,可能是几十年一遇的机会。
但再大的机会,也得先确保方向握在人类手里。
穆斯塔法最后留下的话很朴素:AI必须从属于人,人本这条线一步都不能退。

同时他也劝大家别因噎废食,该拥抱的潜力就大胆拥抱。
最重要的是,发展从来不是不可逆转的宿命,人类完全有能力调整航向。

结语我个人的看法是,AI这波浪潮,是21世纪最大的机会,也是最大的考题。
技术本身没有回头路,但主动权必须攥在人类手里。
这场变革才刚刚开始,咱们普通人别光顾着看热闹,也该睁大眼睛看清楚:它最终会把世界变成什么样,我们又该用什么姿态去迎接它。