转自：长安街知事
读完罗伯特·赖特的《造神之后》，我最大的感受是：这是一本非常“当下”的书。该书对AI（人工智能）技术演化的基本方向、潜在机会与风险，以及人类面对这一变化时产生的失控感，都描述得相当准确。它既没有简单把AI当作拯救文明的万能工具，也没有停留在“机器人毁灭人类”的廉价科幻叙事上，而是在追问一个更加根本的问题：人类究竟创造出了什么？当这种智能继续发展时，我们又应该怎样与它相处？
大模型中自行生长的智能
罗伯特·赖特指出，可解释性研究表明，模型内部自行形成的某些信息处理结构，在功能上竟然与人脑中的认知结构有相似之处。换句话说，人类没有把某些认知机制显式安装进去，机器却在完成任务的过程中自行“重新发明”了它们。
我越发认为要把AI理解成一种被发现的东西，而不仅仅是被发明的东西。这当然不是说人类没有发明其中的关键技术。罗伯特·赖特强调，向量嵌入、神经网络乃至Transformer（大多数大语言模型的底层基础）都是人设计出来的。但人类没有指定每一个词最终应该在高维空间中对应什么数字，也没有直接把“意义”编程进去。模型却在训练过程中自己形成了有意义的表示。罗伯特·赖特甚至说，在某种意义上，机器“发现”了意义是语言不可缺少的属性。
所以我更愿意这样表述：人类发明了学习机制，却在不断发现这种机制究竟能够“长”出什么东西。
这一点和以前绝大多数工程发明很不一样。比如，在造桥之前，工程师知道桥的主要结构；造飞机之前，设计者知道机翼和发动机分别承担什么功能。但训练一个大模型时，我们知道自己搭建了一个什么样的训练系统，却无法事先写出最终会出现哪些内部算法、表征和能力。就连上世纪80年代已经非常看好神经网络的杰弗里·辛顿（AI教父，多伦多大学名誉教授），也没有真正预见40年后的结果。罗伯特·赖特明确说，今天大模型的巨大能力虽然在某种意义上已经潜藏于辛顿当年选择的方向里，但当时包括辛顿在内，并没有人真正理解这一方向最终意味着什么。
德日进的心智圈迎来新神经元
书中另一个让我产生强烈共鸣的概念，是“行星大脑”。
罗伯特·赖特追溯了法国思想家德日进（本名皮埃尔·泰亚尔·德·夏尔丹）的“心智圈”概念。早在微芯片出现之前，德日进就注意到电话、广播、电视正在把原本分散的人类大脑连接成巨大的信息网络。他把这种东西称为地球的“思维外壳”，也称为“行星心智”，甚至称它为“脑中之脑”——一个以人类大脑作为神经元的全球超级大脑。
罗伯特·赖特认为，到了AI时代，我们需要把德日进的想法再向前推一步：未来这个全球大脑中的“神经元”，将不再只有人脑，也包括具备信息处理能力的硅基AI。
这意味着未来的“行星大脑”未必需要一个单一的超级AI居于中央、控制一切。它完全可能由海量彼此通信、合作、竞争的智能体组成，并在互动中自行形成一种更高层次的组织结构。也正因如此，我认为本书对于AI危机乃至极端末日风险的讨论，并不是危言耸听。
我并不认为人类和AI最终一定会成为两个彼此对立的存在。有趣的是，罗伯特·赖特自己也设想过一种与这种乐观判断非常接近的可能性。在讨论MCP（AI的“USB-C接口”）和A2A（智能体之间的“协作语言”）时，他说这些基础设施既可能形成不受人类约束、盲目扩张的全球“硅基蜂群”，也可能让大量AI智能体替人类协调复杂系统、发现并消除威胁。针对后一种情况，他写道：AI与有机智能将实现稳定的共生关系——双赢，而非一赢一输。
罗伯特·赖特强调，这不是必然会发生的结果，只是一个如今已经无法轻易排除的未来场景。但我自己愿意比他更乐观一点。
重新理解“人”的边界
今天，手机、互联网、搜索引擎其实早已不只是人的“外部工具”。它们已经成为我们的记忆、感知和社会连接能力的一部分。未来的AI可能只是沿着这条道路继续向前：从工具变成助手，从助手变成认知系统的一部分，最后深度融入人的思考回路与整个社会的信息处理结构之中。
而且，我并不觉得这种“融合”本身有什么值得可怕的。
今天，我们习惯把“一个人”想象成一个边界清晰、由大脑独立控制的主体，但现实本来就没有这么简单。我们的情绪究竟有多少来自大脑内部，又有多少受到激素、免疫系统、肠道菌群以及整个身体状态的影响，很难画出一条清晰的边界。甚至可以说，今天所谓“我的一个念头”或者“我的一个决定”，本来就是一个庞大的、分布式的生物系统共同作用之后的结果。
但我们并不会因此认为自己“不再是一个人”。
意识有一种很重要的能力，就是把这些分散的因果来源整合起来。饥饿、疲劳、激素变化、肠道信号、过去的记忆、眼前的信息，也许都在共同影响一个决定。可当这个决定最终进入意识，我们体验到的仍然是：“我想这样做。”
从这个角度看，未来AI进入人的认知回路，也未必意味着“人被机器取代”。它也可能只是在原本已经十分复杂的分布式系统中，又增加了一组新的信息来源与计算环节。
人的大脑本来就在整合身体，未来也可能与机器形成整合。
只要这种整合最终仍然被纳入一个连续的意识、自我模型和行动系统，那么从宏观层面看，行动的动因依然会被意识统合为一个整体。我们不会如此区分：“这个念头有12%来自肠道菌群，17%来自激素，23%来自过去的记忆。”同样，未来我们也未必会区分：“这个判断中有多少来自我的生物神经元，又有多少来自AI。”
它们最终被人类体验后都可能成为“我的判断”。
因此，“人类战胜AI”或者“AI取代人类”，也许本身就是一个错误的二分法。更可能发生的是，人的边界继续扩张，就像它在过去几千年里持续向外延展一样。
未来的人类可能比今天的更加分布式，但这并不意味着人变得支离破碎。恰恰相反，意识可能继续把越来越复杂的底层系统整合成一个统一的行动主体。所以，即使AI最终真正参与我们的记忆、判断、创造乃至决策，人依旧可以是一个完整的主体。
变化的也许只是：这个“人”比今天的我们更大了。
这可能才是《造神之后》真正抛给我们的那场“测试”：面对一种我们自己开启却无法完全预测其结果的智能演化，人类能否既避免被它毁灭，也不因为恐惧而拒绝它；能否在真正理解它的同时，最终把它纳入自身，并和它一起完成下一次演化跃迁。
我仍然相信，答案最终会是肯定的。