众力资讯网

教皇说 AI 永远不会有意识,不懂爱也不会痛。辛顿回了一句:凭什么只有血肉才算有

教皇说 AI 永远不会有意识,不懂爱也不会痛。辛顿回了一句:凭什么只有血肉才算有意识。10 月 30 日,罗马教皇良十四世在梵蒂冈一场关于 AI 的会议上致辞,重申了他此前发布的通谕。意思两条:机器是工具,不是人;不能给它法律人格。他用的词很朴素,说 AI 不会爱,不会痛,也没有真正的主观体验。

半个月后,辛顿在 11 月的访谈里把这话顶了回去。他举的例子是一只茶杯。他说,我把桌上这只杯子从左边挪到右边,我能回忆起这个动作的全部细节:手指的触感、杯子的重量、桌面那一层反光。而现在这些多模态模型,看完一段视频,也能把这些细节描述得八九不离十。那问题就来了:凭什么你说它有描述、没体验?

辛顿自己也没讲机器一定有意识。他的意思是,我们手里根本没有一把能证明它没有的尺子。这个反驳看着像文字游戏,其实很硬。

因为「意识」这个词,一直是靠「人有的它没有」来划界的。会痛、会死、有血肉、有信仰,这些是门槛。门槛立在那儿,机器就永远是工具,人也永远特殊。可这几十年,门槛一条一条被挪过去:会下棋不算智能,会写诗不算,会推理不算,会看图不算。每挪一次,门槛就往后撤一格。撤到今天,剩下那条门槛是「你有没有第一人称的内在感受」,而这个东西,恰恰是唯一没法从外面验证的。

这场争论表面在争 AI 有没有灵魂,实际在争「意识」这个词的解释权归谁。​归宗教,机器永远不够格。归工程,那把标准降到「能描述、能应对、能自我修正」,很多模型今天就能过线。而解释权一松,跟着松的是一整串现实问题:它算不算责任主体?它造成损失,谁赔?公司能不能说一句「这是模型自己的判断」?这才是教皇那句话真正在意的地方。他反对给 AI 法律人格,不是保守,是看见了一条很现实的路:一旦机器被承认有「自己的意志」,出事的时候,责任就有了下家。

所以,人真正该守住的不是「只有血肉才有意识」这条线,是「责任必须落在人身上」这条线。​前一条线守不守得住,我们没有证据;后一条线一旦松了,代价是立刻能算出来的。至于人的独特到底在哪,答案也许不在「会不会思考」上。AI 能写出比我们漂亮的句子,能算出我们这辈子算不出来的东西,但它不会因为写错一句话而半夜睡不着。它不承担,所以它不自由。人的分量,从来不在能力上,在承担上。ai意义 ai人生意义