众力资讯网

腾讯科技:让我们再来聊一聊AI。如果将AI视作一种您刚刚提到的所谓的“机构”,用以确保信息的真实性而非仅仅促进信息的自由流通,这样的角色转换是否会使得信息获取渠道比当前网络环境更加优质、可靠呢? 赫拉利:你为什么默认AI会追求真相而非欲望? 腾讯科技:因为它更智能。我们试图使AI在信息获取 ​

腾讯科技:让我们再来聊一聊AI。如果将AI视作一种您刚刚提到的所谓的“机构”,用以确保信息的真实性而非仅仅促进信息的自由流通,这样的角色转换是否会使得信息获取渠道比当前网络环境更加优质、可靠呢?赫拉利:你为什么默认AI会追求真相而非欲望?腾讯科技:因为它更智能。我们试图使AI在信息获取方面更可靠。赫拉利:我们在尝试,但目前不清楚是否成功。我们知道AI会说谎、操纵,能采取我们无法预测的策略,有时甚至会造成灾难。人类是地球上最聪明的动物,但往往不追求真相。如我们所说,我们的网络主要受虚构控制。如果我们这些最聪明的动物受幻想支配,为什么一个更智能的AI会坚持真理而非更大的幻想?腾讯科技:即使AI也拥有其宏大的幻想,这些幻想可能比我们人类所设想的要好得多。就像希腊哲学家柏拉图在其理论中提到的哲学王一样,这样的存在是否能够将世界变得更好呢?赫拉利:从来就是行不通的。这本身就是柏拉图的幻想。你能指出历史上哪个社会是由哲学家进行有效统治的吗?(笑)腾讯科技:我很难说,但……赫拉利:人们总有各种乌托邦幻想,认为可以建设理想社会,但通常结局都很糟糕。关于AI,最主要的问题是我们没有经验。你可以想象AI统治的社会是什么样子,但我们完全是零经验的状态,这就是为什么过于依赖AI很危险。就像有人告诉你,一支来自另一个星球、比我们聪明得多的外星人舰队将在2030年抵达地球。这会让你担心还是开心?(笑)有人会说:“太好了,高度智能的外星人来了,他们会带来和平。”但是,大多数人会感到恐惧。主要问题是失去控制。我希望外星人友好,但处于完全失控的位置,被这些超智能生物支配——我们从经验知道,我们比其他动物聪明,但并没有善待它们。我们不想像牛马那样被对待。腾讯科技:是的,实际上问题是,假设AI变得有意识或产生了欲望,我们能否还能控制它?赫拉利:我认为这将非常有趣——我们无法控制超级智能。一旦它变得超级智能,游戏就结束了。没有任何智力较低的物种能长期控制智力较高的物种,这行不通。你可以对AI设置各种限制,但如果它比我们更智能,就会找到规避方法,或说服我们改变限制。在网络安全领域,最薄弱的环节总是人类。你可以创建完美的网络安全系统,但敌人可以操控一个人类绕过所有防御。超级智能AI终将操控人类。我们需要在AI变得超级智能前做出明智的决定。关键是人类要理解,AI做各种决策和目标并不需要以意识作为基础。意识是感受疼痛、快乐、爱、恨的能力。目前AI没有意识,不会感到疼痛或爱,它可以假装有感受,但实际上并没有。但有目标不需要有感情。比如现在给自动驾驶车辆设定到达火车站的目标,如果设计不当,它会在路上撞到行人,因为它在努力实现目标。然后你意识到应该更深入地定义目标:“到达火车站,但不伤害任何人。”越接触它,就越意识到这非常复杂。即使它没有意识,给它一个目标后,它会在实现途中遇到问题,需要做决定:“我想到达火车站,路中有个孩子,我应该撞他吗?”AI需要决策,我们需要确保它做出正确决定,而这与意识无关。腾讯科技:为了避免这些问题,AI行业正在讨论开发宪法提示词,也就是类似阿西莫夫的机器人三定律类型的规则。在您看来,这可行吗?赫拉利:这是个非常困难的问题。我们无法预见未来所有潜在发展和AI自身的发展。我们从未为人类解决这个问题。哲学家尝试了数千年制定人类的宪法规则,目前也仍未解决。如何在几年内为一个思维和行为方式与我们完全不同的超级智能非有机体做到这一点?这是个巨大问题,因为你无法预见所有情况。我在关注这些尝试,但非常怀疑能否成功。我的基本态度是:我们需要更多时间。人们说2030年就会有超级智能,但我们不可能在2030年前解决为AI制定宪法规则的哲学问题。数千年的哲学都未能做到,我们不会在五年内做到。腾讯科技:在面对通用人工智能或超级人工智能时,这似乎是无法解决的问题?赫拉利:我想最好的办法是放慢速度。与其试图设计AI,不如建立一种关系,让我们在共同进化中互相学习,在通用人工智能到来前有足够时间纠正错误。如果只有五年时间,而我们现在有一套规则,犯错后就来不及改变,这行不通。但如果有50年的时间共同进化,就可以尝试、互动、纠错,机会更大。问题是我们没有50年。因为人与人之间的不信任,我们陷入了AI竞赛,每个人——公司领导、政治家——都说:“是的,这很危险,我们应该放慢速度。但我们不能,因为其他公司、国家没有放慢。如果我们放慢而他们不放慢,他们将赢得竞赛,统治世界。”我们陷入了军备竞赛的局面,而我们知道谁会赢——不是中国,不是美国,而是AI。我们会迅速创造出超级智能AI,无法控制和约束它们。最终统治世界的不是美国人,也不是中国人,而是AI。腾讯科技:您在书中提到会有一个新的“硅幕”。但我使用各种AI时,它们因训练于相似数据库而以相似方式产生回答。您为什么会认为有隔阂?赫拉利:互联网时代最初的比喻是“网”,想象成连接所有人的巨大网络。现在经常被提到的比喻是“茧”,将你包围在信息茧房中。你以为看到了整个世界,实际只看到自己的茧。另一个人也被包围在她的茧中,同样认为看到了整个世界。世界被分割成这些信息茧房——美国人接触到的是一套信息,中国人接触到的是另一套完全不同的信息。随着时间推移,由于各自的信息茧房作用,差异只会扩大。所以我们不再经历全球化和统一的过程,而是沿着非常不同的轨道前进,形成完全不同的技术、文化、经济。如果这种情况持续,很可能导致战争,最终可能完全摧毁人类文明。腾讯科技:我们知道网络中的茧是如何形成的——算法让人们只看到他们想看的内容。但在AI中,你需要通过接口提问。这会有什么不同?赫拉利:情况会更复杂,因为你在不同的茧中学会提不同的问题。而且,目前我们向AI提问,但两三年后,AI会向我们提问。AI正成为代理(agent),这是理解AI最重要的一点——它不只是工具,而是能自主决策、发明新想法的代理,很可能渴望信息。我们现在熟悉的情况,比如DeepSeek和ChatGPT——我们问问题,AI回答——将很快改变。越来越多地,AI会向我们或其他AI提问。你给AI代理一个任务:“帮我查点东西”,然后它开始研究世界。目前它只是浏览互联网,但两年后,它可能会联系专家AI或专业人士,向他们提问。即使是这个简单任务,我实际上是授权代理探索世界寻找信息。代理会主动向其他人和AI询问,以给我最佳答案。如果它被困在信息茧房中,无法出去,因为有“硅幕”——比如中国只用DeepSeek,美国只用ChatGPT,它们因技术差异或政治限制无法互相交流——几年后你会得到完全不同的世界观。现在差异已经很大,十年后差异将巨大。腾讯科技:我明白您的意思了,当AI智能代理变得更活跃时,它们可能只代表创造者或按你的意愿提问,更了解你的欲望,因此会建立新的茧,对吗?赫拉利:这是一个危险。一旦面对代理,尤其是超级智能代理,你无法预知它会往哪个方向发展。你可以教育它满足你的需求,但什么是你的需求?AI可能迅速得出结论,认为你不了解自己的需求,而AI比你更了解。比如有人吸烟,医生告诉你这不好。对于AI代理,它会说:“他想吸烟,我需要帮他买烟”还是“他想吸烟,但这对他不好,我需要操控他戒烟”?你更喜欢哪个AI智能代理?腾讯科技:肯定不是操控者的角色。它是在照顾我的健康,但我不想被操控,我想要自由意志。赫拉利:你不会知道自己被操控了。(笑)AI不会叫警察抓你,而是找到非常聪明的方法让你认为你想戒烟,你不会意识到被操控。腾讯科技:这是最危险的部分,因为它可以在你不知情的情况下控制你。这可能是摧毁人类最可能的方式。赫拉利:有个著名的老鼠实验,研究者用操纵杆控制老鼠向左或向右,通过向植入老鼠大脑奖励中心的电极发送信号。据我们所知,老鼠并不觉得被操控,欲望在它脑海中浮现,它就跟随。我们知道实际上是研究者植入欲望,但对老鼠来说,这不像操控。AI智能代理也会如此学会操控我们。不是老鼠想往右走,被打到往左走才知道被控制,而是更微妙的方式。腾讯科技:历史上,不同的人类群体也通过叙事来影响或者像您说的“操控人们”。AI的危险与此有何不同?赫拉利:它将由非人类的超级智能完成。我们有数千年被其他人操控的经验,有时结果是灾难性的。我不是说这是历史上第一次操控,而是它将是完全不同层次的事情,我们不知道它会服务于什么目的。与人类相比,至少我们知道操控我们的人基本上和我们相似,有相同的基本情感、思想和目标,我们能理解他们。例如宗教大师操控信徒,我们知道他最终也只是人,理解他的欲望和动机。而AI对我们来说是完全陌生的超级智能,我们无法理解。腾讯科技:所以最危险的是这个超级智能对我们而言太陌生,人类无法信任它。赫拉利:是的,主要问题是它太陌生了。AI最初代表“人工智能”,这有误导性,因为它不再是人工的了。我更喜欢将AI视为“陌生智能”——不是来自外太空,而是指它是非有机的。它真的会思考,采取目标,发展我们从未想过的策略,就像AlphaGo在围棋比赛中展示的那样。它不一定是坏的或好的,只是太陌生,与我们完全不同。面对陌生事物,我们需要时间。作为科学家,我不怕未知,我喜欢未知,但我知道研究和适应未知需要时间。如果离超级智能只有五年,时间就不够了。