WalterIsaacson在NYT的文章,AdaLovelace早已回答了关于人工智能的重大问题AdaLovelaceAlreadyAnsweredtheBigQuestionsAboutA.I.Isaacson先生是《创新者:一群黑客、天才和极客如何创造数字革命》的作者,也是视频播客《建设者》(TheBuilders)的主持人。数字革命诞生于1843年。当年,WalterIsaacson在NYT的文章,AdaLovelace早已回答了关于人工智能的重大问题AdaLovelaceAlreadyAnsweredtheBigQuestionsAboutA.I.Isaacson先生是《创新者:一群黑客、天才和极客如何创造数字革命》的作者,也是视频播客《建设者》(TheBuilders)的主持人。数字革命诞生于1843年。当年,AdaLovelace为她的朋友CharlesBabbage发明的一台计算机器撰写了一组长达2万字的笔记。她展示了人类与数字技术如何协同工作,从而创造出美妙的成果。如今,当我们面临一个选择——在人工智能时代究竟应该让人类扮演什么角色——Lovelace所倡导的人机合作方式,依然是正确的方向。Lovelace是浪漫主义诗人LordByron唯一的婚生子女。她继承了父亲身上那种反叛的艺术气质,而她的母亲AnneIsabellaMilbanke则试图通过让她主要接受数学教育来加以约束。Lovelace逐渐意识到,数学本身就是一种诗意的东西:它是一种优美的语言,用来描述宇宙的和谐。尽管母亲努力将她引向另一条道路,她始终是父亲的女儿;她拥有一种独特的感受力,能够把一道方程式看成一笔描绘自然壮美的笔触。这两种特质结合在一起,使Lovelace迷上了一种她后来称之为“诗意科学”(poeticalscience)的理念——将艺术想象力与她对数字的着迷联系起来。她的父亲从字面意义上说就是一名卢德分子(Luddite)。Byron在英国上议院发表的第一次演讲中,就为民间传说中的NedLudd的追随者辩护。当时,这些人正在英国各地捣毁新近投入使用的机械织布机。卢德分子认为,自动化将减少人类的就业岗位。他们错了——正如今天那些反对其他新技术的卢德分子同样错了。到19世纪末,纺织业的工人人数已经达到此前的大约10倍。与父亲不同,Lovelace看到了自动化技术的力量和潜力。母亲带她前往英国工业重镇所在的中部地区旅行时,她尤其对一种新型织机印象深刻:这种被称为雅卡尔织机(Jacquardloom)的机器利用打孔卡片来控制织物图案的编织。在关于Babbage计算机器的笔记中,Lovelace解释了打孔卡片如何通过一排排有孔或无孔的位置来存储和传递信息。“分析机编织代数图案,就像雅卡尔织机编织花朵和叶子一样。”她写道。她意识到,这种机器的运算并不需要局限于数学和数字。打孔卡片可以存储、操纵、处理并作用于任何能够用符号表达的东西:文字、逻辑、音乐、图像,以及“织造锦缎时最为复杂的图案”。这台计算机器由此可以成为一种通用计算机。Lovelace的这一洞见后来成为数字时代的核心理念:任何形式的内容或信息——音乐、文字、图像、数字、符号、声音、视频——都可以用数字形式表达,并由机器加以处理。她甚至写下了一些计算机器可以执行的分步骤程序,这些程序后来被视为世界上最早公开发表的计算机程序。她的笔记还提出了另一个意义重大的概念:人工智能。机器能够思考吗?她认为不能。她断言,像Babbage的分析机这样的机器可以按照指令执行运算,但无法自行产生思想或意图。“分析机丝毫没有自行创造任何东西的能力,”她写道。“它能够执行我们知道如何命令它完成的任何事情。它能够进行分析,但没有能力自行预见任何分析关系或真理。”一个多世纪后,计算机先驱AlanTuring在1950年发表的奠基性论文《计算机器与智能》(ComputingMachineryandIntelligence)中,将这一观点称为“Lovelace夫人的异议”(LadyLovelace’sObjection),并认为她错了。数字革命最终形成了两种思想流派,可以分别称为“图灵阵营”和“Lovelace阵营”。图灵阵营认为,通用人工智能最终将超越人类智能的方方面面,并由此产生能够自行设计自身的人工智能系统。这可能带来所谓的“奇点”(singularity):机器不断把自己改造成超级智能的继承物种,最终不再需要人类。而另一边的Lovelace阵营则认为,人类的创造力、意图、能动性和同理心始终会有其作用。人类的创造力包含价值观、审美判断、情感、个人意识以及道德感。正如Lovelace所说,我们拥有一种想象力,能够“将事物、事实、思想、观念以全新的、原创的、无穷无尽且不断变化的组合方式汇聚在一起”。我们能够欣赏美,把信息编织成叙事。我们既是讲故事的动物,也是社会性动物。这些正是艺术和人文学科所教授的东西,也是人类所独有的能力。这一阵营认为,最大的进步不会来自机器独自工作,而会来自一种紧密连接的共生关系:机器的处理能力与人类的创造力相互结合,彼此受益。Lovelace写道,人类负责“发起”思想和意图,机器则成为人类的“执行右手”,而双方不断往返、反复互动的过程,将进一步深化人类的理解。这种理念在现代的先驱是心理学家兼计算机科学家JosephCarlRobnettLicklider。1960年,他发表了一篇在战后科技史上影响深远、却鲜为人知的论文《人机共生》(Man-ComputerSymbiosis)。当其他研究人员——例如MarvinMinsky和JohnMcCarthy——正在追求图灵式的人工智能愿景时,Licklider认为,目标应该是“增强型智能”(augmentedintelligence):让人类和机器“合作进行决策”的系统。Licklider写道:“由此形成的伙伴关系,将以任何一个人类大脑前所未有的方式进行思考,并以我们今天已知的信息处理机器远远无法企及的方式处理数据。”20世纪70年代开始的个人电脑革命追求的正是这一目标:增强而非取代人类智能。从DouglasEngelbart这样的具有人文主义思想的工程师开始——他在1962年发表了一篇长达一本书的宣言《增强人类智力》(AugmentingHumanIntellect)——个人电脑领域的先驱们便强调人机界面的重要性,也就是人类如何与机器互动,以及双方如何来回沟通。最具变革性的进步之一,就是那些让人与机器互动变得更加简单、直观的突破,例如鼠标,以及“指向并点击”的图形用户界面。Engelbart的追随者,如AlanKay和SteveJobs,都凭借一种直觉式的人文主义理念,致力于打造易于使用的界面。乔布斯在产品发布会上经常以一张街道路牌的幻灯片作为结尾,上面显示的是“文科与技术”的交叉路口。在他最后一次这样的公开亮相——2011年发布iPad2时——他站在那张图片前说:“技术单独是不够的,这是Apple的DNA——只有把技术与自由艺术、与人文学科结合起来,才能产生让我们心动的成果。”如今,人类面临着一场可能截然不同的技术革命。许多人工智能系统正在被设计成能够完成既定目标,同时最大限度地减少——甚至消除——人类参与。我们只有很短的时间来决定,是否希望人工智能始终紧密依托于人类监督、人类价值观和人类能动性。这将涉及成千上万项非常具体的决定:我们应该赋予软件智能体、无人机、机器人以及其他自主设备——无论是虚拟的还是实体的——多大的权力,让它们在没有人类介入的情况下采取行动?而要做出这些决定,我们必须回答一个更加根本的问题:为什么我们坚持要让人类留在决策环节之中?一种解释是,正如Lovelace和Licklider所暗示的那样,共生关系具有力量倍增效应:机器的处理能力与人类的创造力结合起来,将完成一些比机器单独创造出来的东西更加精彩的成果。啊,是的!这么想当然很美好。但在许多领域,情况已经不再如此。自动驾驶汽车正变得比人类驾驶的汽车更加安全。战争中,一架必须与人类配合的军用无人机可能不如完全自主的无人机有效。我们的道德本能或许希望让人类参与其中,但我们的竞争本能不会。假设人工智能发展到了彻底超越人类的程度呢?假设小说、诗歌、代码、电影、军事行动、警务决策和法律判决,在没有人类参与的情况下都能做得比我们更好,就像如今自动驾驶汽车正变得更加安全一样?这就引出了最根本的问题:我们为什么要建造这些系统?答案应该显而易见:为了让人类的生活变得更好。人类的繁荣并不只是消费。我们从创造和发现事物、行使判断力和解决问题、照料他人,以及对自己周围的世界施加一定影响中获得意义。一个由机器替我们完成一切事情的社会,或许能够提供物质上的富足,却会剥夺我们的能动性和意义。我们应该继续紧紧遵循Lovelace的愿景,打造鼓励人机合作的系统。责任落在那些正在开发大型语言模型和机器人的工程师与科技公司身上,也落在我们每个人身上——取决于我们所做的决定,以及我们每天如何使用这些技术。我们应该努力以一种亲身参与的方式,与自己选择使用的技术保持紧密合作。这意味着,我们需要花时间理解这些技术是如何运作的,并要求它们准确展示其推理过程和信息来源;减少对自主智能体的授权;选择那些鼓励我们参与其中的工具。沿着AdaLovelace开创的道路前进,我们可以通过优先选择那些具备J.C.R.Licklider、DouglasEngelbart、AlanKay和SteveJobs所代表的人机交互传统的服务与设备,帮助确保一个繁荣的人类未来——也就是那些友好、直观、互动,并力求让人类参与每一步,而不是诱使用户把一切都交给机器处理的技术。海外新鲜事