众力资讯网

神经符号AI:通向AGI的新路径?杨立昆等反对

当美国人工智能促进协会(AAAI)向会员抛出一个关键问题——当下主流的“神经网络”能否独自通往通用人工智能(AGI)时,

当美国人工智能促进协会(AAAI)向会员抛出一个关键问题——当下主流的“神经网络”能否独自通往通用人工智能(AGI)时,答案出人意料:绝大多数人认为“不能”。他们指出,必须重新引入一种“老派”技术——符号人工智能(SymbolicAI)。

当下AI领域最前沿的概念神经符号人工智能正被一股‘新旧融合’的思潮催生出来它想要把神经网络厉害的‘直觉’学习能力和符号AI严谨的‘逻辑’推理能力结合到一起马里兰大学研究表明从2021年起相关学术热潮持续上升被看作打破神经网络‘不健康垄断’的关键。

研究者们相信,这种“混血”技术是实现AGI——具备人类级推理与知识迁移能力的AI——的必经之路。它能解决纯神经网络的“黑箱”困境,让AI决策变得透明、可理解,这在医疗、军事等高风险领域至关重要。谷歌能解奥数题的AlphaGeometry,就是这一融合的早期成果。

但这条路也有反对的人图灵奖得主、Meta的首席AI科学家杨立昆觉得扩大神经网络规模才是对的还说人为加入符号规则是不对的这场争论的关键是AI发展的根本路径该怎么走是让机器在大量数据里‘暴力’学习还是给它加入人类能懂的逻辑和规则?

神经网络擅长从数据中生成却会“胡编乱造”(产生幻觉)且缺乏常识符号AI逻辑清晰却难处理语言这类“混乱”概念于是探索神经符号AI的人在尝试多种融合策略:

策略一:用符号优化神经网络。如AlphaGeometry,用符号系统生成数学题来训练神经网络,使其解题过程更易验证。

策略二:用神经网络优化符号算法。如AlphaGo,用神经网络预测围棋的最优落子,大幅缩减符号搜索的范围。

策略三:在工作流中加入符号计算。让AI先把问题转换成代码,运行代码解决后再转成自然语言,以此有效防止“一本正经地胡说八道。

宾夕法尼亚大学的毛佳媛博士是这一领域的先驱。她采用“神经网络识别物体加符号算法推理关系”的混合模式,把机器人训练所需的样本量从70万个锐减到1%,准确率仍有92。

前景虽说广阔挑战可不小符号AI的大难题是怎样把人类像“见到爱人会微笑”这样带很多例外的常识编成严谨的逻辑规则测试表明就算是顶尖的语言模型编这类逻辑语句也老出错逻辑乱得很。

很多科学家觉得随便把两种技术凑一起没什么用马里兰大学的科勒洛教授说现在重点是研究AI的‘元认知’就是AI怎么监控和引导自己的思维我们得有个AI‘指挥家’把‘快思考’(神经网络直觉)和‘慢思考’(符号逻辑)统筹起来别让它们机械地切换。

毛佳媛有更远大的目标让人工智能自己去发现人类还不知道的规则她称“我们期望最终能打造出能自主发明符号表征和算法的系统”到那时计算机也许就能自己找出“圆周率”或者“质量”这类基础概念。

那一天到来时,局面将彻底反转。我们需要研究的,将是“计算机如何教导人类”,而非“人类如何教导机器”。机器将不再仅仅是工具,更是一位能揭示宇宙“潜规则”、指出人类认知盲区的冷峻导师。

一开始想用代码搞明白世界所有规则,接下来让神经网络使劲去尝试,现在又在找逻辑和直觉结合的法子,AI就这么螺旋式发展。

这是技术路线的调整也是在模拟人类大脑“快思考”与“慢思考”协同运作的机制。

当那个预想中的AI“指挥家”真正挥起指挥棒时,它演奏出的,或许将是关于宇宙本质的、我们从未听过的全新旋律。

你觉得通往人工智能未来的关键是在纯神经网络的“暴力美学”那边,还是在逻辑和直觉结合的“混血路线”里?