众力资讯网

破解“不可能三角”,Momenta曹旭东:以大模型定义芯片

L4级自动驾驶究竟需要一颗什么样的芯片?行业里常见的开发顺序,多是先研发出芯片,再由算法团队适配、调优。而新芯航途(XHEART)反其道而行之,根据大模型的推理特征来定义芯片架构。
10月29日,新芯航途在苏州举行发布会,并正式发布大模型芯片X7 Ultra,以700 TOPS大模型算力、六大产品优势,将“大模型定义芯片”的理念转化为产品能力,并携手产业伙伴展示量产成果、公布下一代芯片X9的研发目标。
新芯航途脱胎于Momenta芯片设计部门,2023年底独立成立,总部在苏州。会上,Momenta的创始人兼CEO曹旭东也阐述了大模型定义芯片的看法。
破解通用芯片“不可能三角”
曹旭东说,Momenta从第一天开始,终极目标就是实现规模化L4。而要实现百万台、千万台的自动驾驶车辆跑起来,关键是要解决数百万个长尾问题。
如何解决长尾问题?Momenta提出两个洞察,第一个是“数据驱动”,通过数据驱动自动化解决大部分的长尾问题。
第二个是通过量产获得海量数据。这大约需要1000亿公里的数据,相当于100万台乘用车跑一整年的时间。
此次发布会,曹旭东还提出了第三个洞察:大模型定义芯片。
这背后,有两个非常重要的支撑:
一是大模型定义的芯片,相比于通用芯片性能可提升10倍;二是要实现规模化L4,需要至少10B~100B参数的模型。通用芯片无法同时满足功耗、车规可靠性、成本三重约束,即通用芯片的“不可能三角”。
如果用通用芯片,相当于在车内放一台巨大的GPU服务器,而这个功耗是车端无法承受的,并且要满足车规要求,成本同样很高。如果要满足车端的功耗、成本和可靠性要求,通用芯片又很难把模型做到100B的参数。
“唯有大模型定义的芯片才有可能在满足这些约束条件下,把模型的参数做到100B,实现规模化L4。”曹旭东说。
海量数据为大模型芯片提供支撑
“大脑使用大量的记忆来构建一个世界模型,你所知道的和学到的一切都储存在这个模型中,大脑利用记忆的模型对未来世界进行连续预测。”
在清华大学读大二时,《人工智能的未来》一句话,让曹旭东印象非常深刻,他提出,对未来预测的能力才是智能的关键。
物理AI也是通过对未来世界状态的预测,把物理世界的规律、规则压缩到模型里面,让世界模型理解物理世界的常识。
Momenta的世界模型主要有三大支柱:首先是预训练Pre-train,让模型学习物理世界的常识;其次是 Mid-train,中间训练,更多使用自动驾驶的数据,让模型具备开车的常识;最后是Post train,后训练,让模型和金牌司机行为对齐。
曹旭东重点提到第二个支柱,即世界模型的仿真。自动驾驶的长尾场景,可能是百万公里发生一次,甚至是1亿公里才发生一次,如果通过路测来检验,反馈周期特别长,成本非常高。“即使遇到,统计意义不很显著,反馈质量也不是特别高。有了世界模型就可以低成本、短周期获得高质量反馈,加速自动驾驶高效迭代到规模化的L4。”
如果说仿真类似于练兵场,那么第三支柱的强化学习,则是在练兵场中不断利用长尾场景进行模拟演练,演练有成功也有失败,但通过反复练习、打怪升级,世界模型在强化学习的训练下,会比人类老司机开得更好,甚至大幅超过人类老司机的水平。
要让世界模型学得更好,离不开海量、丰富、真实的数据,也就是Data Scaling,物理世界里面最先实现规模化商业闭环和规模化数据闭环的场景,就是自动驾驶。
Momenta量产第一个10万台用了24个月,而至今累计量产的规模已经突破了140万台。最新10万台用了不到一个月。与此同时,Momenta累计里程达到200亿公里,相当于阿波罗登月往返月球2.5万次,或者相当于5万个老司机一辈子驾驶里程的总和,可以绕地球赤道51万圈。
曹旭东说,如此规模的真实驾驶数据,让模型有机会接触到更多的场景,学习更多的经验,有了海量数据的积累,也为大模型芯片提供了支撑。
2028年将迎来城市NOA引爆节点
此次发布的R7 Ultra,正是世界模型与芯片协同的最新成果。基于X7 Ultra的支撑,R7 Ultra的模型参数规模扩大5-10倍,安全性能提升5-10倍以上,推动世界模型从“理解世界”走向“推演世界”。
大模型芯片给R7 Ultra带来什么样的能力,又给用户带来什么超预期的体验?曹旭东的答案是,推演万物:更智能的场景理解推演和预测能力,R7 Ultra可以成为用户全场景老司机。X7 Ultra提供700Tops的大模型算力,加上超大核的NPU架构,能够支撑模型参数量大幅提升。而模型规模上来之后,就有了更强的大脑,更好地推演物理世界的变化,给用户更智能、更聪明的智驾体验。
曹旭东说,从多把掉头、会车博弈,到倒车让行、极限泊车,这些复杂场景,R7 Ultra展现出来的驾驶能力,能够超越人类老司机。
他还提到,世界模型像大语言模型一样,有很强的通用性和泛化能力,大语言模型可以拿来写文章、写代码、做数学,而Momenta已经在自动驾驶不同的垂直领域验证了世界模型的通用性,包括量产乘用车和Robotaxi、RoboVan等场景,有很强的平台效应,能够摊薄每一个领域的研发成本,相当于原来的电商,既有垂直电商,又有平台电商,长期来看平台电商更有竞争力。
曹旭东说,大模型芯片正在加速智驾摩尔定律。智驾摩尔定律在过去四年(2022-2026)基本上每两年提升10倍:2022年,早期用户更多把智驾当成一个大玩具,渗透率也不高;到2024年,体验就已经足够好了,迎来了城市NOA引爆点;2026年最新城市NOA渗透率达到25%,未来还会进一步快速提升。
智驾摩尔定律还在加速,从两年十倍提升到每年十倍。其中一个关键因素就是大模型定义芯片,芯片提升带来了Model Scaling的提升。而按照对车端模型演进的观察,过去四年模型规模大致增长了5-10倍。但是有了大模型芯片,车端模型规模未来两年有机会增长10-100倍,模型能力有可能超越人类老司机中的老司机。
最后,曹旭东表示,海量数据、大模型芯片和模型能力的提升,共同推动智驾摩尔定律再次加速。2028年有望复刻2024年在城市NOA(领航辅助驾驶)的引爆,成为L3、L4的引爆点,而2030年将迎来L3、L4规模化落地。
南方+记者 郜小平
【作者】 郜小平
【来源】 南方报业传媒集团南方+客户端