聊聊理想的“师徒制”：怎么把大模型的聪明劲儿装进你的车
随笔长文
普通消费者关心的当然是路上开得到底好不好、接管多不多，这没错。但“它大概是怎么做到的”，我觉得也值得用大白话讲一讲。
1️⃣先打个比方：什么是“蒸馏”理想的云端有一个很大的模型，你可以把它理解成一位经验特别丰富的老师傅：见过的路况多，判断准，还想得远。但问题是，这位老师傅“块头”太大，车上那块芯片装不下他。
车上能装的，是一个年轻徒弟。蒸馏做的事，就是让老师傅把毕生经验浓缩成一份“精华”，一点一点教给徒弟，最后徒弟自己上岗开车。所以你在车上用到的智驾能力，其实都是“徒弟”在开，但他的判断，是从老师傅那里学来的。
为什么不让徒弟直接跟着人类司机学❓
有人会问：既然要教徒弟开车，直接拿人类司机的录像给他学不就行了？不行，这里有两个坎。
1️⃣第一个坎：有些本事，只有“大脑袋”才长得出来。比如“两公里后我要右转，前面三条道马上要并成两条，现在该选哪条”，这种要往前看好几步的规划；再比如路口那个行人的姿态，到底是要横穿还是只是在等车，这种靠因果链条推出来的判断。这类能力需要模型足够大才长得出来，小模型自己学，给再多录像也学不会。所以必须先让大模型在云端把这些本事练出来，再想办法教给小模型。
2️⃣第二个坎：人开车，其实很随意。同样一个路口，张三保持三十米跟车，李四二十五米；同一个变道机会，这次变了，下次没变；方向盘上全是没什么意义的小动作。录像记下的只是“人当时做了什么”，不是“此刻应该怎么开”。
小模型照着这种录像学，分不清哪些是规律、哪些是司机随手干的。同一个路口，一半录像里司机左转、一半录像里司机等待，小模型学不会“两个都对”，只会学出一个折中动作——而折中动作往往是错的。要不就是把某次”二十五米跟车”当成铁律背下来，换个路口就不会了。
大模型不一样。它见过足够多的场面，能把这些随机成分过滤掉：这个路口，左转七成把握、等待两成半、避让基本不用考虑。徒弟学的是这份“过滤之后的判断”，而不是某一盘录像里的随机动作。师傅在这里的作用，相当于一个过滤器。
🌟理想是怎么带徒弟的🌟具体的技术名称就不展开说了，说过程。理想带徒弟大致分几步走，每一步都有讲究。
🌟第一步，量体裁衣。 车上有好几代芯片，力气大小不一样，徒弟的身材得跟着芯片定。理想的做法是照着芯片的条件定制出上百个候选模型，再一层一层筛选，挑出最适合这副“身材”的徒弟。选中的徒弟不从零开始学，直接继承师傅的底子，一出生就自带师傅多年的积累。
🌟第二步，上课。 师傅讲课有个特点：不只告诉徒弟这题选什么，还会说“这个选择七成对、那个选择两成半、剩下那个基本不用考虑”。徒弟连每个备选的风险高低都一起学了，比只背标准答案扎实得多。
🌟第三步，上路陪练。 光听课不行，徒弟得自己开。开成什么样就什么样，师傅坐在旁边，徒弟开到哪、就点拨到哪。这一步专门治”只会背书、不会开车”的毛病——自己开出来的局面，才有人教你怎么处理。
🌟第四步，配眼镜。 车上的芯片精度有限，跟云端不一样。提前让徒弟戴着这副“眼镜”训练，别等上岗了才发现看不清。
每一步都这么教下来，徒弟和师傅之间的差距就很小了。跟团队沟通的口径是：蒸馏完之后，徒弟的本事大概只比师傅低3%到5%。而且在一些场景里，徒弟反而比师傅开得还稳。听着奇怪，其实还是过滤器的功劳——徒弟只学了师傅最拿手的开法，顺手把师傅判断里的一些杂音也滤掉了。
最重要‼️新车老车，都有份🌟
理想的车队里有好几代芯片，新旧算力差得不少。蒸馏这件事还有个好处：师傅只培养一次，徒弟可以按不同车的条件分出不同规格。
新款的马赫M100芯片算力足，跑的是最完整的徒弟，能力满血，而且还有富余。Thor芯片的车，徒弟适当“瘦身”，能力保留绝大部分，响应稍慢一点但完全够用，后面还有提升空间。至于老款芯片的车【OrinX】，硬塞是塞不下的，理想换了个更省力的结构——徒弟把大部分知识备在身上，每次只调用用得着的一小部分——照样用上了最新的智驾能力。去年老车主们收到的那次全量推送，就是这个思路。
这其实就是“算力和能力的解耦”：车是几年前买的，芯片的性能已经定型、换不了了，但能力没有被定型。只要师傅在云端不断变强，老车就能通过一次又一次的蒸馏，一直跟上最新的水平。
🌟收尾🌟当然也要说句实在话：模拟考试和真实上路永远是两回事。模型的损失往往不是平均分的问题，而是集中在那些少见的路况上。鬼探头、施工改道这种场景，报表里的平均分是看不出来的，要单独盯着看。这些就是工程团队接下来要一寸一寸抠的地方。
这套“师徒制”里，没有任何一个环节是别家完全没听说过的，难的是把它做成一条能稳定量产的流水线：怎么选拔、每一步教到什么程度、用什么标准验收，全部打通。车上的芯片算力永远追不上云端模型长大的速度，所以”师傅带徒弟”这套功夫，往后只会越来越值钱。理想在这上面花的时间和资源，从公开信息里就能看出个大概，值得拿出来讲一讲。
这篇只讲了“夸芯片规格部署的蒸馏大概是怎么回事”，里面的原理其实还有很多值得掰开揉碎的地方。如果有机会，后续我仔细研究一下蒸馏的具体原理，再开一课，到时候接着聊。
AD团队辛苦啦！
理想汽车大v聊车 理想汽车懒博小课堂开箱我的ota
