关于蒸馏版详细的解读。
1、蒸馏版不想简单的因为算力限制直接把参数和模型规模砍半(甚至更多)
2、所以蒸馏版是重新搭建了一个模型架构,用来作为学生模型接受蒸馏。
3、这样做的目的是更多的保留教师模型中的特性能力
小鹏第二代VLA首次模型重大升级

关于蒸馏版详细的解读。
1、蒸馏版不想简单的因为算力限制直接把参数和模型规模砍半(甚至更多)
2、所以蒸馏版是重新搭建了一个模型架构,用来作为学生模型接受蒸馏。
3、这样做的目的是更多的保留教师模型中的特性能力
小鹏第二代VLA首次模型重大升级
