众力资讯网

最近在关注具身智能方向的进展,看到一个很好玩的东西。其实之前一直有个行业里大家很

最近在关注具身智能方向的进展,看到一个很好玩的东西。

其实之前一直有个行业里大家很头疼的问题:教一台机器人学一项新技能,成本太高了。

你可能觉得,现在模型能力这么强,机器人学个新动作应该不难吧?

但实际情况是,你想让它学会叠衣服,得先有人操控着它做几十上百次演示,采集一大堆数据,然后花好几个小时微调模型。

等它终于学会了,你再想教它擦桌子,整个流程又得重来一遍。更要命的是,它学完擦桌子之后,之前学的叠衣服可能就忘了大半。

如果这个问题如果不解决,机器人进家庭就是空谈。

一台家用机器人可能需要会几百种新技能,每个技能都走一遍采数据、训模型的流程,工程上根本不现实。

1最近,我看到自变量机器人新开源了一个叫 HOST 的项目,思路上很有意思。

它做的事情非常实用:让机器人看一段人类操作的视频,就学会这项技能。一段视频,平均 29 秒,不用采集数据,也不用微调模型。

我去看了论文里的对比实验。在同一批测试任务上,HOST 仅从一段视频学习,成功率 62%。

作为对比,Pi-0.5 加微调方案需要 50 段机器人演示数据和 4 小时训练时间,成功率只有 38%。换算一下:1/50 的数据量,1/500 的时间,成功率反而高了 24 个百分点。

还有一组对比,同样只看一段视频学的 Vid2Robot 和 AWDA,成功率只有 19%,HOST 是它们的三倍多。

2所以它到底是怎么做到的?

我去读了一下它的论文,发现核心思路不复杂,但确实跟之前很多主流方法不一样。

传统方案的逻辑是翻译,人怎么动,就想办法让机器人也那么动。问题在于人和机器人的身体结构完全不同,人有五根手指,机器人可能只有两个夹爪,关节自由度也对不上。

硬翻译,是翻不过来的。

所以HOST 换了个角度,它不翻译动作,而是翻译结果。

比如机器人看到视频里人类正在拿起一杯水,它不会去模仿人类手指抓握的姿势,而是先想象出另外一张图,一个机械臂夹着水杯的画面。然后根据这张图反推,从当前状态到这个目标画面,我需要怎么动。

我自己的理解是,这其实是在模拟人类的观察学习过程。

比如我们学做菜的时候会看别人的教程视频,你不会去复制别人的手部肌肉运动轨迹,你看到的是切完的样子、翻炒的状态、出锅的结果,然后你用自己的方式去实现同样的结果。

而HOST就是把这个过程工程化了。

3这里面还有一个很巧妙的设计。

机器人看视频学动作,有一个很现实的问题:速度不同步。同样过了 10 秒,视频里的人可能已经切完菜开始炒了,机器人才切到一半。如果按时间戳对齐,后面就全乱了。

HOST 的做法是按任务进度对齐,不按时间对齐。

它把视频每一帧和机器人每一步操作都映射到同一个向量空间里,然后用算法自动匹配。不管你快我慢,只要干到了同一步,就对上。HOST 把这一层想明白了,对齐误差直接降了一个数量级。

还有训练策略上,HOST 内部有两个模块,一个负责看视频和想象目标画面,一个负责把画面变成动作指令。

训练的时候分两步:先让机器人看其他机器人的操作视频打基础,再引入人类视频学习跨越本体和视角的差异。

这么设计的原因很实际,人和机器人做同一件事的配对数据很稀缺,但机器人自己的数据容易采集。先用容易拿到的数据练基本功,再用少量稀缺数据完成迁移。

我觉得这个思路其实在很多领域都成立。做项目也是这样,先用低成本的方式把基础框架搭好验证通了,再投入高成本资源去做精细化的东西。资源有限的时候,分阶段投入几乎总是比一步到位更高效。

而且模型训好之后权重就冻结了,后面学新技能不需要再训练。

新技能就像一份菜谱,放在架子上随时取用。你给它放叠衣服的视频它就叠衣服,放倒水的视频它就倒水,学完倒水叠衣服的能力完好无损。

4当然也有几个我还需要观察的地方。

一个是 62% 的成功率,放在学术界已经很好了,但如果你真要让它干活,在家庭场景尚可接受,因为干家务活儿更关注泛化性而不是一次成功率。

如果是在工业生产场景,从研究到产品落地,中间的工程优化还有很长的路。

另一个是这次测试的 50 个任务,虽然覆盖了不同物体、工具和基本动作,但家庭场景的任务复杂度和多样性远不止于此,真实环境里会出现各种论文里没覆盖到的边界情况。

不过话说回来,HOST 的核心价值不在于当前成功率的绝对值,而在于它验证了一条新路径:技能获取可以从“训练时微调”切换到“推理时观看”。

像机器人进家庭这件事我们已经聊了很多年了,技术路径也试了很多。但有一个根本性的矛盾一直没解决:家庭场景需要的技能太多太杂,靠预训练“出厂就干活儿”覆盖不完,传统后训练的采数据训模型的方式也扩展不过来。

HOST 指向了一个可能的解法。它把教机器人新技能这件事,从一个需要工程师参与的专业流程,变成了拍一段手机视频就能搞定的事情。

其实我们人和人之间传递技能,也不是靠写说明书或者反复操练。你教小孩用筷子,做一遍给他看就行了,这就是最自然的方式。

目前论文和代码已经全部开源了,如果你也在关注具身智能领域,可以去翻一下这篇论文。