物理AI实验室 // 第 1.5 集 // 小测
数据从哪来?
遥操作、人类视频、合成,三条来路
01
一个团队要给自己的机械臂攒一批动作干净、带精确关节读数的抓放示范。三条来路里,最对口的是哪条?
下载网上的第一视角人类视频来用
在仿真里完全随机地生成动作
换一个更大的模型,把数据补上
主从臂遥操作,人带着机器人录
02
逐帧翻 SO-101 抓放数据集里的一段示范,想知道机器人在某一帧“做了什么动作”,该看哪一部分?
朝下那一路相机拍到的画面
同一帧的六个关节读数
侧看那一路相机拍到的画面
这一段示范一共有多少帧
03
有人想直接把头戴相机拍的做饭视频喂给机械臂学动作。按片中的提醒,他最先要解决什么?
视频的分辨率不够高,要先提上去
这类视频数量太少,根本不够学
先标动作,再把人手翻成机器手
视频里的人动作太慢,要先加速
04
用 MimicGen 这类方法,从约 200 条人类示范自动生成了五万多条。接下来最需要担心的是什么?
生成的示范还是太少,覆盖不了任务
合成的再多,也可能和真实情况不像
生成过程中,还得真人一条条重新录
合成数据只能给遥操作的机器人用
05
两个团队录的示范一样多。甲队都在同一张桌子、用同一个杯子录;乙队换了很多桌面和物体。片中会更看好哪队?
乙队:覆盖的情况多,数据更杂
甲队:条件统一,数据更干净
两队一样:数量相同,效果相同
甲队:同一场景录得多,学得更准
看答案