物理AI实验室 // 第 1.5 集 // 一页纸
数据从哪来?
遥操作、人类视频、合成,三条来路
三个要点
- 遥操作:人遥控机器人做示范(常用主从两只臂),动作最干净,但又慢又贵;SO-101 抓放数据集有 50 段、每段 2 路相机、30 帧每秒(O),跨机构还能拼成大数据集(Open X-Embodiment,22 种机器人、527 种技能,R)。
- 人类视频:直接看人干活,量大得多(EgoScale 用了 20,854 小时第一视角视频,R),但人手不是机器手(embodiment gap),还得对齐、标注。
- 合成:在仿真里用少量真示范放大出海量(MimicGen 约 200 条→5 万多条、18 个任务,R),灵活便宜,但要防它失真;数据不光要多,还要够杂。
证据:O 官方一手 · R 学术文献 · M 媒体二手
| O | 50 段 | SO-101 抓放遥操作示范数据集的段数,每段 2 路相机、30 帧每秒、共 11939 帧(LeRobot) |
| R | 22 种 | 22 种机器人的数据拼进同一个数据集(21 家机构、527 种技能) |
| R | 20,854 小时 | 带动作标注的第一视角人类视频,用来预训练机器人(论文称比此前同类大 20 倍以上,约合连续 2.4 年) |
| R | 5 万多条 | 用约 200 条人类示范自动生成的示范数(覆盖 18 个任务,仿真中,论文) |
延伸阅读
- LeRobot · SO-101 抓放数据集(svla_so101_pickplace)
https://huggingface.co/datasets/lerobot/svla_so101_pickplace - Open X-Embodiment(arXiv 2310.08864)
https://arxiv.org/abs/2310.08864 - EgoScale:大规模第一视角人类数据(arXiv 2602.16710)
https://arxiv.org/abs/2602.16710 - MimicGen:从少量人类示范放大数据(arXiv 2310.17596)
https://arxiv.org/abs/2310.17596