物理AI实验室 // 第 1.5 集 // 一页纸

数据从哪来?

遥操作、人类视频、合成,三条来路

三个要点

  1. 遥操作:人遥控机器人做示范(常用主从两只臂),动作最干净,但又慢又贵;SO-101 抓放数据集有 50 段、每段 2 路相机、30 帧每秒(O),跨机构还能拼成大数据集(Open X-Embodiment,22 种机器人、527 种技能,R)。
  2. 人类视频:直接看人干活,量大得多(EgoScale 用了 20,854 小时第一视角视频,R),但人手不是机器手(embodiment gap),还得对齐、标注。
  3. 合成:在仿真里用少量真示范放大出海量(MimicGen 约 200 条→5 万多条、18 个任务,R),灵活便宜,但要防它失真;数据不光要多,还要够杂。

证据:O 官方一手 · R 学术文献 · M 媒体二手

O50 段SO-101 抓放遥操作示范数据集的段数,每段 2 路相机、30 帧每秒、共 11939 帧(LeRobot)
R22 种22 种机器人的数据拼进同一个数据集(21 家机构、527 种技能)
R20,854 小时带动作标注的第一视角人类视频,用来预训练机器人(论文称比此前同类大 20 倍以上,约合连续 2.4 年)
R5 万多条用约 200 条人类示范自动生成的示范数(覆盖 18 个任务,仿真中,论文)

延伸阅读