物理AI实验室 // 第 3.5 集 // 小测
GR00T 微调实战
把开放的人形大模型,调到你自己的机器人上
01
为什么在 GR00T 上微调,比从头训练一个模型省力得多?
它只有 30 亿参数,一张显卡就能从头训完
预训练已学了大量通用能力,只需在你的数据上接着练一小段
微调根本不需要你自己的数据,用仓库示例就够了
微调会冻结全部权重,只需改一下 modality 配置文件
02
训练损失一路平稳下降、没有报错,可开环评测里有个关节的预测曲线总对不上真实值,像是接到了别的关节上。最可能的原因是?
学习率太高,训练其实已经悄悄地跑飞了
仓库要求的模型权限没申请到,加载出了问题
modality 写错了,动作没对上关节
示例数据太少,模型还没学到这个关节怎么动
03
微调完的开环评测里,预测线和真实线贴得很紧,均方误差也很低。接下来最合理的一步是?
直接宣布真机部署成功,可以装进产品了
再多跑几次开环,误差够低就等于真机能干成
先换 TensorRT 加速,速度上去闭环自然就稳
接上机器人跑闭环,先在仿真里跑,稳了再上真机
04
你改了数据预处理:同一份数据上,新方案的指标比旧方案高 3 个百分点,两边各只跑了一次。按片中的建议,该怎么下结论?
多测几段、换几个种子,分清提升还是抖动
3 个百分点已是明确提升,可以直接换成新方案
两次结果不一样,说明代码有 bug,应先排查
只跑一次才最公平,多跑反而会带进更多噪声
05
英伟达称,人类视频从一千小时加到两万小时,平均任务完成率翻了一倍多。下面哪种读法最稳妥?
再加到四万小时,完成率一定还会再翻一倍
视频量涨了 20 倍,所以完成率也跟着涨了 20 倍
厂商报告:这段区间里加人类视频,完成率翻倍以上
这条规律其实说的是参数越多越好,和数据量无关
看答案