物理AI实验室 // 第 2.4 集 // 小测
几千个环境一起练走路
Isaac Lab:GPU 并行 + 强化学习
01
同样练一天,为什么仿真里学走路比真机快得多?
仿真里物理更简单,走路本来就容易
仿真里不需要奖励,机器人自己会走
能加速,还能同时开很多环境
仿真里有人类示范,可以直接模仿
02
奖励只看“往前走了多远”。训练完,它冲两步就扑倒在地。最可能的原因?
并行环境太少,经验不够
奖励没罚摔倒,被它钻了空子
PPO 算法不适合人形机器人
开了无头模式,策略看不见地面
03
练了很久,奖励曲线一直平着不涨。片中说最该先查什么?
曲线有抖动,说明训练已经失败了
奖励是不是设对了,改好再练
打开渲染窗口,盯着画面找原因
换成模仿学习,先录一批示范
04
入门教程里,平衡杆任务只开 64 个环境,可文档说能并行数千个。这说明什么?
64 只是入门示例的设置,还能往上开
64 是 Isaac Lab 能开的上限
数千个要靠超算,消费级显卡只能开 64 个
平衡杆必须正好 64 个环境才会收敛
05
仿真里已经走得很稳,下一步想上真机。片中建议训练时再加点什么?
把并行环境数再加十倍
去掉地形变化,只在平地上练到完美
关掉强化学习,改用示范来微调
故意加扰动,比如冷不丁推它一把
看答案