Physical AI Lab // 第 2.4 話 // 1枚まとめ

数千の環境でいっしょに歩く練習

Isaac Lab:GPU並列+強化学習

三つのポイント

  1. シミュレーションで歩く練習:転んでも痛くなく部品も傷まない。グラフィックボード一枚で大勢のロボットを同時に練習させられる。
  2. 強化学習は報酬を頼りに試行錯誤で学び、お手本はいらない(PPO)。報酬の決め方どおりに学ぶので、報酬設計が要であり難所。
  3. Isaac Lab のエンドツーエンドGPU学習は数千の環境を並列に動かせる(O、公式ベンチマーク。G1の歩行課題は4096個の環境、GPU一枚でGPUメモリ(VRAM)約6 GB)。ただしシミュレーション≠現実で、実機には sim2real を越える必要がある。

出典:O 公式・一次 · R 学術文献 · M メディア・二次

O数千のシミュレーション環境を同時に並列。Isaac Lab のエンドツーエンドGPU学習による(NVIDIA 公式ドキュメント)
O64個入門チュートリアルの倒立振子課題での並列環境数(公式チュートリアルの学習コマンド --num_envs 64)

さらに読む