Physical AI Lab // 第 3.5 話 // 小テスト
GR00T ファインチューニング実践
公開されたヒューマノイドの大規模モデルを、自分のロボットに合わせる
01
GR00T をファインチューニングするほうが、ゼロからモデルを学習するよりずっと楽なのはなぜですか?
30億パラメータしかないので、GPU一枚でゼロから学習できるから
事前学習で多くを学んでいるので、自分のデータで少し続けて学習するだけで済むから
ファインチューニングには自分のデータが要らず、リポジトリのサンプルで足りるから
重みをすべて固定し、modality 設定ファイルを書き換えるだけだから
02
学習の損失は順調に下がり、エラーも出ません。ところがオープンループ評価で、ある関節の予測曲線がいつまでも実際の値と合わず、別の関節につながっているように見えます。最も考えられる原因は?
学習率が高すぎて、学習が知らないうちに発散している
リポジトリが求めるモデルの権限が得られず、読み込みがおかしくなった
modality 設定の誤りで、動作の数値が正しい関節に対応していない
サンプルデータが少なすぎて、その関節の動かし方をまだ学べていない
03
ファインチューニング後のオープンループ評価で、予測と実際の線がぴったり寄り、平均二乗誤差も低くなりました。次に最も妥当な一歩は?
実機への導入は成功したと発表し、すぐに製品へ組み込む
オープンループをさらに何回か回し、誤差が十分低ければ実機でもできるとみなす
まず TensorRT で速くする。速くなればクローズドループも自然に安定する
クローズドループで試す。まずシミュレーション、安定したら実機
04
データの前処理を変えました。同じデータで、新しい方式は古い方式より指標が 3 ポイント高く、どちらも一回しか回していません。動画の助言に従うと、どう結論づけますか?
エピソードとシードを増やしてくり返し、改善かぶれかを見分ける
3ポイントははっきりした改善なので、すぐに新方式へ切り替える
二回の結果が違うのはバグのしるしなので、まずコードを調べる
一回だけ回すのが最も公平で、何回も回すとノイズが増える
05
エヌビディアによると、人の動画を千時間から二万時間に増やすと、平均のタスク完了率が二倍以上になりました。最も慎重な読み方はどれですか?
四万時間に増やせば、完了率は必ずもう一度二倍になるはずだ
動画が20倍になったので、完了率もそのまま20倍になった
メーカーが報告した傾向で、この範囲では完了率が二倍以上になった
この傾向は実はパラメータが多いほどよいという話で、データ量とは関係ない
答えを見る