Physical AI Lab // 第 2.3 話 // 1枚まとめ

ひと言をわからせる

SmolVLAをファインチューニング：言葉の指示から動作へ

三つのポイント

  1. VLA（視覚・言語・行動モデル）は、画像、ロボットの状態、ひと言の言葉の指示を一緒に動作に変える。だから言い方を変えても試しにやってみられる。
  2. SmolVLAはコンパクト（約4.5億パラメータ、O）で、小さなGPUで基盤モデルからファインチューニングできる。論文によると約十倍大きいモデルに匹敵する性能（R）。
  3. コミュニティデータでの事前学習でSO-100の成功率は78.3%に（O、チームの実験）。非同期推論は速くて安定。ただし見たことのない物への汎化は、やはりデータ次第。

出典：O 公式・一次 · R 学術文献 · M メディア・二次

O4.5億パラメータ。SmolVLAの基盤モデルsmolvla_baseの規模で、コンパクトで一般向けハードウェアで動く（Hugging Face公式ブログ）
R10倍大きいVLAモデルに匹敵。SmolVLAの論文によると、小型ながら約十倍のパラメータ数のモデルと同等の性能
O30%速く応答が非同期推論で約三割速くなり、一定時間にこなせるタスク数は倍に（SmolVLAチーム、実機実験）
O78.3%コミュニティデータで事前学習すると、SO-100の成功率は78.3%に。事前学習なしより約26.6ポイント高い（SmolVLAチームの実験）
O約50本のデモSmolVLAのファインチューニング前に収録が推奨される数。25本のデータセットでは足りず、性能が悪かったとドキュメントは述べる（LeRobot公式ドキュメント）
O2万ステップ · 約4時間smolvla_baseを約2万ステップファインチューニングすると、A100一枚で約4時間（LeRobot公式ドキュメント）

さらに読む