Physical AI Lab // 第 2.6 話 // 1枚まとめ

エッジへ:量子化、遅延と制御周波数

モデルが速いほど、ロボットは速く修正できる

三つのポイント

  1. 遅延が制御周波数の上限を決める:最高周波数 = 1 / 一回の推論時間。ある論文は、1 kHz を自らのリアルタイム制御に不可欠で、安全規格が求める最低の周波数としている(R)。ある大規模モデルは、一秒に約五回計画し直すと実測された(O、アマゾン、H100)。
  2. 量子化で一番確かなのは容量の節約:int8 でモデルは約四分の一に(O、PyTorch)。速くなるかはハードウェアとモデルしだいで、実測が必要(今回のノートブックでは、CPU上で量子化後にかえって遅くなった)。
  3. 遅い計画と速い制御を組み合わせ、アクションチャンキングで切り離す。エッジモジュールは約百三十ワット以内で最新モデルを動かせる(O、エヌビディア)。遅延は管理できるだけで、消えはしない。

出典:O 公式・一次 · R 学術文献 · M メディア・二次

R1 kHz論文によれば、1 kHz の維持はリアルタイム制御に不可欠で、安全規格が求める最低の周波数(論文自身の Franka 多腕リアルタイム制御フレームワークについて)
O≈5 Hzアマゾンの実測:H100 で ODE を 1 ステップだけ解くと、π0 は一まとまりを 200 ミリ秒未満で生成し、一秒に約 5 回計画し直せる(一つのモデルとハードウェアの条件)
O4×int8 量子化でモデル容量は約四分の一に(PyTorch 公式ブログ。速度向上は別で、ハードウェアとモデルしだい)
O2〜3×int8 推論の速度向上の公式参考値。実際はハードウェア、バックエンド、モデルしだい(PyTorch 公式ブログ)
O130ワット以内で、ロボットのエッジ計算モジュールが最新AIモデルを動かせる。ピークは毎秒2,070兆回(エヌビディア、FP4)

さらに読む