Physical AI Lab // 第 2.6 話 // 1枚まとめ
エッジへ:量子化、遅延と制御周波数
モデルが速いほど、ロボットは速く修正できる
三つのポイント
- 遅延が制御周波数の上限を決める:最高周波数 = 1 / 一回の推論時間。ある論文は、1 kHz を自らのリアルタイム制御に不可欠で、安全規格が求める最低の周波数としている(R)。ある大規模モデルは、一秒に約五回計画し直すと実測された(O、アマゾン、H100)。
- 量子化で一番確かなのは容量の節約:int8 でモデルは約四分の一に(O、PyTorch)。速くなるかはハードウェアとモデルしだいで、実測が必要(今回のノートブックでは、CPU上で量子化後にかえって遅くなった)。
- 遅い計画と速い制御を組み合わせ、アクションチャンキングで切り離す。エッジモジュールは約百三十ワット以内で最新モデルを動かせる(O、エヌビディア)。遅延は管理できるだけで、消えはしない。
出典:O 公式・一次 · R 学術文献 · M メディア・二次
| R | 1 kHz | 論文によれば、1 kHz の維持はリアルタイム制御に不可欠で、安全規格が求める最低の周波数(論文自身の Franka 多腕リアルタイム制御フレームワークについて) |
| O | ≈5 Hz | アマゾンの実測:H100 で ODE を 1 ステップだけ解くと、π0 は一まとまりを 200 ミリ秒未満で生成し、一秒に約 5 回計画し直せる(一つのモデルとハードウェアの条件) |
| O | 4× | int8 量子化でモデル容量は約四分の一に(PyTorch 公式ブログ。速度向上は別で、ハードウェアとモデルしだい) |
| O | 2〜3× | int8 推論の速度向上の公式参考値。実際はハードウェア、バックエンド、モデルしだい(PyTorch 公式ブログ) |
| O | 130ワット | 以内で、ロボットのエッジ計算モジュールが最新AIモデルを動かせる。ピークは毎秒2,070兆回(エヌビディア、FP4) |
さらに読む
- PyTorch · Introduction to Quantization on PyTorch
https://pytorch.org/blog/introduction-to-quantization-on-pytorch/ - multipanda_ros2:1 kHz のリアルタイム多腕制御(arXiv 2602.02269)
https://arxiv.org/abs/2602.02269 - AWS · Fine-Tuning π0 on SageMaker HyperPod EKS(約 5 Hz で再計画)
https://aws.amazon.com/blogs/physical-ai/fine-tuning-%CF%800-pi-zero-for-robotic-manipulation-on-amazon-sagemaker-hyperpod-eks/ - NVIDIA · Jetson Thor Now Available(2025-08-25)
https://nvidianews.nvidia.com/news/nvidia-blackwell-powered-jetson-thor-now-available-accelerating-the-age-of-general-robotics