Physical AI Lab // 第 2.6 話 // 小テスト
エッジへ:量子化、遅延と制御周波数
モデルが速いほど、ロボットは速く修正できる
01
画像の読み込み・前処理・推論・動作の送信で、合計 50 ミリ秒かかる。これをそのまま制御器にすると、最大何ヘルツで回せますか?
50 ヘルツ
200 ヘルツ
1000 ヘルツ
20 ヘルツ
02
測った平均遅延は数ミリ秒なのに、ロボットがときどきガクッと揺れて、つかみ損ねる。どの測定を見るべきですか?
平均遅延をもう何回か測る
最悪の一回、テールレイテンシ
量子化したあとのモデルの容量
モデルのパラメータ数
03
ノートブックで int8 量子化をしたら、モデルは4分の1になったのに、この CPU では推論がかえって遅くなった。いちばん妥当な説明は?
モデルが小さく CPU 上なので、手間が上回った
量子化に失敗していて、小さくなったのは見かけだけ
公式の「2–3 倍速くなる」という数字がそもそも誤り
int8 は GPU でしか速くならない
04
大規模モデルは1秒に数回しか計画し直せない(アマゾンの実測で約五回)が、低レベルのループは毎秒千回必要。動画が示す工学的な解決策は?
もっと速いチップにして、大規模モデルを毎ステップ動かす
大規模モデルを int8 に量子化すれば 1 kHz に届く
大規模モデルがまとめて考え、速い制御器が実行する
低レベルのループを大規模モデルの周波数に下げる
05
動画が、クラウドではなくロボットの上で計算することにこだわるのはなぜですか?
クラウドには GPU がなく、視覚モデルが動かない
往復で遅延が大きく、回線も切れうる
クラウドで計算した動作は精度が低い
ロボットのチップのほうがクラウドより速い
答えを見る