物理AI实验室 // 第 2.6 集 // 小测
上边缘:量化、延迟与控制频率
模型多快,机器人才能多快地纠错
01
读图、前处理、推理、发动作,一圈下来共 50 毫秒。拿它直接当控制器,最多能跑多少赫兹?
50 赫兹
200 赫兹
1000 赫兹
20 赫兹
02
测出来平均延迟只有几毫秒,机器人却偶尔猛地一抖、抓空。该看哪个测量?
把平均延迟再多测上几遍
最坏那一下的尾部延迟
量化后模型的体积
模型的参数量
03
Notebook 里做完 int8 量化,模型小了四倍,在这台 CPU 上推理却反而更慢了。最合理的解释?
网络太小又在 CPU 上,开销盖过收益
量化其实失败了,体积变小只是统计的假象
官方说的 2–3 倍提速,本来就是夸大的错数
int8 只有在 GPU 上才能提速
04
大模型一秒只能重规划几次(亚马逊实测约五次),低层回路却要每秒一千次。片中给的工程解法是?
换更快的芯片,让大模型每一步都跑
把大模型量化成 int8,就能跑到 1 kHz
大模型低频想出一段动作,快控制器逐步执行
把低层回路降到大模型的频率
05
为什么片中坚持让模型在机器人身上算,而不是交给云端?
云端没有显卡,跑不动视觉模型
来回传延迟高,还怕断网
云端算出的动作精度更低
机器人上的芯片比云端更快
看答案