物理AI实验室 // 第 1.8 集 // 一页纸

评测:一个成功率背后藏了什么

换个条件、换个种子,成功率还算数吗?

三个要点

  1. 成功率要问“在什么条件下测的”:换光照、换机位结果就变;一个“净增 2”其实藏着 3 次变好、1 次变坏(O,配对比较)。
  2. 成功和失败都不止一种:14 次失败全是用完预算才停、末端还在动(44.8–138.6 mm),“失败”标签盖住了它到底怎么失败(O)。
  3. 一次结果不算数:随机种子会让分数上下跳,要重复、看波动、报置信区间;重跑 30/30 只说明同条件可复现,不是通用结论。

证据:O 官方一手 · R 学术文献 · M 媒体二手

O30 次同一任务、三种条件、十组配对下的仿真闭环测试次数(robot-reel 压力实验室,小规模对照实验)
O160 动作 / 8 秒每次测试的固定预算:最多 160 个动作、8 秒仿真时间(robot-reel 压力实验室)
O3 好 1 坏换相机机位后成功数“净增 2”,拆开其实是 3 次变好、1 次变坏(robot-reel 压力实验室)
O14 次全部 14 次失败都是用完动作预算才停下(robot-reel 压力实验室)
O44.8–138.6 mm失败不是卡死:14 次失败在最后十分之一段,末端仍移动 44.8–138.6 毫米(超过 1 毫米停滞线,robot-reel)
O30 / 30同机把整套实验原样重跑,30 次结果、动作数、状态与动作全部一致(robot-reel 压力实验室)
R10 次同一套超参只换随机种子跑 10 次,分成两组各 5 次求平均,两组结论可差到统计上显著不同(论文称)

延伸阅读