融合闭环测试怎么系统测

摘要:融合闭环测试不能只跑好天气录像,要把长尾、恶劣天气和传感器失效都排进用例,门禁至少过功能、性能、安全三关。

关键词:融合闭环测试、测试、感知融合

融合闭环测试怎么系统地测试?

融合闭环测试的测试不能只跑几段好天气录像,要把长尾、恶劣天气、传感器失效都排进用例。目标跟踪精度用 MOTA、MOTP 这类指标说话,但更要看极端路口的漏跟率。

时空对齐误差靠标定场和已知靶标测,外参几分之一度、时间几毫秒都要量化出来。长尾场景靠大规模回放补,建议建一个会持续长的场景库,而不是一次性凑几百条。

仿真适合跑海量组合,实车适合验真实交互,二者分工而不是互相替代。误检和漏检要分开量化,漏一个行人比误报一个锥桶严重得多,权重不能一样。

长尾和恶劣天气怎么排进用例?

台架测试负责可重复,实车测试负责真实噪声,融合闭环测试 两个都不能少。上线门前至少要过功能、性能、安全三道关,任何一道红灯都别带病发布。

项目方法判据
跟踪精度回放+实车MOTA 漏跟率
对齐误差标定场靶标≤0.5°/≤1ms
长尾覆盖场景库回放聚类覆盖度

融合闭环测试的回归基线要锁死,每次模型更新都跑同一批黄金用例,防止改好一个坏另一个。我们见过太多只报平均指标的方案,真正要看的是最差百分位下的表现。

融合测试里时间同步要先验,时间不对齐测出来的精度全是假象。建议把 融合闭环测试 的评测拆成检测、跟踪、融合、输出四段,分别打分。

传感器失效怎么注入测试?

回放系统要能注入故障,比如让相机掉线,看 融合闭环测试 的降级是不是按设计的走。长尾覆盖度可以用场景聚类来度量,别用简单条数糊弄验收。

实车测试要记录传感器原始数据,出了问题才能回放定位是融合还是上游。门禁阈值要和业务方一起定,不能算法团队自己拍个 95% 就放行。

融合闭环测试的测试不能只跑几段好天气录像,要把长尾、恶劣天气、传感器失效都排进用例。目标跟踪精度用 MOTA、MOTP 这类指标说话,但更要看极端路口的漏跟率。

功能、性能、安全三道关怎么设?

时空对齐误差靠标定场和已知靶标测,外参几分之一度、时间几毫秒都要量化出来。长尾场景靠大规模回放补,建议建一个会持续长的场景库,而不是一次性凑几百条。

仿真适合跑海量组合,实车适合验真实交互,二者分工而不是互相替代。误检和漏检要分开量化,漏一个行人比误报一个锥桶严重得多,权重不能一样。

台架测试负责可重复,实车测试负责真实噪声,融合闭环测试 两个都不能少。上线门前至少要过功能、性能、安全三道关,任何一道红灯都别带病发布。

上线前还过哪些门禁?

融合闭环测试的回归基线要锁死,每次模型更新都跑同一批黄金用例,防止改好一个坏另一个。我们见过太多只报平均指标的方案,真正要看的是最差百分位下的表现。

融合测试里时间同步要先验,时间不对齐测出来的精度全是假象。建议把 融合闭环测试 的评测拆成检测、跟踪、融合、输出四段,分别打分。

回放系统要能注入故障,比如让相机掉线,看 融合闭环测试 的降级是不是按设计的走。长尾覆盖度可以用场景聚类来度量,别用简单条数糊弄验收。

回放和实车怎么分工?

实车测试要记录传感器原始数据,出了问题才能回放定位是融合还是上游。门禁阈值要和业务方一起定,不能算法团队自己拍个 95% 就放行。

融合闭环测试的测试不能只跑几段好天气录像,要把长尾、恶劣天气、传感器失效都排进用例。目标跟踪精度用 MOTA、MOTP 这类指标说话,但更要看极端路口的漏跟率。

时空对齐误差靠标定场和已知靶标测,外参几分之一度、时间几毫秒都要量化出来。长尾场景靠大规模回放补,建议建一个会持续长的场景库,而不是一次性凑几百条。

仿真和实车测试怎么配合?

仿真适合跑海量组合,实车适合验真实交互,二者分工而不是互相替代。误检和漏检要分开量化,漏一个行人比误报一个锥桶严重得多,权重不能一样。

台架测试负责可重复,实车测试负责真实噪声,融合闭环测试 两个都不能少。上线门前至少要过功能、性能、安全三道关,任何一道红灯都别带病发布。

融合闭环测试的回归基线要锁死,每次模型更新都跑同一批黄金用例,防止改好一个坏另一个。我们见过太多只报平均指标的方案,真正要看的是最差百分位下的表现。

门禁阈值该由谁定?

融合测试里时间同步要先验,时间不对齐测出来的精度全是假象。建议把 融合闭环测试 的评测拆成检测、跟踪、融合、输出四段,分别打分。

回放系统要能注入故障,比如让相机掉线,看 融合闭环测试 的降级是不是按设计的走。长尾覆盖度可以用场景聚类来度量,别用简单条数糊弄验收。

实车测试要记录传感器原始数据,出了问题才能回放定位是融合还是上游。门禁阈值要和业务方一起定,不能算法团队自己拍个 95% 就放行。

融合闭环测试的回归基线怎么建?

融合闭环测试的测试不能只跑几段好天气录像,要把长尾、恶劣天气、传感器失效都排进用例。目标跟踪精度用 MOTA、MOTP 这类指标说话,但更要看极端路口的漏跟率。

时空对齐误差靠标定场和已知靶标测,外参几分之一度、时间几毫秒都要量化出来。长尾场景靠大规模回放补,建议建一个会持续长的场景库,而不是一次性凑几百条。

仿真适合跑海量组合,实车适合验真实交互,二者分工而不是互相替代。误检和漏检要分开量化,漏一个行人比误报一个锥桶严重得多,权重不能一样。

结论:

1. 融合闭环测试 的测试门禁至少过功能、性能、安全三道关,任何一道红灯都别带病发布。

2. 融合闭环测试 的评测要拉开最差百分位,平均指标好看的方案在远距小目标上常翻车。

3. 回归基线锁死后,融合闭环测试 每次模型更新都跑同一批黄金用例,防止改好一个坏另一个。

实践经验
一支团队只报平均精度 98%,我们拉最差百分位发现远距小目标漏跟率偏高,倒逼他们加了一类难例,上线后投诉明显下降。
常见问题
融合闭环测试怎么系统地测试?

融合闭环测试的测试不能只跑几段好天气录像,要把长尾、恶劣天气、传感器失效都排进用例

长尾和恶劣天气怎么排进用例?

台架测试负责可重复,实车测试负责真实噪声,融合闭环测试 两个都不能少

传感器失效怎么注入测试?

回放系统要能注入故障,比如让相机掉线,看 融合闭环测试 的降级是不是按设计的走

功能、性能、安全三道关怎么设?

时空对齐误差靠标定场和已知靶标测,外参几分之一度、时间几毫秒都要量化出来

上线前还过哪些门禁?

融合闭环测试的回归基线要锁死,每次模型更新都跑同一批黄金用例,防止改好一个坏另一个

回放和实车怎么分工?

实车测试要记录传感器原始数据,出了问题才能回放定位是融合还是上游

相关阅读