目标跟踪评测精度怎么估

摘要:目标跟踪评测不能只看平均精度,更要看极端路口的漏跟率,并用 MOTA、MOTP 这类指标分场景量化。

关键词:目标跟踪评测、测试、感知融合

目标跟踪评测精度怎么评估才客观?

长尾场景靠大规模回放补,建议建一个会持续长的场景库,而不是一次性凑几百条。仿真适合跑海量组合,实车适合验真实交互,二者分工而不是互相替代。

误检和漏检要分开量化,漏一个行人比误报一个锥桶严重得多,权重不能一样。台架测试负责可重复,实车测试负责真实噪声,目标跟踪评测 两个都不能少。

上线门前至少要过功能、性能、安全三道关,任何一道红灯都别带病发布。目标跟踪评测的回归基线要锁死,每次模型更新都跑同一批黄金用例,防止改好一个坏另一个。

为什么不能只看平均精度?

我们见过太多只报平均指标的方案,真正要看的是最差百分位下的表现。融合测试里时间同步要先验,时间不对齐测出来的精度全是假象。

项目方法判据
跟踪精度回放+实车MOTA 漏跟率
对齐误差标定场靶标≤0.5°/≤1ms
长尾覆盖场景库回放聚类覆盖度

建议把 目标跟踪评测 的评测拆成检测、跟踪、融合、输出四段,分别打分。回放系统要能注入故障,比如让相机掉线,看 目标跟踪评测 的降级是不是按设计的走。

长尾覆盖度可以用场景聚类来度量,别用简单条数糊弄验收。实车测试要记录传感器原始数据,出了问题才能回放定位是融合还是上游。

极端路口的漏跟率怎么看?

门禁阈值要和业务方一起定,不能算法团队自己拍个 95% 就放行。目标跟踪评测的测试不能只跑几段好天气录像,要把长尾、恶劣天气、传感器失效都排进用例。

目标跟踪精度用 MOTA、MOTP 这类指标说话,但更要看极端路口的漏跟率。时空对齐误差靠标定场和已知靶标测,外参几分之一度、时间几毫秒都要量化出来。

长尾场景靠大规模回放补,建议建一个会持续长的场景库,而不是一次性凑几百条。仿真适合跑海量组合,实车适合验真实交互,二者分工而不是互相替代。

MOTA、MOTP 这类指标怎么用?

误检和漏检要分开量化,漏一个行人比误报一个锥桶严重得多,权重不能一样。台架测试负责可重复,实车测试负责真实噪声,目标跟踪评测 两个都不能少。

上线门前至少要过功能、性能、安全三道关,任何一道红灯都别带病发布。目标跟踪评测的回归基线要锁死,每次模型更新都跑同一批黄金用例,防止改好一个坏另一个。

我们见过太多只报平均指标的方案,真正要看的是最差百分位下的表现。融合测试里时间同步要先验,时间不对齐测出来的精度全是假象。

误检和漏检为什么要分开量化?

建议把 目标跟踪评测 的评测拆成检测、跟踪、融合、输出四段,分别打分。回放系统要能注入故障,比如让相机掉线,看 目标跟踪评测 的降级是不是按设计的走。

长尾覆盖度可以用场景聚类来度量,别用简单条数糊弄验收。实车测试要记录传感器原始数据,出了问题才能回放定位是融合还是上游。

门禁阈值要和业务方一起定,不能算法团队自己拍个 95% 就放行。目标跟踪评测的测试不能只跑几段好天气录像,要把长尾、恶劣天气、传感器失效都排进用例。

最差百分位下的表现怎么看?

目标跟踪精度用 MOTA、MOTP 这类指标说话,但更要看极端路口的漏跟率。时空对齐误差靠标定场和已知靶标测,外参几分之一度、时间几毫秒都要量化出来。

长尾场景靠大规模回放补,建议建一个会持续长的场景库,而不是一次性凑几百条。仿真适合跑海量组合,实车适合验真实交互,二者分工而不是互相替代。

误检和漏检要分开量化,漏一个行人比误报一个锥桶严重得多,权重不能一样。台架测试负责可重复,实车测试负责真实噪声,目标跟踪评测 两个都不能少。

评测怎么拆成几段分别打分?

上线门前至少要过功能、性能、安全三道关,任何一道红灯都别带病发布。目标跟踪评测的回归基线要锁死,每次模型更新都跑同一批黄金用例,防止改好一个坏另一个。

我们见过太多只报平均指标的方案,真正要看的是最差百分位下的表现。融合测试里时间同步要先验,时间不对齐测出来的精度全是假象。

建议把 目标跟踪评测 的评测拆成检测、跟踪、融合、输出四段,分别打分。回放系统要能注入故障,比如让相机掉线,看 目标跟踪评测 的降级是不是按设计的走。

黄金用例集为什么锁死?

长尾覆盖度可以用场景聚类来度量,别用简单条数糊弄验收。实车测试要记录传感器原始数据,出了问题才能回放定位是融合还是上游。

门禁阈值要和业务方一起定,不能算法团队自己拍个 95% 就放行。目标跟踪评测的测试不能只跑几段好天气录像,要把长尾、恶劣天气、传感器失效都排进用例。

目标跟踪精度用 MOTA、MOTP 这类指标说话,但更要看极端路口的漏跟率。时空对齐误差靠标定场和已知靶标测,外参几分之一度、时间几毫秒都要量化出来。

目标跟踪评测的回归怎么防止改坏?

长尾场景靠大规模回放补,建议建一个会持续长的场景库,而不是一次性凑几百条。仿真适合跑海量组合,实车适合验真实交互,二者分工而不是互相替代。

误检和漏检要分开量化,漏一个行人比误报一个锥桶严重得多,权重不能一样。台架测试负责可重复,实车测试负责真实噪声,目标跟踪评测 两个都不能少。

上线门前至少要过功能、性能、安全三道关,任何一道红灯都别带病发布。目标跟踪评测的回归基线要锁死,每次模型更新都跑同一批黄金用例,防止改好一个坏另一个。

结论:

1. 目标跟踪评测 的测试门禁至少过功能、性能、安全三道关,任何一道红灯都别带病发布。

2. 目标跟踪评测 的评测要拉开最差百分位,平均指标好看的方案在远距小目标上常翻车。

3. 回归基线锁死后,目标跟踪评测 每次模型更新都跑同一批黄金用例,防止改好一个坏另一个。

实践经验
一支团队只报平均精度 98%,我们拉最差百分位发现远距小目标漏跟率偏高,倒逼他们加了一类难例,上线后投诉明显下降。
常见问题
目标跟踪评测精度怎么评估才客观?

长尾场景靠大规模回放补,建议建一个会持续长的场景库,而不是一次性凑几百条

为什么不能只看平均精度?

我们见过太多只报平均指标的方案,真正要看的是最差百分位下的表现

极端路口的漏跟率怎么看?

门禁阈值要和业务方一起定,不能算法团队自己拍个 95% 就放行

MOTA、MOTP 这类指标怎么用?

误检和漏检要分开量化,漏一个行人比误报一个锥桶严重得多,权重不能一样

误检和漏检为什么要分开量化?

建议把 目标跟踪评测 的评测拆成检测、跟踪、融合、输出四段,分别打分

最差百分位下的表现怎么看?

目标跟踪精度用 MOTA、MOTP 这类指标说话,但更要看极端路口的漏跟率

相关阅读