什么是 sPTQ?

sPTQ 是一种逐类别平均的全景跟踪指标,它从逐帧 Panoptic Quality 统计中扣除发生 ID Switch 时已匹配 Segment 的 IoU 信用。

快速了解

全称软全景跟踪质量
规范文档官方规范

工作原理

从逐帧 Panoptic Quality Match 开始

在每个类别和 Frame 内,预测与 Ground Truth Segment 的 IoU 超过 Benchmark Threshold 后成为 True-positive Pair;累加这些 Pair 的 IoU,未匹配预测计为 FP,未匹配 Ground Truth 计为 FN。Stuff Class 参与 Segmentation Statistics,但没有时序 Instance Switch。

MOPT 原始论文为语义、实例与时间联合评测提出 PTQ 与 sPTQ。输入 Mask、Thing/Stuff Taxonomy、IoU Threshold、Ignored Point、最小 Segment Size 与 Class Averaging 都属于指标契约。

扣除 Switch-frame IoU 而不是固定一分

对类别 c,sPTQ_c = (sum_TP IoU - sum_IDS IoU_switch) / (TP + 0.5*FP + 0.5*FN),最终对有效类别做算术平均。发生切换的 True-positive Segment 仍留在分母中,但其当前帧 IoU Credit 从分子移除。

Hard PTQ_c 改为扣除 ID Switch 数量;一次 Switch 可能被扣除比原本可获得的 Matched IoU 更大的值。sPTQ 让损失随 Mask Quality 变化,但并未消除 Threshold:Segment 必须先通过逐帧 Matching。

复现 Switch 约定并联合读取 Companion Metric

当前 nuScenes Devkit比较同一 Ground Truth Instance 在相邻两帧的成功 Match;若预测 ID 改变,就累加当前 Match IoU。

任一帧没有成功 Match 时,该 Transition 不构成相同的 Switch Event;其他 Evaluator 可能采用不同定义。

应报告 PTQ、sPTQ、PQ、原始 TP/FP/FN/IDS 与 Evaluator 版本。逐点全序列 Association 使用 LSTQ,实例级 Tracking Quality 使用 PAT,仅评测 Thing-mask Track 时使用 MOTSA/sMOTSA。

主要特点

  • 以身份惩罚扩展逐帧 Panoptic Quality
  • 扣除切换 Segment 的 IoU 而不是固定一分
  • 分母为 TP 加半个 FP 与半个 FN
  • 先计算逐类别得分再做 Macro Average
  • Stuff 参与分割但不产生 Stuff Identity Switch
  • 依赖 Segment Matching 与相邻帧 Switch Rule

常见用途

  1. 复现 MOPT 与 Panoptic nuScenes 评测
  2. 比较不同 Mask Quality 的 Panoptic Tracker
  3. 审计 Switch Penalty 是否主导 PTQ
  4. 联合评测 Thing Tracking 与 Stuff Segmentation
  5. 与 LSTQ 和 PAT 并列报告传统 Frame-centric Metric

示例

loading...
Loading code...

常见问题

sPTQ 如何计算?

对每个类别,累加逐帧成功 Match Segment 的 IoU,减去 ID Switch Frame 对应的 Match IoU,再除以 `TP + 0.5 FP + 0.5 FN`,最后对有效类别取平均。

PTQ 与 sPTQ 有什么区别?

PTQ 每次 ID Switch 固定扣一分;sPTQ 只扣除发生切换 Segment 的 IoU,因此惩罚与该 Segment 原本能贡献的 Mask Credit 对齐。

sPTQ 与 sMOTSA 有什么区别?

sPTQ 使用 PQ 分母、IoU-weighted Switch Penalty,并对 Thing 与 Stuff 逐类别平均;sMOTSA 从 Mask IoU Sum 中扣 FP 与 Hard IDS,以全部 Ground Truth Thing Mask 归一化,不包含 Stuff。

sPTQ 能衡量长期 Association 吗?

只能通过 Evaluator 定义的 ID Switch Event 间接反映。nuScenes 实现比较相邻帧成功 Match;LSTQ 与 PAT 分别提供全序列逐点和实例级 Association 视角。

不同 Benchmark 的 sPTQ 可以直接比较吗?

只有 Thing/Stuff Class、Segment-IoU Threshold、Minimum Size、Ignored Point、ID Switch Convention、Sequence Boundary、Class Aggregation 与 Evaluator 版本兼容时才可比较。

相关术语

相关文章