什么是 J&F 分数?

J&F 分数是 DAVIS Region Similarity J 与 Contour Accuracy F 的算术平均,用 Mask Area Overlap 与 Boundary Alignment 共同评测视频目标分割。

快速了解

规范文档官方规范

工作原理

分别计算区域重叠与边界对齐

J = |P intersection G| / |P union G| 比较预测 Mask P 与 Ground Truth Mask G。Boundary F = 2PR / (P + R) 中,Precision 统计接近真值轮廓的预测边界像素,Recall 统计接近预测轮廓的真值边界像素。

DAVIS 官方 Evaluator把 Boundary Tolerance 设为图像对角线的配置比例,默认 0.008,再向上取整到 Pixel。因此 Resolution 与 Tolerance 都必须保留在可复现结果中。

按帧、对象与指标聚合后再组合

DAVIS 先对每个评测对象逐帧计算 J 与 F,再得到该对象的 Mean;Benchmark 分别平均 Object-level J Mean 与 F Mean,最终报告 J&F = (J_mean + F_mean) / 2。它还给出 Recall,即有效帧中分数超过 0.5 的比例;以及 Decay,即首个时间四分位 Mean 减去最后四分位 Mean。

官方半监督协议在对象首次出现帧提供 Mask,并评测后续传播。把所有像素全局平均,或不按 Benchmark 权重平均 Sequence Summary,都不会复现这一契约。

区分半监督与无监督 Matching

在 Semi-supervised DAVIS 中,目标身份由首帧 Mask 给定;在 Unsupervised DAVIS 2019 中,Evaluator 对 Ground Truth Object 与预测 Video-object Proposal 做 Bipartite Matching,使配对的 Mean J&F 最大,而该 Challenge Rule 不惩罚已匹配标注对象之外的额外 Proposal。

因此,不同任务中相同 J&F 可能对应不同 Failure Set。应同时报告逐对象分数、J/F Recall 与 Decay、时延、内存及故障切片。需要发现、分类并保持多个对象时,应在相应 Annotation Protocol 下使用 MOTSA、HOTA、Track mAP 或 TETA。

主要特点

  • 组合 Region Jaccard Overlap 与 Contour F-measure
  • 采用具有容差的 Boundary Matching
  • 通过 Object-level Summary 聚合逐帧分数
  • 先分别报告 J 与 F Mean,再取算术平均
  • 支持 Recall 与 Temporal Decay 诊断
  • 在半监督与无监督协议下具有不同含义

常见用途

  1. 评测半监督视频目标分割
  2. 比较 Prompt 或首帧 Mask 引导的传播
  3. 区分 Mask Area Error 与 Contour Error
  4. 用 J 与 F Decay 诊断时间退化
  5. 复现 DAVIS Challenge 评测结果

示例

loading...
Loading code...

常见问题

J&F 分数如何计算?

DAVIS 为每个对象逐帧计算 Region Jaccard J 与 Boundary F,汇总 Object-level Mean 后分别跨对象平均,最后取算术平均:`J&F = (J_mean + F_mean) / 2`。

J 与 F 有什么区别?

J 用 Mask IoU 衡量前景区域重叠;F 用带容差的 Boundary Precision 与 Recall 衡量轮廓对齐。一个 Mask 可能覆盖大部分对象,却因边缘粗糙或偏移得到较低 F。

J Recall、F Recall 与 Decay 表示什么?

Recall 是逐帧指标超过 `0.5` 的有效帧比例;Decay 是第一个时间四分位 Mean 减去最后一个四分位 Mean,因此正 Decay 表示结果随序列推进而退化。

DAVIS 是否要求边界像素精确重合?

不要求。官方实现先按图像对角线比例得到 Boundary Tolerance,默认 `0.008`,再膨胀轮廓并计算 Precision 与 Recall;Tolerance 和 Resolution 都会影响 F。

不同 DAVIS 任务的 J&F 可以直接比较吗?

只有任务与 Evaluator 相同时才可以。半监督评测沿用已提供对象身份;无监督 DAVIS 会把 Proposal 与标注对象匹配,并可能不惩罚额外 Proposal,两者覆盖的错误不同。

相关术语

相关文章