什么是 J&F 分数?
J&F 分数是 DAVIS Region Similarity J 与 Contour Accuracy F 的算术平均,用 Mask Area Overlap 与 Boundary Alignment 共同评测视频目标分割。
快速了解
| 规范文档 | 官方规范 |
|---|
工作原理
分别计算区域重叠与边界对齐
J = |P intersection G| / |P union G| 比较预测 Mask P 与 Ground Truth Mask G。Boundary F = 2PR / (P + R) 中,Precision 统计接近真值轮廓的预测边界像素,Recall 统计接近预测轮廓的真值边界像素。
DAVIS 官方 Evaluator把 Boundary Tolerance 设为图像对角线的配置比例,默认 0.008,再向上取整到 Pixel。因此 Resolution 与 Tolerance 都必须保留在可复现结果中。
按帧、对象与指标聚合后再组合
DAVIS 先对每个评测对象逐帧计算 J 与 F,再得到该对象的 Mean;Benchmark 分别平均 Object-level J Mean 与 F Mean,最终报告 J&F = (J_mean + F_mean) / 2。它还给出 Recall,即有效帧中分数超过 0.5 的比例;以及 Decay,即首个时间四分位 Mean 减去最后四分位 Mean。
官方半监督协议在对象首次出现帧提供 Mask,并评测后续传播。把所有像素全局平均,或不按 Benchmark 权重平均 Sequence Summary,都不会复现这一契约。
区分半监督与无监督 Matching
在 Semi-supervised DAVIS 中,目标身份由首帧 Mask 给定;在 Unsupervised DAVIS 2019 中,Evaluator 对 Ground Truth Object 与预测 Video-object Proposal 做 Bipartite Matching,使配对的 Mean J&F 最大,而该 Challenge Rule 不惩罚已匹配标注对象之外的额外 Proposal。
因此,不同任务中相同 J&F 可能对应不同 Failure Set。应同时报告逐对象分数、J/F Recall 与 Decay、时延、内存及故障切片。需要发现、分类并保持多个对象时,应在相应 Annotation Protocol 下使用 MOTSA、HOTA、Track mAP 或 TETA。
主要特点
- 组合 Region Jaccard Overlap 与 Contour F-measure
- 采用具有容差的 Boundary Matching
- 通过 Object-level Summary 聚合逐帧分数
- 先分别报告 J 与 F Mean,再取算术平均
- 支持 Recall 与 Temporal Decay 诊断
- 在半监督与无监督协议下具有不同含义
常见用途
- 评测半监督视频目标分割
- 比较 Prompt 或首帧 Mask 引导的传播
- 区分 Mask Area Error 与 Contour Error
- 用 J 与 F Decay 诊断时间退化
- 复现 DAVIS Challenge 评测结果
示例
Loading code...常见问题
J&F 分数如何计算?
DAVIS 为每个对象逐帧计算 Region Jaccard J 与 Boundary F,汇总 Object-level Mean 后分别跨对象平均,最后取算术平均:`J&F = (J_mean + F_mean) / 2`。
J 与 F 有什么区别?
J 用 Mask IoU 衡量前景区域重叠;F 用带容差的 Boundary Precision 与 Recall 衡量轮廓对齐。一个 Mask 可能覆盖大部分对象,却因边缘粗糙或偏移得到较低 F。
J Recall、F Recall 与 Decay 表示什么?
Recall 是逐帧指标超过 `0.5` 的有效帧比例;Decay 是第一个时间四分位 Mean 减去最后一个四分位 Mean,因此正 Decay 表示结果随序列推进而退化。
DAVIS 是否要求边界像素精确重合?
不要求。官方实现先按图像对角线比例得到 Boundary Tolerance,默认 `0.008`,再膨胀轮廓并计算 Precision 与 Recall;Tolerance 和 Resolution 都会影响 F。
不同 DAVIS 任务的 J&F 可以直接比较吗?
只有任务与 Evaluator 相同时才可以。半监督评测沿用已提供对象身份;无监督 DAVIS 会把 Proposal 与标注对象匹配,并可能不惩罚额外 Proposal,两者覆盖的错误不同。