什么是 均衡赔率(Equalized Odds)?

均衡赔率(Equalized Odds)是一项群体公平标准,要求在观测结果给定后,预测与受保护群体身份在统计上条件独立;对二分类而言,即各群体拥有相同的真正率和假正率。

快速了解

规范文档官方规范

工作原理

在每种观测结果内部比较错误

对每个群体,在已标记正例中计算 TPR=TP/(TP+FN),在已标记负例中计算 FPR=FP/(FP+TN)。两种差距都要报告,因为敏感度相同仍可能伴随不同误报负担。Hardt、Price 与 Srebro提出 Equalized Odds,并给出可以使用群体信息变换分数或分类器的后处理构造。

把标签视为测量,而不是无条件真值

条件错误率会继承标签过程中的全部缺陷。如果只有获批申请者才产生后续结果,执法强度改变案件记录,或医疗可及性影响诊断,那么各群体面对的标签生成机制并不相同。把差距缩小解释为待遇更公平之前,应审计缺失、选择、裁决一致性、时间范围和干预效应。

联合评估阈值、随机化与取舍

分群阈值或随机后处理可以缩小测得差异,但可能受到法律限制、运营不稳定,或不符合产品策略。当观测基础发生率不同且预测不完美时,均衡赔率还可能与预测性平价冲突。不能只优化一个最大差距;应同时比较效用与伤害、置信区间、校准、子群样本支持和下游行动。

主要特点

  • 在观测结果标签条件下比较群体公平性
  • 要求各群体真正率与假正率同时相等
  • 包含只约束一个类别的 Equal Opportunity 放宽形式
  • 高度依赖标签有效性、可获得性、时点与一致性
  • 可通过训练约束、阈值或后处理近似满足
  • 可能与校准或预测性平价目标冲突

常见用途

  1. 比较合格候选人的召回率与不合格候选人的晋级率
  2. 审计信贷决策中的错误拒绝和错误批准模式
  3. 按群体评估临床告警敏感度与误报负担
  4. 在有利和不利错误都有成本时监控阈值变化
  5. 检验后处理器能否泛化到验证人群以外

示例

loading...
Loading code...

常见问题

均衡赔率如何计算?

对每个群体,在观测正例中计算真正率,在观测负例中计算假正率,再比较两种比率并报告样本数和不确定性。如果某个群体标签分层中没有样本,指标没有定义,程序不能静默把结果填成零。

均衡赔率与机会均等有什么区别?

均衡赔率同时约束真正率和假正率;机会均等通常只约束被指定为有利结果的真正率。后一种放宽形式适合漏掉获益机会是主要风险的情境,但它明确不限制另一类错误,不能冒充完整 Equalized Odds。

标签存在偏差时还能相信均衡赔率吗?

必须非常谨慎。该指标把观测标签当作条件参考。如果标签受到选择性观测、不平等可及性、既往执法或不一致裁决影响,即使条件错误率相等,也可能保留这些扭曲。标签生成过程本身必须进入公平审计。

为什么均衡赔率会与预测性平价冲突?

当群体观测结果发生率不同且预测并不完美时,真正率与假正率相等通常会导致正预测值不同;反过来,让正预测值相等通常会保留部分条件错误率差异。团队必须说明更关注哪一种错误或决策属性。

对不同群体使用不同阈值就能解决问题吗?

分群阈值可以缩小验证集上的差异,但不能证明这种处理合法、可接受、稳定或有益。阈值会漂移,标签可能不完整,下游负担也会变化。策略、法律、不确定性和运营证据都需要共同审查。

相关术语

相关文章