什么是 人口统计均等(Demographic Parity)?
人口统计均等(Demographic Parity)是一项群体公平标准,要求模型预测或下游决策与受保护群体身份在统计上独立,通常通过比较各群体获得有利结果的选择率来评估。
快速了解
| 规范文档 | 官方规范 |
|---|
工作原理
在明确适格人群上计算选择率
每个群体的分母应是该群体全部适格案例,而不是恰好拥有结果标签的记录。可以用 max(rate)-min(rate) 表示绝对差值,并在参考选择率非零时计算比率。Fairlearn 指标指南区分 Demographic Parity Difference 与 Ratio,并把群体划分函数视为指标契约的一部分。
当机会分配本身是问题时使用
如果面试、触达、曝光或另一种稀缺机会的获取本身需要审查,或者结果标签在结构上无法获得,人口统计均等可能提供有价值证据。Dwork 等人的研究区分了 Statistical Parity 与 Individual Fairness 思路。即使使用该指标,仍需做价值判断:谁属于适格人群,什么才是有利结果。
不能由选择率推出错误或福利相等
当标签、基础发生率、测量方式或干预效果不同时,选择率相等仍可能伴随漏判、误判、效用或负担不等。反过来,为弱势群体设计的合理补救计划也可能有意产生不同选择率。不要只为强制达成均等而调阈值;还应检查标签质量、条件错误标准、校准、收益与伤害幅度、不确定性及下游流程。
主要特点
- 比较明确受保护群体之间的有利选择率
- 要求决策与群体属性在统计上独立
- 计算时不以观测结果标签为条件
- 可用绝对差值和相对参考组比率概括
- 要求明确适格范围、决策单位、阈值、窗口和缺失策略
- 本身不能证明错误、效用或法律待遇相同
常见用途
- 审计适格求职者获得面试机会的群体差异
- 比较推荐或广告系统分配曝光的比例
- 在延迟结果标签尚未完整时监控审批率
- 策略阈值变化后检查交叉群体的选择模式
- 评估有限触达机会是否按既定政策分配
示例
Loading code...常见问题
人口统计均等如何计算?
在相同适格人群和时间窗口内,分别计算每个群体获得有利结果的比例,并报告分子、分母、绝对差值、分母非零时的比率和不确定性。使用不同适格定义或缺失数据规则得到的选择率不能直接比较。
人口统计均等等于准确率相同吗?
不等于。人口统计均等不读取真实结果标签,只比较有利决策出现频率;准确率比较预测是否正确;均衡赔率则在标签条件下比较真正率与假正率。选择率完全相同,群体错误仍可能明显不同。
80% 规则能定义算法公平吗?
不能。四分之五比率可能在特定法律或组织语境下作为筛查惯例,但不是通用公平阈值,也不能单独证明合规。样本规模、不确定性、岗位或产品情境、适用法律和其他证据仍需独立复核。
哪些场景不适合使用人口统计均等?
当主要伤害是误报或漏报、群体具有不同且合理的适格定义、标签可信且错误平衡更重要,或补救计划有意改善某一群体机会时,该指标可能误导。应由真实决策问题决定标准,而不是反过来。
强行让选择率相同会不会让结果更差?
会。调整阈值可能转移错误、减少有益干预、诱发规避行为,或掩盖数据与流程缺陷。团队应同时评估谁获益、谁受损、标签质量、错误率、效用、不确定性和下游 Effect,不能孤立优化均等统计量。