什么是 Qini 系数?
Qini 系数是一种面积型排序指标,用于汇总按预测处理效应排列样本后,累计增量结果曲线相对随机投放基线高出的程度。
快速了解
| 规范文档 | 官方规范 |
|---|
工作原理
曲线用对照组估计处理组的反事实响应
对二元结果,一种常见的前缀增益为 R_t(k)-R_c(k)N_t(k)/N_c(k),其中 R 与 N 分别是排名前 k 个样本中两组的响应数与样本数,再把该增益对覆盖比例作图。pylift 文档展示了 Qini 曲线、随机基线、实际可达上界与归一化变体。
高于随机的面积衡量排序,而不是效应校准
如果高排名前缀比随机排序聚集了更多增量响应,模型就获得正面积。数值校准完全不同的效应预测也可能得到相同 Qini;如果忽略成本,排序良好的模型仍可能推荐经济上有害的处理。因此应同时检查分组效应校准、运行阈值处的策略价值、处理率与净收益。
必须使用诚实的随机化或因果可识别评估数据
在训练数据上计算曲线会奖励过拟合;未经校正的观测处理组则会把历史分配偏差误当作排序质量。应使用从未参与训练的随机实验留出集,或有效的交叉拟合因果评分,并保留已知倾向概率和样本权重。还需用合适的 Bootstrap 或影响函数量化不确定性,检查实际预算区间内的曲线稳定性。
主要特点
- 评估预测处理效应所诱导的样本顺序
- 在排名前缀上构造累计增量结果曲线
- 通过面积计算扣除随机投放参考线
- 数值取决于对照校正与归一化约定
- 本身不衡量效应校准或净策略价值
- 依赖诚实因果评估数据与不确定性分析
常见用途
- 在随机营销留出集上比较多套增益排序
- 固定活动预算下选择触达阈值
- 检查 CATE 模型能否在头部聚集增量转化
- 跨人群或时间监控增益排序退化
- 补充分组校准与策略价值诊断
示例
Loading code...常见问题
Qini 系数如何计算?
先按预测增益排序,在多个覆盖比例上利用处理组与对照组观测估计累计增量结果,对曲线做积分,再减去随机投放线下的面积。处理组校正、插值、权重与归一化的具体约定都必须随结果一起报告。
Qini 与 AUUC 有什么区别?
二者都汇总增益曲线,但不同库的命名与基线并不统一。Qini 通常指高于随机投放线的面积,AUUC 可能指增益曲线下总面积,也可能指已扣除基线的面积。比较模型前必须查看实际实现公式。
Qini 系数能跨数据集直接比较吗?
原始 Qini 通常随样本量、结果发生率、处理比例和可达增益变化,不能安全地跨数据集比较。明确的归一化可以改善可比性,但人群、处理成本、倾向概率与评估设计改变后仍需分别解释。
Qini 系数为正能证明因果模型有效吗?
不能。它只在评估设计的因果假设成立时支持排序有效。训练集评估、隐藏混杂、干扰、重叠不足或倾向加权错误都会产生误导曲线,因此必须使用诚实留出集并报告统计不确定性。
仅凭 Qini 能选择处理策略吗?
不能。Qini 汇总整条排序曲线,而部署只在具体阈值下运行,并受到成本、容量、伤害与不确定性约束。应在实际处理率下评估策略价值和净收益,同时检查校准、分组表现并与简单运营基线比较。