什么是 偶然不确定性(Aleatoric Uncertainty)?
偶然不确定性(Aleatoric Uncertainty)是在明确观测、标签与模型契约下,对可用信息做条件化之后仍未解决的结果变异。
快速了解
| 规范文档 | 官方规范 |
|---|
工作原理
把数据不确定性绑定到观测契约
先定义目标、采样单位、测量过程、标签裁决、预测时可用特征和目标人群。模糊图像可能因采集过程丢失信息而不确定;审核员分歧则可能来自标签定义不充分。因此,同一个潜在事件在不同传感器或标签下可以具有不同的偶然不确定性。在检查数据质量、泄漏和模型设定错误前,不应把所有残差都归为固有噪声。
学习条件尺度,同时惩罚方差膨胀
异方差回归模型可以同时输出条件均值与方差,并优化高斯负对数似然。残差项允许困难样本拥有更大方差,Log Variance 项则阻止模型把所有区间无限放宽。Kendall 与 Gal在视觉任务中结合了输入相关的偶然不确定性与模型不确定性近似。但似然族仍需论证:重尾、计数、删失或多峰结果需要不同模型。
检查条件行为,而非只看平均损失
除负对数似然等严格适当评分外,还要检查区间覆盖率、区间宽度、残差图和关键切片上的校准。模型可能通过放宽大群体的不确定性改善平均 NLL,却仍对少数高风险群体给出危险的窄区间。传感器、标注、类别占比或政策变化后必须重测。偶然不确定性描述的是建模后的结果变异,不能单独识别分布外输入或模型参数未知。
主要特点
- 表示在指定观测信息下仍存在的结果变异
- 可以在样本间保持恒定,也可以随输入变化
- 可能来自随机结果、测量噪声或真实标签歧义
- 依赖传感器、特征、目标、人群与模型假设
- 需要与结果结构匹配的似然或区间模型
- 必须检查覆盖率、锐度、严格适当评分和子群失败
常见用途
- 为深度、姿态或传感器回归预测输入相关噪声
- 生成随请求条件变化的需求量或持续时间区间
- 表示医疗、内容审核或文档任务中的标签歧义
- 区分集成成员分歧与成员内部的预测方差
- 把固有歧义较高的样本路由到复核或补充测量
示例
Loading code...常见问题
偶然不确定性有哪些例子?
如果两个物理条件相同的请求,因为未观测的排队和服务波动而产生不同完成时间,那么条件持续时间分布包含偶然不确定性。但它仍取决于预测器能观察哪些队列和系统特征。
增加数据能降低偶然不确定性吗?
更多代表性数据可以更准确地估计条件分布并降低参数未知,但不会消除在同一信息条件下仍存在的结果变异。新增传感器、重复测量、改善标签或修改目标会改变信息契约,因此可能降低表面上的偶然不确定性。
同方差与异方差不确定性有什么区别?
同方差模型对所有输入使用相同残差尺度;异方差模型允许尺度随输入变化,例如高峰期的持续时间区间更宽。新增灵活性必须经过验证,因为预测方差也可能吸收模型偏差或数据缺陷。
标签噪声都属于偶然不确定性吗?
不一定。多个结果都合理的真实歧义可以属于当前目标下的偶然不确定性,但指南不一致、标注错误、数据泄漏或系统性审核偏差属于数据质量与任务定义问题。不能在审计标注流程前把分歧视为不可约。
如何评估偶然不确定性?
使用与结果类型匹配的严格适当评分,并同时检查经验覆盖率、区间或分布锐度、残差诊断和子群表现。与常方差基线比较,并在传感器、标签、人群或预处理变化后重新评估。