什么是 重要性采样（Importance Sampling）？
重要性采样（Importance Sampling）是一种测度变换方法：从 Proposal Distribution 抽取样本，再用 Target 与 Proposal 的密度比重加权，以估计 Target Distribution 下的期望。
快速了解
| 规范文档 | 官方规范 |
|---|
工作原理
围绕 Estimand 选择 Proposal
Proposal 必须覆盖每个重要 Target 区域，并在 |f(x)|p(x) 较大的位置提供足够概率。仅仅“看起来像 Target”并不保证适合稀有事件 Estimand。应记录 Target 与 Proposal Density 是否归一化；密度极小时在 Log Space 计算比值；任何非有限比值，或 Target 为正而 Proposal 为零的事件，都应判定为 Support Failure，而不是静默丢弃。
普通与自归一化估计回答略有不同的问题
当归一化 Target Density 已知且加权被积函数可积时，普通 IS 可以无偏。Self-Normalized IS 能使用未归一化 Target，通常也更稳定，但有限样本下通常有偏。Weight Clipping、Truncation 或 Stabilization 可以继续降低方差，却会改变偏差，有时还会改变实际 Target；这些选择必须写入估计器契约。
解释估计值前先诊断权重
除原始样本量外，还应报告 Effective Sample Size、最大归一化权重、高分位权重、重复运行波动，以及对合理裁剪阈值的敏感性。Pareto Smoothed Importance Sampling用拟合后的尾部行为诊断并稳定问题权重，但任何平滑技术都不能创造缺失 Support。诊断失效时，应采集更合适的 Proposal 数据或缩小 Target 声明。
主要特点
- 按 Target 与 Proposal 的密度比重加权样本
- 要求 Target Support 包含在 Proposal Support 中
- 同时支持普通估计与自归一化估计
- Target 与 Proposal 尾部不匹配时可能产生极高方差
- 使用 Effective Sample Size 与尾部指标暴露权重集中
- 裁剪或稳定权重时需要在偏差与方差之间取舍
常见用途
- 通过定向模拟 Proposal 估计稀有事件概率
- 把评测数据校正到明确的部署分布
- 使用随机日志流量评估目标决策策略
- 模型或先验适度变化后复用 Posterior 样本
- 昂贵 Monte Carlo 运行前比较不同 Proposal 设计
示例
Loading code...常见问题
重要性采样在什么条件下无偏？
当样本确实来自 Proposal、Target Density 已归一化、Target Support 被 Proposal 覆盖，且加权变量可积时，普通 Importance Sampling 无偏。密度由数据估计、自适应复用、样本依赖、权重裁剪或自归一化都需要单独分析偏差与不确定性。
普通与自归一化重要性采样有什么区别？
普通 IS 用 Proposal 样本数除加权和，需要归一化后的 Density Ratio。Self-Normalized IS 用观测权重之和作分母，可以使用未归一化 Target；它通常在有限样本下有偏，但往往更稳定。
为什么样本很多时重要性采样仍可能失败？
原始行数不等于信息量。如果少数尾部观测承载几乎全部权重，方差可能极高，Effective Sample Size 也会很小。Proposal 缺失 Support 更严重，因为这些样本无法识别完整 Target Expectation。
重要性权重应该裁剪吗？
裁剪可以降低方差和运行不稳定性，但会引入偏差，并可能改变近似的目标人群。应披露规则、比较有依据的阈值、保留未裁剪诊断，且不能用裁剪掩盖 Support Violation。
重要性采样与逆倾向评分相同吗？
Inverse Propensity Scoring 是面向决策或 Treatment 的一种 Importance Sampling 构造，权重来自给定上下文后的目标动作概率与日志动作概率。通用 Importance Sampling 则可以重加权任意概率分布和被积函数。