什么是 伪边际 MCMC（Pseudo-Marginal MCMC）？
伪边际 MCMC（Pseudo-Marginal MCMC）是一种以非负无偏随机估计替代不可计算似然，同时让目标参数后验保持为边缘分布的马尔可夫链蒙特卡洛方法。
快速了解
| 规范文档 | 官方规范 |
|---|
工作原理
要求似然无偏，而不是对数似然无偏
对参数 theta，设随机变量 u 产生 L_hat(theta, u) >= 0，且 E[L_hat(theta, u)] = L(theta)。与 prior(theta) L_hat(theta, u) m(u | theta) 成比例的扩展密度，对 u 积分后就是所需参数后验。Log Likelihood 估计误差均值为零，并不意味着指数化后无偏，因为 Jensen 不等式会介入。
Andrieu 与 Roberts 的奠基论文形式化了 Pseudo-Marginal 构造。非负性、无偏性和估计器抽样规律都是结构性假设。
把估计器随机性保留在链状态中
每轮提议 theta'，抽取新的估计器随机量 u'，并把 prior(theta') L_hat(theta', u') 与 Proposal 项一起放入接受比。若拒绝，就同时保留 theta 和当前 u，或者等价地保留当前似然估计。参数不变却刷新分母估计，属于 Monte Carlo within Metropolis，通常会引入偏差。
Particle Marginal Metropolis-Hastings 是重要特例，其中 Particle Filter 提供无偏似然估计。Importance Sampler、潜变量估计器或随机截断方案，在满足各自数学条件时也可以使用。
控制估计噪声，而非只追求接受率
偶发的超大似然估计会困住链，因为普通候选很难超过当前扩展状态。增加估计器计算量可降低噪声，却提高每轮成本。若构造的 Kernel 保持正确辅助分布，让当前与候选的估计器随机量相关，可以降低 Log Acceptance Ratio 方差。
应报告估计器构造与计算量、代表性参数处估计 Log Likelihood 的方差和尾部、接受率、重复状态连续长度、单位时间 Bulk/Tail Effective Sample Size、多链一致性，以及对估计计算量的敏感性。进入不可计算模型前，应先用似然可精确求解的案例验证。
主要特点
- 通过扩展估计器状态瞄准参数后验
- 要求似然估计非负且无偏
- 在 Metropolis-Hastings 比值中使用随机似然估计
- 候选被拒绝时必须保留当前估计
- Particle Marginal 方法是其重要特例
- 似然估计噪声较大时可能形成粘滞链
常见用途
- 潜变量可通过重要性采样处理的贝叶斯推断
- 使用 Particle Filter 似然估计进行参数推断
- 双重难解或基于模拟器的模型研究
- 替代确定性似然代理的 Exact-Approximate 方法
- 比较相关似然估计器设计的基准实验
示例
Loading code...常见问题
为什么伪边际 MCMC 被称为精确方法？
满足假设时，扩展链以所需参数后验作为精确边缘，尽管它使用随机似然估计。有限长度链仍有 Monte Carlo Error，也可能因混合太慢而无法给出实用精度。
伪边际 MCMC 可以使用无偏对数似然估计吗？
仅凭这一点不可以。标准 Pseudo-Marginal 理论要求似然估计本身非负且无偏。对无偏 Log Likelihood 估计取指数，通常会产生偏差。
什么会让伪边际链变得粘滞？
罕见的高估似然会成为当前扩展状态，使普通候选连续被拒绝。估计器重尾或 Log Likelihood 方差过大，因此会形成很长的重复状态区间。
伪边际 MCMC 与 Noisy MCMC 有什么区别？
Pseudo-Marginal MCMC 在拒绝后保留当前估计器随机性，具有扩展空间不变目标。Noisy 或 Monte Carlo-within-Metropolis 以不同方式刷新估计，通常会引入近似偏差。
如何验证伪边际 MCMC 实现？
先在似然可精确计算的模型上与普通 MH 对照，再改变估计计算量和随机种子，检查后验摘要、重复状态区间、单位时间有效样本量和估计器尾部。