什么是 粒子马尔可夫链蒙特卡洛(Particle MCMC)?

粒子马尔可夫链蒙特卡洛(Particle MCMC)是一类把粒子滤波或条件序贯蒙特卡洛嵌入 MCMC 的方法,用于推断状态空间模型的参数与潜状态后验。

快速了解

规范文档官方规范

工作原理

目标是扩展分布,而非插值后验

PMMH 把 Particle Filter 使用的全部随机变量并入状态。在 Metropolis-Hastings 比值中,以非负无偏估计替代难算似然后,所得转移保持一个扩展目标不变,其参数边缘正是所需后验。估计可以有噪声,却不能是任意有偏 Score。

Andrieu、Doucet 与 Holenstein 的 PMCMC 原始论文证明了扩展空间构造,并提出多种 Particle MCMC Kernel。“精确”结论依赖这些假设,而不是因为在 MCMC 循环里运行了粒子。

拒绝后保留当前似然估计

PMMH 状态同时包含参数及其当前似然估计。算法先提议参数,为候选运行新的粒子似然估计器,再用 Prior、Proposal 与估计似然计算接受率。若拒绝,当前参数及其已有估计都必须保留。每轮重新估计当前似然属于 Monte Carlo within Metropolis,通常会瞄准不同分布。

估计 Log Likelihood 的方差与相关性显著影响效率。增加粒子可降低噪声却提高成本;更好的 Proposal、Correlated Pseudo-Marginal 更新或 Blocking 经正确推导后,可在不改变目标后验的前提下改善移动。

区分 PMMH 与 Particle Gibbs

Particle Gibbs 通过保留一条参考路径的 Conditional SMC 更新潜轨迹,再条件更新参数。基础 Conditional SMC 可能因粒子祖先坍缩而保留长段旧路径;Ancestor Sampling、Backward Simulation 或分块更新可改善轨迹移动。

应报告 PMCMC 变体、粒子数、重采样规则、似然估计方差、参数接受率、单位时间 Bulk/Tail Effective Sample Size、轨迹刷新比例、多链一致性及对粒子数的敏感性。条件允许时,用精确枚举或 Kalman 计算核验小规模实例。

主要特点

  • 把外层 MCMC Kernel 与粒子潜状态计算结合
  • 包含 PMMH、Particle Gibbs 与 Particle Independent MH 等变体
  • 满足扩展空间构造时可保持精确目标边缘分布
  • 标准 PMMH 要求非负无偏似然估计器
  • 在粒子数、似然噪声与运行时间之间权衡
  • 可能因粘滞估计或潜轨迹祖先坍缩而混合缓慢

常见用途

  1. 状态空间模型的参数与潜状态联合推断
  2. 非线性或非高斯时间序列的贝叶斯推断
  3. 随机波动率模型的参数学习
  4. 潜在流行病、生态或跟踪模型
  5. 由 Particle Filter 估计似然时的后验推断

示例

loading...
Loading code...

常见问题

粒子 MCMC 是近似推断方法吗?

有限粒子会近似内部计算,但标准 PMCMC Kernel 可在扩展空间上保持目标参数或轨迹边缘精确。该结论要求对应的无偏估计器或 Conditional SMC 假设成立。

PMMH 与 Particle Gibbs 有什么区别?

PMMH 提议参数,并在 MH 比值中使用粒子似然估计。Particle Gibbs 用保留参考路径的 Conditional SMC 更新潜轨迹,通常再与条件参数更新交替执行。

为什么 PMMH 拒绝后必须保留当前似然估计?

随机估计值是扩展马尔可夫状态的一部分。拒绝候选后刷新当前估计会改变转移 Kernel,通常无法继续使用 Pseudo-Marginal 的不变性证明。

粒子 MCMC 应该使用多少粒子?

应根据估计方差、链混合与单位时间有效样本选择。粒子太少会产生粘滞链,太多则浪费计算;所需数量通常随序列长度与模型难度增长。

如何验证 Particle MCMC 实现?

在同一小模型上使用精确枚举、Kalman 方法或稠密数值积分;重复不同链和粒子数,并比较后验摘要、似然估计行为、轨迹移动和运行时间。

相关术语

相关文章