什么是 可逆跳跃 MCMC(RJMCMC)?

可逆跳跃 MCMC(RJMCMC)是一种跨维马尔可夫链蒙特卡洛方法,它通过构造不同维度空间之间的可逆移动,联合采样模型标识及其参数。

快速了解

规范文档官方规范

工作原理

在多个参数空间的并集上采样

把状态写成 (k, theta_k),其中模型 k 的参数空间是 Theta_k。目标是在 union_k {k} x Theta_k 上的联合后验,而不是一个固定欧氏向量。模型内移动可使用普通 MCMC,模型间移动则同时改变 k 与 theta_k 的表示。

Green 的 RJMCMC 原始论文为贝叶斯模型判定提出了可构造的可逆框架。模型访问占比只有在已声明且合理的模型先验与参数先验下才有意义。

匹配维度并纳入 Jacobian

从模型 k 跳到 k' 时,先用随机变量 u 扩充当前参数,再应用输入输出总维度相等的双射 (theta_k, u) -> (theta_k', u')。接受比由目标密度比、正反移动概率、辅助变量密度与变换 Jacobian 行列式绝对值共同组成。

如果变换是恒等映射且辅助密度刚好抵消,Ratio 看起来会很简单;这个特例不能证明一般 Split、Merge、Birth 或 Death Move 可以省略 Jacobian 或 Reverse Proposal。

分别验证模型内与模型间移动

一条链可能在每个模型内混合良好,却几乎从不跨越模型边界。应按移动类型记录尝试与接受次数、模型索引轨迹、停留时间、占比、模型条件下的 ESS、参数摘要,以及对模型先验和 Proposal Map 的敏感性。

标签交换、弱可辨识组件和不匹配的 Birth/Death Proposal 都会损害实际探索。应在模型概率已知的模拟场景中验证,并在可行时与边际似然或固定维替代方案比较,而不能把访问计数当成自证结果。

主要特点

  • 联合采样模型身份与模型特有参数
  • 允许连续状态之间发生参数维度变化
  • 使用带匹配辅助维度的双射变换
  • 在跨维接受比中纳入 Jacobian 行列式
  • 组合模型内与模型间转移 Kernel
  • 强依赖模型先验与可逆 Proposal 设计

常见用途

  1. 活动变量集合未知的贝叶斯变量选择
  2. 组件数量未知的混合模型
  3. 分段数量未知的变点模型
  4. 复杂度可变的树与图结构
  5. 使用跨维参数化的科学反问题

示例

loading...
Loading code...

常见问题

RJMCMC 与普通 Metropolis-Hastings 有什么区别?

普通 Metropolis-Hastings 通常在固定维空间内移动。RJMCMC 把接受规则扩展到多个模型空间的并集,并加入 Dimension Matching、辅助变量密度、移动选择概率和变换 Jacobian。

可逆跳跃 MCMC 为什么必须匹配维度?

可逆 Proposal 需要在当前参数加辅助随机量与候选参数加反向辅助量之间建立双射。输入输出总维度相等后,变量替换密度及其 Jacobian 才有明确定义。

RJMCMC 的访问频率能直接当作后验模型概率吗?

只有在移动有效、跨模型混合充分且模型与参数先验合理时才可以。Proposal 很差或模型区域隔离时,即使接受公式正确,有限运行的访问频率也可能误导。

RJMCMC 能解决混合模型的标签交换吗?

不能。可交换标签的组件会在每个模型维度内产生对称模态,仍可能需要可辨识约束、标签不变摘要或后处理;跨维移动本身不会消除这个问题。

应该如何诊断模型间移动?

应按 Move Type 报告尝试与接受次数、模型索引轨迹、停留时间、重要模型间转移、条件参数 ESS、多链一致性,以及对模型先验和变换 Proposal 的敏感性。

相关术语

相关文章