什么是 椭圆切片采样(Elliptical Slice Sampling)?

椭圆切片采样(Elliptical Slice Sampling)是一种面向多变量高斯先验潜变量的马尔可夫链蒙特卡洛方法,它沿椭圆搜索满足似然切片阈值的新状态。

快速了解

规范文档官方规范

工作原理

沿保持先验不变的椭圆旋转

对中心化先验 f ~ N(0, Sigma),抽取辅助方向 nu ~ N(0, Sigma),再定义 f(theta) = f cos(theta) + nu sin(theta)。旋转保持 (f, nu) 的联合高斯分布,所以接受比无需再次纳入先验项。若先验均值不为零,必须先中心化,旋转后再恢复均值。

Murray、Adams 与 MacKay 的原始论文为潜在高斯与 Gaussian Process 模型推导了该更新。高斯先验分解是定义性假设,不是可选的实现便利。

收缩似然切片的角度区间

先抽取 logY = log L(f) + log(U),再从完整一周中均匀选取初始角度,并建立宽度为 2*pi 的角度区间。若旋转候选的似然低于阈值,就从拒绝点所在一侧收缩区间并继续抽取,直至找到有效状态。

当前状态必须始终留在区间内,这既保证常规有限似然条件下终止,也是保持目标分布不变的关键。随意改变区间规则、用后验协方差旋转,或把高斯先验再次计入 log L,都会定义不同且可能错误的转移。

同时衡量似然成本与后验移动

ESS 没有 Proposal Step Size,但每个保留状态可能消耗多次似然求值。Likelihood 很集中或约束尖锐时,接受角度可能很小并产生强自相关;采样前的稠密协方差分解也可能成为主要开销。

应记录似然求值次数、接受角度位移、Bulk/Tail Effective Sample Size、Monte Carlo Error、多链一致性与墙钟时间。同一报告还讨论有效样本量时,应写出 Elliptical Slice Sampling 全称,避免两个 ESS 缩写混淆。

主要特点

  • 要求多变量高斯先验或等价的变换表示
  • 沿当前状态与独立先验 Draw 构成的椭圆旋转
  • 只对 Likelihood Factor 应用切片阈值
  • 通过收缩角度区间寻找可接受状态
  • 不需要 Proposal Scale 或目标接受率调参
  • 面对集中似然或分离模态仍可能混合缓慢

常见用途

  1. 潜在 Gaussian Process 分类与计数模型
  2. 空间或时间潜在高斯场
  3. 采用高斯先验的贝叶斯反问题
  4. 强相关潜向量的推断基线
  5. 大型分块采样器中的无梯度更新

示例

loading...
Loading code...

常见问题

椭圆切片采样与普通切片采样有什么区别?

普通切片采样搜索完整目标的水平集,常按坐标或选定方向更新。椭圆切片采样利用已知高斯先验沿椭圆移动,只对 Likelihood 设置切片阈值。

椭圆切片采样真的不需要调参吗?

它没有随机游走步长或目标接受率,但仍需要正确的高斯先验均值与协方差表示。数值分解、参数化、Blocking 方式和似然求值成本都会显著影响效率。

非高斯先验可以直接使用椭圆切片采样吗?

不能直接使用。椭圆更新依赖两个独立高斯 Draw 的旋转不变性。模型可以变换为潜在高斯表示,但必须正确推导变换及其对 Likelihood 的贡献。

椭圆切片采样每轮都会产生独立样本吗?

不会。每条椭圆都以当前状态为起点,因此保留状态仍构成马尔可夫链。多链、自相关型有效样本量、Monte Carlo Error 与模态覆盖仍是必要诊断。

椭圆切片采样何时会效率较低?

Likelihood 只占先验椭圆很窄区域时,每轮可能需要大量似然求值,且接受角度很小。稠密先验协方差操作和分离后验模态也可能主导总成本。

相关术语

相关文章