什么是 贝叶斯求积(Bayesian Quadrature)?
贝叶斯求积(Bayesian Quadrature)是一种概率数值积分方法,它为未知被积函数设置先验(通常是高斯过程),再根据函数评估得到积分的后验分布。
快速了解
| 规范文档 | 官方规范 |
|---|
工作原理
解析积分 GP 后验
对 I = integral f(x) p(x) dx,在 f 上设置 GP 先验会在 I 上诱导 Gaussian Prior。给定节点 X 上的函数值 y,后验均值为 m_I = z^T (K + noise)^-1 y,其中 z_i = integral k(x_i, x) p(x) dx 是 Kernel Mean;后验方差为 k_bar - z^T (K + noise)^-1 z,k_bar 表示对 Kernel 两个参数同时积分。
只有当 Kernel Mean 能解析计算或被可靠近似时,这些量才容易获得。贝叶斯求积收敛分析明确显示,收敛速度取决于平滑性、节点设计与先验假设。
为积分精度选择函数评估点
节点可以预先固定、从积分测度采样,也可以自适应选择以降低积分后验方差。它与 Bayesian Optimization 的根本区别在于:这里的目标是估计积分,不是寻找被积函数最大值。因此,采集策略应按积分误差和不确定性校准评测,而不是按当前最佳函数值判断。
面对含噪或随机函数评估,应在 Likelihood 中加入观测方差,必要时重复采样关键节点。使用同一小样本学习 Kernel 超参数容易让后验方差过度自信,因此需要敏感性分析或层级推断。
检查模型错设与维度扩展
BQ 更适合平滑、昂贵、低维且 Kernel Mean 可计算的被积函数。遇到不连续、尖锐局部结构、重尾、错误积分测度或过多有效维度时,效果会显著下降。变量变换和结构化 Kernel 可能有帮助,但必须保持目标积分不变。
存在参考值时,应在代表性函数集合上评测绝对与相对误差、可信区间覆盖、区间宽度、节点预算和实际耗时,并对照随机化 Quasi-Monte Carlo、经典求积与普通 Monte Carlo。BQ 区间很窄但没有经验覆盖,不能证明估计可靠。
主要特点
- 把被积函数建模为随机函数
- 输出积分的后验均值与方差
- 使用 Kernel Mean 与双重积分协方差
- 可自适应选择节点以降低积分不确定性
- 显式表达平滑性与积分测度假设
- Kernel 错设时可能产生过度自信
常见用途
- 对昂贵科学模拟输出执行积分
- 用少量确定性评估估计期望
- 在低维场景近似边缘似然
- 把数值积分不确定性传播到后续决策
- 比较自适应采样与 Monte Carlo 基线
示例
Loading code...常见问题
贝叶斯求积与经典求积有什么区别?
经典规则返回加权估计,并可能在平滑性假设下给出确定性误差界;BQ 从概率先验推导权重与积分分布,假设更显式,但必须验证模型错设时的校准。
贝叶斯求积与贝叶斯优化有什么区别?
BQ 估计积分,并选择能降低积分不确定性的点;Bayesian Optimization 寻找最优值,按潜在目标改进选择点。两者可以共用 GP 机制,但解决的是不同决策问题。
贝叶斯求积中的 Kernel Mean 是什么?
Kernel Mean 会把 Kernel 的一个参数对目标测度积分,即 `z_i = integral k(x_i, x)p(x)dx`。它把已观测函数值转成后验积分均值的权重,与核均值嵌入密切相关。
BQ 的后验方差能保证覆盖真实积分误差吗?
不能。它以 GP 先验、Kernel 超参数、积分测度、Likelihood 与节点策略为条件。只有在代表性函数上的经验覆盖验证或满足理论条件后,才能把它当成可靠误差条。
哪些问题不适合贝叶斯求积?
高有效维度、不连续、未建模尖峰、重尾、测度错设,或被积函数很便宜而 Monte Carlo 可大量采样时,BQ 通常不占优势。应按单位成本比较精度与覆盖率。