什么是 多输出高斯过程(Multi-output GP)?

多输出高斯过程(Multi-output GP)是一种向量值高斯过程,它通过同时作用于输入位置与输出身份的协方差函数,对多个相关输出进行联合建模。

快速了解

规范文档官方规范

工作原理

在输入与输出上共同定义协方差

可分离的 Intrinsic Coregionalization Model 使用 cov[f_i(x), f_j(x')] = k_x(x, x') B_ij,其中 k_x 衡量输入相似度,正半定矩阵 B 控制输出方差和相关性。这种 Kronecker 式结构较高效,却假设每个输出对共享相同的输入 Kernel 形状。

更广义的多输出 GP 框架还包括卷积过程与 Linear Model of Coregionalization(LMC);LMC 会叠加多个具有不同 Task Loading Matrix 的潜在 Kernel。增加组件会同时提高容量和不可辨识风险。

分开共享信号与输出特有噪声

跨输出协方差应描述共享潜在函数,Likelihood 则描述测量噪声,并允许不同输出具有不同水平。把相关噪声误写成共享信号会制造错误迁移;强迫所有任务使用同一噪声,也可能让高噪声目标主导训练。输出标准化必须有明确依据,并保留最终决策需要的单位。

当不同输出的观测位置不对齐时,应只为真实存在的 Input-output Pair 构造协方差,而不是训练前补造标签。面对大量数据点或输出,可以采用诱导变量、结构化矩阵、低秩 Task Factor 或变分推断,用计算节省换取近似误差。

用实验验证迁移而不是预设相关

在相同划分下,将联合模型与独立 GP 和简单池化基线比较。逐输出报告预测对数密度、RMSE 或任务损失、校准、区间覆盖率,以及目标标签稀疏时的表现;同时检查学到的任务协方差及其跨随机种子稳定性。

可以通过留出某个输出或区域的压力测试,确认共享是否真的缓解缺失问题。如果高资源任务提升而关键低资源任务退化,平均得分会掩盖负迁移,该模型不应通过上线评审。

主要特点

  • 通过联合协方差建模向量值函数
  • 利用学习到的跨输出结构共享证据
  • 支持对齐与部分缺失的输出网格
  • 覆盖 ICM、LMC 和卷积过程等构造
  • 可利用任务结构提高数据效率
  • 可能出现负迁移与协方差不可辨识

常见用途

  1. 联合预测相关物理传感器通道
  2. 标签可用量不均衡的多任务回归
  3. 同时测量多个相关变量的空间建模
  4. 明确表达数据源关系的多保真代理模型
  5. 使用不同噪声水平预测相互关联的目标

示例

loading...
Loading code...

常见问题

多输出 GP 等于分别训练多个独立 GP 吗?

不等于。独立 GP 假设跨输出协方差为零,无法在目标之间迁移观测;MOGP 会为输出身份定义联合先验。不过,独立构造仍应保留为判断共享是否有益的基线。

多输出高斯过程中的协同区域化是什么?

Coregionalization 把输出表示为共享潜在函数的混合。ICM 使用一个输入 Kernel 和一个任务协方差矩阵;LMC 则叠加多个潜在 Kernel 与 Loading Matrix,表达多种共享变异模式。

多输出 GP 能处理输出缺失吗?

可以。它只需在真实观测到的 Input-output Pair 上构建 Likelihood,并通过学习到的协方差预测缺失目标。收益取决于真实跨输出信号,必须避免先补值造成泄漏,并与独立模型比较。

MOGP 为什么会发生负迁移?

错误的共享 Kernel、不稳定的任务相关性、不一致预处理或占主导地位的高资源输出,都可能把另一目标拉离自身证据。只有逐输出指标与消融实验才能暴露这种退化。

应该如何评测多输出高斯过程?

逐输出报告预测密度、任务误差、校准和覆盖率,并检查缺失输出与分布变化切片。还要比较独立 GP、查看跨随机种子的相关矩阵稳定性,并测量输出数和诱导预算变化时的计算成本。

相关术语

相关文章