什么是 期望改进（Expected Improvement）？
期望改进（Expected Improvement）是一种采集函数，它用候选点超过指定当前最优值或目标阈值的正向改进量之后验期望进行评分。
快速了解
| 规范文档 | 官方规范 |
|---|
工作原理
同时平均改进幅度与不确定性
对最大化问题，若后验 Y(x) ~ Normal(mu, sigma^2)，当前最优值为 f*，解析 EI 为 (mu - f*) Phi(z) + sigma phi(z)，其中 z = (mu - f*) / sigma。第一项奖励有利的后验均值，第二项奖励可能跨过当前最优值的不确定性。SMT EGO 文档推导了最小化形式，并把它放入高斯过程序贯优化循环。
在噪声和约束下正确定义当前最优值
无噪声时，最佳已观测可行值是常见基准。存在噪声时，原始观测最大值可能只是幸运误差，因此 Noisy EI 会对潜在函数值或 Fantasy Outcome 的不确定性积分。约束策略可以用可行概率加权改进，也可以联合建模目标与约束。批量 EI 要把相关候选当作集合估值，重复相乘多个单点评分并不能得到同一效用。
避免采集优化中的数值失效
远离可能改善的区域时，EI 可能极小，使浮点数值和梯度在数学 EI 仍为正时就下溢为零。Ament 等人分析了该问题，并提出与原函数拥有相同或近似等价最优点、但数值行为更好的 LogEI 系列变换。应采用维护中的实现、多起点和候选集合核对，并比较端到端 Regret，而不是认为写出闭式公式就足够。
主要特点
- 衡量相对当前最优值的后验期望正收益
- 同时利用后验均值优势和不确定性
- 单个高斯候选具有解析闭式表达
- 语义随目标方向、噪声和基准选择而变化
- 批量与约束场景需要联合或近似处理
- 朴素实现可能出现严重数值与梯度下溢
常见用途
- 为无噪声贝叶斯优化选择下一评估点
- 优先选择可能超过当前可行设计的候选
- 作为采集策略比较中的透明基线
- 把序贯搜索扩展到带噪声或约束目标
- 通过 qEI 等批量变体联合选择实验
示例
Loading code...常见问题
期望改进如何平衡探索与利用？
候选可以凭超过当前最优值的均值获得 EI，也可以凭仍有概率越过它的不确定性获得 EI，或者同时依赖两者。这种平衡由后验与可选余量诱导，不是固定概率随机探索。
期望改进应该使用什么当前最优值？
无噪声且满足约束时，通常使用最佳已观测值。存在噪声或约束不确定性时，原始最大值可能偏乐观，应选择与统计模型匹配的潜在值处理方法，并明确记录基准定义。
期望改进一定优于 UCB 或汤普森采样吗？
不一定。它们的效用与理论假设不同。EI 是强基线，但后验错设、延迟批次、约束、高维或长周期信息价值可能使其他策略更合适，应在重复同预算任务上比较。
为什么朴素期望改进实现会发生数值失败？
改进概率极小时，高斯尾部项可能下溢，梯度也会在浮点数中变成精确零。稳定的 LogEI 类表达和可靠采集优化器可以避免把数值零误当作数学上的零。
最大化期望改进能保证下一次观测更好吗？
不能。EI 是当前代理后验下的期望，下一次观测仍可能更差、不可行或比预期更嘈杂。应通过多轮序贯决策和总预算评估价值，而不是要求每个单次试验都改善。