贝叶斯优化 GP 与独立 GP你好，
我正在尝试了解高斯过程模型在“高斯过程”平台与“贝叶斯优化”平台（JMP Pro 19.0.1）中的行为。
拟合这些简单的模拟（确定性）数据：
使用高斯过程：
利用贝叶斯优化
为什么 BO 模型的置信区域在数据点处没有像 GP 模型那样缩小到 0？
谢谢
马修
附言
这是 Y 的计算公式：
4.3 + -2 * (:X - 1) ^ 2 + Exp( -3 * (:X + 3) ^ 2 ) + 3 * Sin( :X + 2 )
高级统计建模回复：贝叶斯优化 GP 与独立 GP嗨@matteo_patelmo ，
目前， 贝叶斯优化的技术文档相当有限，关于置信区间/误差区间的计算，一些技术细节尚不清楚。导致您在两个平台之间看到差异的原因可能有很多：
用户输入：
- 针对您的数据集，合理使用连续相关类型（贝叶斯优化中可用的相关类型比高斯优化中更多（高斯和三次相关））。
- 高斯过程 (GP) 中使用“估计块金参数”可以让预测模型平滑噪声，而不是进行完美插值。经典高斯过程默认不启用此选项，但目标优化 (OB) 似乎默认会估计块金参数，这可能会增加误差（但在您提供的公式完全已知的示例中不会）。
JMP平台内部运作机制：
- 经典 GP 与 OB GP 的拟合（和验证程序）。
- 在经典的 GP 中，拟合和验证过程依赖于 Jackknife 方法，其中有一个留一法程序，用于计算保留的样本（训练样本）的指标，然后对每个 LOO 样本的结果取平均值。
- 在 OB 的 GP 中，拟合和验证过程似乎略有不同，并且似乎依赖于经典的留一法交叉验证 (LOO) 程序（并非完全确定），其中指标是在排除的样本（测试样本）上计算的。这可能会导致 Profiler 中显示的不确定性增加以及预测值的变化。
你可以看出，这两个平台之间的拟合结果不同，即使你使用相同的相关类型启动数据集，并在两个平台上估计块金参数，theta、块金参数和 GP 方差的值也会不同。
- 置信区间的计算：
在经典高斯过程 (GP) 中，置信区间的显示是利用高斯过程的方差公式和分位数来实现的。如何保存高斯过程模型的预测/置信区间？方差公式使用θ值，以及范围内每个点到最近测量点的距离。因此，在已测量点的位置上，“不确定性为零”。
OB 中的 GP 提供了一个“测量误差”：“测量误差计算为块金参数τ与高斯过程方差σ²的乘积” 。似乎使用测量误差也是为了避免在已采样区域出现“零不确定度”的情况，从而反映实验误差。
当然，这些解释需要 JMP 技术人员确认，这些只是我目前对这两个平台的运行情况和结果的个人看法。
希望得到 JMP 技术人员的帮助，以便更好地回答您提出的这个有趣的问题！
回复：贝叶斯优化 GP 与独立 GP或许JMP公司有人可以回答这个问题？
置信区间用于预测后续测量的最佳位置。
不同的置信度会导致不同的预测结果，对吗？
回复：贝叶斯优化 GP 与独立 GP事情并非那么简单，因为这两个基于 GP 的平台在置信区间计算方面的行为有所不同。
在 OB 置信区间计算中总是存在一些误差，而在经典的 GP 平台中，对于测量点的位置，误差设置为 0（因此我最初回复了关于误差/区间计算和显示差异的问题）。
根据所使用的采集函数和置信区间的计算方法，您可以得到不同的“最佳”下一个采样点建议：
最大化贝叶斯期望值：
最大化预期改进效果（优化针对目标的预测响应）：
最大化贝叶斯标准差期望值（重点关注不确定性最高的地方）：
回复：贝叶斯优化 GP 与独立 GP啊，对！
即使对于测量位置，也必须从非零置信区间开始。
与拟合模拟结果存在巨大差异。
很棘手——没有模型——而且这个位置只有一个数据点。
回复：贝叶斯优化 GP 与独立 GP感谢@Victor_G的见解。我们再等等 JMP 工作人员的进一步解释。
马修
回复：贝叶斯优化 GP 与独立 GP高斯过程 + 块金参数：
如何保存高斯过程模型的预测/置信区间？
回复：贝叶斯优化 GP 与独立 GP@hogi ，请阅读对话内容，这与我在第一个回答中提供的链接完全相同。
让我们等待JMP技术人员（ @chris_gotwalt1 ？）对贝叶斯优化进行官方解释。
回复：贝叶斯优化 GP 与独立 GP啊，抱歉，我一开始没有点击链接——因为它被列在古典全科医学（GP）下。
你说得对，是同一个链接。它也涵盖了 Nugget 参数的部分。
回复：贝叶斯优化 GP 与独立 GP尝试重新发起这个话题，希望有人能帮忙。
马修
