高斯过程警告信息：似然估计算法未收敛尊敬的JMP专家们：
我最近进行了一项空间填充实验，采用拉丁超立方设计，进行了 700 次试验。然后我使用高斯过程拟合数据。“实际值与预测值对比图”看起来非常漂亮，大部分数据点都完美地落在 45 度线上。但是，我收到了一条警告信息：
警告：似然估计算法未收敛。
请查收附件中的高斯过程模型报告。
我四处查找过，但找不到任何关于此警告信息的文档/讨论。
请问您能否给予我一些指导？
-是什么原因导致出现此消息？
这条信息是什么意思？
我还能相信这个结果吗？如果不行，我应该如何修正模型？
谢谢。
此致，
年
高级统计建模内容组织数据探索与可视化实验设计回复：高斯过程的警告消息：似然估计算法未收敛去除气隙2怎么样？ 之后，-2Loglikelihood 变化多少，预测变化多少？
模型拟合方法是最大似然。 这是一种尝试在表面上找到最大值的优化技术。 理想情况下，估计值是表面到达顶部的位置。 当您看到此警告消息时，通常意味着算法不确定它是否到达顶部。 不一定意味着它没有。 在这里，我怀疑它到达了顶部，但不确定，因为气隙 2 对模型的贡献很小。
回复：高斯过程的警告消息：似然估计算法未收敛非常感谢您的及时回复。 您能否详细说明一下模型拟合方法？
我的 DOE 中有 700 种治疗方法。 这是否意味着，对于每次处理，算法都试图在表面上找到最大值？
你指的这个表面是什么？
谢谢你。
回复：高斯过程的警告消息：似然估计算法未收敛在你的情况下，每一种治疗都是一种观察。 您所有的 700 次治疗形成一个数据。 GP 模型建立在观察给定参数的数据的概率的定义之上。 该概率是未知参数的函数。 这个函数称为似然函数。 该函数可以可视化为参数定义的坐标系上的表面。 所以只有一个表面。 最大似然法将尝试识别该表面上的最高位置。
这是我认为可以访问且严格的材料的链接：最大似然估计您可以跳过示例 1-1。
GP模型的定义可以在这里找到：高斯过程平台的统计详细信息粗略地说，GP 模型假设数据来自多元正态分布。 利用这些信息，定义了似然函数。
回复：高斯过程的警告消息：似然估计算法未收敛感谢彭您提供了非常丰富的答案！
如果您不介意，您能否还解释一下预测公式和折刀预测值之间的区别？
为什么实际预测图绘制实际值与折刀预测值而不是预测公式预测的值？
另外，不使用nugget，预测公式的预测值与实际模拟数据完全一致？ 这是如何运作的？
GP 预测的预测方差分布（因子设计 DOE 中“评估设计”选项卡中的那个）是什么样的？ 是随机的吗？
有什么方法可以验证 GP 模型吗？ 我通常会运行几百个额外的点，并在原始数据集（预测值 - 模拟值）和验证数据集（预测值 - 模拟值）之间的残差进行测试和不等方差测试。 这种方法对 GP 模型仍然有效吗？
谢谢你。
回复：高斯过程的警告消息：似然估计算法未收敛预测（没有块金拟合，使用所有数据）应该等于相应的观察。 这就是GP模型的本质。 如果您绘制实际值与此类预测值，您会得到一条直线，这不会让您深入了解模型在新数据上的性能。 折刀 (折刀重采样) 预测通过忽略该观察来预测每个观察。 Jackknife GP 模型将完美地拟合所有剩余的观察结果，除了遗漏的那个。 这种方法可以让我们深入了解模型在新数据上的表现。 因此，它们是不同的。
没有金块，我们又回到了香草 GP 模型。 我不确定您所说的“这是如何工作的”是什么意思。 使用 nugget，您可能需要研究这种技术：岭回归正如我所提到的，该模型假设一个多元正态分布，任务是找出协方差结构，如果没有像岭技术这样的技巧，这有时会很有挑战性。
我不熟悉 DOE 平台中的应用程序。 如果您可以详细说明，例如获取您感兴趣的特定报告的步骤，也许我可以提供进一步的帮助。 您可能想看看其他社区成员是否可以回答。 如果您暂时没有看到任何答案，请考虑针对该特定问题打开一个单独的线程。
我不确定是否要验证 GP 模型。 但我们当然可以评估它在新数据上的表现。 一种方法是查看您的新观察结果是否在其预测区间内。 为此，请保存预测和方差公式，然后将新数据附加到表格底部。 公式将评估以产生预测和方差。 有了观察，它的预测，它的预测方差，剩下的就是 z 检验练习。 而且我不确定在这种情况下等方差是否相关。
回复：高斯过程的警告消息：似然估计算法未收敛非常感谢您提供了非常丰富的回复。
关于模型验证，我还有一些问题。
我在回复中附加了 JMP 文件，其中包含原始数据集（前 700 个点）和验证数据集（最后 300 个点）。
我通常会计算两个数据集的预测值与实际模拟结果之间的差异，并在测试中查看两个数据集的差异是否具有相同的均值。 对于这个特定的数据集，t 检验告诉我两个数据集的差异在统计上没有差异。
但是，当我尝试使用两个数据集的预测方差公式测试方差时，它告诉我方差的平均值在统计上是不同的。
哪种方法对验证模型的预测能力是正确的？
谢谢你。
回复：高斯过程的警告消息：似然估计算法未收敛我没有详细说明我的方法的步骤。 这里我用你的数据来说明。
首先创建一个新列
这是预测的标准误差。
现在创建另一个列，我称之为“6sigma”。 这是一个指标列，用于查看差值的绝对值是否在 6-sigma 以内。 Yes 表示 1，no 表示 0。 对于训练行，分配缺失。 确保列类型是分类的。
现在取消排除验证行。 并在其上运行分发。
我看到大约 95% 是的。 这告诉我模型做得很好。
回复：高斯过程的警告消息：似然估计算法未收敛非常感谢您进一步阐述您的方法。 那太棒了。
我不太明白如何解释 JMP 中的 if 函数，请您解释一下吗？ 是“。”在等式第一行的 -> 之后？ 这意味着什么？
如何将“缺失”分配给训练行？
你说 95% 告诉你模型做得很好。 这种判断的标准是什么？
您能否在回复中附上带有模型评估的文件？
谢谢你。
回复：高斯过程的警告消息：似然估计算法未收敛您可以在此处找到有关 IF 函数的语法：如果. 或者，如果您准备迎接学习 JMP 脚本语言的挑战，您可以从这里开始：脚本指南.
我展示的 If 语句可以理解为：如果行号小于等于 700，则分配缺失值，否则根据差异的绝对值是否小于 3 个标准误，分配 1 或 0。
换句话说，该公式计算预测误差是否在 6 个标准误差之内，或称其为 6 sigma。
我所说的模型做得很好是主观的。 但我要解释一下我的意思。 如果预测误差具有正态分布，则 6 sigma 包含分布的中间部分，该部分包含超过 99% 的概率。 我们希望看到预测错误以超过 99% 的几率落入这个桶中。 然后我们说模型正在完成它的工作。
现在对于这个特定的数据，验证集是大约 300 个观察值，我们看到大约 95% 属于这个桶。 坏消息？ 不必要。 我之前关于 99% 机会的陈述是假设有更多的验证数据可以测试，我们希望看到 99% 以上的机会。 对于仅 300 次观察，其中 95% 是主观判断。 如果我看到 80%、70%、60%，我会越来越怀疑。
我按要求附上文件。
