高斯模型预测方程不太准确。<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />大家好,
我使用高斯过程模型来拟合数百个计算机模拟数据点。 计算机模拟是一个确定性系统,因此如果使用相同的输入,响应永远不会改变。 我使用空间填充快速灵活填充设计来生成表格。 有 7 个不同的因素,其中 3 个是分类输入的,其他 4 个是连续的。问题是,无论我的训练设计有多大,当针对另外几百次运行的验证集进行测试时,生成的预测方程都不是很准确。 用于拟合的训练集误差小于1%,但验证集误差可高达4.5%。 我希望避免最多 1-1.5% 的误差。
我还尝试使用具有响应曲面模型效果的拟合模型,在多次交叉因子后,实际与预测图变成近乎完美的 45 度角,但预测方程也不是很准确。 高斯模型被认为是计算机模拟数据的最佳选择。
有谁知道高斯模型有什么局限性? 我的 1-1.5% 误差是不是太不现实了? 验证数据集的生成方式相同,快速灵活填充。 验证数据中没有什么异常之处。 许多误差为 4% 的点的因子值与误差小于 1% 的其他数据点非常相似。 我认为通过平滑拟合(高斯模型所做的),该方程可以很好地预测一切。
另外,不确定它有多重要,但我正在使用标准 JMP 的版本 12。 JMP Pro中的高斯模型更强大吗? 是否有其他统计分析软件包可以比 JMP 更好地处理高斯建模?
感谢您的任何帮助,我很感激!
回复:高斯模型预测方程不太准确。感谢您的回答,bilw@JMP。
我一直在查看帮助部分中的书籍,但相关函数的描述非常简短。
我认为,无论使用什么相关结构,高斯过程模型总是完美地插值设计点。 显然,高斯相关结构不是这种情况,但我在帮助部分书籍中找不到对此的明确解释...... 我将研究其他来源来澄清这一点。
感谢您的帮助!
回复:高斯模型预测方程不太准确。克林,
我建议您参阅“帮助”下的书籍部分,以及对高斯和三次之间差异的更清晰解释。以下是我在那里发现的一些东西。
注:由于起始点不同,估计的参数可能会有所不同
最小化例程、相关类型的选择以及块金参数的包含。
相关类型 选择模型的相关结构。 该平台适合空间
数据的相关模型,其中两个之间的响应的相关性
随着自变量的值变得更遥远,观测值会减少。
高斯将两点之间的相关性限制为始终非零,无论
点之间的距离。
三次允许距离足够远的点之间的相关性为零
分开。该方法是三次样条的推广。
华泰
回复:高斯模型预测方程不太准确。大家好,
我有一个与这篇文章相关的问题。 我正在建立拉丁超立方体设计并拟合高斯过程。 当比较高斯和三次相关结构,并将设计点的预测值与每个点的模拟值进行比较时,这些值对于三次插值函数是完全相同的,但对于高斯插值函数则不然。 这是通过 bllw@jmp 帖子中的偏见来解释的吗? 或者这是由于任何舍入误差造成的? 理论上,两种相关函数都应该有完美的插值,还是我在这一点上错了?
任何帮助将不胜感激!
回复:高斯模型预测方程不太准确。补充一下 Ian 的回复,虽然每个点都完全符合高斯过程,但仍然可能存在一些看起来很像随机变化的偏差。通过查看实际的折刀预测图,您可以了解数据中存在多少偏差。在图的左下角和右上角之间画一条线。数据越紧密地围绕该线,数据的偏差就越低。
神经网络 (NN) 在为计算机实验构建代理模型时也非常有用。使用 Tan H 激活函数查看多个隐藏节点级别。请注意,如果您在运行模型时未设置随机种子,那么每次运行相同的模型时,您都会得到不同的结果。查看下面链接中的随机种子重置插件。
随机种子重置
回复:高斯模型预测方程不太准确。(可能我不会告诉你任何你还不知道的事情)。
我会看看布拉德的精彩演讲:
https://community.jmp.com/videos/1277
按照设计,高斯过程(GP)“对数据进行插值”,因此预测值将始终与因子空间中存在运行的每个点处的模拟或计算(“测量”)值一致。 因此,焦点从使用验证来避免过度拟合(即在“信号”和“噪声”之间取得适当的平衡)转移到 GP 的能力(或其他方式......)在您需要的点进行合理插值。没有运行。
在此基础上,我预计训练集的误差(接近)为零,而验证集的误差会更大,甚至可能更大。 我还认为 GP 只会适合连续因素,所以我不确定你如何处理分类因素。