高斯模型预测方程不是很准确。<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />大家好,
我正在使用高斯过程模型来拟合数百个计算机模拟数据点。 计算机模拟是一个确定性系统,因此如果使用相同的输入,响应永远不会改变。 我使用空间填充 Fast Flexible Filling 设计来生成表格。 有 7 个不同的因素,其中 3 个是分类输入的,另外 4 个是连续的。问题是无论我进行多大的训练设计,在针对另外几百次运行的验证集进行测试时,生成的预测方程都不是很准确。 用于拟合的训练集误差小于 1%,但验证集误差可高达 4.5%。 我希望最多能避免 1-1.5% 的误差。
我也尝试过使用具有响应面模型效果的拟合模型,并且在多次交叉因素后,实际与预测图变成接近完美的 45 度角,但预测方程也不是很准确。 高斯模型应该是计算机模拟数据的最佳选择。
有谁知道高斯模型有什么局限性? 我的 1-1.5% 误差是不是太不现实了? 同理生成验证数据集,快速灵活填充。 验证数据中没有什么异常突出的地方。 许多误差为 4% 的点的因子值与误差小于 1% 的其他数据点非常相似。 我认为通过平滑拟合,这就是高斯模型所做的,方程可以很好地预测一切。
另外,不确定它有多重要,但我使用的是标准 JMP 的第 12 版。 JMP Pro 中的高斯模型是否更强大? 是否有其他统计分析软件包可以比 JMP 更好地处理高斯建模?
感谢您的帮助,我很感激!
Re: 高斯模型预测方程不是很准确。感谢 billw@JMP 的回答。
我一直在查看帮助部分的书籍,但相关函数的描述非常简短。
我认为,无论使用什么相关结构,高斯过程模型总是完美地插值设计点。 显然这不是高斯相关结构的情况,但我在帮助部分的书中找不到对此的明确解释...... 我将调查其他来源以澄清这一点。
感谢您的帮助!
Re: 高斯模型预测方程不是很准确。克林,
我建议您参考帮助下的书籍部分,以及对高斯和三次方之间差异的更清楚的解释。以下是我在那里发现的一些东西。
注:估计的参数可能因起点不同而不同
最小化例程、相关类型的选择以及块参数的包含。
关联类型 选择模型的关联结构。 该平台适合空间
数据的相关模型,其中两个响应之间的相关性
随着自变量的值变得更远,观察结果减少。
高斯限制两点之间的相关性始终为非零,无论
点之间的距离。
对于足够远的点,三次允许两点之间的相关性为零
分开。该方法是三次样条的推广。
HTH
Re: 高斯模型预测方程不是很准确。大家好,
我有一个与这篇文章相关的问题。 我正在设置拉丁超立方体设计并拟合高斯过程。 当比较高斯和三次相关结构,并将设计点的预测值与每个点的模拟值进行比较时,这些值对于三次插值函数完全相同,但对于高斯函数则不同。 这可以用 bllw@jmp 帖子中的偏差来解释吗? 或者这是由于任何舍入错误造成的? 理论上,两种类型的相关函数都应该有完美的插值,或者我错了?
任何帮助将不胜感激!
Re: 高斯模型预测方程不是很准确。补充一下Ian的回复,虽然每个点都完全符合高斯过程,但可能仍然存在一些看起来很像随机变化的偏差。通过查看折刀预测图的实际情况,您可以了解数据中存在多少偏差。在图的左下角和右上角之间画一条线。您的数据越靠近这条线,数据的偏差就越小。
在为计算机实验构建代理模型时,神经网络 (NN) 也非常有用。使用 Tan H 激活函数查看多个隐藏节点级别。请注意,如果您在运行模型时未设置随机种子,则每次运行同一模型时都会得到不同的结果。在下面的链接中查看随机种子重置插件。
随机种子重置
Re: 高斯模型预测方程不是很准确。(可能我不会告诉你任何你还不知道的事情)。
我会看看 Brad 的精彩演讲:
https://community.jmp.com/videos/1277
按照设计,高斯过程 (GP)“对数据进行插值”,因此预测值将始终与因子空间中存在游程的每个点处的模拟或计算(“测量”)值一致。 因此,重点从使用验证来避免过度拟合(这是关于在“信号”和“噪声”之间获得正确的平衡)转移到 GP 的能力(或其他......)合理地插值在你没有运行。
在此基础上,我希望训练集的误差(几乎)为零,而验证集的误差更大,可能更大。 我还认为 GP 只会适合连续因素,所以我不确定你是如何处理分类因素的。