回复:验证数据的错误 RMSE你好@AAYH ,
欢迎来到社区!
看来您的训练数据过度拟合了。 如果没有任何示例数据(例如匿名数据),很难帮助您详细调查您完成的步骤和您拥有的数据类型。 然而,这里有一些问题要开始:
- 您是否检查过输入之间的相关性(菜单分析 -> 多元方法 -> 多元)或
- 您是否检查过过程因素之间的多重共线性(在“拟合模型”平台、面板“参数估计 (jmp.com) ",右键单击列参数并单击 Columns -> VIF 检查它们的值)?
这可能是一个调查方向,因为如果不采取预防措施,相关性或多重共线性会严重“损害”线性模型的性能。
如果您的因素之间存在相关性或多重共线性,则可能更安全:
- 选择一个能够处理多重共线性的模型(例如偏最小二乘法、Bootstrap Forest),或者
- 使用 PCA 预处理您的输入并使用线性模型中的主成分,或者
- 使用 LASSO、Ridge 或 Elastic Net 等惩罚方法(JMP Pro、广义回归)来创建更稳健的线性回归模型。
让我们知道第一次调查带来了什么,如果希望您能提供一些示例数据,其他成员将更容易参与此讨论,
回复:验证数据的错误 RMSE嗨维克多谢谢你的回复,我认为你是对的。 我会尽快调查。
回复:验证数据的错误 RMSE嗨斯塔特曼。
感谢您花时间回答我的问题,并感谢您的有效输入。 我会尽快调查。
回复:验证数据的错误 RMSE你好,我们又见面了。
我做了一个明确的筛选设计,由于不同的日子我被阻止了。 现在,我知道如果从一开始就没有考虑不受控制的变量,我可能会犯错误。
我有 3 个变量 (UB1-3),我在两个不同的生产运行(块 1 和块 2)期间更改了它们。 不受控制的变量 1 和 2 已测量,但我无法更改它们。 我的质量变量是在过程结束时测量的。 Uncontrolled variable 2 高度依赖于 day/Block,并且会影响 Uncontrolled Var。 1 以及 UB1 至 UB3。
我只是想知道我是否可以使用我现在拥有的数据,或者我是否需要做另一个实验。 非常感谢您的宝贵时间。
回复:验证数据的错误 RMSE你好@AAYH ,
首先,这个 DSD 是否与验证数据的 RMSE 变化问题有关,或者这是不同的并且不是特别相关? 只是想看看这是否是用于说明您的问题的示例数据集,或者除了您的问题之外的其他内容。 这个 DoE 的目标是什么? 第二个不受控变量的数据表中缺少值。
如果我理解得很好,您已经添加了一个阻塞因子(在 DSD 创建中您将其创建为一个分类因子?),以及您记录但未以 DoE 方式随机化/控制的 2 个不可控变量。
正如您已经看到的那样,您的两个不可控变量之间以及 Block 和不可控变量 1/2 之间具有很强的相关性,这可能会极大地影响模型对新数据的预测性能(脚本“1. 附加数据表中的多变量”)。
我在你的块随机因子和不可控变量上添加了一些列属性(以便它们可以在 JMP 平台中正确使用),然后实现了两个模型:
- 一个具有混合模型个性,将“块”指定为随机效果(脚本“2.a. 适合混合"),
- 一个具有标准最小二乘特性,具有“块”作为随机效果(脚本“2.b. 拟合模型(随机块)”)。
毫不奇怪,这两个模型提供了相似的结果,并且如您所料,不可控变量 1 和 2 似乎对响应质量有重要影响。 随机块因素似乎并不重要。
模型本身非常正确(取决于您期望的模型精度),具有高 R² (0,87) 和非常低的 RMSE(大约 0,5)。 但是,正如在“多变量”平台(相关性)中已经看到的那样,您的一些因素彼此线性相关,这会产生高 VIF(两个不受控制的变量约为 20)并且可能导致预测中的方差增加:

减少这种共线性的一种选择是从这两个变量中创建主成分(脚本“3.a. 非受控变量 1 和 2 的主成分分析”),并实现与以前相同类型的模型(但将非受控变量 1 和 2 替换为它们的 2 个主成分,脚本“3.b. 适合个人电脑的模型”):

这不会改变模型在 R² 和 RMSE 方面的性能,但减少 VIF 有助于减少参数估计的方差(对于涉及这种共线性情况的参数)。
关于你最初的问题,你是否可以使用你现在拥有的数据,这完全取决于你的目标(解释和/或预测),以及你如何评估数据的“有用性”(预测精度?)。
从第一个数据表中,已经有一些重要的事情需要注意,但是如果没有进一步的信息,很难解释或得出数据使用的结论(非受控变量 1 和 2 的范围的代表性,或缺失值需要的修正例如...)。 但这是一个有趣的第一步,您可以在此基础上增强您的设计,更好地考虑您的 2 个不受控制的变量,并通过在您的实验中作为因素来控制它们。
请注意,根据您的目标和需求,我所做的可能不是最佳方法,并且其他选项也可用于相同的任务。
回复:验证数据的错误 RMSE首先,我不确定我是否理解这个问题? 你能发布你的数据表吗? 令我感到困惑的是明显的冲突取决于您如何评估“新”数据? 你能描述一下你是怎么做到的吗? 预测和实际的差值是多少? (残差)你分析过残差吗?
除了维克多关于多重共线性的优秀想法,这里是我的:
1. 你用来运行拟合模型的数据来源是什么? 这是生产数据吗? 是来自实验吗?
2. 你的未来状况数据有多具有代表性?
3. 正如 Victor 所建议的,有许多关于数据的问题。 没有一项统计数据可以提供有关我们模型的所有信息。 R-sq 本身的实用性很小(它会随着模型中 DF 的增加而增加)。 您想要将 R-sq 与调整后的 R-sq 进行比较。 这将提供对过度拟合模型的洞察力。
验证数据的 RMSE 错误你好
使用“拟合模型”,我创建了一个模型来使用不同的工艺参数来识别产品中的水分含量。 该模型很好(Rsq=0.97)并且 RMSE 相当低。 使用的变量的 Logworth 均高于限制。当我想要获取新数据进行验证时,问题就出现了。 这里的预测非常糟糕。 我想要验证的数据与测试集中使用的数据没有太大不同。 当我将验证数据包含为测试集数据时,它们非常适合模型,水分预测误差与“原始”数据类似
我有一个由主效应和交互作用组成的模型。 我做错了什么?
数据探索和可视化