降阶模型有多少个数据点?我再次陷入这样的情况:我认为我知道自己想做什么,但无法弄清楚如何正确地提出问题......也许有人会好心帮助一位苦苦挣扎的工程师?
我正在尝试构建一个降阶模型 - 我有一个复杂的机械模型,并且想要开发一个简单的相关性来描述我的系统在有限操作空间中的性能。我使用 JMP 设计了“空间填充”实验,并编写了一个脚本来运行我的机械模型来填充结果表。我可以将结果导入 JMP,并成功地通过“拟合模型”平台建立了满足我需求的相关性。
然而,机械模型的运行速度相对较慢,因此我有动力尝试计算出我可以逃脱多少次机械运行,但仍能产生良好的总体拟合。感觉应该能够使用我现有的数据集来开始回答这个问题 - 我可以手动屏蔽数据,适合一个子集,然后挑战适合更大的数据集,比较看不见的数据上的 r2,例如。手动执行是可以的,但是很耗时(或者也许我只是懒)-我缺少一些神奇的小部件吗?
我想我可以使用“神经”平台并增加“保留部分”,直到验证集的 r2 开始攀升。我更愿意坚持使用“线性”模型(尽管有二次项和交叉项),但我想这会估计极限。而且看起来我只能选择一次 Holdback,所以我必须重新启动平台才能玩该游戏。
提前致谢!
查尔斯
数据存取数据混合和清理实验设计预测建模和机器学习分享和交流结果回复:降阶模型有多少数据点?再次感谢,丹。我理解并同意你的回复。
底层(机械)模型是相当非线性的,所以我的问题是我不确定二次模型是否足够好(或者〜10个输入参数中的哪一个可能显示非线性)。我喜欢神经网络,事实上它可能会拾取任何非线性,但我不喜欢它有这么多参数,正如你所说。
我没有意识到 aNN 的 Holdback 部分直接用于参数拟合 - 我认为它“仅”用于选择何时停止。当然,如果我将阻碍分数增加得足够远,模型的质量就会降低(拟合和验证)。实际上,我成功地编写了一个可爱的脚本,该脚本在循环内多次运行 aNN 模型,并增加 Holdback 分数,然后捕获拟合集和验证集的 r2,这样我就可以了解模型质量从哪里开始恶化。 ..

无论如何,非常感谢您的帮助 - 我现在对 DoE 平台有了更多了解,并且感觉将来能够更好地解决此类问题!如果我知道模型输出可能相对平滑,我可能会使用您推荐的更结构化的设计,并测试边缘/中心点。如果我不太自信,我将使用空间填充设计 - 使用更多数据点来获得拟合,但希望更好地理解系统的非线性(如果存在的话)
一切顺利
查尔斯
回复:降阶模型有多少数据点?设计的实验和神经网络之间的差异与拟合的模型有关。
神经网络模型可以捕获非常非线性的行为。 为了做到这一点,你需要更多的数据。 但最终的模型比二次模型更加复杂和“不稳定”。 神经网络模型中通常有许多参数。 此外,神经网络需要一组保留数据(如您所知),这意味着并非所有数据都用于拟合模型。 这也意味着您需要更大的数据集,因为只有一部分数据用于构建模型。 请注意,保留集用于确定何时停止神经网络参数估计,因此保留较大百分比的数据与使用较少数据并不完全相同。 保留集仍在使用,只是程度低于训练数据。
因此,哪种方法最好取决于您期望该机械模型的非线性程度。 这对您来说将是成本/收益或风险/回报的权衡。
如果您确实相信二次模型可以充分估计这种关系,请采用实验设计方法和较少的数据。
如果您期望神经网络能够更好地捕获关系,请使用神经网络,但代价是需要更多数据。
回复:降阶模型有多少数据点?谢谢丹。 我解决了这个问题,返回的答案是 21 个案例(而不是我实际运行的约 2200 个案例)。 我在功效分析中的所有“功效”值都返回为 1,所以我认为这意味着模型应该很好。
话虽如此,我还是使用 Neural 平台来拟合原始 2200 个案例的部分内容。 我设置了一个运行拟合 4 次的脚本,并在增加 Holdback 分数时比较了 r2 和 q2。 当我的阻碍分数 <0.925 时,两者都很好(4 个模型中的至少 3 个模型> 0.995)。 当我保留 0.95 个变量时(即我使用 0.05*2200 = 110 个条件进行拟合),则 4 次拟合中的 3 次的 r2 < 0.985,4 次拟合中的 3 次的 q2 < 0.97。
我不知道为什么当我使用神经平台时我需要更多的案例。 我猜“定制设计”使用 -1 / +1 模式,其中我原来的空间填充设计分布在整个空间中,因此可能缺乏洞察力?
谢谢
查尔斯回复:降阶模型有多少数据点?因此,您拥有一个适合您的二次模型。 现在您想确定真正需要运行多少次才能获得类似的配合,对吗? 您是对线性模型的预测值更感兴趣,还是对估计该线性模型的参数更感兴趣? 我假设您对预测感兴趣。
所以也许这种方法会起作用。 选择 DOE > 自定义设计。 输入您的因素。 指定 RSM 模型(主效应、所有双向交互作用以及所有平方项 - 我认为这就是您所说的)。 查看默认运行的次数。 单击“进行设计”。
JMP 将使用该运行次数创建 I 最优设计(最适合预测)。
打开输出的功率分析部分。 填写预期 RMSE(这将是您已经拟合的模型的 RMSE)。 输入已有线性模型的预期系数。 单击将更改应用到预期系数。 得出的功效数字是该设计检测到该效应的概率。 您会希望这些数字很高。 多高取决于你。 如果它们不够高,请返回并增加设计中的试验次数。
我还鼓励您查看设计空间分数图和预测方差概况。 这些图表将向您显示模型在该运行次数下的预测“准确性”。 寻找在整个设计空间中相当平坦的低预测方差。
我希望这有帮助!