在 JMP Pro 中,只需极少的点击即可对大型 DoE 数据集进行高效的 RSM 拟合和逐步回归。大家好,
我正在使用 JMP Pro 处理一个非常大的 DoE 数据集,希望尽可能快速地完成评估,并尽量减少手动操作。我对 JMP Pro 还不太熟悉,之前主要使用标准的最小二乘法分析 DoE 研究。因此,即使阅读了文档和教程,我仍然不确定完成当前任务的最有效工作流程。
我的实验设计包含三个因素和大约 20 个响应变量,这些变量按不同的处理方式分组。我想为每个响应变量重新拟合一个响应曲面模型 (RSM),并对它们进行一致的分析。
我的主要问题是:
-
有没有办法更高效地运行逐步回归或响应面法拟合,而无需为每一步都反复点击“开始”?
-
JMP 中是否有工具或选项可以实现对多个响应进行半自动或一键式工作流程(例如,Fit Definitive Screening / Fit Model 预设、模型对话框或其他快捷方式)?
-
还有一个问题:如果需要完全自动化,使用脚本(JSL)或批处理是否是扩展规模的最佳方法?如果是,是否有推荐的入门指南或模板供初学者参考?
我的目标是尽可能加快模型评估和重新拟合步骤,理想情况下无需编写大量脚本。
感谢您提前提供的帮助和建议。
高级统计建模自动化和脚本编写数据探索与可视化实验设计大规模定制预测建模和机器学习回复:如何在 JMP Pro 中以最少的点击次数高效地对大型 DoE 数据集进行 RSM 拟合和逐步回归根据您提供的信息,几乎不可能给出具体的建议。您能否附上实验过程?或者至少附上实验代码?
抱歉,我对您的问题有些困惑。您的帖子表明您有一个大型的DOE数据集。但我不太明白,因为您只有3个因子?为什么要设置工作流程呢?无论如何,任何实验的第一步都是从实际角度确定是否创建了足够的变异。响应变量的变异是否足以引起您对实验分析的兴趣?如果是,下一步是对多个Y值进行多元相关性分析。同时,使用马氏距离检验检查是否存在异常值。根据相关Y值的数量(如果它们相关,分析方法相同),您可能需要分别拟合Y值。逐步回归法不适用于DOE分析。它适用于历史数据或观测数据,用于寻找模型。在DOE中,您心中已经有了一个模型(或者应该有),因此“拟合模型”才是您的平台。
回复:如何在 JMP Pro 中以最少的点击次数高效地对大型 DoE 数据集进行 RSM 拟合和逐步回归嗨,Statman,
感谢您的解释。让我更详细地解释一下我的配置:
我正在使用三因素响应面法(RSM)设计,但针对这三个因素,我测量了 25 种不同的响应变量。这些响应变量被分为五个处理组(使用“By”角色)。因此,虽然因子空间较小,但响应变量/处理变量的组合总数却很大。此外,我还有多个此类数据集(总共五个实验设计),因此重复的分析步骤会显著增加。
我完全理解这个数据集会很有帮助,我也很乐意分享,但由于保密协议的限制,我无法在这里分享数据,而且匿名化也不可行。
我使用 JMP 的自定义设计器生成了模型,并使用 Fit Model 平台进行分析。我选择逐步回归法而非标准最小二乘法,是为了使用 AIC/BIC 准则而非基于 p 值进行选择,从而引入更多客观性,并且由于只需点击“执行”按钮,操作也更简便。逐步回归法仍然能够拟合一个多项式模型来描述我的数据,但它更加自动化,偏差更小,并且不仅仅受 p 值驱动。
然而,实际问题在于,对于每个治疗组中的每次响应,我仍然需要反复点击“执行”按钮。当响应数量众多且数据集较多时,这将非常耗时。我的问题很简单:这部分工作流程是否可以自动化或加速?
我的最终目标是拟合所有响应变量,评估拟合结果,并使用 DOE 拟合平台生成预测模型。我不想事先剔除异常值,因为我想在拟合之后再评估它们,避免预先造成分析偏差。
所以核心问题依然存在:
是否有办法在不手动点击每个响应的“开始”按钮的情况下,对多个响应和治疗组运行逐步回归(或拟合模型)——无论是通过现有的用户界面快捷方式还是通过脚本/批量执行?
这将大幅减少所需的手动点击次数。
这些补充信息是否有助于回答我的工作流程问题?
此外,我使用 JMP 分析实验设计 (DoE) 已有数年,一直采用传统的最小二乘法。现在我升级到了 JMP 专业版,仍然希望它能提供一些节省时间的功能。
回复:如何在 JMP Pro 中以最少的点击次数高效地对大型 DoE 数据集进行 RSM 拟合和逐步回归你试过按住 CTRL 键并点击“GO”吗?
在执行操作前按住 CTRL 键,可以将该操作广播到所有类似的按钮/框。它还可以用于同时更改所有响应的“逐步拟合”估计设置。
然而,比尔关于逐步选择的建议仍然适用。如果您已经使用自定义设计平台构建了实验设计(DoE),这意味着您已经拥有一个针对此实验场景的先验模型。您应该首先使用该模型,然后谨慎地使用其他建模方法作为竞争模型,以比较它们的性能以及各自的优缺点。
回复:如何在 JMP Pro 中以最少的点击次数高效地对大型 DoE 数据集进行 RSM 拟合和逐步回归嗨,维克多,
首先,非常感谢你一如既往的帮助!
谢谢,这个小组合确实很有帮助。
关于您提到的拟合模型的限制,我有点困惑。
据我了解,无论是手动选择 p 值的标准最小二乘回归,还是逐步回归,都将多项式模型拟合到我的数据,多项式模型的项在模型对话框中指定(在我的例子中,它是一个 RSM)。
我找到了一个非常好的视频:( 精通 JMP)在 JMP 和 JMP Pro 中部署逐步回归方法 - YouTube。
以及以下解释: 11.2 - 逐步回归 | STAT 462
这里对标准最小二乘法和逐步回归之间的区别解释得很清楚,根据我的初步理解,它们本质上是相同的,只不过逐步回归不仅使用p值进行选择,还使用了BIC(或AIC)准则。这很合理,因为逐步回归的问题在于:在不增加模型复杂度的前提下,哪些变量对模型至关重要(简单来说就是这样),从而避免了主观的p值偏差,并使整个模型构建过程自动化,提高了客观性。您同意我的观点吗?
我的问题仍然没有得到解答,我将在这里重新发布我的问题,并补充一些内容:
1) 对于具有大量响应的大型数据集(例如使用自定义设计器完成的简单设计,如 RSM、自定义设计等),是否有实用且快速的方法在 JMP Pro 中自动构建 DoE 模型?
2)逐步回归在这里是否可行?
3)由于我只需要包含所有响应的最终预测分析结果,我面临另一个问题:如何在不重新进行整个分析的情况下保存最终预测分析结果?如果我目前将其保存为脚本,则必须重新执行所有操作,因为模型构建后的预测分析结果无法保存。
4) 在 JMP Pro 中,我的脚本窗口中会自动显示“通用回归”选项,我也可以使用它(鼠标悬停时的说明也指出,这是所有线性回归选项的首选方法)。与标准的最小二乘回归或逐步回归相比,它的优势是什么?如何在通用回归模型构建器中自动执行分析(按住 Ctrl 键并单击的选项在这里不起作用)?
非常感谢您的帮助!我想,自动化 DoE 分析和大型数据集的模型构建这个问题,不仅是我面临的问题,而且对很多人来说也会有所帮助!
回复:如何在 JMP Pro 中以最少的点击次数高效地对大型 DoE 数据集进行 RSM 拟合和逐步回归分析响应面法 (RSM) 的最佳方法是使用等高线图。如果您正处于 RSM 的优化阶段(RSM 的主要用途),那么您应该已经了解一阶和二阶模型效应的重要性。
在进行模型拟合和评估模型适用性时,p 值只是您应该使用的统计量之一(而且只有在您对用于评估均方误差 (MSE) 的方法有所了解,并且该部分具有代表性时才应使用 p 值)。再次强调,在进行任何操作之前,请评估数据的完整性(有多种方法可以做到这一点)。然后评估其实际意义。您还需要评估调整后的 R 平方值(越大越好)、R 平方值与调整后 R 平方值之间的差值(越小越好,否则说明模型过度拟合)、均方根误差 (RMSE)(越小越好)。并且始终评估其实际应用价值。该模型是否可用?
说实话,你的情况并不复杂。处理分析应该不会花很长时间(我曾经做过一个包含 3281 个回复的实验)。
你可以创建一个工作流程,但具体步骤可能会根据你实际操作中发现的情况而有所不同。
https://www.jmp.com/support/help/en/19.0/?os=mac&source=application#page/jmp/workflow-builder.shtml
回复:如何在 JMP Pro 中以最少的点击次数高效地对大型 DoE 数据集进行 RSM 拟合和逐步回归嗨,Statman,
再次感谢您的解释。我理解经典的实验设计(DOE)观点:在三因素响应面法(RSM)中,模型是预先定义的,重点在于优化而非寻找合适的模型,调整后的R平方、均方根误差(RMSE)和实际应用相关性等指标对于模型的适用性至关重要。我认同这一点。
我的问题不在于统计数据,而在于实际的工作量。在我的研究领域(蛋白质稳定性研究),每个数据集通常包含约 25 个响应值——聚集水平、电荷变体、流体动力学尺寸、Tm 等——并按处理方式分组。实验设计本身保持不变(三个因素),但每个蛋白质的实际响应行为都不同。因此,我无法简单地复用工作流构建器模板;即使二次模型结构相同,每个蛋白质数据集也必须单独评估。
我也理解响应曲面法的等高线图或曲面图。这些图有助于理解。但它们本质上是定性的,因为它们只显示了二维的预测曲面:
y_hat(x1, x2 | x3 = 常数)
在哪里
-
y_hat 是模型预测的响应值,
-
x1、x2、x3 是三个因子,
-
“| x3 = 常数”表示 x3 保持不变。
对于单个响应来说,这没问题,但是当有 20-25 个响应时,仅凭等高线图就很难做出决定。
在实践中,我更依赖预测分析器(以及期望值),因为它提供了一种量化的方法来同时评估和优化多个响应。例如,对于 k 个响应,我预测了值 y1_hat、y2_hat、…、yk_hat,每个值都有自己的期望值函数 d1(y1_hat)、d2(y2_hat)、…、dk(yk_hat)。我尝试优化的总体期望值为:
D(x) = (d1 * d2 * … * dk)^(1/k)
其中 x = (x1, x2, x3)。
这使我能够同时对多个稳定性读数的因子设置进行数值优化。当响应数量较多时,等值线/误差曲面很难做到这一点。
所以核心问题不在于方法论,而在于点击操作所花费的时间。目前,为了从原始数据生成分析结果并做出基于期望值的决策,我每个数据集都需要一个多小时才能运行相同的二次模型来处理每个响应变量。多个数据集加起来,即使模型定义没有改变,也需要花费四到五个小时进行大量重复的点击操作。
Workflow Builder 无法解决我的问题,因为即使因素相同,每个蛋白质数据集也会产生不同的响应,我仍然需要单独审查模型的适用性。
这就是为什么我正在寻找一种更高效的方法——理想情况下是通过 JSL——来实现以下目的:
无需反复按“排除”按钮。
所以我的问题很简单:JMP Pro 中是否有批量处理此流程的方法?如果您知道符合此场景的 JSL 模式或示例脚本,将对我帮助很大。我希望遵循美国实验设计办公室 (DOE) 的最佳实践——我只是想减少流程中的手动点击操作。
回复:如何在 JMP Pro 中以最少的点击次数高效地对大型 DoE 数据集进行 RSM 拟合和逐步回归响应变量之间是否存在相关性?如果存在,这或许可以减轻模型的负担。如果响应变量之间不存在相关性,则需要在优先级方面做出妥协,模型也会随之改变。我不知道如何编写脚本,将逻辑理性思维融入到模型改进的决策过程中。或许有一些代码可以提高效率,但我并不了解。
如果是我,我会研究是什么让每种蛋白质有所不同,以及为什么/如何为每种蛋白质设置不同的因素(也许可以对蛋白质进行分类?),但我不是专家。
回复:如何在 JMP Pro 中以最少的点击次数高效地对大型 DoE 数据集进行 RSM 拟合和逐步回归您好,您可以录制一段“Fit Model”脚本,然后循环播放以处理所有回复,这样可以节省时间。这样您就无需反复点击“开始”按钮了。顺便说一下,我是Premium Crystal的市场经理Al Salman。如果您正在迪拜寻找零押金租车服务,我们为您提供完美的解决方案。我们提供迪拜零押金租车服务,让预订过程更加便捷实惠。
回复:如何在 JMP Pro 中以最少的点击次数高效地对大型 DoE 数据集进行 RSM 拟合和逐步回归你好@DualARIMACougar ,
正如@statman在回复中强调的那样,评估和比较模型有很多指标,具体取决于您的目标和建模侧重点(解释性、预测性、两者兼顾等等)。您可以阅读一些关于这个广泛主题的先前讨论: 全因子裂区设计与响应面法 (RSM) 的比较分析/ 最佳模型/ 统计显著性/ …… 对于优化目标,您可能更注重预测性能而非其他指标的性能,因此均方根误差 (RMSE) 和信息准则(AICc、BIC 等,以避免为预测任务使用过于复杂的模型)可能是合理的指标。
我也认为,与其为不同的蛋白质分别创建多个设计,不如将这些不同的蛋白质作为设计中的一个分类因子,其他因子则嵌套在蛋白质的性质/类型之下。如果您拥有这些蛋白质的数值表征/测量数据,或者能够利用化学结构区分它们并计算分子描述符,则可以基于这些值对蛋白质进行聚类(以便更好地理解结果的异同),或者将这些值作为协变量来创建设计(以确保您拥有一个能够覆盖并代表所研究蛋白质群体多样性的样本)。使用连续因子而非分类因子有助于扩大推断空间。您可以参考以下两个演示文稿: 提高测试乍看之下是多级分类因子的选项时的效率和模型适用范围。
利用连续变量和混合变量进行编码以探索更多输入空间(2022-US-45MP-1103)
建模阶段的自动化程度越高,分析结果就越容易出错/面临风险(也需要对建模/预测结果进行更严格的审查和验证)。例如,您可能可以使用 JMP 为响应变量拟合几十个模型,但仍然需要评估每个模型的有效性,特别是回归假设的有效性。
但是,关于您提出的其他几点,我可以提出一些其他建议:
- 如果您使用的是 JMP Pro,我建议您使用“广义回归”平台,并采用“正态剪枝前向回归”和“两阶段前向回归”估计方法,同时使用 AICc 准则(您可以按住 CTRL 键并单击以对所有响应拟合相同类型的模型)。我通过这种建模方式获得的模型通常非常令人满意,只有当某些模型指标看起来较弱,或者残差呈现异常(非随机/非正态)模式时,我才需要进行更深入的研究。如果您拟合了多个响应,可以在模型拟合完成后,激活红色三角形中所有响应的“分析器”,以及其他类型的“分析器”。您还可以将这些预测公式保存到表格或“公式库”中。如果存在多个竞争模型,可以使用“模型比较”平台(直接从“公式库”或“预测建模”菜单中)来更好地评估和比较这些竞争模型。
- 如果你的几个回答之间存在相关性,你也可以使用偏最小二乘回归模型,该模型可以利用 Y 之间的相关性来更好地模拟 X 和 Y 之间的联系。
- 由于您可能更注重预测性能,因此您也可以尝试使用不同的机器学习建模选项来拟合一个灵活的模型,例如高斯过程、 支持向量机或随机森林。这些机器学习模型更容易启动,依赖的假设更少或更弱,但确实需要一些精力来制定合适的验证策略,以避免过拟合。 模型筛选平台也可以帮助您快速筛选、比较和选择多个机器学习模型。但是,如果您的设计是基于模型的二阶曲面响应,那么这些建模选项可能表现不佳。
- 最后,由于您采用的是优化设计,因此您希望根据已识别的因素优化多个响应变量。您可以先尝试使用主成分分析(PCA)、其他(非线性) 多元投影方法(例如 UMAP)或多维尺度分析(MDS) 来简化并可视化响应空间,以便更好地理解实验之间的相似性和权衡关系。如果您有基准数据,可以在进行此类分析之前将其添加到表格中,以便可视化并提取您的实验与这些基准数据之间的距离。简化响应空间后,您可以将一些模型拟合到这些转换后的“聚合”响应变量上。
一旦您将模型拟合到响应,您就可以使用模拟器在实验空间中生成合成数据点,并使用模型的预测公式来预测响应值(以查看它们与您的目标有多接近),甚至可以保存并使用每个响应的期望值公式列来计算此合成数据集上的期望值,并更好地突出显示最佳候选(合成数据或真实实验)的帕累托最优前沿:显示不同响应权衡/重要性的最佳总体期望值的数据点。
希望这些建议对您有所帮助。
尽情享受年末庆祝活动吧!