重复运行的 Svem 分析 DOE在上一次 DOE 讨论论坛中,讨论了具有重复运行的 DOE 的 Svem 分析。建议对重复运行的结果取平均值。如果重复之间存在显著差异怎么办?使用额外的“重复运行变量”运行 Svem 来估计重复内差异不是更好吗?如果重复内差异很重要,Svem 会发现这一点;在下一个混合模型分析中,可以将重复变量指定为随机变量,与 Svem 指定为重要的固定效应分开。
实验设计回复:Svem 分析 DOE 并重复运行很抱歉,我没有参加 DOE 俱乐部会议,也不熟悉 SVEM 分析(我确实下载了文件,并将进行审查)。实验分析是个人选择。有很多方法可以做到这一点。在我发表评论之前,我想确保您指的是重复而不是重复。也就是说,重复被视为相同治疗组合的独立运行,每次运行都有一个独立的实验单元作为输出。
以下是我的未经证实的评论:
1. 总结数据时,你总是会遗漏一些信息。如果你要取平均值,你还应该考虑将取平均值的数据的变化作为响应。恕我直言,如果你对重复数据取平均值,你就会遗漏一些信息(和 DF)。现在,如果你要重复,这是一个好主意,同时还要考虑变化对模型的响应。
2. 如果这些确实是重复实验,那么你似乎想要了解重复实验之间发生了哪些变化。如果你能够识别并指定重复实验之间哪些因子(噪声)发生了变化,那么你就可以了解很多有关因子效应的稳健性的信息。这是一种同时增加推理空间和提高设计精度的绝佳策略。
“阻止你能阻止的,随机化你不能阻止的”。GEP Box
将你能识别的因素与区块进行混淆。对于你无法识别的因素,可以使用随机化策略。
回复:Svem 分析 DOE 并重复运行你好@frankderuyck ,
SVEM 分析在两种情况下非常有效:
- 通过堆叠在略有不同的数据(训练和验证的权重不同)上经过训练和验证的不同单个模型,用非常有限的数据建立预测模型。
- 通过模型堆叠,以机器学习的方式评估实际意义并提高对独特单个实验(无重复)的效果估计的精度。
无论情况如何,重要的是要记住 SVEM 技术是在哪种情况下引入的:在小数据集的情况下提供验证技术/框架,而无需任何其他可能的验证技术。
演讲和演示: 重新思考实验的设计和分析?(2021-EU-30MP-776) - JMP 用户社区
SVEM:实验设计和分析的范式转变 (2021-EU-45MP-779) - JMP 用户社区
因此,仅从概念上讲,我对结合 SVEM 和重复的想法有复杂的感受,因为这看起来像是两种依赖于不同概念、目标和验证方法的不同模型构建方法的合并:基于统计显着性的筛选和涉及重复和统计建模的设计的误差/噪声估计与基于预测准确性和引导/模型堆叠的预测建模。
在存在重复的情况下,我担心使用 SVEM 进行模型构建时可能会发生数据泄漏:由于每个实验都会随机(并且以反相关的方式)具有训练和验证权重,因此即使它们代表相同的处理,重复运行也可能对训练和验证有不同的侧重点!因此,模型构建可能会略有偏差(因为它通过具有不同权重的重复获得了有关训练和验证集的信息),并且可能导致“过度自信”和术语估计标准差的大幅下降:

当增加同一示例的重复试验之间的变异性时(Reactor 20 Custom JMP 数据集,添加的重复试验次数最多为 30 次,而原始的 Reactor 20 Custom 数据集则为),您可以看到,在设计中使用 SVEM 进行重复试验和使用 SVEM 不进行重复试验的两种情况在估计值和标准误差方面非常相似:

因此,我再一次看不出合并这两种技术有什么好处,因为你合并了两种(非常)不同的验证技术,而这并不是创建 SVEM 的原因。
我也对使用 SVEM 来估计重复变异持怀疑态度,因为如果您使用标准分析进行重复,那么您已经可以获得此信息,并且使用 SVEM 可能会降低标准偏差的估计,就像引导一样:请参阅引导的出色交互式可视化: 了解理论 - 频率推断
对于对此讨论感兴趣的其他人,以下是 DoE Club Q4 的录音: 录音 DOE Club Q4 2024
希望回复有意义,并对其他成员的意见感兴趣,
回复:Svem 分析 DOE 并重复运行你好,Victor,当重复之间的差异较小时,增加重复次数不会产生太大影响。但如果重复之间的差异很大,那么为每次重复引入一个阻断因子并将此阻断效应纳入 Svem 中就没什么意义了?
回复:Svem 分析 DOE 并重复运行嗨,弗兰克,
我仍然认为这可能不是一个好主意,因为 SVEM 方法似乎是“设计不可知的”,所以它不会考虑任何分组、阻塞结构或重复的存在,可能会导致“过度自信”/数据泄漏/阻塞效应项估计的标准差下降。
而且由于它是一种特定类型的引导程序,它可能会导致标准偏差估计值的下降,如之前交互式可视化所示。
编辑:有关 SVEM 的更多信息:
自验证集成模型概述
Lemkus, T.、Gotwalt, C.、Ramsey, P. 和 Weese, M. (2021)。“用于实验设计的自验证集成模型。”化学计量学和智能实验室系统219:104439。
回复:Svem 分析 DOE 并重复运行我同意,如果重复之间的差异不是太大,则可以使用平均结果进行建模。当重复差异很大时,情况会有所不同;附件中有一个研究,由于过程噪声,重复之间存在显着差异。以重复为随机效应的混合模型和以重复因子为因子的 SVEM 显示类似的结果。但是,当对重复结果进行平均时,广义 AICC 和 SVEM 模型也类似且更好,但结果与混合和 SVEM+重复不同:在后两种使用重复平均的分析中,更多效果是显着的!这种情况表明,需要小心平均具有显着差异的重复;此外,SVEM+重复可以很好地捕捉随机重复效应。
回复:Svem 分析 DOE 并重复运行以下分析截图
1. 混合模型 & SVEM + 复制效果

2. 平均重复结果:广义前向选择 AICC 和 SVEM

回复:Svem 分析 DOE 并重复运行有趣的案例研究,感谢@frankderuyck的分享。
通过比较项估计值及其标准差,我们可以看到,使用带有重复项的 SVEM 确实会对标准差产生影响。在我的具有中等重复项变异性的示例中,SVEM 显著降低了与项估计相关的标准差,因为训练和验证权重中的数据泄漏在模型构建过程中带来了有关项估计值的信息。
在您的情况下,由于重复之间的变异性非常高,数据泄漏不会在模型的训练和验证之间带来信息(事实上,由于这种巨大的重复变异性,模型可能会更加“迷失”),因此您的术语估计标准差将高于其他方法。使用具有平均值的 SVEM 或 REML 模型会带来非常相似的信息,而对平均值的广义回归前向回归可能会提供过于乐观的标准差估计:

因此,我认为一般建议不要对涉及重复的原始数据使用 SVEM(因为这会导致模型拟合偏差并造成数据泄露)。要么使用平均值进行治疗的 SVEM(但您会丢失有关内部治疗变异性的信息),要么对具有重复的原始数据使用其他方法(REML/拟合模型方法)。
有兴趣了解@philramsey 、 @chris_gotwalt1以及社区中任何其他好奇成员的观点,
回复:Svem 分析 DOE 并重复运行我建议采用两步方法:(1)使用 SVEM + 重复因子滤除最强的影响;(2)使用后者构建一个重复为随机的混合模型。
回复:Svem 分析 DOE 并重复运行当 SVEM 中重复效应的权重较低时,可以使用带有重复平均值的常规 genereg/OLS。