功率模拟器工具(使用现有精密研究 CV 确定测定的功率)大家好,
我们对检测进行精密度研究的内部实践将为不同的方差成分(例如,每日、称量等)产生多个 CV。 因此,问题是“我们可以使用这些 CV 来确定未来实验设计中的统计功效吗?”经常出现。
答案:

然而,这并不容易。 Marianne (MTOF) 开发了一个工作流程来接受实验设计,将设计与测定的 CV 集成,并模拟运行实验 1,000 次。 由此,我们确定每个固定效应被确定为具有统计显着性的次数,以便计算该效应的功效。
不幸的是,手动执行此过程相当耗时(并且很容易出错)。 因此,我致力于使其自动化。
我附加的插件仍然是一个原型,但 MTOF 和我已经尝试过它并相信它应该准备好进行测试。
那么它是怎样工作的?
假设我对一项新检测进行了精密研究。 在此测定中,我们确定每日 CV 为 4%,采样间 CV 为 3%,测量间 CV 为 2%。
一段时间后,购买了第二台机器。 我们想要设计一项快速、小型的研究,看看原始机器和新机器是否会产生相似的结果。
我们创建以下简单的实验设计,并想知道它是否“足够好”:

(“一天内测试两个样本,每台机器上每个样本进行 2 次测量”)
现在让我们开始吧:
- 启动加载项
- 将出现一个窗口,显示所有当前打开的数据表:

- 如果感兴趣的实验设计当前已打开,请从菜单中选择它并单击“确定”。
- 如果文件未打开,请选择“导入新文件”,然后单击“确定”。 使用资源管理器选择感兴趣的文件。
- 主界面将启动,允许您定义应使用的模型:
-

- 对于上面所示的演示表,唯一的固定效果是“Machine”,所以我将其添加到模型中
-

- 我的随机效应是日、采样和测量。 首先,我添加日期和采样效果:
-

- 由于我的表的设置方式,“日”和“采样”都需要正确设置嵌套:
-

- 现在使用“切换选择为随机”按钮将日期和采样设置为随机效果:
-

- “定义随机效应 CV”侧栏中将出现两个框,允许您为这些随机效应设置 CV。 我将为日投入 4%,为采样投入 3%:

- 现在,我们还需要担心“测量到测量”CV,并且该列未添加到输入数据表中。 由于测量是最低水平的随机效应,因此它会与残差混淆。 因此,我们可以使用“Create New Residual Column”创建一个测量误差列,并将其CV设置为2%:
-

- 接下来,选择哪一列是响应列(“结果”),然后单击“确定”
-

- 将根据输入的数据表创建一个新的数据表,并将“_PowerSim#”修改为文件名末尾。 因此,不会对您的原始文件造成任何损害。
- “运行模拟”脚本将嵌入到新文件中。 单击该图标开始评估。
-

- 首先,选择您想要检测差异的固定效应。 对于这个设计,我们只有一个选择(Machine):
-

- “检测差异”侧栏中将出现一个框。 默认情况下,所有内容都将设置为 100,这对应于平均值。
- 假设我想知道我的实验设计是否能够检测到机器与机器之间 5% 的水平差异。 为此,我将新机器的值更改为 105:
-

- 默认情况下,临界 alpha 值设置为 5%。 如果需要,可以在“临界值”框中更改此值。 我对 5% 很满意,所以我会点击“确定”。
- 现在我们等待模型全部运行。 将来,我们会尝试加快这一步骤,但目前需要一分钟左右的时间才能运行。
- 完成后,将出现一个弹出窗口,其中包含结果:
-

- 结果,由于“机器”的影响,在 0.05 的 alpha 下检测到 5% 的响应差异的功效为 23.6%。 所以,这不是一个伟大的设计。 您可以返回并调整差异以检测和/或使用的 alpha 值,但最好进行更稳健的设计。
- 这是一个非常简单的例子。 当然可以使用更复杂的模型和检查:
-



有些功能尚未实现(嵌套固定效果、标称*连续以外的交互),以及可以采取的工作来提高速度(例如,转移到迭代系统,而不是预先打印数据表中的所有数据) )。
如果您有任何疑问,请告知玛丽安和我。
编辑:可以找到版本 3 的注释这里
回复:功率模拟器工具(使用现有精密研究 CV 确定测定的功率)我已将此加载项的版本 3 附加到第一篇文章中。
除了典型的错误修复之外,功能上还有两个显着的变化。
首先,该工具不再将实验设计重复一千次(导致数据表大小为 1000×[设计行数] 行)。 这样做对错误测试很有帮助,但我们已经切换到一种迭代方法,不再一次运行 1000 个模型,而是现在运行一个模型,记录结果,重新配置随机贡献列,然后运行下一个模型。
这并没有真正提供太多加速过程的方法,但它的作用是防止使用非常大的实验设计时遇到的挂起/冻结。
其次,该工具现在可以选择定义“错误处理”:

“正态误差”处理使用与以前版本相同的正态分布误差。 选择“微生物板误差”的作用略有不同:(1) 误差贡献列将具有对数正态分布而不是正态分布,(2) 响应将进行 Log10 转换(因此无需在“对数转换响应”中选择“对数转换响应”) “选择响应列”轮廓框),(3) 需要根据标准差而不是 CV 来定义方差,(4) 用户在运行新模拟时需要指定响应级别:

引入此功能是为了更好地考虑微生物平板数据。 此方法背后的方法仍在积极开发中,并且该工具的实现已经过检查但尚未完全验证,因此对使用此错误处理的任何结果持保留态度。 如果有任何担心,我建议像以前一样继续使用“正常错误”以及对板数据的日志转换响应。
回复:功率模拟器工具(使用现有精密研究 CV 确定测定的功率)>一位导师甚至告诉我们,实验的随机区组设计最初是专门为植物科学而设计的,目的是为了帮助处理田间试验中不同水平的土壤质量、水可用性等的许多问题(“区组”)是田间农作物的实际物理方形小地块)。 但不确定这有多少真相
您认为分割图这样的术语是从哪里来的?
费舍尔设计了农田试验实验并提出了方差分析。 我们绝对鼓励我们的合作者沿着“相似”的领域块安排随机块设计。所以我相信你明智的导师。
回复:功率模拟器工具(使用现有精密研究 CV 确定测定的功率)但这些仍然只是一般性考虑 - 如果您想知道哪种设置最具成本效益并提供最佳功率,请使用 Adams 详细计算描述或插件:)
回复:功率模拟器工具(使用现有精密研究 CV 确定测定的功率)@jsdejmp
如果您不保持较低级别的重复次数相同,但在您的示例中保持相同的总数(只要设置如前所述嵌套),则在较高级别添加更多重复实际上也更有效。
我可以肯定地说,无论 CV 是什么,10x5 都比 5x10 好! 如果是嵌套的,当您计算总数时,10x5 会给出 10 次试验和 50 个图,而 5x10 会给出 10 次试验和 50 个图。 因此,在这两种情况下,图间变异都减少了 50 倍,而试验间变异则减少了 10 倍或 5 倍。
如果它不是嵌套的,即试验在同一个地方运行 5 次,那么您一遍又一遍地重复使用相同的 10 个图,那么这是一种不同的情况,但我不认为这就是您运行 field 的方式考验?
回复:功率模拟器工具(使用现有精密研究 CV 确定测定的功率)啊,这更有意义——我猜他说的是正确的,但我只是记错了:)
回复:功率模拟器工具(使用现有精密研究 CV 确定测定的功率)@ABI
我认为你的老师指的是裂区设计——它是为农学田间试验而开发的——这就是这个名字的由来。
回复:功率模拟器工具(使用现有精密研究 CV 确定测定的功率)很乐意尽我所能提供帮助。
请注意,我们对板数据使用对数变换,因为误差从来不是正态分布的,并且需要进行变换才能近似正态分布。
顺便说一句,我绝对能感受到您在现场试验问题上的痛苦。 我的本科生和研究生工作都是关于植物基因组学的,所以我已经打了这场仗(只要等到有人要求你将温室结果与田间试验结果结合起来——就说不!)。 一位讲师甚至告诉我们,实验的随机区组设计最初是专门为植物科学而设计的,目的是为了帮助处理田间试验中不同水平的土壤质量、水可用性等的许多问题(“区组”是田间作物的字面物理方形小地块)。 但不确定这有多少真相:)
回复:功率模拟器工具(使用现有精密研究 CV 确定测定的功率)@ABI ,感谢您对如何设计实验提供的精心整理的解释和指南。 我绝对认为我可以将该系统应用于我们的实验方法。 我们一直在努力对我们的简历进行良好的估计,但正如您所说,我们首先需要了解各种随机效应如何相互作用。 我认为我们需要进行额外的建模来捕获其中一些信息。
(顺便说一句,感谢您提到为什么对数变换在捕获 CV 时很有帮助;我刚刚在 QC SOP 上与 MSQM 讨论了这一点,但我不确定为什么会这样)。
回复:功率模拟器工具(使用现有精密研究 CV 确定测定的功率)你好@MTOF ,
回复#1 - 只有当我们将重复次数保持在较低水平时,在较高水平上添加更多才会更有效。 考虑到预算限制,问题更接近于“我们应该进行 5 次试验 x 10 次重复还是 10 次试验 x 5 次重复”。 除了这个实际问题之外,还有一个更抽象且备受争议的问题:单个试验是否构成整个实验或仅构成单个数据点?因为没有人应该画画任何治疗结论来自一项试验,但显然,这项试验的设计和运营成本相当大,其数据应该具有适当的权重。 (兔子洞还更深,因为不同的作物有不同的田间敏感性,因此有不同的 CV,因此有不同的最佳试验次数和代表次数;我们目前还感兴趣的是,执行试验的不同分包商是否也有不同水平的管理领域和衡量响应的能力。 更不用说同一地点的天气和同比差异。 当大自然轻易地阻碍我们的努力工作时,我们很容易养成投降的态度。)
回复 #2 - 感谢您对此进行更多澄清。我不确定我是否可以这样处理它。
回复:功率模拟器工具(使用现有精密研究 CV 确定测定的功率)嗨贾米尔
Adams 对您的问题的答复“是否有一种快速方法来确定设计的哪个方面需要更多样本”:
1. 在“较高”级别添加重复项始终比在较低级别添加重复项更有效(但通常也更昂贵)。
这是因为上层的重复也给出了所有下层的重复。 至少使用分层/嵌套设置,因为我们为此工具制作了这个工具,我也假设您在现场试验中也有这样的设置。 例如,如果当前我们的设置是 2 天 x 2 次称重 x 3 个板(总共 2 天,4 次称重和 12 个板),添加 1 天则总共 3 天,6 次称重,18 个板。
2. CV 之间的关系告诉您哪里最“需要”添加重复。
如果您的试验间 CV 远大于试验内 CV,则有必要添加更多试验(在每个试验中添加更多重复的贡献很小)。 如果试验间 CV 比试验内 CV 小得多,那么添加更多试验仍然有效,因为您还会获得更多重复(土地或植物或任何重复),但可能在试验中添加重复项要便宜得多且同样有效。
回复:功率模拟器工具(使用现有精密研究 CV 确定测定的功率)嗨贾米尔,
是的,您可以做到这一点(甚至可能不需要这个特定的工具)。如果您有测定的随机效应方差分量(来自 JMP 或其他),这些分量值可以估计特定测定质量设置的 CV。
CV 组成部分(即效果)如何相互作用可能比它们的百分比值更重要。 对于您的示例,更多位置可能比更多代表更重要。 事实上,位置内代表可能根本不是真正的复制,并且它们比实际复制的测量更接近样本重复(因此不太有用 - 但是,在不了解更多关于您的实验的情况下,我真的无法谈论这个)。
让我们来看看我经常处理的一个例子:微孔板检测。假设我们有三个 CV 组成部分:日常变化的随机效应、称重之间的变化以及电镀之间的变化。
在我们的检测设计中,我们拥有这三个具有以下嵌套的 CV 组件:
因此,每天的电镀都会进行 X 次称重(二次采样),每次称重都会获得 Y 份板材。
接下来,在执行研究以确定精度后,您将从 REML 表中获取方差分量值及其相应的 CV(即,如果响应经过对数转换,则方差分量的 CV 等于“平方方差分量”) REML 表中的字段。 如果未进行转换,则它等于 REML 表中的 sqrt 方差分量/拟合摘要表中的响应平均值)。
假设我们的日常 CV 为 5%(无功分量为 0.0025),称重间的 CV 为 10%(无功补偿为 0.01),电镀间的 CV 为 8 %(0.0064 的变量分量)。
如果我们将所有三个分量相加,我们得到的总方差分量值为 0.0189,如果仅制作一天、一次称重和一块板,则该值转化为 13.7% (sqrt[0.0189]) 的 CV。
由于上述嵌套策略,计算本测定中质量设置的预测群体 CV 将遵循以下计算:

然后,在 Excel 中,只需将其制作为公式并填写以尝试不同的组合,或者在 JMP 中通过创建公式列来完成此操作。
例子:

上面我们有 3 种设计,每种设计总共只有 5 个板。 您可以看到,5 天×1 称重×1 板设置导致的 CV 比 1 天×1 称重×5 板设计低得多,尽管每日变化具有最低的组分 CV。
然后您可以尝试其他设计,找出实际上最好的设计:

这里有三种设计,每种都有 20 个板并且 CV 值相当接近。然后就变成了关于哪种设置最可行/成本最合适的对话。 如果需要进行大量猜测和检查,您还可以使用 Excel 中的求解器工具以及一些规则来帮助您。
无论如何,您将能够评估更多位置或某个位置内的更多代表是否有价值,以及大约有多少价值(即,添加另一个位置或在每个已添加的位置中再添加 10 个代表之间 CV 的变化是什么)现有位置?)。
现在,这个特殊的工具被构建,因为微孔板测定总是不精确,并且许多微观研究的预期目标是声明“X 和 Y 之间没有差异”(即, X型琼脂和Y型琼脂没有区别)。 然而,如果实验缺乏足够的能力来实际发现统计学上的显着差异,我们最终可能会得出这样的结论:对测定的改变(切换琼脂类型) 实际上没有任何效果。 这是一件非常糟糕的事情。
但是,如果假阴性对您的实验不是那么重要,那么您可能不需要这个特定的工具。 如果您确实认为需要它,请告诉我 - 它需要一些优化,以便不会导致 JMP 挂在非常大的数据集上,因此,如果您正在使用大型数据集,我将优先考虑此类型首先是优化:)
-亚当
回复:功率模拟器工具(使用现有精密研究 CV 确定测定的功率)@ABI , @MTOF ,使用您在示例和工具中提供的值,是否有一种快速方法来确定设计的哪个方面需要更多样本? 例如,在给出的第一个示例中,在更多天内添加更多测量值是否会比在一天内添加测量值更能提高功效(因为 CV 为 4% 与 3%)? CV 较高的效果是否表明您应该加载更多测量值?
对于农艺田间试验,我们可能进行 10 次试验,试验中每种处理重复 5 次,我们可以使用一组数据的总体误差来计算总体功效。对于 JMP 式功效分析,附加数据(无论来自何处、更多位置或更多次数)都会得到同等对待。 然而,现实情况是,站点间变异性和站点内(代表)变异性存在差异。我们可以有更多的地点 ($$) 或在一个地点内有更多的代表 ($)。 我个人喜欢更多的地点,因为在某一领域有更多的代表只会让我们对该领域更有信心;更多地点使我们能够“更确定”观察到的治疗差异不会被任何一个地方过度衡量。 你的工具能帮我解决这个问题吗?
我正在想象为实验设计创建更智能的算法,权衡位置与位置之间的差异以及位置内的差异,并在特定预算内对其进行优化。例如,“我们有 X 美元用于在玉米上运行 Jumpstart...分配地点和代表数量的最佳方式是什么?”
回复:功率模拟器工具(使用现有精密研究 CV 确定测定的功率)大家好,
我修复了一个错误,该错误会导致在非常大的实验设计中加载时崩溃,并将其附加到第一篇文章中。 请注意,当前采用的方法尚未针对速度进行优化,并且在大型设计上运行 1000 次模拟将花费很长时间(如果设计足够大,有时甚至会导致 JMP 挂起/冻结)。 我对如何加快该工具的速度有一些想法,但 MTOF 和我对如何提高用于随机效应的分布的适用性以及对 Novozymes 如何处理基于板的数据的总体检修有一些想法(其中是该工具存在的主要驱动力)。 因此,在不久的将来,功能改进将优先于速度。
谢谢!