选择从 DoE 中的 2 个相等异常值中排除你好,
是否有其他指标可以帮助我确定哪个异常值更可能是数据集中的真正异常值?
我执行了 DoE,在建模过程中,注意到有两个相等的异常值(外部学生化残差:48 和 -48)。如果我排除其中一个,模型的调整 R2 会立即大幅提高,从 0.65 左右提高到 0.99,而另一个异常值现在被发现在趋势范围内。
根据我选择排除的异常值,它会影响我的模型。在一种情况下,我只得到线性和交互效应,在另一种情况下,我也得到了一些二次效应(我期望二次但不能确定)。
是否有其他指标可以帮助我确定哪个异常值更可能是数据集中的真正异常值? I want to avoid any scientific bias if at all possible. In looking at the experiment, I cannot identify anything incorrect in the execution of the conditions which would sway my decision.
实验设计视窗回复:选择从 DoE 中的 2 个相等异常值中排除你好@MetaLizard62080 ,
学生化残差可能是识别异常值的好方法 基于假设模型。有关如何计算学生化残差的更多信息,请参见此处: 行诊断 (jmp.com)
“位于红色界限之外的点应被视为可能的异常值。位于绿色界限之外但在红色界限之内的点应被视为可能的异常值,但确定性较低。 ”从定义中可以看出,对于异常值的性质没有明确的确定性,因为它可能取决于您正在拟合的假设模型。
也许您拟合的模型过于简单/与收集到的所有点和测量值不相关(这些二次效应似乎可能相关)?
您可以做的是使用与模型无关的异常值方法分析数据集,以检查这两个点是否看起来“奇怪”,或者这是否只是模型拟合不足的问题。与模型无关的异常值检测方法(如马哈拉诺比斯距离或刀切距离)不依赖于指定的模型,而只是根据变量/因子/特征比较点之间的距离。因此,通过此类方法识别出的异常值表明该点看起来“奇怪”,并且似乎不属于其他点的因子分布的一部分。
异常值第 3 集:使用马哈拉诺比斯距离(和 T2)检测异常值
异常值第 4 集:使用刀切距离检测异常值
从提供的有限信息和仅针对特定模型拟合进行的诊断来看,如果您没有根据统计属性(异常值等)和领域专业知识(错误值、测量记录中的拼写错误、测量系统中的错误/问题等)证明您“可以”这样做,则不应删除任何点。在您的示例中,您仍然可以比较两个模型的结果,一个模型包含所有点,另一个模型通过“隐藏和排除”两个“奇怪”的点(或简单地添加一列来将这两个异常点的权重低于其他点)来比较结果,看看结果是否非常不同。但您可以在其他一些选项之前检查,例如按 RMSE/R2、 Cook 距离等指标,并检查多元线性回归假设,以检查您的模型是否可接受。也许您的数据可以使用Box-Cox Y 变换?
希望这个答案能帮助你,
回复:选择从 DoE 中的 2 个相等异常值中排除这是我的想法,我同意 Victor 的观点,不要在不知道治疗情况的情况下删除数据(这些数据点可能是您研究中最有用的信息):
1. 讽刺的是,使用戴明术语,实验中的特殊原因数据点并不是那么不寻常。这可能是由于您在实验中做了一些非常不寻常的事情(例如,在粗体级别设置下操纵因素)。关于这些特定数据点的问题是:它们是由实验中的因素引起的,还是可以归因于噪音?
2. 有很多方法可以诊断实验数据的质量,残差分析就是其中之一,它非常有用,因为残差分析是在定义模型并了解模型解释的变化后进行的。例如,诊断数据质量的其他方法:
- 按从好到坏的顺序对 Y 进行排序(每个 Y 向下)。获取 MR 图表。MR 图表两端的 OOC 点可能不是由于治疗效果而是由于噪音。(此方法称为 ANOG,即良好分析)
- 将每种治疗的实际数据与预测值进行比较(这需要您先验地预测数据)。不要关闭工程!您对每种治疗发生的情况有什么假设?请记住,对于残差,实际数据可能看起来并不那么不寻常。事实上,该模型在预测特定治疗的结果方面表现不佳,这一点值得关注。为什么该模型对这些治疗的表现不佳?
- 执行等级分析。将数据表按 ANOG 方式排序后,添加一个新列并将其标记为等级。在该列中输入连续的数字(例如,对于 16 次运行的实验,您将有许多 1-16)。分析等级以及实际 Y,并查看结果如何比较。等级消除了实际数据中的大跳跃,因此将特殊原因数据点的杠杆效应降至最低。
如果您已经预见到了潜在的特殊原因,则可以进行重复试验,如果其中一个重复的数据点不寻常,您仍然可以使用该治疗进行其他重复分析。
对 DOE 数据进行诊断总是好的。套用我最喜欢的一位 DOE 作者 (Cuthbert Daniel) 的话:
DOE 中最常见的缺陷是
- 过度饱和:治疗次数过多,效果不佳
- 过于保守:对于期望的估计,观测次数过多
- 未能研究数据中的错误值
- 未能考虑所有混叠
- 由于误解误差方差而导致的不精确。
附注:您应该对 R 平方和 R 平方调整后的模型细化之间的差异更感兴趣,并使用 R 平方调整后的值来评估模型的充分性。