注意：本文最初发表于 JMPer Cable，第 15 期，2004 年夏季。
John Sall，SAS Institute Inc. 执行副总裁@约翰_萨尔
Bradley Jones，JMP 开发@布拉德利琼斯
每个统计过程都涉及假设。 我们被教导要害怕这些假设被违反。 例如，比较平均值、两个样本的标准程序t-测试，配对t -test 和 ANOVA 都包含残差误差呈正态分布的假设。 如果误差呈正态分布，并且所有其他假设都成立，则所有检验统计量都具有其声称的分布，并且置信区间和假设检验是可信的。 我们甚至拥有丰富的分析工具来探究我们的假设，例如分布平台中针对正态分布进行测试和绘制图表的功能。 如果残差不是正态分布怎么办？ 医生应该在多大程度上担心残差是否正常？ 很少有文章和书籍能够详细讨论对正态性假设的担忧程度。
残差呈正态分布是一个我们可能不需要太担心的问题，因为：
- 在大样本中，很容易检测到非正态性，但这并不重要。
- 在小样本中，非正态性可能很重要，但您无法检测到它。
对于大样本，中心极限定理指出，即使数据不正态，随着样本量的增加，类均值统计量也会接近正态分布。 对于小样本，检验统计量不一定是正态的，但我们没有足够大的样本来判断。
JMP 开发人员经常收到要求实施残差正态性测试的请求，作为我们拟合平台的一项便利功能。 但这只有在可以检测到非正态性并对其产生影响的样本量时才有用。 让我们使用模拟进行研究。
在我们的模拟中，我们使用两种不同的非正态误差分布来比较两组的均值：双指数分布和移位污染正态分布。 双指数是对称的，但尖峰， IE ，比正态分布有更多的峰值和更重的尾部。 移位污染正态分布是通过在随机选择的 5% 样本中添加三个标准差的移位而向右倾斜的正态分布。
双指数由以下 JMP 公式模拟：
if(randomUniform()>0.5,1,-1)*log(randomUniform())
移位污染分布使用以下 JMP 公式：
10+5*(randomNormal() + (randomUniform()<0.05)*3)
这些是您在实际数据中可能看到的强烈但非极端的非正态性特征。
图 1 显示了模拟双指数的 10,000 个点，图 2 显示了移位污染分布。 红色实线对角线是数据符合正态分布时的外观的参考。 请注意，对于小分位数，数据落在线下方，对于大分位数，数据落在线上方。 他的特征是尖峰分布。 它们的中间有大量的概率质量，尾巴很长但稀疏。
移位污染分布的正态分位数图中的数据（图 2）落在大分位数的红色实线对角线上方。 这是右偏分布的特征。 如果数据呈正态分布，则直方图的顶部将在 30 左右结束，而不是继续略高于 40。
Fig. 1: Distribution results for the double-exponential distribution.Fig. 1: Distribution results for the double-exponential distribution.Fig. 1: Distribution results for the double-exponential distribution.Fig. 1: Distribution results for the double-exponential distribution.图 1：双指数分布的分布结果。
Fig. 2: Distribution results for the shift-contaminate distributions.Fig. 2: Distribution results for the shift-contaminate distributions.Fig. 2: Distribution results for the shift-contaminate distributions.Fig. 2: Distribution results for the shift-contaminate distributions.图 2：转移-污染分布的分布结果。
运行 JSL 脚本生成 10,000 个蒙特卡罗样本，其中包含这两个非正态分布的 10 个观测值。脚本 (MonteCarlo.jsl) 已附上。 （注意：该脚本需要一段时间才能运行。）每个样本都分为大小相等的两组。 按照设计，两组的手段没有差异。 我们还生成了 10,000 个标准正态分布样本作为对照。 对于每个样本，我们进行单向分析以测试均值的差异，并进行分布以测试残差的正态性。 我们对大小为 20、30、50、70 和 100 的样本重复了整个过程。
当总体均值没有差异时检验均值相等
首先，让我们看一下我们的 10,000 个图p -非正态分布的值。 请记住，我们的程序经过精心设计，以便每个样本的平均值不存在真正的差异。 由于随机变化， p - 我们 10,000 个单向分析的值应均匀分布在 0 和 1 之间。 均匀分布函数是对角线 F(x) = x。
为了生成图 3a 和 3b 中的图，我们首先对 10,000 p -价值观。 这y -轴为10,000的比例p -小于或等于给定显着性概率的值。 这X -轴显示显着性概率（ p值）。 每个样本大小以不同的颜色显示。
Fig. 3a: Probability plot of p-values for the double-exponential distribution.Fig. 3a: Probability plot of p-values for the double-exponential distribution.Fig. 3a: Probability plot of p-values for the double-exponential distribution.Fig. 3a: Probability plot of p-values for the double-exponential distribution.图 3a：双指数分布 p 值的概率图。
Fig 3b: Probability plot of p-values for the shift-contaminated distribution.Fig 3b: Probability plot of p-values for the shift-contaminated distribution.Fig 3b: Probability plot of p-values for the shift-contaminated distribution.Fig 3b: Probability plot of p-values for the shift-contaminated distribution.图 3b：移位污染分布的 p 值概率图。
对于这两个图和所有样本量， p -值看起来接近均匀累积分布函数的对角线。 正如我们所希望的，无论是改变分布还是改变样本量，对于均值方差分析检验的显着性概率的准确性都没有太大影响。
让我们仔细看看 0.05 附近的低尺度，我们在这里判断显着性。 图 4a 和 4b 中的图放大了该面积。
Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.图 4a：非正态双指数分布的 p 值概率图的放大视图。
Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution.Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution.Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution.Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution.图 4b：非正态移位污染分布的 p 值概率图的放大视图。
请注意，对应于具有五个观测值的两组均值相等检验的红色对角线略低于线 y = x。 这是什么意思？
我们知道，如果我们选择 0.05 的显着性概率，即使均值确实相等，由于机会的变幻莫测，我们也会拒绝 5% 的实验中均值相等的假设。 也就是说，5% 的情况下我们会犯第一类错误——当假设为真时，我们会拒绝均值相等的假设。
如果我们选择 0.05 的显着性概率，则 5% 的 I 类错误率是内置的，也是我们所期望的。 如果这看起来错误太多，那么您需要选择较小的显着性概率。
当红色对角线穿过垂直虚线 x = 0.05 时，其y -值为 0.043。 这意味着我们没有拒绝均值在 5% 的情况下相等的假设，而是只拒绝了 4.3% 的情况。 我们称此为保守结果，因为我们犯的第一类错误比我们预期的要少。 如果你要错过，最好保守地错过。
另一方面，假设一条线在 CumProb 值为 0.06 时在 0.05 处与垂直虚线相交。 然后，我们实际上会看到 6% 的 I 类错误，而不是预期的 5% I 类错误。 我们称这样的测试过于自由，因为真实的错误率比预期的要大。
令人放心的是，在唯一偏离 45 度线的情况下，它是偏保守的。 移位污染的情况下还具有n =10 的情况转向保守，但没有双指数那么严重。
图5显示了带有纯正态曲线的蒙特卡罗模拟，以显示蒙特卡罗研究中的自然随机变化。
Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.图 5：标准正态分布的 p 值概率图的放大视图。
测试非正态性
下一个问题是我们是否能够检测到非正常错误。 我们首先计算之前进行的每一项单向分析的残差。 使用分布平台，我们测试这些残差的正态性。 因此，对于每个分布和样本量，我们进行 10,000 次 Shapiro-Wilks 正态性检验。 图 6 中的图显示了正态性检验结果的累积百分比与 Shapiro-Wilks 检验中显着性概率的函数关系。
Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.图 6：非正态分布的 Shapiro-Wilkes 检验的功效图。
这些情节告诉我们什么？ 首先，我们知道在双指数情况和移位污染正态情况下，残差的分布不是正态的。 我们想知道我们的测试检测到这种非正态性的可能性有多大。 换句话说，我们想知道我们的测试有多强大。
一个非常强大的测试应该有一个看起来像希腊字母 gamma 的图表， Γ 。相比之下，没有功效的测试的图形看起来像对角线。
对于双指数分布残差，我们可以看到 100 个观测值样本的图表在最左侧快速上升，正如所期望的那样。 不幸的是，随着样本量的减小，该图与 Γ 的相似度会降低。 当样本量为 10 时，函数看起来更像对角线（没有检测能力）。
对于移位污染的正态分布残差，Shapiro-Wilks 检验的检测能力对于每个样本量都较差。
当残差确实呈正态时（如图 7 所示），我们会看到每个样本大小都有一条对角线。 这就是我们想要的。 我们不希望发现不存在的非正态性。 这里，测试的“功效”是发生 I 类错误的概率。 不可能有比这更弱的测试了。
Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.图 7：标准正态分布的 Shapiro-Wilkes 检验的功效图。
现在我们来扩展一下p -值区域，以便我们可以检查 alpha=0.05 时的功效，如图 8a 和 8b 所示。 底部曲线（样本大小n = 10) 在图 8 中与垂直网格线 x=0.05 在值 0.10 处交叉。 这意味着，如果 Shapiro-Wilks 显着性概率为 0.05，则您有 10% 的机会检测到残差非正态这一事实。 我们说 Shapiro-Wilks 检验的功效为 10%。 这并不令人印象深刻。
Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.图 8a：双指数非正态分布的放大幂图。
Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.图 8b：移位污染非正态分布的放大功效图。
另一种说法是，出现 II 类错误的概率为 90%。 也就是说，90% 的情况下，Shapiro-Wilks 检验（给定此误差分布和显着性水平）将错误地无法拒绝正态残差的假设。
相比之下，上面的顶部曲线（样本大小n = 100) 在值 0.78 处穿过垂直网格线 x=0.05。 所以，这个测试的功效接近80%。
对于移位污染的正态残差，功效曲线具有相似的形状，但所得功效甚至更小。 例如，顶部曲线（样本大小 n = 100）在约 0.63 处与 0.05 线相交（功效为 63%）。
因此，我们发现对于少量的观察，您无法检测到非正态性。 对于大量观察，您并不关心错误是否非正态，因为我们模拟的 I 类错误率与大样本量的预期错误率相匹配。
这项研究倾向于支持不在验配平台中实施正态性测试。 包含此功能只会鼓励人们担心他们看不到或不重要的事情。
为残差分布添加图形和诊断特征是另一回事。 您不是在进行测试，而是在寻找图形异常，例如异常值，或者可能是模式的某些隐藏结构的线索的模式。 异常值和模式通常是重要发现的主要线索。
W·爱德华兹·戴明的戒律之一是“驱除恐惧”，但作为统计学家，我们通常做相反的事情，向我们的客户和学生灌输非理性的恐惧。 通过这项您可以轻松复制的研究，我希望您现在有足够的勇气对抗“leptokurtosiphobia”。
少一件事情需要担心不是很好吗？
