注意：本文最初出现在JMPer Cable，第15期，2004年夏季。
SAS Institute Inc.执行副总裁John Sall
布拉德利琼斯，JMP发展
每个统计程序都涉及假设。我们被教导担心违反这些假设。例如，比较均衡的标准程序，双样本 T- 测试，配对 Ť -test和ANOVA都包括假设剩余误差是正态分布的。如果错误是正态分布的，并且所有其他假设都成立，则所有测试统计数据都具有其声明的分布，并且置信区间和假设检验可以被信任。我们甚至拥有丰富的分析工具来探测我们的假设，例如分布平台中的功能，它们针对正态分布进行测试和绘图。如果残差不是正态分布怎么办？从业者应该多少担心残差是否正常？很少有文章和更少的书籍详细说明了对正常性假设的担忧程度。
正常分布的残差是一个我们可能不需要担心的问题，因为：
- 在大样本中，很容易检测到非正态性，但这并不重要。
- 在小样本中，非正态性可能很重要，但您无法检测到它。
对于大样本，中心极限定理指出即使数据不正常，随着样本量的增加，类似均值的统计量接近正态分布。对于小样本，测试统计数据不一定正常，但我们没有足够大的样本来说明。
JMP的开发人员经常要求实现残差正态性测试，作为我们的拟合平台的便利功能。但是，只有存在可以检测到非正态性且非常重要的样本大小时，这才有用。让我们使用模拟进行调查。
对于我们的模拟，我们使用两个不同的非正态误差分布比较两组的平均值：双指数和移位污染法线。双指数是对称的，但是leptokurtotic，即比正常分布更尖锐，尾巴更重。通过在随机选择的5％样本中添加三个标准偏差的偏移，偏移向右偏移的正态分布是正常分布。
这个JMP公式模拟了双指数：
如果（randomUniform（）> 0.5,1，-
1）*日志（randomUniform（））
受轮班污染的分布使用此JMP公式：
10 + 5 *（randomNormal（）+
（randomUniform（）<0.05）* 3）
这些都是您在实际数据中可能看到的强烈但非极端非常态的特征。
图1显示了模拟双指数的10,000个点，图2显示了移位污染的分布。实心红色对角线是数据在符合正态分布时的外观参考。请注意，数据低于小分位数的行，低于大分位数的行。 他是leptokurtotic发行的特征。它们在中间有很多概率质量，长而人口稀少的尾巴。
对于大分位数，移位污染分布的正常分位数图中的数据（图2）落在实心红色对角线之上。这是右倾斜分布的特征。如果数据是正态分布的，直方图的顶部将在30左右结束，而不是继续超过40。
图1：双指数分布的分布结果。
图2：移位 - 污染物分布的分布结果。
运行JSL脚本，生成10,000个蒙特卡罗样本，对这两个非正态分布进行10次观察。 将每个样品分成两组相同的大小。按照设计，两组的平均值没有区别。我们还为标准正态分布生成了10,000个样本作为对照。对于每个样本，我们进行单向分析以测试平均值和分布的差异，以测试残差的正态性。我们对尺寸为20,30,50,70和100的样品重复了整个过程。
当人口平均值没有差异时，测试平等均值
首先，让我们看一下10,000的情节 p - 非正态分布的值。请记住，我们的程序设计是为了使每个样本的均值没有真正的差异。由于随机变化， p 我们的10,000次单向分析的值应该在0和1之间均匀分布。均匀分布函数是对角线F（x）= x。
为了生成图3a和3b中的图，我们首先对10,000进行了分类 p - 值。该 ÿ -axis是10,000的比例 p - 小于或等于给定显着性概率的值。该 X -axis显示显着性概率（ p 值）。每个样本大小以不同的颜色显示。
图3a：双指数分布的p值的概率图。
图3b：转移污染分布的p值的概率图。
对于两个图和所有样本大小，分布均为 p - 值看起来接近均匀累积分布函数的对角线。正如我们所希望的那样，既不改变分布也不改变样本大小对方差分析的ANOVA检验的显着性概率的准确性有很大影响。
让我们仔细看看接近0.05的低位，我们判断其重要性。图4a和4b中的图放大了面积。
图4a：非正规双指数分布的p值概率图的展开式视图。
图4b：非正常移位污染分布的p值概率图的放大比例视图。
注意，对应于具有五个观察值的两个组的平均值测试的红色对角线偏离线y = x稍微偏离。这是什么意思？
我们知道，如果我们选择0.05的显着概率，我们将拒绝这样的假设，即我们的手段在我们的实验的5％中是相等的，因为即使手段是真正相等的，也有机会变幻莫测。也就是说，5％的时间我们会犯一类错误 - 当假设为真时，我们将拒绝假设平均值相等的假设。
这个5％的I类错误率是内置的，如果我们选择显着性概率为0.05，我们的期望。如果这似乎有太多错误，那么您需要选择较小的显着概率。
当红色对角线与垂直虚线x = 0.05相交时，其为 ÿ - 值是0.043。这意味着，我们只拒绝了4.3％的时间，而不是拒绝我们的手段在5％的时间内相等的假设。我们称之为保守的结果，因为我们减少的I类错误比我们预期的要少。如果你想错过，最好保守地错过。
另一方面，假设一条线在CumProb值为0.06时穿过垂直虚线0.05。然后，我们实际上看到6％的I类错误，而不是看到预期的5％I类错误。我们称这样的测试太自由了，因为真正的错误率大于预期。
令人欣慰的是，在线条偏离45度线的唯一情况下，它处于保守的一面。转移污染案件也有 ñ = 10个案例转移到保守派，但不是双指数。
图5显示了具有纯正态曲线的蒙特卡罗模拟，以显示蒙特卡罗研究中的自然随机变化。
图5：标准正态分布的p值概率图的展开式视图。
测试非常态
接下来的问题是我们是否可以检测到错误是非正常的。我们首先计算我们之前做过的每个单向分析的残差。使用分发平台，我们测试这些残差是否正常。因此，对于每个分布和样本大小，我们进行10,000次Shapiro-Wilks正常性测试。图6中的图显示了正常性测试结果的累积百分比，作为Shapiro-Wilks检验中显着性概率的函数。
图6：Shapiro-Wilkes测试非正态分布的功率图。
这些情节告诉我们什么？首先，我们知道在双指数情况和移位污染正常情况下，残差的分布都不正常。我们想知道我们的测试检测到这种非正常性的可能性有多大。换句话说，我们想知道我们的测试有多强大。
一个非常强大的测试将有一个看起来像希腊字母gamma，Γ的图表。 相比之下，没有功率的测试会有一个看起来像对角线的图形。
对于双指数分布的残差，我们可以看到100个观测样本的图表在最左边迅速上升，如期望的那样。不幸的是，随着样本量的下降，图表与Γ的相似性变差。当样本大小为10时，该函数看起来更像对角线（没有检测能力）。
对于受转移污染的正态分布残差，Shapiro-Wilks检验的检测能力对于每个样本大小都更差。
当残差确实正常时，如图7所示，我们看到每个样本大小的对角线。这就是我们想要的。我们不希望发现不存在的非正常性。这里，测试的“功率”是I类错误的概率。测试不可能不如此强大。
图7：Shapiro-Wilkes测试标准正态分布的功率图。
现在让我们扩大 p - 值区域，因此我们可以检查α= 0.05处的功率，如图8a和8b所示。底部曲线（样本大小 ñ 图8中的= 10）与值0.10处的垂直网格线x = 0.05相交。这意味着如果Shapiro-Wilks显着概率为0.05，则有10％的几率检测到残差是非正态的。我们说Shapiro-Wilks测试的力量是10％。这并不令人印象深刻。
图8a：双指数非正态分布的扩展尺度功率图。
图8b：移位污染的非正态分布的扩展功率图。
另一种说法是II型错误的概率为90％。也就是说，Shapiro-Wilks测试的90％的时间（鉴于此误差分布和显着性水平）将错误地拒绝拒绝正常残差的假设。
相比之下，上面的顶部曲线（样本大小 ñ = 100）在0.78的值处穿过垂直网格线x = 0.05。因此，这项测试的力量接近80％。
功率曲线具有与移位污染的正常残差相似的形状，但产生的功率甚至更小。例如，顶部曲线（样本大小n = 100）在约0.63（功率为63％）处穿过0.05线。
因此，我们看到，对于少量观察，您无法检测到非正态性。对于大量的
观察到你不关心错误是否正常，因为我们模拟的I型错误率与大样本量的预期速率相匹配。
该研究倾向于支持不在拟合平台中实施正常性测试。包括此功能只会鼓励人们担心他们看不到或无关紧要的事情。
为剩余分布设置图形和诊断功能是另一回事。您正在寻找图形异常，而不是测试，而是寻找可能是模式隐藏结构线索的图形异常。异常值和模式通常是重要发现的主要线索。
W. Edwards Deming的诫命之一是“驱逐恐惧”，但作为统计学家，我们通常会采取相反的做法，向客户和学生灌输不合理的恐惧。通过这项研究，您可以轻松复制，我希望您现在勇敢地与“leptokurtosiphobia”作斗争。
少担心一件事情不是很好吗？
