注意：本文最初出現在JMPer Cable，第15期，2004年夏季。
SAS Institute Inc.執行副總裁John Sall
布拉德利瓊斯，JMP發展
每個統計程序都涉及假設。我們被教導擔心違反這些假設。例如，比較均衡的標準程序，雙樣本 T- 測試，配對 Ť -test和ANOVA都包括假設剩餘誤差是正態分佈的。如果錯誤是正態分佈的，並且所有其他假設都成立，則所有測試統計數據都具有其聲明的分佈，並且置信區間和假設檢驗可以被信任。我們甚至擁有豐富的分析工具來探測我們的假設，例如分佈平台中的功能，它們針對正態分佈進行測試和繪圖。如果殘差不是正態分佈怎麼辦？從業者應該多少擔心殘差是否正常？很少有文章和更少的書籍詳細說明了對正常性假設的擔憂程度。
正常分佈的殘差是一個我們可能不需要擔心的問題，因為：
- 在大樣本中，很容易檢測到非正態性，但這並不重要。
- 在小樣本中，非正態性可能很重要，但您無法檢測到它。
對於大樣本，中心極限定理指出即使數據不正常，隨著樣本量的增加，類似均值的統計量接近正態分佈。對於小樣本，測試統計數據不一定正常，但我們沒有足夠大的樣本來說明。
JMP的開發人員經常要求實現殘差正態性測試，作為我們的擬合平台的便利功能。但是，只有存在可以檢測到非正態性且非常重要的樣本大小時，這才有用。讓我們使用模擬進行調查。
對於我們的模擬，我們使用兩個不同的非正態誤差分佈比較兩組的平均值：雙指數和移位污染法線。雙指數是對稱的，但是leptokurtotic，即比正常分佈更尖銳，尾巴更重。通過在隨機選擇的5％樣本中添加三個標準偏差的偏移，偏移向右偏移的正態分佈是正常分佈。
這個JMP公式模擬了雙指數：
如果（randomUniform（）> 0.5,1，-
1）*日誌（randomUniform（））
受輪班污染的分佈使用此JMP公式：
10 + 5 *（randomNormal（）+
（randomUniform（）<0.05）* 3）
這些都是您在實際數據中可能看到的強烈但非極端非常態的特徵。
圖1顯示了模擬雙指數的10,000個點，圖2顯示了移位污染的分佈。實心紅色對角線是數據在符合正態分佈時的外觀參考。請注意，數據低於小分位數的行，低於大分位數的行。 他是leptokurtotic發行的特徵。它們在中間有很多概率質量，長而人口稀少的尾巴。
對於大分位數，移位污染分佈的正常分位數圖中的數據（圖2）落在實心紅色對角線之上。這是右傾斜分佈的特徵。如果數據是正態分佈的，直方圖的頂部將在30左右結束，而不是繼續超過40。
圖1：雙指數分佈的分佈結果。
圖2：移位 - 污染物分佈的分佈結果。
運行JSL腳本，生成10,000個蒙特卡羅樣本，對這兩個非正態分佈進行10次觀察。 將每個樣品分成兩組相同的大小。按照設計，兩組的平均值沒有區別。我們還為標準正態分佈生成了10,000個樣本作為對照。對於每個樣本，我們進行單向分析以測試平均值和分佈的差異，以測試殘差的正態性。我們對尺寸為20,30,50,70和100的樣品重複了整個過程。
當人口平均值沒有差異時，測試平等均值
首先，讓我們看一下10,000的情節 p - 非正態分佈的值。請記住，我們的程序設計是為了使每個樣本的均值沒有真正的差異。由於隨機變化， p 我們的10,000次單向分析的值應該在0和1之間均勻分佈。均勻分佈函數是對角線F（x）= x。
為了生成圖3a和3b中的圖，我們首先對10,000進行了分類 p - 值。該 ÿ -axis是10,000的比例 p - 小於或等於給定顯著性概率的值。該 X -axis顯示顯著性概率（ p 值）。每個樣本大小以不同的顏色顯示。
圖3a：雙指數分佈的p值的概率圖。
圖3b：轉移污染分佈的p值的概率圖。
對於兩個圖和所有樣本大小，分佈均為 p - 值看起來接近均勻累積分佈函數的對角線。正如我們所希望的那樣，既不改變分佈也不改變樣本大小對方差分析的ANOVA檢驗的顯著性概率的準確性有很大影響。
讓我們仔細看看接近0.05的低位，我們判斷其重要性。圖4a和4b中的圖放大了面積。
圖4a：非正規雙指數分佈的p值概率圖的展開式視圖。
圖4b：非正常移位污染分佈的p值概率圖的放大比例視圖。
注意，對應於具有五個觀察值的兩個組的平均值測試的紅色對角線偏離線y = x稍微偏離。這是什麼意思？
我們知道，如果我們選擇0.05的顯著概率，我們將拒絕這樣的假設，即我們的手段在我們的實驗的5％中是相等的，因為即使手段是真正相等的，也有機會變幻莫測。也就是說，5％的時間我們會犯一類錯誤 - 當假設為真時，我們將拒絕假設平均值相等的假設。
這個5％的I類錯誤率是內置的，如果我們選擇顯著性概率為0.05，我們的期望。如果這似乎有太多錯誤，那麼您需要選擇較小的顯著概率。
當紅色對角線與垂直虛線x = 0.05相交時，其為 ÿ - 值是0.043。這意味著，我們只拒絕了4.3％的時間，而不是拒絕我們的手段在5％的時間內相等的假設。我們稱之為保守的結果，因為我們減少的I類錯誤比我們預期的要少。如果你想錯過，最好保守地錯過。
另一方面，假設一條線在CumProb值為0.06時穿過垂直虛線0.05。然後，我們實際上看到6％的I類錯誤，而不是看到預期的5％I類錯誤。我們稱這樣的測試太自由了，因為真正的錯誤率大於預期。
令人欣慰的是，在線條偏離45度線的唯一情況下，它處於保守的一面。轉移污染案件也有 ñ = 10個案例轉移到保守派，但不是雙指數。
圖5顯示了具有純正態曲線的蒙特卡羅模擬，以顯示蒙特卡羅研究中的自然隨機變化。
圖5：標準正態分佈的p值概率圖的展開式視圖。
測試非常態
接下來的問題是我們是否可以檢測到錯誤是非正常的。我們首先計算我們之前做過的每個單向分析的殘差。使用分發平台，我們測試這些殘差是否正常。因此，對於每個分佈和样本大小，我們進行10,000次Shapiro-Wilks正常性測試。圖6中的圖顯示了正常性測試結果的累積百分比，作為Shapiro-Wilks檢驗中顯著性概率的函數。
圖6：Shapiro-Wilkes測試非正態分佈的功率圖。
這些情節告訴我們什麼？首先，我們知道在雙指數情況和移位污染正常情況下，殘差的分佈都不正常。我們想知道我們的測試檢測到這種非正常性的可能性有多大。換句話說，我們想知道我們的測試有多強大。
一個非常強大的測試將有一個看起來像希臘字母gamma，Γ的圖表。 相比之下，沒有功率的測試會有一個看起來像對角線的圖形。
對於雙指數分佈的殘差，我們可以看到100個觀測樣本的圖表在最左邊迅速上升，如期望的那樣。不幸的是，隨著樣本量的下降，圖表與Γ的相似性變差。當樣本大小為10時，該函數看起來更像對角線（沒有檢測能力）。
對於受轉移污染的正態分佈殘差，Shapiro-Wilks檢驗的檢測能力對於每個樣本大小都更差。
當殘差確實正常時，如圖7所示，我們看到每個樣本大小的對角線。這就是我們想要的。我們不希望發現不存在的非正常性。這裡，測試的“功率”是I類錯誤的概率。測試不可能不如此強大。
圖7：Shapiro-Wilkes測試標準正態分佈的功率圖。
現在讓我們擴大 p - 值區域，因此我們可以檢查α= 0.05處的功率，如圖8a和8b所示。底部曲線（樣本大小 ñ 圖8中的= 10）與值0.10處的垂直網格線x = 0.05相交。這意味著如果Shapiro-Wilks顯著概率為0.05，則有10％的機率檢測到殘差是非正態的。我們說Shapiro-Wilks測試的力量是10％。這並不令人印象深刻。
圖8a：雙指數非正態分佈的擴展尺度功率圖。
圖8b：移位污染的非正態分佈的擴展功率圖。
另一種說法是II型錯誤的概率為90％。也就是說，Shapiro-Wilks測試的90％的時間（鑑於此誤差分佈和顯著性水平）將錯誤地拒絕拒絕正常殘差的假設。
相比之下，上面的頂部曲線（樣本大小 ñ = 100）在0.78的值處穿過垂直網格線x = 0.05。因此，這項測試的力量接近80％。
功率曲線具有與移位污染的正常殘差相似的形狀，但產生的功率甚至更小。例如，頂部曲線（樣本大小n = 100）在約0.63（功率為63％）處穿過0.05線。
因此，我們看到，對於少量觀察，您無法檢測到非正態性。對於大量的
觀察到你不關心錯誤是否正常，因為我們模擬的I型錯誤率與大樣本量的預期速率相匹配。
該研究傾向於支持不在擬合平台中實施正常性測試。包括此功能只會鼓勵人們擔心他們看不到或無關緊要的事情。
為剩餘分佈設置圖形和診斷功能是另一回事。您正在尋找圖形異常，而不是測試，而是尋找可能是模式隱藏結構線索的圖形異常。異常值和模式通常是重要發現的主要線索。
W. Edwards Deming的誡命之一是“驅逐恐懼”，但作為統計學家，我們通常會採取相反的做法，向客戶和學生灌輸不合理的恐懼。通過這項研究，您可以輕鬆複製，我希望您現在勇敢地與“leptokurtosiphobia”作鬥爭。
少擔心一件事情不是很好嗎？
