注意：本文原刊於 JMPer Cable，第 15 期，2004 年夏季。
John Sall，SAS Institute Inc. 執行副總裁@約翰_薩爾
Bradley Jones，JMP 開發@布拉德利瓊斯
每個統計過程都涉及假設。 我們被教導要害怕這些假設被違反。 例如，比較平均值、兩個樣本的標準程序t-測試，配對t -test 和 ANOVA 都包含殘差誤差呈常態分佈的假設。 如果誤差呈常態分佈，且所有其他假設成立，則所有檢定統計量都具有其聲稱的分佈，且信賴區間和假設檢定是可信的。 我們甚至擁有豐富的分析工具來探討我們的假設，例如分佈平台中針對常態分佈進行測試和繪製圖表的功能。 如果殘差不是常態分佈怎麼辦？ 醫生應該在多大程度上擔心殘差是否正常？ 很少有文章和書籍能夠詳細討論對常態性假設的擔憂程度。
殘差呈常態分佈是我們可能不需要太擔心的問題，因為：
- 在大樣本中，很容易偵測到非常態性，但這並不重要。
- 在小樣本中，非常態性可能很重要，但您無法偵測到它。
對於大樣本，中心極限定理指出，即使資料不正態，隨著樣本量的增加，類別平均值統計量也會接近常態分佈。 對於小樣本，檢定統計量不一定是常態的，但我們沒有足夠大的樣本來判斷。
JMP 開發人員經常收到要求實施殘差常態性測試的請求，作為我們擬合平台的便利功能。 但這只有在可以檢測到非常態性並對其產生影響的樣本量時才有用。 讓我們使用模擬進行研究。
在我們的模擬中，我們使用兩種不同的非常態誤差分佈來比較兩組的平均值：雙指數分佈和移位污染常態分佈。 雙指數是對稱的，但尖峰， IE ，比常態分佈有更多的峰值和更重的尾部。 移位污染常態分佈是透過在隨機選擇的 5% 樣本中添加三個標準差的移位而向右傾斜的常態分佈。
雙指數由以下 JMP 公式模擬：
if(randomUniform()>0.5,1,-1)*log(randomUniform())
移位污染分佈使用以下 JMP 公式：
10+5*(randomNormal() + (randomUniform()<0.05)*3)
這些是您在實際數據中可能看到的強烈但非極端的非常態性特徵。
圖 1 顯示了模擬雙指數的 10,000 個點，圖 2 顯示了移位污染分佈。 紅色實線對角線是資料符合常態分佈時的外觀的參考。 請注意，對於小分位數，資料落在線上下方，對於大分位數，資料落在線上上方。 他的特徵是尖峰分佈。 它們的中間有大量的機率質量，尾巴很長但稀疏。
移位污染分佈的常態分位數圖中的資料（圖 2）落在大分位數的紅色實線對角線上方。 這是右偏分佈的特徵。 如果資料呈常態分佈，直方圖的頂部將在 30 左右結束，而不是繼續略高於 40。
Fig. 1: Distribution results for the double-exponential distribution.Fig. 1: Distribution results for the double-exponential distribution.Fig. 1: Distribution results for the double-exponential distribution.Fig. 1: Distribution results for the double-exponential distribution.圖 1：雙指數分佈的分佈結果。
Fig. 2: Distribution results for the shift-contaminate distributions.Fig. 2: Distribution results for the shift-contaminate distributions.Fig. 2: Distribution results for the shift-contaminate distributions.Fig. 2: Distribution results for the shift-contaminate distributions.圖 2：轉移-污染分佈的分佈結果。
執行 JSL 腳本產生 10,000 個蒙特卡羅樣本，其中包含這兩個非常態分佈的 10 個觀測值。腳本 (MonteCarlo.jsl) 已附上。 （注意：該腳本需要一段時間才能運行。）每個樣本都分成大小相等的兩組。 依照設計，兩組的手段沒有差異。 我們也產生了 10,000 個標準常態分配樣本作為對照。 對於每個樣本，我們進行單向分析以測試平均值的差異，並進行分佈以測試殘差的常態性。 我們對大小為 20、30、50、70 和 100 的樣本重複了整個過程。
當總體平均數沒有差異時檢定平均值相等
首先，讓我們來看看我們的 10,000 張圖p -非常態分佈的值。 請記住，我們的程序經過精心設計，以便每個樣本的平均值不存在真正的差異。 由於隨機變化， p - 我們 10,000 個單向分析的值應均勻分佈在 0 和 1 之間。 均勻分佈函數是對角線 F(x) = x。
為了產生圖 3a 和 3b 的圖，我們首先對 10,000 p -價值觀。 這y -軸為10,000的比例p -小於或等於給定顯著性機率的值。 這X -軸顯示顯著性機率（ p值）。 每個樣本大小以不同的顏色顯示。
Fig. 3a: Probability plot of p-values for the double-exponential distribution.Fig. 3a: Probability plot of p-values for the double-exponential distribution.Fig. 3a: Probability plot of p-values for the double-exponential distribution.Fig. 3a: Probability plot of p-values for the double-exponential distribution.圖 3a：雙指數分佈 p 值的機率圖。
Fig 3b: Probability plot of p-values for the shift-contaminated distribution.Fig 3b: Probability plot of p-values for the shift-contaminated distribution.Fig 3b: Probability plot of p-values for the shift-contaminated distribution.Fig 3b: Probability plot of p-values for the shift-contaminated distribution.圖 3b：移位污染分佈的 p 值機率圖。
對於這兩個圖和所有樣本量， p -值看起來接近均勻累積分佈函數的對角線。 正如我們所希望的，無論是改變分佈還是改變樣本量，對於均值方差分析檢定的顯著性機率的準確性都沒有太大影響。
讓我們仔細看看 0.05 附近的低尺度，我們在這裡判斷顯著性。 圖 4a 和 4b 中的圖放大了該面積。
Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.Fig. 4a: Expanded-scale view of p-value probability plot for non-normal double-exponential distribution.圖 4a：非常態雙指數分佈的 p 值機率圖的放大視圖。
Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution.Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution.Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution.Fig. 4b: Expanded-scale view of p-value probability plot for non-normal shift-contaminated distribution.圖 4b：非常態移位污染分佈的 p 值機率圖的放大視圖。
請注意，對應於具有五個觀測值的兩組平均值相等檢定的紅色對角線略低於線 y = x。 這是什麼意思？
我們知道，如果我們選擇 0.05 的顯著性機率，即使平均值確實相等，由於機會的變幻莫測，我們也會拒絕 5% 的實驗中均值相等的假設。 也就是說，5% 的情況下我們會犯第一類錯誤——當假設為真時，我們會拒絕均值相等的假設。
如果我們選擇 0.05 的顯著性機率，則 5% 的 I 類錯誤率是內建的，也是我們所期望的。 如果這看起來錯誤太多，那麼您需要選擇較小的顯著性機率。
當紅色對角線穿過垂直虛線 x = 0.05 時，其y -值為 0.043。 這意味著我們沒有拒絕均值在 5% 的情況下相等的假設，而是只拒絕了 4.3% 的情況。 我們稱此為保守結果，因為我們犯的第一類錯誤比我們預期的要少。 如果你要錯過，最好保守地錯過。
另一方面，假設一條線在 CumProb 值為 0.06 時在 0.05 處與垂直虛線相交。 然後，我們實際上會看到 6% 的 I 類錯誤，而不是預期的 5% I 類錯誤。 我們稱這樣的測試過於自由，因為真實的錯誤率比預期的要大。
令人放心的是，在唯一偏離 45 度線的情況下，它是偏保守的。 移位污染的情況下還具有n =10 的情況轉向保守，但沒有雙指數那麼嚴重。
圖5顯示了純正態曲線的蒙特卡羅模擬，以顯示蒙特卡羅研究中的自然隨機變化。
Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.Fig. 5: Expanded-scale view of p-value probability plot for the standard normal distribtuion.圖 5：標準常態分佈的 p 值機率圖的放大視圖。
測試非常態性
下一個問題是我們是否能夠偵測到非正常錯誤。 我們首先計算之前進行的每一項單向分析的殘差。 使用分佈平台，我們測試這些殘差的常態性。 因此，對於每個分佈和樣本量，我們進行 10,000 次 Shapiro-Wilks 常態性檢定。 圖 6 的圖顯示了常態性檢定結果的累積百分比與 Shapiro-Wilks 檢定中顯著性機率的函數關係。
Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.Fig. 6: Power plots of Shapiro-Wilkes tests for non-normal distributions.圖 6：非常態分佈的 Shapiro-Wilkes 檢定的效能圖。
這些情節告訴我們什麼？ 首先，我們知道在雙指數情況和移位污染常態情況下，殘差的分佈並不是常態的。 我們想知道我們的測試檢測到這種非常態性的可能性有多大。 換句話說，我們想知道我們的測試有多強大。
一個非常強大的測試應該有一個看起來像希臘字母 gamma 的圖表， Γ 。相比之下，沒有功效的測試的圖形看起來像對角線。
對於雙指數分佈殘差，我們可以看到 100 個觀測值樣本的圖表在最左側快速上升，正如所期望的那樣。 不幸的是，隨著樣本量的減小，該圖與 Γ 的相似度會降低。 當樣本量為 10 時，函數看起來更像對角線（沒有偵測能力）。
對於移位污染的常態分佈殘差，Shapiro-Wilks 檢定的偵測能力對於每個樣本量都較差。
當殘差確實呈現常態時（如圖 7 所示），我們會看到每個樣本大小都有一條對角線。 這就是我們想要的。 我們不希望發現不存在的非常態性。 這裡，測試的「功效」是發生 I 類錯誤的機率。 不可能有比這更弱的測試了。
Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.Fig. 7: Power plot of Shapiro-Wilkes test for the standard normal distribution.圖 7：標準常態分佈的 Shapiro-Wilkes 檢定的效能圖。
現在我們來擴充一下p -值區域，以便我們可以檢查 alpha=0.05 時的功效，如圖 8a 和 8b 所示。 底部曲線（樣本大小n = 10) 在圖 8 中與垂直網格線 x=0.05 在值 0.10 處交叉。 這意味著，如果 Shapiro-Wilks 顯著性機率為 0.05，則您有 10% 的機會檢測到殘差非常態。 我們說 Shapiro-Wilks 檢定的效能為 10%。 這並不令人印象深刻。
Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.Fig. 8a: Expanded-scale power plots for double-exponential non-normal distribution.圖 8a：雙指數非常態分佈的放大冪圖。
Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.Fig. 8b: Expanded-scale power plot for shift-contaminated non-normal distribution.圖 8b：移位污染非常態分佈的放大效能圖。
另一種說法是，出現 II 類錯誤的機率為 90%。 也就是說，90% 的情況下，Shapiro-Wilks 檢定（給定此誤差分佈和顯著水準）將錯誤地無法拒絕常態殘差的假設。
相比之下，上面的頂部曲線（樣本大小n = 100) 在值 0.78 處穿過垂直網格線 x=0.05。 所以，這個測試的功效就接近80%。
偏移污染的常態殘差的功效曲線具有相似的形狀，但所得功效甚至更小。 例如，頂部曲線（樣本大小 n = 100）在約 0.63 處與 0.05 線相交（功效為 63%）。
因此，我們發現對於少量的觀察，您無法檢測到非常態性。 對於大量觀察，您並不關心錯誤是否非常態，因為我們模擬的 I 類錯誤率與大樣本量的預期錯誤率相符。
這項研究傾向於支持不在驗配平台中實施常態性測試。 包含此功能只會鼓勵人們擔心他們看不到或不重要的事情。
為殘差分佈添加圖形和診斷特徵是另一回事。 您不是在進行測試，而是在尋找圖形異常，例如異常值，或者可能是模式的某些隱藏結構的線索的模式。 異常值和模式通常是重要發現的主要線索。
W·愛德華茲·戴明的戒律之一是“驅除恐懼”，但作為統計學家，我們通常做相反的事情，向我們的客戶和學生灌輸非理性的恐懼。 透過這項您可以輕鬆複製的研究，我希望您現在有足夠的勇氣對抗「leptokurtosiphobia」。
少一件事情需要擔心不是很好嗎？
