大於 2000 的樣本的 Shapiro-Wilk 測試?JMP 幫助頁面指出“對於正態分佈,夏皮羅- 當樣本量小於 2000 且沒有固定參數時,也會報告正態性的 Wilk 測試。 “
我有一個客戶,他的樣本有時超過 2000 個,但他的內部程序告訴他使用 Shapiro-Wilk 測試。 一些在線資源提到 5000 個觀察值作為此測試樣本量的上限。 我的客戶詢問為什麼 JMP 將 Shaipiro-Wilk 檢驗的可用性限制為 2000 個觀測值。 計算時間會不會太長? 還是有其他原因?
回复:大於 2000 的樣本的 Shapiro-Wilk 檢驗?如果我沒記錯的話,p 值需要通過模擬或近似生成。 可能是我們只生成了最多 N=2000 的值。
回复:大於 2000 的樣本的 Shapiro-Wilk 檢驗?只有開發商知道。作為@DonMcCormack提到此測試模擬了 p 值。 SAS還限制了樣本量<=2000;對於 n>2000,測試不可用;查看詳情PROC UNIVARIATE:擬合優度檢驗 (sas.com)
回复:大於 2000 的樣本的 Shapiro-Wilk 測試?這是一個很好的參考,描述和比較了幾種不同類型的正態性檢驗( https://www.tandfonline.com/doi/pdf/10.1080/00949655.2010.520163 ).我們暫時刪除了 SW 測試(我認為是在 v14 或 15.0 中),但在 v15.1 中將其帶回來,樣本量小於 2000。我的問題是,為什麼他們要用如此大的樣本量測試正態性?對於樣本統計,中心定理將適用於它們,並適用於實際分佈重要的分析(估計公差區間、百分位數、控製圖,也許?)。那麼經驗統計應該沒問題。
回复:大於 2000 的樣本的 Shapiro-Wilk 測試?謝謝@薩姆加德納我確實向他提到過,樣本量如此之大,即使偏離正態性最小,測試也可能很重要。 他意識到這一點並同意了,我也不再勉強了。 他是雅培實驗室的統計學家。 我會使用您提供的信息跟進他。 謝謝@DonMcCormack和@劍草也為了回應。
回复:大於 2000 的樣本的 Shapiro-Wilk 檢驗?這維基百科文章在這個測試中給出了更多的細節和背景。之所以限制為 2000,是因為檢驗統計使用的係數基於標準正態分佈階數統計的協方差矩陣的期望值和逆矩陣。這在計算上是繁瑣的,當首次提出該方法時,對於大樣本量這樣做是不可行的。SW 最初是為最多 50 個樣本量提出的。Royston 在 80 年代末/90 年代初提出了一種近似方法來計算這些係數或樣本量 n=3 到 n=1999。我還沒有找到任何其他研究將 SW 測試擴展到更大的樣本量。
回复:大於 2000 的樣本的 Shapiro-Wilk 檢驗?我正在為另一位客戶深入研究這個問題,並想藉此機會鞏固我的想法,並感謝你們將其發佈到社區中。 重申一下,根據 SAS 文檔,對 [Shapiro-Wilk] W 檢驗統計數據使用歸一化轉換來確定檢驗的 p 值(對於樣本量,n ≥ 4)。該歸一化轉換中使用的常數源自依賴於 n 的模擬結果。 但是 p 值本身並未針對測試進行模擬。常數最多為 1,999;因此,對於 n ≥ 2000,測試不會在 JMP 或 SAS 中計算。 我認為我們可以達到 5000,我的猜測是這只是歷史先例(可能來自也可能不是來自出版物參考)。為什麼要將其限制為“大”樣本量呢? (除了開發該方法時的計算限制外, @薩姆加德納提及)
對於 SW,它與計算時間無關(儘管對於 AD,它是)。 我相信這與 W 是使用協方差計算計算的事實有關(在正常順序統計矩陣上@薩姆加德納提及)。協方差隨著 n(或自由度)的增加而增加,這可能會使檢驗統計量的估計產生偏差(通過誇大其標準誤差)。2000 可能是一個任意的選擇,但限制它的想法是我們希望最小化協方差膨脹風險,因此 W 檢驗統計量(它是 n 的函數)是一個無偏估計量(超過數千個大小為 n 的樣本).這就是我的看法。
同意對如此大的樣本量進行正態性測試的注意事項。當然,這取決於應用程序,但在我的醫療設備產品製造商中。經驗,我從來沒有見過這麼大的樣本量來自一個連續的過程(即只有一個可變性來源的過程)。
(幻燈片由 JMP Education 提供)

通常它看起來像這樣,在這裡您可以用 Lot 替換單詞“Batch”(並且 Lot 大小通常在幾百個數量級)。

回复:大於 2000 的樣本的 Shapiro-Wilk 測試?計算時間限制是實際使用模擬或數值積分和矩陣運算來確定 SW 係數所花費的時間。我嘗試了一種模擬方法,此處顯示了計算時間與 n 的關係圖。內存需求也增加了,至少是 n^2 階,所以這樣做是不可行的。此外,對於每個樣本大小 n,您需要存儲要使用的 n 個係數的列表,因此所需的總存儲量增長 n*(n+1)/2,這也是 n^2 階。
但@PatrickGiuliano正確的是,使用現代計算,這可能會擴展到大於 2000 的樣本量,但不會太大。
