それは普通ではないでしょうか？
パラメトリック テストの使用に関する最近のいくつかの議論では、データが正規分布しているかどうか (または正規性の適合度テストに合格しているかどうか) という問題が浮上しました。いずれの場合もサンプル サイズは比較的小さく (<30)、データは正規分布した母集団からのものではないという結論になりました。次のステップでは、分析を過度に複雑にする複雑な変換手順がいくつか必要でした。
母集団が実際に正規分布している場合に適合度検定に失敗する確率はどれくらいなのか、あるいはタイプ I の誤り率はどれくらいなのか、疑問に思い始めました。一方、母集団が少し歪んでいて非正規である場合、適合度検定に合格する頻度はどれくらいでしょうか。
まず、データ テーブル内の数式としていくつかのランダム関数を使用して、正規分布の母集団とガンマ分布の母集団から 10 個のサンプルのセットを生成しました。ランダム正規分布 (20,4) とランダム ガンマ分布 (20)。母集団の統計は、正規分布が正規であり、ガンマ分布が正規性テストに合格しないことを明確に示しています (図 1)。
図 1. 正規分布またはガンマ分布の母集団の分布比較。サンプル サイズは 10,000 です。サンプル サイズが大きい場合、ガンマ分布の母集団の裾 (左のパネル) は、正規分位プロットの正規確率回帰線の 95% 信頼区間 (赤い破線) の外側にはっきりと出ています。
大規模なデータ セット (n=100,000) を 10 のグループに分割し、各サブグループ (n=10,000) について、図 1 のデータ セットに使用したのと同じテストを使用して正規性をテストしました。確率値が小さいため、データが正規分布からのものであるという帰無仮説は棄却されるため、サブグループが適合度テストに合格したかどうかを判断するために 0.05 のカットオフが使用されました。表形式の結果は図 2 に示されています。Anderson-Darling 適合度テストと Shapiro-Wilk 適合度テストの両方で、サンプル グループが同様の割合でフラグ付けされました。正規母集団のグループは約 5% の確率で不合格となり、ガンマ分布母集団のグループは約 94% の確率で合格しました (不合格は約 6%)。
図 2. 適合度検定に不合格となったサンプルの割合。正規分布 <= 0.05 の確率を持つサンプル グループ (n=10) には「1」のラベルが付けられ、合格したグループには「0」のラベルが付けられます。
正規分布からのサンプルのタイプ 1 のエラー率に少し驚きました (驚く必要はなかったかもしれませんが...)。つまり、サンプル サイズが 20 回に 1 回程度の小さい場合、正規分布している母集団のデータは適合度テストに不合格になります。わずかに偏った母集団のサンプルでも、同様の検出率でした。
明らかに、サンプル サイズが小さいことが問題なのでしょうか? 次のステップは、同じテスト グループをサンプル サイズを徐々に大きくして実行することです。確かに、サンプルを少し大きくすると、偽陽性率は劇的に減少します。次のステップは、ほとんど効果のない 30 のサブグループをテストし、続いて 100、300、1000 のサブグループをテストすることです。ここで、物事を均等に保つために、サブグループの数を n = 10,000 にしたかったのですが、テーブルが大きくなり始め、分析が遅くなり始めたため、サンプル サイズを 1000 で止めました。主な理由は、私がそれほど忍耐強くなく、傾向が明らかになったためです。私の科学的な流れでは、サンプル サイズは 3 が最小で、10 は多く、30 はばかげているだけでした。結局のところ、適合度を実際に確実に評価するには、適切な数はおそらくはるかに大きいです。図 3 には、使用したサンプル サイズでの適合度テストに失敗したサンプルの割合が含まれています。
図 3. 非正規サンプルの割合。各サンプル サイズにおける非正規サンプルの割合が、Anderson-Darling 検定と Shapiro-Wilk 検定の両方についてプロットされています。サンプルは、正規分布を持つ母集団から取得されました。
これらのシミュレーションのデータと分析から、私は、データを注意深く調べずに適合度テストの結果を受け入れることにはより慎重です。適合度統計を受け入れ基準やデータ処理の SOP に追加することには、非常にためらいを感じます。統計を盲目的に扱うことは、ハサミで切るのと同じくらい安全でしょうか? パラメトリック テストの正規性の仮定をより適切に評価する方法という疑問が生じます。おそらく、これは今後のブログ投稿の良いテーマになるでしょう。
正規性検定の偽陽性率に異議を唱えるために私が使用した方法を改善したい場合、または単に私の結果を再現したい場合、データを生成するために使用したスクリプトを以下に含めました。そのスクリプトには、テーブル サイズとサンプル サイズの値を変更する場所に関する注記があります。
Names Default To Here( 1 );
dt = New Table( "Source Data",
Add Rows( 10000 ), //Change row number when using larger sample sizes
New Column( "Normal", Numeric, "Continuous", Format( "Best", 12 ), Formula( Random Normal( 20, 4 ) ) ),
New Column( "Gamma", Numeric, "Continuous", Format( "Best", 12 ), Formula( Random Gamma( 20 ) ) ),
//Change the number of times the group column repeats for larger or smaller sample sizes
New Column( "group", Numeric, "Continuous", Format( "Best", 12 ), Formula( Sequence( 1, N Rows(), 1, 10 ) ) )
);
rpt = New Window( "Distribution",
dt << Distribution(
Continuous Distribution(
Column( :Normal ),
Quantiles( 0 ),
Summary Statistics( 0 ),
Process Capability( 0 ),
Fit Normal( Goodness of Fit( 1 ) )
),
Continuous Distribution(
Column( :Gamma ),
Quantiles( 0 ),
Summary Statistics( 0 ),
Process Capability( 0 ),
Fit Normal( Goodness of Fit( 1 ) )
),
By( :group )
)
);
Wait( 0 );
//Get tables from the report
dt1 = rpt["Distributions", "group=1", "Normal", "Fitted Normal Distribution", "Goodness-of-Fit Test", Table Box( 1 )] << Make Combined Data Table;
dt1 << set name( "AD" );
dt2 = rpt["Distributions", "group=1", "Normal", "Fitted Normal Distribution", "Goodness-of-Fit Test", Table Box( 2 )] << Make Combined Data Table;
dt2 << set name( "SW" );
rpt << Close Window;
//table formatting
dt1 << New Formula Column( Operation( Category( "Row" ), "Row" ), Columns( :Table ) );
dt2 << New Formula Column( Operation( Category( "Row" ), "Row" ), Columns( :Table ) );
dt1:Column 1 << Set Name( "Goodness of Fit Test" );
dt2:Column 1 << Set Name( "Goodness of Fit Test" );
Column( dt1, 7 ) << Set Name( "Fit" );
Column( dt2, 7 ) << Set Name( "Fit" );
Column( dt1, 8 ) << Set Name( "Prob" );
Column( dt2, 8 ) << Set Name( "Prob" );
dt3 = dt1 << Concatenate( dt2, Output Table( "Goodness of Fit Tests" ) );
Close( dt, nosave );Close( dt1, nosave );Close( dt2, nosave );
sfsdff
母集団が実際に正規分布している場合に適合度検定に失敗する確率はどれくらいなのか、あるいはタイプ I の誤り率はどれくらいなのか、疑問に思い始めました。一方、母集団が少し歪んでいて非正規である場合、適合度検定に合格する頻度はどれくらいでしょうか。
もう 1 つの興味深い考慮事項 (特に工程能力分析を実行している場合) は、AICc に基づいて分布を比較したときに正規分布がリストの一番上に来ない確率がどれくらいかということです。
