注：この記事は、JMPerケーブルの第15号、2004年夏に掲載されました。
John Sall、SAS Institute Inc.のエグゼクティブバイスプレジデント
ブラッドリージョーンズ、JMP開発
すべての統計的手順は仮定を含みます。私たちはこれらの仮定の違反を恐れていると教えられています。例えば、平均を比較するための標準的な手順は、2サンプル t- テスト、ペアトン -testおよびANOVAはすべて、残差が正規分布に従うという仮定を含みます。誤差が正規分布であり、他のすべての仮定が成り立つ場合、すべての検定統計量は要求された分布を持ち、信頼区間と仮説検定は信頼できます。正規分布に対してテストおよびグラフ化する配布プラットフォームの機能など、私たちの仮定を検証するための豊富な分析ツールもあります。残差が正規分布ではない場合はどうなりますか？開業医は残差が正常であるかどうかをどれだけ心配すべきですか？正規性の仮定についてどの程度心配するかについての詳細は、記事をほとんど掲載せず、本を少なくして詳しく説明しています。
正規分布された残差を持つことは、おそらくあまり心配する必要がない問題です。
- 大きなサンプルでは、非正規性を検出するのは簡単ですが、問題ではありません。
- 小さなサンプルでは、非正規性が問題になることがありますが、それを検出することはできません。
大規模なサンプルでは、データが正規でなくても、サンプルサイズが大きくなるにつれて平均的な統計量が正規分布に近づくと中心極限定理が示します。サンプル数が少ない場合、検定統計量は必ずしも正常ではありませんが、十分な大きさのサンプルはありません。
JMPの開発者は、フィッティングプラットフォームの便利な機能として、残差正規性の検定を実装するように頻繁に要求されます。しかし、これは非正規性が検出され問題となる可能性があるサンプルサイズがある場合にのみ有用です。シミュレーションを使って調べましょう。
シミュレーションでは、2つの異なる非正規誤差分布（二重指数関数とシフト汚染正規分布）を使用して2つのグループの平均を比較します。二重指数関数は対称ですが、レプトクルト的です。すなわち正規分布よりもはるかにピークが大きく、より重い裾を持ちます。シフト汚染正規分布は、無作為に選択された５％のサンプルにおいて３つの標準偏差のシフトを加えることによって右にゆがめられた正規分布である。
二重指数関数は、このJMP公式によってシミュレートされます。
if（randomUniform（）> 0.5,1、-
1）* log（randomUniform（））
シフト汚染分布は、このJMP公式を使用します。
10 + 5 *（randomNormal（）+
（randomUniform（）<0.05）* 3）
これらは、実際のデータで見られる可能性がある、強力ではあるが極端ではない異常の特徴であることを意味しています。
図1は、10,000ポイントのシミュレートされた二重指数関数を示し、図2は、シフト汚染分布を示しています。赤い実線の対角線は、正規分布に収まる場合のデータの見え方の基準です。データは、小さい分位数の場合は線より下に、大きい分位数の場合は線より上になることに注意してください。 彼はレプトクルト分布に特徴的です。それらは長くてまばらな人口の尾を持つ中間にたくさんの確率質量を持っています。
シフトに汚染された分布（図2）の正規分位点プロットのデータは、大きい分位数の赤の実線の対角線を超えています。これは、右斜め分布の特徴です。データが正規分布になっていれば、ヒストグラムの最上部は40を少し超えて続くのではなく、約30で終わります。
図1：二重指数分布の分布結果
図2：シフト汚染物質分布の分布結果。
これら2つの非正規分布に対して10個の観測値を持つ10,000個のモンテカルロサンプルを生成するJSLスクリプトが実行されました。 各試料を等しい大きさの２つの群に分けた。設計上、2つのグループの平均に違いはありません。コントロールとして標準正規分布に対して10,000サンプルも生成しました。各サンプルについて、平均の差を検定するための一方向分析と残差の正規性を検定するための分布を実行しました。サイズ20、30、50、70、および100のサンプルについて、この手順全体を繰り返しました。
母集団の平均に差がない場合の均等平均の検定
まず、私たちの10,000人のプロットを見てみましょう。 p 非正規分布に対する値。我々の手順は各サンプルの平均に真の違いがないように設計されていることを忘れないでください。ランダムな変動のため、 p 10,000の一方向分析の値は、ゼロと1の間で一様に分布する必要があります。一様分布関数は対角線F（x）= xです。
図3aおよび3bのプロットを作成するために、最初に10,000個をソートしました。 p 値。のよ軸は10,000の割合です p 与えられた有意確率以下の値。のバツ軸は有意確率を示します（ p 値）。各サンプルサイズは異なる色で表示されます。
図３ａ：二重指数分布に対するｐ値の確率プロット。
図３ｂ：シフト汚染分布に対するｐ値の確率プロット。
プロットとすべてのサンプルサイズの両方について、 p 値は、一様累積分布関数の対角線に近く見えます。我々が望んだように、分布を変えることもサンプルサイズを変えることも、等しい平均に対するANOVA検定の有意確率の精度に大きな影響を与えません。
有意性を判断している0.05付近の低いスケールでもっと見てみましょう。図4aと図4bのプロットは面積を拡大しています。
図４ａ：非正規二重指数分布に対するｐ値確率プロットの拡大図。
図4b：非正規シフト汚染分布のp値確率プロットの拡大図。
5つの観測値を持つ2つのグループの平均が等しいかどうかの検定に対応する赤い対角線は、y = xの線よりやや下に並んでいます。これは何を意味するのでしょうか？
有意確率0.05を選択すると、平均がたとえ真に等しくても偶然の変動によって私たちの実験の5％で平均が等しいという仮説を棄却することがわかります。つまり、タイプIのエラーを5％発生させるということです。仮説が正しい場合は、平均が等しいという仮説を棄却します。
この5％のタイプIエラー率は組み込まれており、0.05の有意確率を選択した場合に予想されるものです。これが多すぎるエラーのように思われる場合は、より小さい有意確率を選択する必要があります。
赤い対角線が垂直の点線x = 0.05と交差すると、よ値は0.043です。これは、平均が5％の時間に等しいという仮説を棄却するのではなく、4.3％の時間だけを棄却したことを意味します。私たちはこれを保守的な結果と呼んでいます。なぜなら、私たちが予想しているよりも少ないType Iエラーをしているからです。あなたが見逃しそうな場合は、控えめに見逃すことをお勧めします。
一方、CumProb値が0.06のときに、線が0.05で垂直の点線と交差したとします。次に、予想される5％のType Iエラーが表示されるのではなく、実際には6％のType Iエラーが表示されます。本当のエラー率が予想より大きいので、我々はそのようなテストをあまりにも寛大すぎると呼びます。
線が45度の線から外れる唯一のケースでは、それは保守的な側面にあることは安心できます。シフト汚染の場合も n = 10の場合は保守的な側にシフトしたが、二重指数関数ほどではなかった。
図５は、モンテカルロ研究における自然なランダム変動を示すための純粋な正規曲線を用いたモンテカルロシミュレーションを示す。
図5：標準正規分布のp値確率プロットの拡大図。
非正規性のテスト
次の問題は、エラーが異常であることを検出できるかどうかです。まず、以前に行った各一方向分析から残差を計算することから始めます。分配プラットフォームを使用して、正規性についてこれらの残差を検定します。したがって、各分布とサンプルサイズに対して、正規性について10,000のShapiro-Wilks検定を行います。図6のプロットは、Shapiro-Wilks検定の有意確率の関数としての正規性検定結果の累積パーセンテージを示しています。
図6：非正規分布に対するShapiro-Wilkes検定のパワープロット
これらのプロットは私たちに何を伝えていますか？第一に、二重指数関数的ケースとシフト汚染正規ケースの両方において、残差の分布が正規ではないことを我々は知っている。私たちのテストでこの非異常性が検出される可能性がどれほど高いかを知りたいのです。言い換えれば、私たちは自分のテストがどれほど強力であるかを知りたいのです。
完全に強力なテストでは、ギリシャ文字のガンマΓのように見えるグラフが表示されます。 これとは対照的に、べき乗のない検定は、対角線のように見えるグラフを持つでしょう。
二重指数分布残差の場合、望みどおり、100個の観測値のサンプルのグラフが左端で急激に上昇することがわかります。残念ながら、Γに対するグラフの類似性は、標本サイズが小さくなるにつれて悪化します。標本サイズが10の場合、この関数は対角線のように見えます（検出力なし）。
シフト汚染正規分布残差の場合、Shapiro-Wilks検定の検出力はすべてのサンプルサイズに対して悪くなります。
図7にプロットされているように、残差が本当に正常な場合、サンプルサイズごとに対角線が表示されます。これが私たちが欲しいものです。存在しない非正規性を検出したくはありません。ここで、テストの「検出力」は、タイプIエラーの確率です。テストがこれよりパワフルになることは不可能です。
図7：標準正規分布に対するShapiro-Wilkes検定のパワープロット。
それでは拡大しましょう。 p 図8aと図8bに示すように、α値が0.05のときのパワーを調べることができます。下の曲線（サンプルサイズ n 図8の= 10）は、値0.10で垂直グリッド線x = 0.05と交差します。つまり、Shapiro-Wilksの有意確率が0.05の場合、残差が正常でないという事実を検出する可能性は10％です。Shapiro-Wilks検定の力は10％であると言います。これは印象的ではありません。
図８ａ：二重指数非正規分布の拡大スケールパワープロット。
図８ｂ：シフト汚染された非正規分布の拡大スケールのパワープロット。
別の言い方をすれば、タイプIIエラーの確率は90％です。つまり、（この誤差分布と有意水準を考慮して）Shapiro-Wilks検定が90％の確率で誤って正規残差の仮説を棄却することはできません。
対照的に、上の一番上の曲線（サンプルサイズ n = 100）値0.78で垂直グリッド線x = 0.05と交差します。したがって、このテストの検出力は80％近くです。
度数曲線は、シフト汚染された法線残差についても同様の形状をしていますが、得られる度数はさらに小さくなります。たとえば、一番上の曲線（サンプルサイズn = 100）は、0.05の線と約0.63で交差します（検出力は63％）。
そのため、少数の観測では非異常性を検出できないことがわかります。多数の
私たちのシミュレートされたタイプIのエラー率が大きなサンプルサイズの予想される率と一致したため、エラーが正常でないかどうかは気にしないでください。
この研究は、フィッティングプラットフォームで正規性の検定を実施しないことを支持する傾向があります。この機能を含めても、人々が見えないことや問題にならないことを心配するようになるだけです。
残差分布のグラフィック機能と診断機能を追加することは別の問題です。テストする代わりに、異常値などのグラフィカルな異常、またはモードの隠れた構造への手がかりになる可能性があるパターンを探しています。外れ値とパターンは、重要な発見に対する主な手がかりになることがよくあります。
W. Edwards Demingの戒めの1つは「恐れを追い出す」でしたが、統計学者として私たちは通常反対の行動をとり、私たちのクライアントと学生に不合理な恐れを植え付けます。あなたが簡単に複製することができるこの研究で、私はあなたが今「leptokurtosiphobia」と戦うために十分に勇敢であると思います。
心配することが1つ少なくなったのはいいことではないでしょうか。
