781201_ja-JP

liliconcom

2標本t検定のシンプルで正直な説明はありますか?

これは仕事とは関係のない、単なる非公式な話です。

私は約 30 年間統計学に携わってきましたが、非常に単純で一般的な統計検定である 2 標本 t 検定を説明する良い方法がまだ見つかりません。

仮定と（やや限定的な）堅牢性について説明したいと思います。以下は私の拙い試みです。これらのことをシンプルかつ正直に説明している良い教科書はありますか?

3 + 5 = 8 の場合でも、x1 + x2 = 8 の解は x1 = 3 と x2 = 5 だけではありません。統計学でも同じことがよく起こります。

t 検定はもともと X_1、...、X_n1 -- iid N(mu_1、sigma^2) と Y_1、...、Y_n2 -- iid N(mu_2、sigma^2) から導出されましたが、この特定のモデルからデータが生成された場合にのみ t 検定統計量が t 分布として分布することを意味するものではありません。

しかし、堅牢性は状況ごとに変化します。

(1) iidの違反は悲惨な結果を引き起こします。例えば、Twitter(X)から政治的意見を収集し、日本の一般人口を推測しようとすると、結果は非常に偏ったものになります。

（２）等分散の仮定が破られた場合でも、２つのグループのサンプルサイズがほぼ等しい場合、結果は依然としてほぼ有効である。

（３）正規性の仮定が破られた場合でも、サンプルサイズが比較的大きく、分布がそれほど歪んでおらず、裾が厚くない場合は、結果はほぼ有効である。

(4) 2標本t検定は、標本サイズが比較的大きい場合、ランダム化検定の近似値でもあります。したがって、2標本t検定は、帰無仮説がすべてのyに対してH0: F1(y) = F2(y)であるノンパラメトリック検定と考えることができます（ただし、多くの専門書ではt検定はパラメトリック検定であると書かれています）。

Re: 2標本t検定のシンプルで正直な説明は？

統計ナレッジポータルには、これに関するわかりやすい説明があります: https://www.jmp.com/en_us/statistics-knowledge-portal/t-test/two-sample-t-test.html

Re: 2標本t検定のシンプルで正直な説明は？

@mzwaldさん、情報ありがとうございます。

個人的には、（スチューデントとウェルチの）2標本t検定の仮定と堅牢性の方がより複雑だと思います。

例として、ページ内には以下のような説明が書かれています。
> 2 つのグループの分散が等しくない場合はどうなりますか?
> 2 サンプル t 検定を引き続き使用できます。標準偏差の異なる推定値を使用します。

上記の文章は、分散が等しい場合はスチューデントの t 検定を使用し、分散が等しくない場合はウェルチの t 検定を使用する必要があることを示唆していると思います。(「標準偏差」は「標準誤差」を意味すると思います。) しかし、サンプル サイズがほぼ同じ場合、スチューデントの t 検定とウェルチの t 検定の結果は非常に近くなります。さらに、2 つのグループの分散が非常に近い場合、スチューデントの t 検定とウェルチの t 検定の結果も非常に近くなります。

上記の現在の説明では、等分散に対して Welch の t 検定を使用することはできない、または不等分散に対して Student の t 検定を常に使用することはできないと言っているようです。

私が重要だと思うもう 1 つの特性は、2 サンプル t 検定がランダム化検定の近似値であるということです。この特性により、ランダム化臨床試験での t 検定の使用が妥当になります。臨床試験ではランダム サンプリングは使用されません。ランダム割り当てのみが使用されます。したがって、データはランダム サンプルではありません。それでも、2 サンプルの Student t 検定は、H0:F1(x) = F2(x) のランダム化検定として妥当です。

Re: 2標本t検定のシンプルで正直な説明は？

Hi @yusuke_ono

2 サンプル t 検定は、2 つの独立したグループの平均間に有意差があるかどうかを判断するために設計された、広く使用されている統計手法です。この手法は、2 つの異なるグループの平均結果を比較して、観察された差が統計的に有意であるか、偶然に発生した可能性があるかを評価する研究シナリオでよく適用されます。

側面	説明	例
2標本t検定の仮定
観察の独立性	各グループ内の観察結果は互いに独立している必要があります。	グループで一緒に勉強する生徒をテストすることで、新しい教授法の効果を研究する。テスト中に生徒が話し合い、助け合うと、彼らの得点はもはや独立しなくなる。
正常	各グループのデータはほぼ正規分布している必要があります。これは、サンプル サイズが小さい場合に特に重要です。	所得分配が偏っている2つの都市の所得を測定します。
等分散	2 つのグループの分散 (広がりまたは変動性) はほぼ等しくなるはずです。	あるグループ内の一貫性のあるデータを別のグループ内の非常に変動の大きいデータと比較します。
2標本t検定の堅牢性
独立性の侵害	t 検定は独立性​​の違反に対して堅牢ではないため、偏った結果が生じます。	上記のように、クラスの生徒に回答を話し合ってもらうアンケートを実施すると、偏った結果になります。
正常性の違反	t 検定は、特にサンプル サイズが大きい場合、正規性の違反に対してかなり堅牢です。	わずかに偏ったデータを持つ 2 つのグループのビデオ ゲームの反応時間を比較します。
等分散の違反	t 検定は、特にサンプル サイズが類似している場合、等分散の違反に対して中程度に堅牢です。分散が等しくなく、サンプル サイズが異なる場合は、ウェルチの t 検定を使用します。	スコアの分散が異なる 2 つの学校のテストのスコアを比較します。

ご注意ください：

1. ウェルチの t 検定は不等分散に対応することでより柔軟なアプローチを提供しますが、サンプル サイズが等しいか分散が類似している多くの実際のシナリオでは、スチューデントの t 検定とウェルチの t 検定の両方の結果がほぼ収束します。
2. 2 サンプル t 検定は、データが正規分布する母集団から取得されると仮定すると、パラメトリック検定に分類されます。ただし、サンプル サイズが十分に大きい場合、t 検定はノンパラメトリック検定の近似値と見なすこともできます。このコンテキストでは、2 つのグループの分布が同一であるという帰無仮説を検定するため、特定の条件下ではノンパラメトリック検定に多少類似しています。

臨床試験に関する最後のポイントについて: //臨床試験ではランダム化テストの近似として 2 サンプル t 検定を使用します//

被験者を治療群にランダムに割り当てる設計のため、臨床試験で収集されたデータは従来の意味でのランダムサンプルではありません。

ただし、2 サンプル t 検定は、生理学的および薬理学的な意味でランダム化テストに近似できるため (厳格な包含基準に加えて)、このコンテキストでは依然として有効です。つまり、 t 検定は依然として帰無仮説を正確にテストでき、2 サンプル t 検定は、ランダム サンプリングがないにもかかわらず、ランダム化試験での仮説テストに信頼性の高い方法を提供します。

これは、帰無仮説の下では、t 検定統計量の分布 (ランダム化実験のコンテキストで) が、順列検定またはランダム化検定から取得された検定統計量の分布に近似するという考えを指します。この特性により、ランダム化試験ではランダム サンプリングではなくランダム割り当てが使用されるため、t 検定は完全なランダム化検定の結果を近似できるため、従来のランダム サンプリングがない場合でも有効になります。

統計的にはランダム化に基づく推論と呼ばれます。

人気の参考文献:

統計学習入門

データサイエンティストのための実践的統計学

統計学: データから学ぶ芸術と科学、第 3 版 (推奨)

主な参考文献:

統計的手法

臨床試験の参考文献:

ランダム化テスト

臨床試験の設計と分析：概念と方法論については第3章、第4章、第5章を参照

これらの入力を信頼すると役立ちます。

Re: 2標本t検定のシンプルで正直な説明は？

@yusuke_onoおそらく最も基本的で実用的な統計テストについて深く考えるのは良いことであり、楽しいことです。あなたは「注目すべき 2 サンプル T テストに関する考察」のようなホワイト ペーパーの始まりを持っているようです。自然な出発点は、すべての仮定が完全に満たされている元のテストです。次に、これらの仮定からのさまざまな方向と逸脱の度合い、およびそれらがテストのサンプリング特性 (サイズと検出力) に与える影響を検討します。

エンジニアリングの観点から見ると、t 検定統計量は非常に直感的に信号対雑音比です。

ランダム化推論との関連性は説得力があり、十分に評価されていません。

@Chandramouli_R素晴らしい要約資料ですね。非独立ブランチのフローチャートに混合モデルが追加されることを期待しています。最も一般的なケースはペアリング、またはより一般的にはブロッキングです。ケンワード・ロジャー自由度計算を備えた優れた混合モデル理論があり、テストには近似t分布を使用し、小規模サンプル特性も良好です。

Re: 2標本t検定のシンプルで正直な説明は？

@Chandramouli_Rさん、アイデアをありがとうございます。

テキスト部分の説明は気に入っています。これはあくまでも個人的な好みですが、上部のフローチャート自体は個人的には好きではありません（多くの料理本で見かけますが）。

まず、ウィルコクソン検定は、2 つの分散が等しくない場合 (2 つのグループのサンプル サイズが等しい場合でも)、アルファ エラーを維持しません。これは、「ノンパラメトリック ベーレンス フィッシャー問題」と呼ばれます。ウィルコクソン検定のウェルチ バージョンがあります (Brunner,E. および Munzel,U. (2000) ノンパラメトリック ベーレンス フィッシャー問題: 漸近理論と小サンプル近似)。

次に、「中心極限理論は n<=30 では成り立たない」という都市伝説もよく聞きますが、これは人口分布に大きく依存すると思います。私が調べた限りでは、この都市伝説はケンドールの上級統計理論に由来しています。しかし、元の文章は単に以下の通りです。

... いくつかの分布、特に平均値の分布では、n の値が小さい場合、たとえば n > 30 の場合、非常に満足のいく近似値が得られます.... (第 6 版の 341 ページ)

上記の文章を言い換えると、著者は「CLT は、非常に小さなサンプル サイズ (n = 30 など) でも、一部の母集団分布からの一部の統計に対して機能します」というようなことを言っているだけだと思います。以下は単純な例です。母集団分布が均一である場合、CLT 近似は n = 5 でもうまく機能するようです。しかし、母集団分布が非常に裾が重い場合、CLT 近似は n = 100 でも機能しません。

Random Reset(1111111);
y1 = J(5, 10000, Random Uniform());
y2 = J(100, 10000,Random SHASH(0.1, 0.1, 2, 3));
dt = As Table(VMean(y1)`||VMean(y2)`);
dt << Distribution(Y(1::2));

3 番目に、ウィルコクソン検定は、一般的に 2 つの平均値または 2 つの中央値の差を検定するものではありません。したがって、平均値または中央値の差に関心がある場合は、ウィルコクソン検定を使用しないでください。以下は、非常に不自然な単純な例です。サンプルの中央値は等しいですが、ウィルコクソン検定は非常に有意です。

y1 = J(1000,1,Random Lognormal(0,1));
y2 = -y1;
y1 = y1 - Median(y1);
y2 = y2 - Median(y2);
dt = As Table( (J(NRow(y1),1,1)||y1)|/ (J(NRow(y2),1,2)||y2), <<COLUMN names=""></COLUMN>

<P><BR />次に、統計モデリングの観点から、フローチャート自体が、McElreath, R. (2020) Statistical Rethinking: A Bayesian Course with Examples in R and Stan (2nd ed.), CRC Press のセクション 1.1 で批判されています。</P> <P>また、フローチャートの Yes/No を他の統計的検定で判定する場合、こうした事前検定もしばしば批判されています。たとえば、2 標本 t 検定や一元配置分散分析の前に統計的検定で分散の等質性を確認することは、「分散の予備検定を行うことは、定期船が港を出港するのに十分穏やかであるかどうかを確認するために手漕ぎボートで海に出るようなものです! (p.333、Box、GEP (1953)。非正規性と分散の検定)」と言われています。また、事前検定が統計的に妥当であったとしても、p 値が大きい場合は H0 を強く受け入れることはできません。</P>Re: 2標本t検定のシンプルで正直な説明は？

アドバイスありがとうございます、 @russ_wolfingerさん

20～30年ほど前、Base SAS と SAS/STAT を使った基礎統計解析の講師をしていたとき、SAS ユーザーに非正規性は UNIVARIATE で、分散の等質性は TTEST の F 検定でチェックする (非正規データには Wilcoxon 検定、分散が異なる場合は Welch 検定を使う) ことを勧めていました。これは TTEST が平均の t 検定と分散の F 検定の結果を同じページに出力するためです。記憶が曖昧ですが、SAS/ASSIST でも同様のフローチャートやクックブックのロジックを使っていたかもしれません。

しかし、今では、このような儀式や習慣には統計的な理由はないと考えるようになりました。

しかし、2016年のp値に関する記述では、「非公式には、p値とは、特定の統計モデルのもとで、データの統計的要約（[…小野による抜粋…]）が観測値と同等かそれよりも極端になる確率である」と述べられています。この説明は、少なくともt検定とは部分的には一致しないと思います。t検定の統計モデルは、もともと正規分布に基づいています。しかし、データが非正規分布（つまり、データが当初想定したモデルから外れている）であっても、p値は大きくなる可能性があります（サンプル平均がほぼ等しい場合）。

ご存知のとおり、ランダム化臨床試験では通常、ランダムサンプリングはまったく使用されず、ランダム化のみが行われます。したがって、ランダムサンプリングフレームワーク（つまり、レーマンの用語では「人口モデル」）から、RCT で t 検定を使用するための有効な統計的理由を示すことはできないと思います。

Re: 2標本t検定のシンプルで正直な説明は？

2 人のトップクラスの応用統計学者によるランダム化に関する相反する見解を示す古典的な参考文献をいくつか紹介します。Kempthorne: https://www.jstor.org/stable/2281178 Harville: https://www.jstor.org/stable/2683676