ビッグデータにおける分散分析これは非常によくあるケースについての質問です。
解決策は非常に単純なものかもしれないし、そうでないかもしれない。
あなたの意見や経験を聞かせてください。
1) これは、ANOVA が BIG データ (N が非常に大きい) に適用された場合によく発生します。
2) (他の条件が同じであれば) N が増加すると P 値は小さくなります。
現象
データが多く、分散が小さい場合は、実際には有意ではありませんが、ANOVAでは有意であると判断されます。
--> 実際には、ANOVA の結果だけを見て間違いを犯すのはよくあることです。
どう説明すればいいでしょうか？
方法 1: 統計的有意性ではなく実質的な差異 (信頼区間の差異、重複など)
(グループ内変動が非常に大きい) の方が重要なので、統計的に有意ではありません。
方法 2: Rsquare (回帰分散 / 合計分散) を見ると、値が低いことがわかります。
方法 3: この場合、ANOVA は適していません。
他に何かアイデアはありますか?
Re: ビッグデータにおける ANOVAANOVA の p 値は、平均値が統計的に異なるかどうかを示します。おっしゃるとおり、観測値が多い場合は、特定の平均差と標準偏差に対して低い p 値を達成することが容易になります。
Rsq を見ると、平均差によってどの程度の変動が説明されるかがわかります。したがって、両方の指標を確認することが重要です。この例では、平均差が変動の 16.8% を占めており、この 2 つの分布の平均は、差が小さいにもかかわらず、統計的に異なる可能性が非常に高いです。
Re: ビッグデータにおける ANOVAこのような場合、ANOVA の後に同等性検定を追加する必要があります。これは、大量のデータを扱う場合によく発生します。Mark が言うように、大量のデータがあれば、非常に小さな差異を検出できます。ここでの疑問は、それに対して何かできるのか、または、どのレベルで差異が小さくなり、追跡する価値がなくなるのか、ということです。
まRe: ビッグデータにおける ANOVAこんにちは@IkjuShin
私は、顧客向けの非統計言語で次のように説明してみました。
この分析では、2 つのグループの間に統計的に有意な差が見られましたが、p 値は非常に小さいものでした。しかし、サンプル サイズが大きいため、これらの結果の実際的な重要性を評価することが重要です。R 二乗値は非常に低く、モデルが分散のごく一部しか説明していないことを示しています。さらに、効果サイズが小さいため、統計的には有意な差であっても、実際には意味がない可能性があります。信頼区間を調べ、データ分布を視覚化することで、重複の範囲をよりよく理解し、結果の実際的な重要性についてより情報に基づいた判断を下すことができます。
___________________________________________この問題のより広い理解________________________________
この質問は、大規模なデータセットに対して ANOVA を実行するときに発生する一般的な問題に対処します。この現象を説明する際に考慮できるポイントと方法をいくつか示します。
現象の説明:
サンプル サイズ (N) が非常に大きい場合、グループ間のわずかな違いでも統計的に有意になり、誤解を招く可能性のある結論につながる可能性があります。これは、サンプル サイズが大きいほどテストの検出力が増し、些細な違いでも検出しやすくなるためです。したがって、p 値は非常に小さくなり、実質的に意味のない違いがある場合でも有意差があると示唆されます。
問題に対処し、説明する方法:
方法1: 実用的な違い
説明: 統計的有意性よりも実際的有意性を重視します。統計的有意性は、必ずしも意味のある、または実際的に有意な差を意味するものではありません。信頼区間を見て、それらの重なりを確認します。
実際の応用: グループ内の変動が大きい場合、統計的に有意であっても、実際の差は有意ではない可能性があります。
方法2: R二乗値
説明: R 二乗値を使用して、モデルによって説明される分散の割合を評価します。R 二乗値が低い場合、モデルが分散のごく一部しか説明していないことを示し、差異が実質的に重要ではない可能性があることを示唆しています。
実用的なアプリケーション: R 二乗値が低いケースを強調表示します。これは、モデルがデータの変動性をあまり説明していないことを示します。
方法3: ANOVAの適合性
説明:サンプル サイズが非常に大きく、差異が小さい場合、ANOVA は最適なテストではない可能性があります。
実際の応用:効果サイズの測定や信頼区間などの実用的な重要性を評価するために、代替方法や追加の分析を検討します。
したがって、追加のアイデアは次のようになります。
方法4: 効果サイズ
説明: p 値とともに効果サイズ (例: Cohen の d) を報告します。効果サイズは差異の大きさの尺度を提供するため、p 値のみよりも有益な情報となります。
実際の応用:効果サイズを使用して、結果の実際の重要性を伝えます。効果サイズが小さい場合、その差は統計的には有意であっても、実際の重要性は高くない可能性があることを示します。
方法5: グラフィカルな表現
説明:バイオリン プロットや密度プロットなどのグラフィカルな手法を使用して、データの分布とグループ間の差異を視覚的に検査します。
実用的なアプリケーション:視覚化により、グループ間の重複の範囲を伝え、実用的な重要性をより直感的に理解できるようになります。
Re: ビッグデータにおける ANOVA@mzwald は重要な方向性を指摘していると思います。私にとって、「違い」は提示された質問の中で明確に定義されていません。
Mark のコメントに沿って進むと、次の質問はおそらく次のようになるでしょう。ANOVA が対処するように設計されている「差異」は、実際に懸念されるものと同じものですか?
Re: ビッグデータにおける ANOVAすでに洞察に満ちたコメントに加えて、検討すべきより深い質問がいくつかあります。
この研究の本当の目的は何ですか?
説明か予測か? 統計手法/仮説検定/分散分析/t検定/信頼限界/同等性検定は説明に適していますが、予測モデリング/クロス検証による機械学習は予測に適しています。この2つは相互に排他的ではありません。
追加のデータや共変量はありますか? 現代の測定技術では、単一の治療のみが測定されたこのような大規模なデータはますます珍しくなっています。追加の変数や機能により、統計や予測モデリングの効率が大幅に向上し、より多くの変動を説明できるようになります。
測定値は本当に独立していますか? たとえば、ブロッキング変数/バッチ効果がある場合、混合モデルが非常に重要になります。これが実際には分割区画設計であり、処理が区画全体のレベルで割り当てられている場合、検出力は当初考えられていたほど高くない可能性があります。
Re: ビッグデータにおける ANOVA素晴らしい実用的なアドバイスです!!!
-サンプルサイズ
-RSquare
-効果サイズ（平方和）
-変動範囲内
-信頼区間/予測区間
-視覚化
これらすべてのことを実際的な観点から考慮する必要があるようです。
一部の人々は、ANOVA を平均値の差をテストするものではなく、生データの差をテストするものだと「無意識に」誤解しているようです。
