に
私の前の投稿 、ANOVAと単純な線形回帰の関係を見ました。Rhiannaの曲ではYearとDistinct単語の数の間に有意な線形関係は見られませんでしたが、できることの1つは、2010年以前のRhianna曲と2010年以降のRhianna曲の間に違いがあるかどうかをテストすることです。連続変数（年）をグループ化（または「ビニング」）することで、単純な線形回帰をANOVAに変えることができます。これにより、物事が単純に見えることがよくあります。長年の代わりに、2つのカテゴリがあります。そして、私はANOVAと線形回帰はほとんど同じものだと言ったのですね。
そうそう。ANOVAまたは単純な線形回帰を計算するために使用される線形モデルは似ていますが、実際にはわずかに異なることをしています。私たちの連続変数をグループに分割することはよくあることですが、それは予約して行われるべきです、そして私はその理由をお見せしましょう。
始める前に、これらすべての線形モデルはチェーンソーのようなものであることを思い出してください。データポイント間の総距離と全体的な平均を取り、それをさまざまなカテゴリに分けます。
ANOVAと単純線形回帰の両方で、同じ方法で合計二乗和を計算し、各データポイントを取得し、それとすべてのデータポイントの全体的な平均との差を計算します。したがって、Rhiannaの曲を年ごとに続けて見ても、2010年前後で見ても、合計の二乗和（またはSST）は同じです。だから違いはどこですか？
違いは平方和の「モデル」にあります（回帰では、この平方和を回帰と呼びます。分散分析では、この平方和をグループと呼ぶことがあります）。どちらの場合も、私たちの「モデル」はどうやって私たちはXが私たちのY、つまり私たちの興味のある変数に影響を与えると思います。回帰の場合、私たちは年になると思います連続線形 Yへの影響 - Xの各単位は、Yに追加の影響を与えます。ビンANOVAの場合、2010年以前または2010年以降は、グループ Yへの影響
のための私達の二乗和モデル（SSM）を忘れないでください回帰年に基づいて、Y値（Rhiannaの曲の中の異なる単語の数）を予測します。私たちが観察したデータでは、Rhiannaの曲に含まれる明確な単語が少なくなる傾向がある年ごとに一般的な下降傾向が見られました。私たちの最良の推測 Rhiannaの曲の中の明確な単語の数は、回帰直線が予測するものすべてです。私たちの回帰モデルの誤差は、データポイントと回帰直線の間の距離です。
のSSM 分散分析 2010年以前のものをまとめています。そのため、長年にわたる全般的な減少傾向ではなく、2010年以前の曲の数が2010年以降の曲の数に比べて多いことがわかります。この分散分析モデルの下では、最良の推測どんな2010年の歌のためのグループの意味になるでしょう。他のすべてはエラーと見なされます。
Yearと明確な単語数の間に直線関係がある場合、2つのビンに入れられたYearグループでANOVAを実行すると、"エラー"に起因する平方和の割合が過大評価されます。これは、各グループの平均から離れた極端なポイントは、回帰直線から得られたものよりもグループ平均からはるかに遠くなる傾向があるために起こります。
Rhiannaの例では、連続モデルと二分モデルのANOVA表から、それらのモデルの平方和の合計が同じであることがわかります。2010年以前）は、2010年以前の二分モデルでははるかに少ないです。真の線形関係がある場合、モデルの検出力は、二分法やANOVAを使用するのではなく、常に連続モデルとして強くなります。
で
JMP シミュレーション
[1] 、私はあなたの連続変数の1つを二分するとき何が統計的な力に起こるかをシミュレートするために私達のBadGirlRiriデータからのおおよその線形関係を使った。真の線形関係のまわりの誤差の量がますます小さくなるにつれて、結局どちらの方法もほぼ100％の電力を持つことになります。この関係が非常に強い場合は、二分法によるパワーの減少でも、ほぼ完璧な効果検出が可能になります。
一方、線形関係の周辺に大きな変動がある場合、二分法モデルと連続モデルの両方で、関係周辺の不均衡に大きい誤差による影響を検出することが困難になります。その時点で、モデル周辺の誤差は、そこに隠れている可能性がある線形関係よりも重要です（統計テストでは、モデルに起因する変動量を測定し、それをモデルに起因しない変動量と比較します）。
[2] 。
ほとんどの実験者は、しきい値として80％の電力を目指しています
[3] 。これは、そのサイズの効果が実際にある場合、実験により、統計モデルでその効果を80％検出できることを意味します。統計的な検出力を簡単に見直すと、検出力に影響を与える可能性がある4つの主な要素があることを覚えておくことができます。残念ながら、あなたの効果サイズ、人口変動、そしてアルファは通常あなたのために設定されています、しかしサンプルサイズは研究者の娯楽です。しかしながら、細胞培養、ヒトの対象、および放射性同位元素はお金と時間の両方を要します。だから、あなたはあなたがあなたが最小のサンプルサイズで得ることができる最も強力なテストが欲しいです。
赤と青でハイライト表示されたドット間の垂直距離は、二値化した場合と変数を連続したままにした場合の平均パワーの差です。連続モデルの電力が80％（n = 20）の場合、二分法モデルの電力は約65％になります。これは電力の15％の削減です。二分法モデルで80％のパワーを得るには、もっと細胞、人間、同位体が必要です。NSFはそれにお金を払わないでしょう。
予想されるように、統計的な関係がまったくない場合、両者が同じ5％の確率で、効果がない場合に誤ってその存在を知らせる可能性があります。アルファカットオフ基準を定義するとき、モデルに効果がない場合でもモデルが効果を見つける時間の割合を選択します。
私たちは何を学びましたか？真に線形の関係を疑う理由がある場合は、連続変数をグループに分けないでください。 あなたのデータとあなたがあなたのXとYの間にある関係があることを期待するものについて考えなさい。あなたが連続変数をグループに分割したいならば、そうする理論的な理由があることを確認しなさい。人々は中央値で分割しますが、それはあなたのデータにとって意味がないかもしれません。あなたのデータを聞いてください。
[1]各シミュレーションのnは20です。各レベルまたはエラーはそれぞれ1,000回シミュレートされました。連続モデルと二分モデルの両方を同じデータに対して実行し、陽性反応の数を記録した。詳細は添付のスクリプトにあります。PythonとRのバージョンは入手可能です。
[2]サンプルサイズを任意に大きくしても、それほど早くは起こらないことに注意してください。これは、どの程度の誤差があっても、それをn-1で割っているからです。nが任意の大きな数に近づくと、MSerrorはMSmodelに比べてかなり小さくなる可能性があります。TL; DRサンプルサイズが大きいほど、両方のモデルでパワーが0％になるまでの変動が大きくなります。
[3]権力の見直しについては、こちらをご覧ください
記事 。
