こんにちは、
もっと経験のある人が光を当てることができるかどうか疑問に思っていた簡単な質問があります。
OLSは必ずしも正規性の仮定を必要としないことを私は知っていますが、残余の正規性は最小分散の不偏推定。
Fit Modelプラットフォームの最小二乗法を使用して、3つの独立変数を使用して連続応答にモデルを適合させようとしました。 このモデルのRadjは約0.45で、残差プロットは明確なパターンを示しました。
次に、連続応答の分布を確認したところ、正常とはかけ離れていることがわかりました。
一般化回帰(ラッソ)と正規応答分布を使用しても、モデルは約0.45の一般化Rsquareにつながりました。 ただし、指数応答分布に切り替えると、Rsquareは0.84に増加しました。
最小二乗法で応答の正規性が必要ない場合、そのような違いを説明できるのは何でしょうか。
ありがとうございました!
ちなみに、この資料を見つけました( https://community.jmp.com/kvoqx44227/attachments/kvoqx44227/discovery-2019-content/28/1/glmTalkTucson.pdf)ここで、エラー(および応答)が正常であると仮定すると、作業がはるかに楽になります。 ただし、このリンクでは( https://www.jmp.com/en_us/statistics-knowledge-portal/what-is-regression/simple-linear-regression-assumptions.html) 、エラーの正常性についてのみ説明します。
では、JMPで応答の正常性が想定されているかどうかわかりませんか?
もしそうなら、なぜ応答の正常性は「人生をずっと楽にする」のでしょうか?
通常の最小二乗回帰は、応答の分布に関して特別な場合として扱われることがよくあります。 なので@Thierry_S説明したように、エラーが正規分布していると仮定して、通常、残差(推定エラー)に対処します。 条件付き分布として説明することもできます:Y〜Normal(平均=予測Y = f(X)、分散)。 したがって、線形回帰モデルで説明されているように、平均YはXとともに変化しますが、Yの分散は一定であるか、応答とは無関係です。 言い換えると、応答は、任意の平均応答(予測)に対して正規分布のエラーを示します。
私はそれを言わないでしょう「 OLSは必ずしも正常性を必要としません。 「」
条件付き分布が正規でない場合、正規性の仮定とOLSはモデルの質を低下させます。 したがって、指数分布は、あなたの場合の正規分布よりも分散のモデルであるように見えます。