ロジスティック回帰とモデル削減 - モデル フィッティング結果の不一致私は使用しています一般化回帰プラットフォーム二項分布ロジスティックモデルに適合させてから実行しますモデル選択(例: ベスト サブセット - AIC) を使用して、モデルの複雑さを軽減します。
モデルが縮小されたら、アクティブな用語のみで再起動します、まったく同じプラットフォーム - 二項分布による一般化回帰を使用して、同じ係数と予測で、削減されたものとまったく同じ適合モデルを取得する必要があります。
それでも、2 つのプロファイラーを比較すると、わずかに異なる予測値が得られ、極端に異なる予測間隔.
なぜこれが起こっているのか説明できますか？
また、2 つの適合のうち、どちらを信頼する必要がありますか?
ありがとう！
Re: ロジスティック回帰とモデル削減 - モデル フィッティング結果の不一致こんにちは。
この不一致の理由は、2 つのモデルがパラメーター推定値の共分散に異なる推定量を使用しているためです (これは標準誤差に影響します)。 Zou 2006 および Huber and Ronchetti 2009 で説明されているように、変数選択 (Lasso、FS など) を行うときはいつでも、サンドイッチ行列を使用します。
Zou, H. (2006)。 「適応なげなわとその Oracle プロパティ」。アメリカ統計学会誌 101:1418–1429。
フーバー、PJ、およびロンケッティ、EM （2009）。 堅牢な統計。 第2版ジョン・ワイリー＆サンズ.
ロジスティック/二項近似のような MLE を実行するときは常に、通常のフィッシャー情報行列が使用されます。 ステップワイズ回帰を使用して到達した縮小モデルについては、二次結果を使用しても問題ないと考えています (信頼区間が小さい)。
これが役立つことを願っています！
ありがとう、
アダム・モリス
JMPテクニカルサポート
