段階的な違い|すべての可能なモデルと一般化された回帰|最高のサブセットこんにちは、私はステップワイズ-すべての可能なモデルの推定と一般化された回帰-最良のサブセットの推定方法の使用の違いが何であるかを知りたかっただけです。応答が正規分布している場合、それらは同等の結果を生成するはずであるように私には思えます。私はJMP1432ビットを使用していますが、メモリの制限により、すべての可能なモデルよりも、ベストサブセットを使用してより大きな最大効果を実行できることがわかりました。
Re:段階的な違い|すべての可能なモデルと一般化された回帰|最高のサブセット@P_Bartellアドバイスありがとうございます!
Re:段階的な違い|すべての可能なモデルと一般化された回帰|最高のサブセット補足するためにいくつかの追加の考えを追加します@Mark_Baileyの賢明なアドバイス。 複数のモデルフィッティングアルゴリズムを使用している場合は、通常、ある種のモデル交差検証スキームを使用することがベストプラクティスです。 したがって、他の理由がない場合、選択された相互検証シナリオのタイプが異なる場合、結果が異なる可能性があります。 これらのメソッドの一部には「ランダム」コンポーネントがあるため、モデルの適合に使用される正確なデータは、モデリングメソッドのパスごとに異なる場合があります。
また、Generalized Regressionプラットフォーム内には、いくつかのモデリングパーソナリティがあります。 答えは、選択した性格によって少し異なります。 これらのパーソナリティのいくつかは、予測の分散を最小化するためのバイアスのトレードオフで、(従来の通常の最小二乗回帰と比較して)「パラメーター推定値のわずかなバイアス」と呼ぶものを考慮に入れています。 テーマ的には、おそらく一貫した実用的な結論に到達する必要があります...しかし、特定のパラメーター推定値、予測分散などに至るまでの結果で完全一致を探している場合は、違いがあります。
実際には、多くの異なる線形および非線形(回帰/分類ツリーなどの方法を考えてください)の方法をフィッティングするとき、複数のモデリング方法を比較するとき、私はすべての方法にわたって実際的な結論の合理性と一貫性を探します。 JMP Proのモデル比較プラットフォームは、これらの比較を行うための非常に効率的なワンストップショッピングハブです。 これにより、私が到達している実際的な結論が私にできる最善の方法であるという自信が高まります。
Re:段階的な違い|すべての可能なモデルと一般化された回帰|最高のサブセット答えてくれてありがとう。私はそれをよく説明しているこのPDFを見つけました: GRプラットフォーム
Re:段階的な違い|すべての可能なモデルと一般化された回帰|最高のサブセットステップワイズ回帰は、順方向、逆方向、または混合方向のパスをたどります。 現在のモデルと候補用語に基づいて、単一の用語でモデルを変更することを検討します。 したがって、最良のモデルが訪問されなかった可能性があり、これが発生する可能性は、候補用語の数とともに増加します。 このアプローチにより、ほとんどの実際的な状況で考えられる多くの用語を検討できます。
一方、すべての可能なモデルオプションは、可能なすべてのモデル指定した複雑さまで。 使用可能なメモリと時間によって、考慮できる用語の実際の数が制限される場合があります。
Generalized Regressionオプションは、その中間にあります。 ヘルプからの説明は次のとおりです。
最良のサブセット各ステップでモデル内のアクティブな効果の数を増やすことにより、パラメーター推定値を計算します。 各ステップで、モデルはすべての可能なモデルから選択され、ステップ番号によっていくつかの効果が与えられます。 ソリューションパスプロットの横軸の値は、モデル内のアクティブな効果の数を表します。 ステップ0は、切片のみのモデルに対応します。 ステップ1は、アクティブなエフェクトを1つだけ含むモデルの最良のモデルに対応します。 手順は、モデル起動レポートの詳細コントロールで指定された最大効果数の値まで続きます。 「高度な制御」を参照してください
309ページ。ヒント:最良のサブセット推定方法は、計算量が多くなります。 大きな問題にはお勧めしません。
この説明がお役に立てば幸いです。
したがって、これらすべての方法から必ずしも同じモデルが得られるとは限りません。すべての場合に同じ分布を使用すると仮定すると、分布は結果とは関係ありません。
これらの方法はモデルの選択に役立ちます。 なしそれらの中で、それが最良のモデルを見つけることを保証します。