JMP と JMP Pro を使用して、予測モデリングに適した重要な予測子を特定し、不要な項を推定することによって生じる分散を減らし、予測モデルを構築する方法をご覧ください。重要な変数とアクティブなモデル効果を見つけるために JMP ステップワイズ回帰を使用する方法と、そのアプローチを変数選択を自動的に組み込む JMP Pro 一般化回帰手法と比較する方法を示すケース スタディをご覧ください。
方法をご覧ください:
- ステップワイズ回帰法の基礎を理解する
- 因子選択を自動化するために段階的回帰オプションを選択する
- 分析 > モデルの適合 > パーソナリティ: 段階的
- 停止ルール/基準を設定する
- 前進、後退、または混合方向を設定する
- 前方選択では、p値が最も低い変数を選択し、それをモデルに追加し、停止基準が満たされるまでp値と停止基準を再計算します。
- 後方消去法では、最も高いp値を持つ変数を選択し、それをモデルから削除し、停止基準が満たされるまでp値と停止基準を再計算します。
- 停止基準としてp値を使用し、前方選択と後方排除を交互に行う混合法
- モデルを実行する
- 追加のステップバイステップオプションを使用する
- 代替停止ルール - KFold 検証 R2
- あらゆるモデルを構築して比較する
- 各モデルのAICc重みに基づいてモデル平均化を使用する
- JMP Pro 一般化回帰にステップワイズ法を実装して、変数選択、検証、相関因子を支援するペナルティ付き回帰、インタラクティブなモデル視覚化、モデルの比較、高次の項でのモデルの簡単な再起動を簡単に展開できます。
- ステップワイズ法と一般化回帰法の利点と限界を理解する
JMP Stepwise Regression FlowJMPステップワイズ回帰フローJMPステップワイズ回帰フロー
ライブ ウェビナーで Scott Allen @scott_allenと Byron Wingerd @Byron_JMPが回答した質問:
Q: AICc が BIC よりも優先される場合のガイドラインはありますか?
A: BIC は、最も少ない項を持つ最適なモデルを提供します。AICc は、最も多くの変動を説明するモデルを提供し、項の数によってペナルティが課されます。AICc の小文字の c は、修正済み (corrected) の略で、小さなデータ セットに対して修正済みであることを意味します。AIC は、未知の高次元の現実を最も適切に説明するモデルを選択しようとします。つまり、現実は、検討されている候補モデルのセットには決して含まれません。逆に、BIC は、候補セットの中から真のモデルを見つけようとします。
簡単に答えると、両方を実行して比較するか、2 つを取得して平均化することもできます。Stepwise プラットフォームには、これらを実行して比較し、グラフで結果を自動的に比較するためのツールがあります。場合によっては、目標によって異なります。より多くの用語があってもかまわないのか、それとも本当にこれを最小セットに減らしたいのかによって異なります。500 のデータ ポイントの例では、BIC が適していると思われます。
Q: オーバーフィッティングはどのようにチェックするのですか?
A: JMP で線形モデルを当てはめるだけの場合、ステップワイズを使用しても、オーバーフィッティングの問題を特定するのは少し難しくなります。JMP Pro では、テスト、トレーニング、検証サブセット (または、好みに応じて、少なくともテストとトレーニング) を設定し、R 平方を比較できます。したがって、トレーニング セットの R 平方が非常に優れていて、検証の R 平方が非常にひどい場合、データの当てはめはうまくいっているものの、将来の観察結果をあまり予測できないことを意味します。
Q: モデルには、合計 568 行の検証行もあります。モデルではこれらすべてを使用していますか、それとも保持していますか?
A: これらは検証のために保留されており、検証サブセットとして個別に評価されます。
Q: 以前の SAS Enterprise Miner では、「Ensemble」ノードのパフォーマンスが最も優れている場合が多かったです。複数のモデルを実行し、予測を保存して、それらの予測値をすべて単純に平均化することについてはどう思われますか?
A: JMP では、ニューラル ネット プラットフォームを使用してアンサンブル モデルを設定します。一般的に、アンサンブル モデルは個々のモデルよりも優れたパフォーマンスを発揮する傾向があります。
Q: 相関関係のカラーマップはどうやって入手したのですか?
A: 赤い三角形の下にあるカラーマップのオプションを探します。
Q: 多重共線性をどのように検出し、処理しますか?
A: JMP のステップワイズ法だけでは多重共線性は処理されないため、事前にそれらを取り除いたり、クラスタリングを使用して代表的な変数を見つけたりする必要があります。JMP Pro の一般化回帰を使用している場合は、ペナルティ付き回帰法もこの問題に対処するのに役立ちます。したがって、この問題が本当に心配な場合は、一般化回帰が間違いなく最適な方法です。最小二乗モデルを構築して実行し、パラメータ推定値を確認できます。VIF 値が高い場合は多重共線性を示している可能性があります。以下のビデオをご覧ください。
