JMP および JMP Pro でのステップワイズ回帰法の導入JMP と JMP Pro を使用して、予測モデリングに適した重要な予測子を特定し、不要な項を推定することによって生じる分散を減らし、予測モデルを構築する方法をご覧ください。重要な変数とアクティブなモデル効果を見つけるために JMP ステップワイズ回帰を使用する方法と、そのアプローチを変数選択を自動的に組み込む JMP Pro 一般化回帰手法と比較する方法を示すケース スタディをご覧ください。
方法をご覧ください:
- ステップワイズ回帰法の基礎を理解する
- 因子選択を自動化するために段階的回帰オプションを選択する
- 分析 > モデルの適合 > パーソナリティ: 段階的
- 停止ルール/基準を設定する
- 前進、後退、または混合方向を設定する
- 前方選択では、p値が最も低い変数を選択し、それをモデルに追加し、停止基準が満たされるまでp値と停止基準を再計算します。
- 後方消去法では、最も高いp値を持つ変数を選択し、それをモデルから削除し、停止基準が満たされるまでp値と停止基準を再計算します。
- 停止基準としてp値を使用し、前方選択と後方排除を交互に行う混合法
- モデルを実行する
- 追加のステップバイステップオプションを使用する
- 代替停止ルール - KFold 検証 R2
- あらゆるモデルを構築して比較する
- 各モデルのAICc重みに基づいてモデル平均化を使用する
- JMP Pro 一般化回帰にステップワイズ法を実装して、変数選択、検証、相関因子を支援するペナルティ付き回帰、インタラクティブなモデル視覚化、モデルの比較、高次の項でのモデルの簡単な再起動を簡単に展開できます。
- ステップワイズ法と一般化回帰法の利点と限界を理解する
JMP Stepwise Regression FlowJMP Stepwise Regression FlowJMP Stepwise Regression FlowJMP Stepwise Regression FlowJMPステップワイズ回帰フロー
ライブ ウェビナーで Scott Allen @scott_allenと Byron Wingerd @Byron_JMPが回答した質問:
Q: AICc が BIC よりも優先される場合のガイドラインはありますか?
A: BIC は、最も少ない項を持つ最適なモデルを提供します。AICc は、最も多くの変動を説明するモデルを提供し、項の数によってペナルティが課されます。AICc の小文字の c は、修正済み (corrected) の略で、小さなデータ セットに対して修正済みであることを意味します。AIC は、未知の高次元の現実を最も適切に説明するモデルを選択しようとします。つまり、現実は、検討されている候補モデルのセットには決して含まれません。逆に、BIC は、候補セットの中から真のモデルを見つけようとします。
簡単に答えると、両方を実行して比較するか、2 つを取得して平均化することもできます。Stepwise プラットフォームには、これらを実行して比較し、グラフで結果を自動的に比較するためのツールがあります。場合によっては、目標によって異なります。より多くの用語があってもかまわないのか、それとも本当にこれを最小セットに減らしたいのかによって異なります。500 のデータ ポイントの例では、BIC が適していると思われます。
Q: オーバーフィッティングはどのようにチェックするのですか?
A: JMP で線形モデルを当てはめるだけの場合、ステップワイズを使用しても、過剰適合の問題を特定するのは少し難しくなります。JMP Pro では、テスト、トレーニング、検証サブセット (または、好みに応じて、少なくともテストとトレーニング) を設定し、R 平方を比較できます。したがって、トレーニング セットの R 平方が非常に優れていて、検証の R 平方が非常にひどい場合、データの当てはめはうまくいっているものの、将来の観察結果をあまり予測できないことを意味します。
Q: モデルには、合計 568 行の検証行もあります。モデルではこれらすべてを使用していますか、それとも保持していますか?
A: これらは検証のために保留されており、検証サブセットとして個別に評価されます。
Q: 以前の SAS Enterprise Miner では、「Ensemble」ノードのパフォーマンスが最も優れている場合が多かったです。複数のモデルを実行し、予測を保存して、それらの予測値をすべて単純に平均化することについてはどう思われますか?
A: JMP では、ニューラル ネット プラットフォームを使用してアンサンブル モデルを設定します。アンサンブル モデルは、通常、個別のモデルよりも優れたパフォーマンスを発揮する傾向があります。
Q: 相関関係のカラーマップはどうやって入手したのですか?
A: 赤い三角形の下にあるカラーマップのオプションを探します。
Q: 多重共線性をどのように検出し、処理しますか?
A: JMP のステップワイズ法だけでは多重共線性は処理されないため、事前にそれらを取り除いたり、クラスタリングを使用して代表的な変数を見つけたりする必要があります。JMP Pro の一般化回帰を使用している場合は、ペナルティ付き回帰法もこの問題に対処するのに役立ちます。したがって、この問題が本当に心配な場合は、一般化回帰が間違いなく最適な方法です。最小二乗モデルを構築して実行し、パラメータ推定値を確認できます。VIF 値が高い場合は多重共線性を示している可能性があります。以下のビデオをご覧ください。
高度な統計モデリングRe: JMP および JMP Pro でのステップワイズ回帰法の導入こんにちは@SeanL
Pic3 では、プロファイラーで「蝶ネクタイ」のように見える信頼区間は、いくつかの相関性の高い変数があることを示す良い指標です。ステップワイズ回帰では、モデルに対する各変数の影響を個別にチェックするため、相関のある変数が常に検出されるとは限りません。
これを確認するには、パラメータ推定値テーブルでテーブルを右クリックし、VIF 列を追加して VIF をチェックします。VIF 値が 10 を超える場合は、共線性が問題である可能性が高いことを示します。Statistics Knowledge Portal には、ここでわかりやすい概要があります。
図 4 では、変数の 1 つを手動で削除すると、この問題が解決されるようです。
すべての変数に対して多変量解析を実行して相関関係を確認し、モデリングに最も適した変数を選択できます。また、「相関データと高次元データの予測モデルの構築」に関する Mastering JMP ウェビナーも視聴できます。
Re: JMP および JMP Pro でのステップワイズ回帰法の導入ウェビナーをありがとうございました! また、Scott Allen にも感謝します。
それは素晴らしい学習であり、私はその新しい学習内容をすぐに自分のデータに適用したいと思いました。
新しく学んだ K フォルダー回帰法を適用したところ、さまざまな結果が得られました。
- このウェビナーセッションの前に Stepwise が行った元の回帰分析: ルール、方向などのデフォルト設定を使用して、最初に以下にリストされているモデル (図 1) に対して実行しました。p 値が 0.05 を超える項を削除し、さらに簡素化 (妥当な adj-R2 値内の削減項) することで、モデルをさらに絞り込みました。その結果に満足しています。
- このウェビナー後の同じステップワイズによる分析: ルールを「最大 K 分割 RSquare」に変更して分析を繰り返し、予備分析 (図 2) を取得しました。予備結果では、13 項の最大 R 値が最適であると示されていますが、モデルではそれほど多くの項は必要ないため、トレーニングと K 分割の両方で 5 ～ 6 項の R 値レベルで問題ありませんでした。そのため、表示されている 6 項の結果を選択し、モデルを実行しました。
ご覧のとおり、図3 のモデルには PValue >0.05 の項が含まれています。また、プロファイルでは、ほとんどの項の信頼度/分散レベルが非常に広くなっています。そのため、元のモデルと同様の R 値とモデルにするために AR 項を削除しました。ただし、元のモデルの「RV」は新しいモデルでは「Vol」項に置き換えられました。RV と Vol の 2 つの項は、同様の情報を伝えることができますが、まったく同じではありません。K 分割ルールが一方を他方よりも優先する理由はわかりません。
いずれにせよ、結果はモデリングの同様の方法で得られたため、元のモデルがそれほど悪くなかったことが確認できたので満足しています (トレーニングと検証のプロセスを別々に行う必要はありません。これは、データセットを 2 つのサブセット グループに分割し、1 つのグループをトレーニングに、もう 1 つのグループを検証に使用するという K 分割法について私が理解した方法です。正しいでしょうか?)
上記を 1 番目の質問とすると、2 番目の質問は次のようになります。
K-Fold 法は R2 が 0.947 とわずかに良い結果となりましたが、それでも私は元の結果である R2 が 0.942 であるほうを好みます。これは、K-Fold による新しい結果と比較して、このモデルでは Rad と RV の項のプロファイラーのモデリングにおける不確実性が少ないためです。K-Fold 法は、元のアプローチが十分でなかった場合、この種のモデル検証やそれ以上の検証に簡単に使用できます。
この特定の例では、R2 値に大きな差がなかったため、難しい決定ではありませんでした。
しかし、元のモデルでは R2 値が 0.1 低い (2 ～ 3 項少ない) が、予測プロファイラーでは分散がはるかに少ない場合 (元のモデルと Pic3 のモデルを比較した場合のように)、どちらのモデルの方が優れているでしょうか。
現在JMP 17を使用しています。
写真1: オリジナル分析
写真2: K分割ルールによる予備回帰
写真3: K-Foldによるモデル
写真4: K-Fold法による最終結果
Re: JMP および JMP Pro でのステップワイズ回帰法の導入アンサンブル モデルに関して、 @scott_allen は次のように書いています: 標準 JMP と JMP Pro でアンサンブル モデルを構築する方法は他にもあります。標準 JMP では、手動でモデルを平均化することができます (合計してモデル数で割ります)。JMP Pro では、モデルの比較プラットフォームを使用してさまざまなモデルをアンサンブルできます。また、 @Peter_Hershによる 2021 アンサンブル モデルのプレゼンテーションもご覧ください。
