無料のオンライン コースで詳細をご覧ください:
産業問題解決のための統計的思考
このビデオでは、JMP Pro で一般化回帰を使用してペナルティ付き回帰モデルを適合する方法を示します。 ファイル Bodyfat 07.jmp を使用し、検証付きなげなわを使用して %Fat のモデルを適合させます。
まず、%Fat の線形回帰モデルを当てはめます。
これを行うには、「分析」メニューから「モデルの適合」を選択します。 Y ロールとして %Fat を選択し、モデル効果としてすべての予測子を選択し、検証ロールで検証列を使用します。
次に、「性格」のメニューから「一般化回帰」を選択します。
デフォルトの応答分布は「正規」です。このモデルを正規分布で実行します。
標準的な最小二乗回帰モデルを当てはめたことがわかります。 パラメーター推定値テーブルを見ると、予測変数のうち 3 つが有意であることがわかります。
ただし、多重共線性に問題があるかどうかを確認するために、VIF、つまり分散膨張係数を見てみましょう。
これを行うには、パラメータ推定テーブルを右クリックし、[列]、[VIF] の順に選択します。 これらの値の多くは 10 より大きく、そのうち 2 つの値は 100 より大きいことがわかります。 これは、これらのデータには多重共線性が実際に問題であることを示しています。
相関予測変数がある場合は、最小二乗回帰の代わりにペナルティ付き推定方法を使用できます。
デフォルトの方法はなげなわです。これは最小絶対収縮と選択演算子の略です。 なげなわは、パラメータ推定値を縮小するペナルティを適用します。 なげなわは推定値をゼロに縮小できるため、変数の選択にも使用できます。
なげなわには多くのオプションが使用できますが、デフォルトでモデルを実行します。
モデルを指定するときに検証列を使用したため、検証列がデフォルトの検証方法になります。
「Go」をクリックしてこのモデルを実行します。
なげなわによって選択された最適なモデルが表示されます。 これは、ペナルティ パラメーター Lambda の最適値を持つモデルです。
モデル内のすべての項から始めましょう。 これは最小二乗モデルと同じです。 これを行うには、パラメーター推定の解パス内の赤い線を右端までドラッグします。
解のパスは、中心化されスケーリングされたパラメーター推定値の大きさを示します。 これらの推定値を表示するには、モデルの赤い三角形から [回帰レポート] を選択し、次に [中心化された予測子とスケール化された予測子のパラメーター推定値] を選択します。
一番上の行は腹部のパラメータ推定値で、117.87 です。
上から2行目はBMIです。 この推定値は 88.9 です。
赤い線を右から左にドラッグすると、ペナルティ パラメータ Lambda の値が増加します。 これを行うと、パラメータ推定値の多くが小さくなることがわかります。 つまり、縮んでしまうのです。
たとえば、BMI の推定値は 88.9 から 51.25 に減少しました。 体重のパラメータ推定値はゼロまで減少しました。 この項はモデルから削除されます。
ここで、大きなペナルティが適用されました。 身長と腹部以外はすべてモデルから削除されています。
モデルからの項の削除を停止する時期をどのように決定しますか? つまり、ペナルティパラメータの最適値をどのように決定するのでしょうか?
このモデルは検証列を使用して構築されたため、JMP ではスケーリングされた負の対数尤度という統計が使用されます。
モデルはトレーニング セット内のデータを使用して構築されます。 最良のモデルは、検証セットのスケーリングされた負の対数尤度の最小値を持つモデルです。
このモデルにはいくつかのパラメータが含まれています。 体重、BMI、大腿部、膝の推定値はモデルから削除されています。
この縮小モデルを見てみましょう。 これを行うには、モデルの赤い三角形から [予測式の表示] を選択します。
パラメーター推定値は、重線形回帰モデルを当てはめた場合と同様に、線形モデルの単なる係数です。
これにより、ペナルティ付きモデルの解釈と説明が容易になります。
1000ありがとうございます！
実践的な授業はとても役に立ちました。
幸運をお祈りしています、
マネル
