モデル: 高 VIF は常に問題になりますか?状況は次のとおりです。X の 25 個のパラメーターを使用して、特定の Y を表現するモデルを構築しようとしています。 私のパラメーター X からのすべてのデータは、最大の情報を取得するための周波数スキャンとして、25 の周波数 (my X) を使用して 1 つのサンプルを分析する同じ単一の技術によって与えられます。 つまり、Y データごとに 25 個の X があります。
しかし、問題は、モデルを構築するときに巨大な VIF を取得することです。パラメーター X は本質的に同じテクノロジーの周波数であるため、本質的に共線的であるため、同じように進化します...
そして、私が学んだように、つまり最高の VIF に基づいて各パラメーターを 1 つずつ削除すると、最終的に 1 つの周波数が残り、スキャン技術のすべての関心が失われます。
その特定のケースでは、モデルはこれらの共線性によって本当に偏っていますか、それとも信頼できますか?
@アレックスベック多分？
Re: モデル: 高 VIF はすべての場合に問題になりますか?@マーティンデメル休暇から戻った後、これを調べてもらえますか？
Re: モデル: 高 VIF はすべての場合に問題になりますか?大丈夫 ！ 私はそれをすべて試して、何が見つかるか見ていきます。 どうもありがとう ！Re: モデル: 高 VIF はすべての場合に問題になりますか?絶対。 モデル内のすべてがまったく問題ありません: 外れ値は、スチューデント化された残差、調整済みのチェッカーでした。 R2は非常に細かいなど... VIFだけがおかしいRe: モデル: 高 VIF はすべての場合に問題になりますか?言及するのを忘れていましたが、高 VIF について話すときは、数百、数千のスコアを意味していました... それでも分散がそれほど高くない場合、そのような値を許容できますか?
PLS については以前にも触れましたが、試してみます。
残念ながら、私は JMP Pro を持っていません...Re: モデル: 高 VIF はすべての場合に問題になりますか?そのツールが Functional Data Explorer であるかどうかはわかりません。このヒントに感謝します。
実際、私の 25 の周波数すべての中で、私の Y を説明するのに本当に関連するものはごくわずかです。 そうしないと、18 個の非有意パラメータと 6 個の有意パラメータのみを持つモデルが得られます... それは本当に意味がありますか？
私もPLSを確認します。それは本当に良い考えです。ありがとうございます。Re: モデル: 高 VIF はすべての場合に問題になりますか?十分に明確だった場合は申し訳ありません。もう一度試してみましょう。
これは正確に 25 レベルの X ではありませんが、同じテクノロジーに由来する 25 の異なる X です。 テクノはさまざまな周波数をスキャンし、それぞれに 1 つの値を与えます。それが私の X です。
そして、私が高いVIFについて言及しているとき、私は数百、数千のスコアについて話している.Re: モデル: 高 VIF はすべての場合に問題になりますか?この状況で使えるテクニックはたくさんあります。リッジ回帰やニューラル ネットなどの正規化されたモデルは、共線性をかなりうまく克服できます。また、主成分などの次元削減手法を使用して、成分スコアで回帰を行うこともできます。
Re: モデル: 高 VIF はすべての場合に問題になりますか?マークが示すように、「経験則」は常に注意して使用する必要があります。 適切なモデルを構築するには、いくつかの方法があります。テクニック使用される (例えば、仮定の評価 ( NID(0, s 2 ))) 、R-square-R-square Adj、外れ値のテスト、残差分析など) のうち、VIF は 1 つだけです。
Re: モデル: 高 VIF はすべての場合に問題になりますか?VIF の一般的な「経験則」を見てきました。10 未満が適切で、10 を超えると不適切です。 残念ながら、この規則は役に立たないので、従うべきではありません。
一般に、許容可能な VIF は、パラメーター推定値の相対的なサイズと応答分散に依存します。 応答の変化が大きく、分散が小さい場合は、非常に大きな VIF を許容できます。 一方、応答の変化が小さく、分散が大きい場合、小さい VIF は多すぎる可能性があります。
別の回帰方法を使用していただけないでしょうか。 たとえば、PLS は、X が波長や分子量などの一部のスペクトルのドメインである場合に非常に効果的です。 これらの X は高度に相関しています。 PLS 回帰モデルは、共線性で不利になるのではなく、この情報を利用します。
JMP Pro をお持ちの場合は、X を機能データとして扱い、機能主成分を保存することもできます。 これらの FPC は、Y の回帰モデルで X の代わりに使用されます。
どう思いますか？
Re: モデル: 高 VIF はすべての場合に問題になりますか?これは、Functional Data Explorer を実際に使用したいように思えます。 Y ごとに、プロファイルを定義する周波数の範囲があります。 それこそが、機能データ エクスプローラーが分析するものです。
ただし、回帰を使用する場合、完全なモデル (モデル内のすべての X を持つモデル) から項を削除せず、モデルのみを使用することに関心がある場合、高 VIF は実際にはそれほど問題にはなりません。予測のために。
どの周波数が最も重要であるか (VIF の高い重要でない用語を削除することによって) に関心があるように思われるため、VIF が高いために問題が発生するリスクは依然としてあります。 回帰に固執する場合は、おそらくあなたのアプローチが最適ですが、VIF が高いということは、パラメーター推定値の分散が膨らんでいることを意味することに注意してください。 これは、パラメータの推定値が非常に不安定であることも意味します。 モデルから 1 つの X を削除すると、パラメーター推定値と他のパラメーターの有意性検定が劇的に変わる可能性があります。 最終的に得られるモデルは最適ではない可能性があります。
これらのプロファイルの重要な機能を特定する必要がある場合は、機能データ エクスプローラーを参照してください。 それができない場合は、多重共線性を処理するように設計されたモデリング手法を検討する必要があります。 PLS または PCR は、そのような手法の 2 つにすぎません。
Re: モデル: 高 VIF はすべての場合に問題になりますか?私はその問題を完全には理解していないと思います。 1 つの X (周波数) のレベルが 25 あるように聞こえます...モデルに X が 1 つしかないモデルを作成していますか? かなり複雑な非線形モデルを推定するには多くの自由度がありますが、方程式には予測子が 1 つしかありません。
高い VIF (>10 過剰、>5 を評価する必要があります) は、モデルを再評価する必要があることを示しているだけです (モデルの有用性は誇張されている可能性があります)。 はい、それは多重共線性の尺度ですが、高い値が必ずしも共線性を示すとは限りません。 これを理解して適切に補うには、通常、対象分野の専門知識が必要です。
