相関変数を使用した重回帰こんにちは、みんな、
重回帰に関して助けが必要です。助けていただければ幸いです。 前もって感謝します ：）
一言で言えば、ここに問題があります–
- 連続した Y と 16 個の X があります
- 多変量解析を実行すると、いくつかの用語が相関していることがわかります。 たとえば、X1 と X2 は相関しており、そのうちの 1 つしか使用できません
- ただし、X2 よりも X1 を任意に選びたいと思います。 したがって、私が今行っていることは、最初に X1 で回帰を実行し、次に X2 で回帰を実行することです。 次に、モデルをこれらの用語と比較します。 しかし、実行する必要がある組み合わせの数が多すぎて、手動で行うと非常に時間がかかり、ミスが発生しやすくなります。
- これを解決するよりスマートな方法があるかどうかを確認したかった。
- これは、ある種のループでこれを実行するスクリプトを作成し、その基礎となる最適なモデルを強調表示することで解決できることを知っています。
- ただし、スクリプトを作成する知識はありません。
- 他のヒント、トリックも素晴らしいでしょう！ (私はJMP Proを持っていません)
お待ちしております。
よろしくお願いします、
ヴィプル
DOE他のスクリプティングRe: 相関変数を使用した重回帰どうもありがとう@David_Burnham ! ご感想大変参考になりました、ありがとうございます。 とても有難い。
よろしくお願いします、
ヴィプル
Re: 相関変数を使用した重回帰ありがとう@スタットマンあなたの考えを共有するため。 これはとても役に立ちました。 とても有難い ：）
よろしくお願いします、
ヴィプル
Re: 相関変数を使用した重回帰もう一度ありがとう、ビクター。 とても参考になるご意見でした。 Stepwise Regression と PCA アプローチを試してみましたが、それはすでに大いに役立っています。
もう一度ありがとう。
よろしくお願いします、
ヴィプル
Re: 相関変数を使用した重回帰やあ@vipul 、
モデルが異なれば、多重共線性に対処するためのアプローチや方法も異なります。
X1 と X2 が他の予測変数との間で高度に相関する予測変数のペアであると考えると、モデルは異なる反応を示します。
- ステップワイズ回帰アプローチ (またはデシジョン ツリー) を使用すると、モデルは相関性の高い予測因子をモデルから削除し、最も有益な予測因子のみを保持します。 あなたの場合、X1またはX2のみになります（どちらが最高のモデリング/パフォーマンスを提供するかによって異なります）。
- ランダム フォレスト (または JMP の予測子スクリーニング) アプローチでは、各ツリーの予測子のサブセットを使用して、いくつかの決定ツリーが構築されます。 つまり、X1 と X2 は同数の予測子サブセットでテストされるため、モデルで選択される可能性は同じになります。 どちらがより多くの情報をもたらすかに応じて、2 つの予測子のうちの 1 つが他の予測子よりも特徴の重要性 (モデルへの寄与) が高くなりますが、2 つがモデルで考慮される場合があります。
- PLS/PCA アプローチでは、予測子の数を無相関予測子のより小さなサブセットに減らすため、ほとんどの予測子情報を保持します (保持する主成分の数によって異なります)。 入力は変換/結合され、相関がありません (X1 と X2 の組み合わせとして新しい X' が作成される場合があります)。
選択する方法は、モデルで得られるパフォーマンスによって異なりますが、さらに重要なことは、トピックに関するドメインの知識によって異なります。 モデリングが異なれば、異なる予測因子の有意性または重要性に関する異なる説明と異なる仮説が導かれる可能性があるため、ドメインの知識は、最も適切で合理的なモデルを選択するためのガイドとなるはずです。
お役に立てば幸いです。
Re: 相関変数を使用した重回帰David はいくつかのプラットフォームを試してみました。 結合は統計的手順ではなく、工学的/科学的手順です。
架空の例を挙げましょう。
輪ゴムを使用して発射体を発射できる距離 (Y = 距離) に影響を与える要因を特定しようとしていると想像してください。 関心のある多くの変数 (発射体の質量、発射体の形状、発射角度、周囲の気流、放出技術など) のうちの 2 つを以下に示します。
1. X1 = 輪ゴムを伸ばした長さ
2. X2 = 輪ゴムの幅を変えることで変化する「ばね定数」
これら 2 つの変数は、データ セット内で相関しているように見え、どちらもシステムに供給されるエネルギー量に直接影響します (仮説)。 実験でそれらを独立変数として扱う代わりに、次のもので構成されるレベルを持つ 1 つの因子にそれらを組み合わせることができます。
- = 短い丈のストレッチと狭い幅のバンド
+ = 長めのストレッチと太い幅のバンド
そして、この「複合要因」を実験で他の多くの要因と比較しました。 この要因が重要であると思われる場合は、その後の実験を実行して、最も効果的に管理する方法をさらに理解することができます。システムへのエネルギー(これは新しい応答変数になります)。
Re: 相関変数を使用した重回帰参考までに、すべての X に一度に 1 つずつフィッティングするために説明した手順は、回答スクリーニングAnalyze> Screening の下にあるプラットフォーム。
Re: 相関変数を使用した重回帰また、クラスター変数Analyze>Clustering の下のユーティリティ。相関する X は同じクラスターに配置されます。次に、クラスタごとに、回帰に含める「代表変数」を選択できます。赤い三角形の「ローンチ フィット モデル」オプションもあります。
Re: 相関変数を使用した重回帰やあ@スタットマン、
あなたの視点を共有するために時間を割いていただきありがとうございます。 複数の相関 X を組み合わせる方法について詳しく教えてください。
よろしくお願いします。
よろしくお願いします、
ヴィプル
Re: 相関変数を使用した重回帰やあ@ビクター_G
お時間を割いてご回答いただきありがとうございます。 すぐに予測スクリーニング モジュールを使用するようにします。 それがいくつかの手がかりを与えることを願っています。
ただし、(たとえば) X1 と X2 が最も可能性の高い予測因子として再び登場するため、これで多重共線性の問題が解決すると思いますか?
Re: 相関変数を使用した重回帰ここに私の考えがあります：統計的手順はありません選ぶ多重共線性が存在する場合にどの因子を研究に含めるか。 決定は、SME (対象分野の専門家) によって行われる必要があります。 これに影響を与える可能性のあるものには、次のものがあります。
1. X の管理の容易さまたはコスト
2. 含めるかどうかの科学的根拠 (仮説) (データが得られた後に開発するのではなく、予測することをお勧めします)
3. 他の Y への影響
さて、あなたができることは他にもあります：
1. 相関する x を 1 つの X に結合する
2.代替応答変数を開発する
3.科学的関係を曇らせる可能性がありますが、さまざまな変換（PCAなど）を試してください
4. 要因について実験を行う
Re: 相関変数を使用した重回帰こんにちは@vipul 、
JMP は、最小の BIC/AICc または p 値のしきい値を持つモデルを作成する傾向がある変数を使用しようとするため、プラットフォームの「Fit Model」で「Stepwise」パーソナリティを使用することは、おそらくニーズに対応します。 プラットフォームの赤い三角形をクリックすると、「すべての可能なモデル」をテストするオプションもあります。ここでは、モデルの項 (因子) の最大数と、表示する最適なモデルの数を指定する必要があります。 次に、JMP は、テストされたすべてのモデル、各モデルの項数、R²、RMSE、AICc、および BIC を含む表を提供します。興味深いモデルが見つかった場合は、テストされたモデルのいずれかを実行できます。
ただし、データセットの多重共線性の問題を考えると、これは良い考えではないと思います。 JMP と相関性の高い変数を含むデータセットがある場合は、説明可能性や予測可能性に関心があるかどうかに応じて、次のオプションを試すことができます。
- 「予測因子スクリーニング」(分析 -> スクリーニング) を使用して、応答にとって最も重要な変数を見つけます。 n 個の最も重要なものを選択し (しきい値 n、保持する重要な変数の数は、ドメインの専門知識に応じて、または「上位 5 つの予測変数が必要です」などの任意のしきい値を変更できます)、[選択したものをコピー] をクリックしてから、コピーした変数を使用して回帰モデル (モデルの適合) を実行します。
- 主成分分析を使用して、最初の 16 個の X を、初期情報のほとんどを含む下位の独立変数セットに減らします。 次に、元の X の代わりに主成分を使用して回帰モデルを試してください。
- 偏最小二乗法 (分析 -> 多変量 -> 偏最小二乗法) を使用して、相関変数を持つモデルを作成します。
これらのオプションは、考えられるすべてのモデルに適合させようとして、R²またはその他のメトリックに応じて最適なモデルを選択するよりも、より堅牢で信頼できると思います。情報。
他にも多くのオプションがありますが、JMP Pro で利用できます (たとえば、ペナルティ付き回帰モデル手法を使用)。
これらの最初の 3 つのオプションは、すでに役に立っていると思います 
