やあ@ヘレナG
ご質問ありがとうございます。 Predictor Screening は素晴らしいツールだと思いますので、お役に立ててうれしいです。 個別の質問に答える代わりに、この分析で何が起こっているのかをもう少し詳しく説明させてください。
予測子スクリーニング分析では、ブートストラップ フォレスト パーティション モデル (デフォルトの 100 個のデシジョン ツリーを使用) を実行し、モデルへの寄与に基づいて予測子をランク付けします。 つまり、ブートストラップ フォレスト分析では、多くのデシジョン ツリーを平均化しています。 ツリーを作成するには、ブートストラップ観測値のサンプルを取得し、予測子のランダムなセットを使用して分割を行うことでモデルを再帰的に適合します。 これは、停止ルールが満たされるまで続きます。 次に、ブートストラップされた観測値とランダムな予測子分割の新しいセットを使用して別のツリーが作成されます。 すべてのツリーが作成されると、それらは平均化されてツリーの「フォレスト」になります (これが名前の由来です)。
予測子スクリーニング出力に戻ると、寄与列は連続数値応答の二乗和とカテゴリ応答の G^2 を提供します。 部分列は、個々の予測子の寄与をすべての寄与の合計で割ったものです。 これは、個々の予測変数によって説明される分散と同じではありません。
これらのプラットフォームについて詳しく知りたい場合は、次の記事を読むことをお勧めします。パーティションモデルとブースストラップの森概要についてはドキュメントを参照してください。
-スコット
やあ@ニックシェルトン
あなたのこのプレゼンテーションのおかげで、私は Predictor スクリーニングを使用していますが、その結果には本当に満足しています。 このプラットフォームに関して、次の点についての深い専門知識をお伺いします。
1. 予測因子スクリーニングの JMP 結果に表示される部分はどのように計算されますか? つまり、Bootstrap Forest (BF) の観点から、この部分は何を意味し、具体的な値はどのように達成されるのでしょうか? (これを使用して科学論文を書いているので、この詳細が必要になります)。
2. 解釈という点では、その部分は予測子によって説明される応答 (収量) の変動のパーセンテージを説明していると理解しました。 これは正しいです?
3. まだ予測子スクリーニング プラットフォームにいますが、「貢献列」とは何を意味しますか?BF アルゴリズムではどのように計算されますか?
よろしくお願いします、ニック!
ニック・シェルトン@ニックシェルトン、JMP SE マネージャーが過去にこのトピックを提示し、古いビデオを廃止しました。視聴者へのコメントをお借りしました@ヘレナGこのビデオと JMP SE のスコット・アレンによる Q&A を見ている人に関係があるかもしれないからです。 @スコット・アレンとバイロン・ウィンガード@バイロン_JMP :
ヘレナはこう尋ねました。
次の点をよりよく理解したいと思います。(応答スクリーニングと段階的回帰ツールを使用した) インタラクションの特定と評価に関連するすべてのステップは、線形の仮定に基づいています。これは正しいですか? 「はい」の場合、非線形相互作用をチェックするための提案はありますか?
ニックはこう書きました:
T相互作用の特定は、その分野の専門知識と分析対象の変数の既知の科学的/物理的理解を介して行うのが最適です。
変数間の交互作用がよく理解されていない場合、フィット モデルの「応答スクリーニング」モデルの個性は、個々の交互作用項と応答変数の間の強さを定量化するのにうまく機能します。
モデルの適合における「段階的回帰」モデルの特性は、潜在的なモデルに使用する最適な項の組み合わせ (例: 主効果、交互作用など) を特定するのに適しています。
「線形」モデルという用語は、モデルの式がどのように構成されているかを指しますが、モデルの適合における「応答スクリーニング」と「段階的回帰」の両方のモデルの特性を使用して、非線形の関係を調査することもできます。
多項式項を追加することで、非線形効果と相互作用を解析に含めることができます。
モデルのフィットでは、モデル効果ボックスに対応する項を追加することで、任意の多項式関係 (非線形) を調べることができます (例: 二次関係 (x1*x1)、三次関係 (x1*x1*x1)、二次相互作用 (x1*) x1*x2)...)
多項式の詳細と、多項式が変数間の関係を理解するのにどのように役立つかについては、以下の簡単なビデオをご覧ください。
https://community.jmp.com/t5/Short-Videos/Fitting-Polynomial-Models/ta-p/271953
簡単な統計手法を使用して、高性能の予測モデルを構築し、追加の洞察を明らかにする前段階として、データ内の重要な変数と相互作用を特定する方法をご覧ください。
https://www.youtube.com/watch?v=8ENEPPHMphI
方法を参照してください:
- 重要な変数の ID を開始する前に考慮すべき前提条件を理解する
- Column Viewer を使用したデータのクリーンアップと準備
- 「欠損値の探索」、「外れ値の探索」、「パターンの探索」を使用して、外れ値と欠損データを識別し、処理する方法を決定します。
- データセットが研究を計画しているシステムを最適に表現していることを確認してください<
- 列ヘッダーとグラフ ビルダーの分布を使用してデータを調査し、傾向を視覚化します
- 多変量解析を実行して ID を取得する相関変数
- 応答スクリーニングを使用して、応答に影響を与える最も重要な変数を特定します
- 予測子スクリーニング (決定木法) を使用して、応答を予測する際の多くの要素をテストします。
- 多変量解析を使用して相関性の高い変数を特定する
- 変数をクラスター化して相関関係のある変数をグループ化し、最も代表的な単一の変数を特定します
- [モデルの適合] > [応答スクリーニングと段階的回帰] を使用して、重要で固有の変数に基づいて交互作用と高次の項を見つけます。
スコットが回答した質問@スコット・アレンそして@バイロン_JMP 2023 年 6 月のライブ ウェビナー中に。
Q: グラフ ビルダーで「選択を解除」するにはどうすればよいですか?
A: マーカーではなく、グラフ内の空白部分をクリックします。
Q: P 値とそのランクに関する説明をさらに詳しく教えていただけますか? 高値と低値は何を意味するのか、特定の値や傾向が見られたときに何が予想されるのかなど。
A: p 値とほとんどの統計については、 を考慮してください。また、JMP を使用していて、統計 (またはその他の表示内容) に関するヘルプが必要な場合にも使用できます。[ツール] > [?] を選択します。をクリックして、ヘルプが必要な領域 (この場合は p 値列ヘッダー) をクリックします。また、を参照してください。これ説明。
Q: 予測子スクリーニング プラットフォームはランダム フォレスト モデルとどのように異なりますか?
A: JMP ではランダム フォレストと呼んでいます。ブートストラップフォレスト(ランダムフォレストは商標登録されているため)。 それは同じことです。 予測子スクリーニングにはモデルは含まれず、ランキングのみが含まれます。
Q: 予測画面では、パーセント変動が個々の予測変数に起因することが示されないため、それを行うプラットフォームは他にありますか?
A: 予測変数スクリーニング レポートには、予測変数のリストとそれぞれの貢献度およびランクが表示されます。 寄与度が最も高い予測子は、Y を予測する際に重要である可能性があります。 [寄与] 列には、ブートストラップ フォレスト モデルに対する各予測子の寄与が表示されます。 レポートの「割合」列には、各変数の寄与率が表示されます。
Q: 多変量解析では、-1 対 1 ではなく絶対相関数を使用できますか?
A: はい、いいえです。 この表は、応答 (Y) 変数の各ペア間の線形関係の強さを要約した相関係数の行列です。 見る多変量法。
Q: 連続、二項 (はい/いいえ)、順序 (低、中、高) の独立変数がある場合、最も重要な変数をどのように選択しますか?
A: はい、予測子スクリーニングと応答スクリーニングのすべての方法を使用できます。
Q: 段階的回帰を使用したことがありますか? JMP は考えられるすべてのサブセット回帰を提供しますか?
A: 参照段階的回帰の詳細。
Q: データの多くには複数の回答が含まれており、JMP で実行できる操作の一部が制限されていることがわかりました。 複数の応答データに対して特別なクリーニングを行っていますか? それともそのままのデータを処理していますか? 「複数応答」列プロパティ (複数のデータポイントのリスト) を指します。 これらを 2 つの異なる列に分割する方が簡単だと思いますが、より良い方法があるかどうかを確認したいと思いました。
A: はい、保管させていただきます複数の応答として 1 つのセル内にありますが、それらを分析するには、それらを異なる列に分割するのが正しいです。
Q: ツリーベースの手法は PLS や PCA とどう違うのですか?
A: PCA または PLS では、この少数の潜在変数ですべてのデータを表現しようとしています。すべてのデータを表現できる、より少ない数の次元を見つけようとしています。 これは、実際に何かを説明する内容を特定するのに役立つツリーベースの方法とは異なります。 ツリー手法は、より優れた構築を実現するために PCA や PLS に取って代わりつつあります。 ツリーベースの手法はデータのモデリングには優れていますが、変更に非常に敏感で、多くの部分を過剰に適合させる可能性があります。 新しいツリーを作成するたびに行のランダムなサンプルと列のランダムなサンプルを取得するツリーベースの手法を使用すると、外れ値に対して非常に堅牢になり、交互作用や二次関数のようなモデルを作成できます。または立方体(データ内に存在する場合)。 したがって、多くの仮定を立てる必要はありません。
Q: 数値の従属変数に対して予測子スクリーニングと応答スクリーニングを使用できますが、独立変数は連続、二項、順序付けされています。
A: はい。
方法を参照してください:
- JMP パーティションを使用して重要な要素を特定する
- あらゆるモデルの相互作用効果を正確かつ自動的に実行
Modeling Workflow with Factor SelectionModeling Workflow with Factor Selection因子選択によるモデリングワークフロー
ボーナス:スコット・アレン@スコット・アレンとバイロン・ウィンガード@バイロン_JMP 2022 年のデモ後の質問にも回答しました。
Q: 外れ値ツールのチュートリアル ビデオはありますか?
A: これは、以下の点をカバーする優れたものです。外れ値を調べるJMP のツール。また、次の手順で作業することもできます。ドキュメントと例。
Q: なぜ最初に相関変数を削除しないのですか?
A: 相関変数の存在は、多くの場合、モデリング方法に影響を与えます。 たとえば、PLS は相関のある X に対してより堅牢です。 また、順序は優先される場合があります。 予測子のスクリーニングからクラスタリング、またはその逆の両方の方法で実行できます。欠損値や変化しない列 (機器の設定など) が多数ある場合、クラスタリングが若干不正確になる可能性があることに注意してください。クラスタリングを開始する場合は、追加のデータのクリーンアップと準備が必要になる場合があります。
Q: 予測アルゴリズムはどのように決めますか?
A: それは複雑な質問であり、答えはあなたの状況によって異なります。 ほとんどの場合、線形モデルが最もシンプルで有益です。 他の方法では、データまたは分析目標に関する特定の問題を回避します。
Q: 線形項がそれほど強く推奨されるのはなぜですか?相関関係が Y=X^2 である場合、JMP はなぜ X 項を追加しようとし続けるのでしょうか?
A: これは効果の遺伝に関係します。 場合によっては、高次の項が重要であっても、主効果ではないことがあります。 したがって、メインエフェクトを維持する必要があります。たとえば、主効果を削除した場合、予測ファイラーでは傾きの変化は表示されず、曲率のみが表示され、それほど良好な予測は得られません。
Q: 予測子スクリーニングでは、因子と応答のデータを同じ順序で収集する必要がありますか (ペア)、またはランダムに収集したデータ (ペアなし) を使用できます。
A: 順序はあまり重要ではありませんが、多変量解析では、1 つのグループに Y を入れることがよくあります。それらを Y に追加する順序が、マトリックスに表示される順序になります。
Q: x 因子 (600 列) の重線形回帰分析は、どの x 列が収率に大きく寄与しているかを見つけるのに役立ちますか?
A: 600 列に対して線形回帰を実行するだけでは、Y を説明する内容が薄れてしまいます。 Partition のようなツリー メソッドは、600 列のどれが目的地に到達するのかを特定するのに最適です。 Scott が予測子スクリーニングを示したとき、行と列のランダムなサンプルを取得してツリーを構築し、それを 100 回実行し、それらの 100 個のツリーの平均をとって結果を出しました。Partition を使用すると、物事を強制的に実行したり、別の場所で強制的に決定を実行したり、分割されているものに従うことができます。 次に、差異重要度レポートを確認するか、
分割履歴と R-2 乗の変更。この例は大きすぎるのでそれを行うことはできませんが、パーティションの使用方法については説明します。
Q: 600 の個別の線形回帰がモデルの説明力を弱める場合、これを補うために応答スクリーニングがそれらの要約統計量 (スコットが以前に示し、昇順に短縮したもの) に FDR (誤検出率) 補正を採用するのはこのためですか?
A: たまたま本当に良いものを見つけることができるので、それらをフィルタリングして試してみることになります。 単独で偶然に何かを見つけたくはないので、FDR はそれを修正するのに役立ちます。完璧なモデルはないので、私はヘルプを強調します。 同様に、すべてのツリーベースのモデルでは、複数の線形性がある状況では、最初に分散を分離し、モデルにすべてを投入するのではなく、本当に最も重要な変数を見つけようとするのが最適です。時々できることもありますJMP Pro を使用してアンサンブル モデルを構築する。
Q: JMP Pro でこれを行う別の方法はありますか?
A;はい、 XGBoost アドイン。以下を参照してください。