シンプルな統計的手法を用いて、データ内の重要な変数や相互作用を特定する方法をご覧ください。これは、高性能な予測モデルを構築し、さらなる洞察を発見するための第一歩となります。
以下の手順をご覧ください。
- 重要な変数を特定する前に考慮すべき前提条件を理解する
- 列ビューアを使用してデータをクリーンアップおよび準備します。
- 「欠損値の探索」、「外れ値の探索」、「パターンの探索」を使用して、外れ値と欠損データの識別と処理方法を決定します。
- データセットが、研究対象とするシステムを最も適切に表現していることを確認してください。
- 列ヘッダーの分布とグラフビルダーを使用して、データを探索し、傾向を視覚化します。
- 相関関係のある変数を特定するために多変量解析を実行する
- レスポンススクリーニングを使用して、レスポンスに影響を与える最も重要な変数を特定します。
- 予測因子スクリーニング(決定木法)を使用して、反応を予測する多くの要因をテストします。
- 多変量解析を用いて相関の高い変数を特定する
- 相関関係のある変数をグループ化し、最も代表的な単一の変数を特定するクラスタリング変数
- 適合モデル>応答スクリーニングとステップワイズ回帰を使用して、重要かつ固有の変数に基づいて相互作用と高次の項を見つけます。
2023年6月に開催されたライブウェビナーで、スコット・アレン氏(@scott_allen)とバイロン・JMP氏(@Byron_JMP)が質問に答えた内容。
質問:グラフ作成ツール内で、どのようにして「選択解除」を行ったのですか?
A:グラフ内のマーカーではなく、空白部分をクリックしてください。
Q: P値とその順位について、もう少し詳しく説明していただけますか?高いか低いかは何を意味するのか、特定の値や傾向が見られた場合に何を期待すべきかなどについて教えてください。
A: p値やほとんどの統計量については、 を検討してください。また、JMPで統計量(または表示されているその他の項目)についてヘルプが必要な場合は、[ツール] > [ ] を選択し、ヘルプが必要な領域(この場合はp値の列ヘッダー)をクリックしてください。 この説明も参照してください。
Q:予測因子スクリーニングプラットフォームは、ランダムフォレストモデルとどのように異なるのですか?
A: JMPでは、ランダムフォレストをブートストラップフォレストと呼んでいます(ランダムフォレストは商標登録されているため)。どちらも同じものです。予測変数スクリーニングにはモデルは含まれず、ランキングのみが表示されます。
質問:予測変数画面では、各予測変数に起因する変動率が表示されないため、それを行う他のプラットフォームはありますか?
A:予測変数スクリーニングレポートには、予測変数の一覧とそれぞれの寄与度および順位が表示されます。寄与度の高い予測変数は、Yの予測において重要である可能性が高いです。「寄与度」列には、各予測変数のブートストラップフォレストモデルへの寄与度が表示されます。レポートの「割合」列には、各変数の寄与率(パーセント)が表示されます。
質問:多変量解析では、相関係数を-1から1ではなく絶対値で表すことはできますか?
A: はい、でもいいえ。この表は相関係数の行列であり、応答変数(Y)の各ペア間の線形関係の強さをまとめたものです。 多変量解析法を参照してください。
質問:連続変数、二項変数(はい/いいえ)、順序変数(低、中、高)の独立変数がある場合、最も重要な変数をどのように選択しますか?
A: はい、予測因子スクリーニングと応答スクリーニングなど、これらの方法はすべて使用できます。
質問:ステップワイズ回帰分析は使用したことがありますか?JMPは可能なすべてのサブセット回帰分析を提供していますか?
A: 段階的回帰の詳細については、こちらをご覧ください。
Q: 私のデータには複数の回答が含まれているものが多く、JMPでできることが限られてしまうと感じています。複数の回答を含むデータに対して特別なクリーニング処理を行っていますか、それともそのまま処理していますか?ここで言う「複数の回答」とは、「複数のデータポイントのリスト」という列プロパティのことです。これらを2つの異なる列に分割するのが一番簡単だと考えていますが、もっと良い方法がないか知りたいです。
A: はい、1つのセルに複数の回答を保存することはできますが、それらを分析するには、異なる列に分割するのが正しい方法です。
Q: ツリーベースの手法は、PLSやPCAと比べてどうですか?
A: PCAやPLSでは、より少ない数の潜在変数で全てのデータを表現しようとします。全てのデータを表現できる次元数を削減しようとします。これは、実際に何かを説明するものを突き止めるのに役立つツリーベースの手法とは異なります。ツリー手法は、より良い構築のためにPCAやPLSに取って代わりつつあります。ツリーベースの手法はデータのモデリングに非常に優れていますが、変化に非常に敏感で、過剰適合を起こしやすいです。ツリーベースの手法では、新しいツリーを作成するたびに行と列のランダムサンプルを取得するため、外れ値に対して非常に頑健になり、データに存在する相互作用や二次関数、三次関数などをモデル化できます。そのため、多くの仮定を立てる必要がありません。
質問:従属変数が数値であり、独立変数が連続変数、二項変数、順序変数である場合、予測変数スクリーニングと応答変数スクリーニングを使用できますか?
A:はい。
以下の手順をご覧ください。
- JMPパーティションを使用して重要な要因を特定します
- モデルの相互作用効果を正確かつ自動的に検出します
Modeling Workflow with Factor Selection因子選択を伴うモデリングワークフロー因子選択を伴うモデリングワークフロー
ボーナス:スコット・アレン(@cott_allen )とバイロン・ウィンガード(@Byron_JMP)は、2022年のデモの後、質問にも答えてくれました!
Q: 外れ値ツールに関するチュートリアルビデオはありますか?
A: これはJMPの「外れ値の探索」ツールについて解説した良い資料です。 ドキュメントや例題も参考にしてみてください。
質問:なぜ相関のある変数を最初に取り除かないのですか?
A: 相関のある変数の存在は、モデリング手法を決定する上で重要な要素となります。例えば、PLSは相関のある変数に対してより頑健です。また、順序は好みの問題かもしれません。予測変数のスクリーニング後にクラスタリングを行う方法と、その逆の方法のどちらでも可能です。ただし、欠損値が多い場合や、変化しない列(機器の設定など)がある場合、クラスタリングの精度がやや低下する可能性があることに注意してください。クラスタリングから始める場合は、追加のデータクレンジングや準備が必要になる場合もあります。
質問:予測アルゴリズムはどのように決定しますか?
A:それは複雑な質問で、答えは状況によって異なります。ほとんどの場合、線形モデルが最もシンプルで有益なものとなるでしょう。その他の手法は、データの特定の問題や分析目的に対応するために用いられます。
質問:なぜ線形項が強く推奨されるのですか?相関式が Y=X^2 の場合、なぜ JMP は X 項を追加しようとするのですか?
A: これは効果の遺伝性に関係しています。高次の項は有意であっても、主効果は有意でない場合があります。そのため、主効果は残しておく必要があります。例えば、主効果を削除してしまうと、予測フィルターで傾きの変化は確認できず、曲率だけが表示され、予測精度が低下します。
Q: 予測因子スクリーニングでは、因子と応答のデータは同じ順序で収集する必要がありますか(ペアリング)、それともランダムに収集したデータ(非ペアリング)を使用できますか。
A: 順序は特に重要ではありませんが、多変量解析では、Yを1つのグループにまとめて追加することがよくあります。Yにそれらを追加する順序が、行列に表示される順序になります。
質問:x因子(600列)の多重線形回帰分析は、どのx列が収量に大きく貢献しているかを特定するのに役立ちますか?
A: 600 列に対して線形回帰を実行するだけでは、Y を説明する要素が希薄化されてしまいます。パーティションなどのツリー法は、600 列のうちどれがY に寄与しているかを特定するのに非常に有効です。スコットが予測子スクリーニングを紹介したとき、行と列のランダムサンプルを取得し、ツリーを構築し、それを 100 回繰り返し、その 100 本のツリーの平均を取って結果を得ました。パーティションを使用すると、物事を強制的に実行したり、異なる場所で決定を実行したり、分割される過程を追跡したりできます。その後、分散重要度レポートを確認したり、
分割履歴とR二乗値の変化。この例では大きすぎてすべてを説明できませんが、Partitionの使い方を理解するのに役立つでしょう。
Q: 600個の個別の線形回帰によってモデルの説明力が薄まる場合、レスポンススクリーニングが(スコットが以前に示し、上昇傾向にあると指摘した)要約統計量にFDR(偽発見率)補正を採用しているのは、これを補うためでしょうか?
A: 偶然だけで本当に良いものが見つかることもありますが、それらをフィルタリングしようとします。偶然だけで良いものが見つかるのは望ましくないので、FDR はその補正に役立ちます。モデルは完璧ではないので、私は「役立つ」と強調します。同様に、すべてのツリーベースモデルは、多重線形性がある状況では、まず分散を分離して、すべてをモデルに投入するのではなく、本当に最も重要な変数を見つけるのが最善です。JMP Pro を使用してアンサンブルモデルを構築できる場合もあります。
Q: JMP Proでこれを行うための他の方法はありますか?
A:はい、 XGBoostアドインの使用も含めてです。下記をご覧ください。