DOE の入力として重要な変数を見つけるために、変数選択のために履歴データに PLS を使用したことはありますか?いくつかの JMP ウェビナーでは、Bootstrap フォレストを使用して VIP 変数を見つけ、通常はその後に Elastic Net または Stepwise 回帰を使用して、将来の DOE に重要になる可能性のある用語をさらに絞り込んでいます。
プロセスで PLS 回帰を使用する人がいるかどうか、興味があります。たとえば、Bootstrap フォレストの後で、Elastic Net などを実行する前に、重要な変数または相関変数をさらに識別する、などです。あるいは、Elastic Net が相関変数のセットを保持/削除するという事実によって、PLS 回帰の必要性がなくなるのでしょうか。
これをプロセスで使用している方はいらっしゃいますか？ PLS を生物学的プロセスデータのマイニングに使用しているウェビナーをいくつか見たことがありますが。
予測モデリングと機械学習Re: DOE の入力として重要な変数を見つけるために、変数選択のために履歴データに PLS を使用することはありますか?こんにちは@mjz5448さん、
すべての統計的アプローチと同様に、最も簡単な答えは「場合による」です。Elastic Netは既に変数選択を効率的に実行しているため、その上にPLSを適用する必要がない、あるいは適用したくないというご指摘は正しいです。もう1つの利点は、ENのモデル係数が直接解釈可能であるため、予測変数を応答変数に直接関連付けることができることです。また、PLSの目的も考慮する必要があります。PLSは主に予測モデルを生成するためのものであり、説明モデルを生成するためのものではありません（ただし、すべての因子の負荷と線形結合により複雑さが増しますが、PLSを用いることは可能です）。DOE因子を選択する場合は、説明モデルと予測モデルに適したアプローチを試して使用する必要があります。
これが役に立つことを願います。他の人もきっと価値ある議論を追加してくれると思います。
ありがとう、
ベン
Re: DOE の入力として重要な変数を見つけるために、変数選択のために履歴データに PLS を使用することはありますか?数年前、私が大手化学会社で働いていたとき、その会社は基板（写真フィルムや紙など）に材料をコーティングするのが得意でしたが、私たちは次の理由から、計画された実験の情報を提供するために PLS を常に使用していました。
1. 製造業において、入力因子数の多い非常に少ない実行回数を想定しています。幅広く短いデータセットを想定してください。PLS向けにカスタマイズされています。
2. 因子間に多重共線性が多い。
3. プロセスの真の理解は、時代とともに失われてきました。私たちが何十年もかけて作ってきた製品もあり、製造業の通常のマントラは「前回と同じように作る」です。なぜなら、私たちは実際には、すべてがどのように機能するかを知らないからです。
4. ペナルティ付き回帰/ツリーベースの変数選択法は、ソフトウェアではまだ広く使用されていませんでした。
5. そして、この取り組み全体の原動力となっているのは、「昨夜、私たちが（空欄を埋めてください）を作ろうとしたとき、物理学、化学、生物学の魔法がうまく機能しませんでした。そして、根本的な原因はわかりません。」ということです。
そこで私たちはPLSを用いて主要な要因を特定し、その後、パイロット/小規模施設で計画的実験を実施してプロセス理解を深め、システム全体の故障モードの根本原因を特定しようとしました。一緒に仕事をしたエンジニアのうち2人が、（多くの問題解決チームで統計担当者として）心に響く言葉を残していました。「『そうではない』と分かっていることは、『そうである』と分かっていることと同じくらい価値があることがある」。そしてもう1人は、「故障モードのオン/オフを切り替えられるようになるまでは…根本原因は分からない」と言っていました。
つまり、PLSとDOEを組み合わせることで、私たちが求めていた結果が得られたのです。お役に立てれば幸いです。
Re: DOE の入力として重要な変数を見つけるために、変数選択のために履歴データに PLS を使用することはありますか?こんにちは@mjz5448さん、
PLS法の使用については@P_バーテル氏の意見に完全に同意します。特に、入力変数の数が実験数よりも多い、入力と出力の間に共線性／相関関係がある状況では、PLS法が適しています。 偏最小二乗法は、 YとXの相関関係を用いたモデル構築に用いられます。
PLSは典型的には、スペクトルデータを分析するためのケモメトリクスでよく使用されるモデルです。これは、相関するX（たとえば、各波長の強度）の数が非常に多く、いくつかの応答を予測するための観測/実験が少ないためです。この場合、X間の相関関係を活用し、PLS（適切な検証およびテスト方法論を使用）を使用して優れた予測モデルを取得します。このモデルタイプでは説明/解釈が可能であり、ケモメトリクスのコンテキストでは、変数重要度プロットやその他のグラフを使用して、特定の化学機能/グループ/分子に関連する重要な波長帯域/領域を特定できます。このプラットフォームで利用可能なプロファイラーを使用すると、変数の重要性をインタラクティブに視覚化するのに役立ち、プロファイラーのオプション「 変数重要度を評価」を使用してSobol感度指数を計算することもできます。
あらゆるモデリング手法の使用は、事前の知識のレベル、目的、および実験コンテキストにリンクされている必要があります。
事前知識が少なく、実験回数も少ないスクリーニングの非常に初期の段階では、効果推定値の精度に関わらず、重要な効果を特定することが目的となることがよくあります（その後、DoE（実験計画法）を通じて有益なデータを収集することで、効果を確認し、精度を高めることができます）。このような状況では、 ペナルティ付き回帰（Lasso、Ridge、Elastic Net、Dantzigセレクタ）は、効果推定値のバイアスが増加するという代償を払うものの、重要な効果を特定するために有用となることがよくあります。効果のスパース性に関する仮定によって、ペナルティ手法の適用方法が異なることに注意してください。Lassoは、相関変数の推定値を0とすることで変数選択を行います。これは、多数の候補変数の中で重要な予測変数が少ないと予想される場合に適しています。より「積極的」でないアプローチとしては、相関効果のサイズを縮小するRidge法があります。Ridge法は、0と推定することなく相関効果のサイズを縮小します（重要性が同等の複数の相関予測変数がある場合）。Elastic Net推定法は、LassoとRidgeのペナルティを組み合わせたものです。
より多くの観察/実験がある場合は、バイアス/ペナルティに依存しない他の特徴選択手法、例えばランダムフォレストを試すか、特徴重要度（列寄与）を使用して最も重要/アクティブな特徴を特定するなど、 予測変数スクリーニングのオプションとして使用することもできます。また、Boruta特徴選択手法とランダムフォレストを使用する予測変数スクリーニングのアップグレード版に基づいて変数を選択するのに役立つ予測変数選択アシスタントアドインを使用することもできます。
以下のトピックの関連する会話も確認できます。
相関変数を用いた重回帰分析
特徴選択に最適な JMP プラットフォームは何ですか?
JMP のカテゴリ変数の多重共線性に相当するものはありますか?
私の推奨は、上記の様々なモデリング手法（およびその他）をテスト、比較し、最終的には組み合わせることです。そして、得られたモデルを比較し、どの用語が含まれているか、そしてモデル間の類似性／相違性を確認することをお勧めします。これは、最も重要な点を理解する上で非常に役立つでしょう。
この回答がお役に立てれば幸いです。
Re: DOE の入力として重要な変数を見つけるために、変数選択のために履歴データに PLS を使用することはありますか?すべての人に洞察をもたらす正しいツールや、ツールの正しい組み合わせは存在しません。状況に応じてどのツールが最も効果的または効率的であるかについては、私たち一人ひとりに偏りがあるのは間違いありません。しかし、答えはツールにあるのではありません。重要なのは、反復を必要とする批判的思考です。
科学や工学に基づく仮説（例：熱力学、エントロピー）から始めるのも良いでしょう。仮説がない場合は、「データマイニング」が役立つかもしれません。私はデータマイニングをかなり頻繁に利用しています。基本的には、データからパターン（あるいはその欠如）を探ります。もちろん、これはグラフを使って行うのが最適です。
関係性を定量化しようとする回帰分析には、OLS、ステップワイズ、PCR、リッジ、PCA、PLSなど、様々な形式があります。研究者に結果の説明を求める場合、これは非常に有用です（例えば、なぜこの要因が有意であるように見えるのか、あるいはなぜこの要因は有意ではないのかなど）。これは仮説の構築であり、おそらく計画実験で検証されるでしょう。
歴史的データや観察データを使用する際の注意事項です。
1. 過去のある時点で（何らかの方法で）重要とみなされた要因がある場合、その要因には大きな変動を許容しないような制御がかけられている可能性があります。その要因を分析すると、回帰分析において有意ではない（大きな変動がない）と示される可能性があります。
2. 隠れた交絡因子が存在する可能性があります (データ セット内で識別またはラベル付けされていない x)。
3.何が起こったかをモデル化する能力は、何が起こるかを予測できるということを意味するものではありません。
4. 収集されたxの範囲外でモデルを外挿することは、理解せずに行うと、危険.
5.履歴データで使用される回帰では、データが取得された状況が考慮されません (たとえば、測定の不確実性を知っていますか?)
6. 「悪い」データ ポイントの影響を受けやすい。
