主成分を変数として使用する DoEやあ、
私は最適化問題に取り組んでおり、データセットに対して PCA を実行しました。上位 7 つの主成分で分散の約 80% が説明されます。私は、これら上位 7 つの主成分を変数として使用して DoE を計画したいと考えていました。しかし、同僚は、後の主成分は前の主成分と比較してほとんど差異を説明しないため、これはくだらないものであり、そのため、それらを含めることは実験リソースの非効率的な使用につながると指摘しました。(参考までに、彼は代わりに k 最近傍分析を提唱しましたが、これについては私はあまり知りません)。私の質問は、データを説明する能力が大きく異なる変数 (この場合は主成分) を使用して DoE を実行することが依然として有効であるかどうかです。(私の地域では、全体のばらつきの一部しか説明していない場合でも、上位 3 つの DoE のみに基づいて DoE が提案されているのをよく見かけます。)
実験計画法Re: 主成分を変数として使用する DoEやあ@kjwx109 、
さらなる詳細がなければ、お手伝いするのは難しいかもしれません。たとえば、次のようなものはわかりません。
- すでに所有しているデータセットを分析したい場合、またはこのデータセットに基づいて実験を計画したい場合は?
- 分析の目的は何ですか?
- 予測モデル、それとも説明モデル (または両方) を作成しますか?
- 高次元の問題はありますか? あなたが持っている元の因子/変数の数は何ですか?
- 個人/観測値または変数をグループ化/クラスター化しますか?
一般的な観点からは、主成分変数に DoE を作成することは有効かもしれませんが、ドメインの専門知識の観点からは、これらの主成分変数が意味をなす方が良いでしょう。おそらく、特定の PC では特定の要因が「混合」されており、これら 2 つの相関する要素を含む用語を見つけて、それらが相互に関連している理由を説明できます。
これが取り組みたい問題である場合、次元を削減するためのオプションが多数あり、変数または観測値/個人に対してそれを行うオプションがあります。 これにより、異なる視覚化と結果が生じる可能性があります。 クラスタリングに関する同様のトピックにここで回答しました。 JMP コミュニティ - クラスタリング用の列、次元を削減する他の方法もあります:主成分分析、多変量埋め込み (UMAP、t-SNE など)...
K 最近傍法がこの文脈でどのように役立つのかはわかりませんが、予測アプローチまたは欠損値の前処理ステップでよく使用されます。 これは変数選択方法ではありません。 詳細については、こちらをご覧ください: K 最近隣 (jmp.com)
そして、それがインタラクティブな方法でどのように機能するか (およびデータセットのサイズ、近傍の数などの影響) をここで確認できます。 K 最近傍 (KNN) - 決定境界の分散の視覚化 / Antoine Broyelle |オブザーバブル (observablehq.com)
この最初の回答がお役に立てば幸いです。さらに詳しい内容についてさらにお役に立てることを楽しみにしています。
Re: 主成分を変数として使用する DoEビクターはいくつかの素晴らしい質問をします。実際に主成分をどのように操作するのか、レベル設定はどのように行うのか知りたいのですが。
Re: 主成分を変数として使用する DoEすべての変数は独立していますか? つまり、それぞれの値を直接設定できますか?その場合、これら 7 つのコンポーネントによって定義される空間のみを探索すると、潜在的な設計空間よりもはるかに小さい可能性があり、過去にその場所で実行したことがないというだけの理由で、最適なポイントを見逃す危険があります。例: プラントが温度 X を変更しなかった場合、PCA コンポーネントを使用する DOE も X を変更しません。
一方で、その未知のスペースにより、非常に悪い製品が作られるか、まったく機能しない可能性があります。これらすべてのコンポーネントの限界におけるパフォーマンスを効果的に分析して視覚化でき、最適な点が次のとおりであると確信できる場合は、中身そのスペースからスペース デザインを始めるのが最も効率的かもしれません。暫定結果を使用してこれを検証し、設計領域が小さすぎるまたは大きすぎると判断した場合は、設計を拡張します。
コンポーネントの数に関しては、それらのコンポーネントの分析が必要だと思います。 実際に制御できる 7 つの要素があり、7 番目の最適化による潜在的な利点が、その領域を探索するために必要な追加の実行に値するのであれば、それを選択してください。場合によっては、最初の 4 つのコンポーネントは、その時点で施設の制御の外にある要因である可能性があるため、5 番目のコンポーネントは、制御可能な実際のレバーである最初のコンポーネントになります。他のケースでは、7 番目のコンポーネントの最適な設定と最悪の設定の差により、実験の費用にさえならない節約がもたらされる可能性があります。
プロセスやデザインはニュアンスに満ちています。あまり一般化するのは躊躇するので、このような質問に答えるかどうかは、プロセスと目標によって異なります。
Re: 主成分を変数として使用する DoEやあ@kjwx109 、
より少ない数の共変量因子に到達して、多様な範囲の候補を探索する実験を計画するために、さまざまな「候補」材料のライブラリ上の多数の連続記述子変数に対して PCA を実行したと仮定します。 。
そうであれば、添付の例があなたの質問の答えに役立つと思います。 ここでの目標は、化学反応プロセスの最適化の一環として、多様な溶媒を選択することです。
溶媒の 9 つの記述子があり、それらの多くの間には強い相関関係があります。 したがって、PCA を使用すると、問題のサイズを縮小できます。2 つの PC は、溶媒記述子の変動の > 70% を捕捉します。 (記述子間に強い相関関係がない場合、PCA には意味がありません。実験では記述子を共変量因子として使用するだけです。)
上位 2 つの PC を見ると、それらは系の「実際の」化学的特性として意味がわかります。最初の PC は、溶媒がどの程度「極性」または「水に似ているか」を表しているようです。 2 つ目は、溶媒がどれだけ「かさばるか」を表します。 バリエーションの 9% しか占めていない 3 台目の PC の意味を解釈するのはさらに困難です。
計画した実験では共変量因子として何台の PC を使用する必要がありますか? 確かに、9 つすべてを使用するわけではありません。重要なのは、問題のサイズを、相関する多数の測定可能な記述子から、システムの重要な特性を記述していると思われる、意味のある基礎的な「潜在的な」コンポーネントの数を減らすことです。
一般的な経験則では、固有値が 1 未満の PC は考慮しないでください。これは、元の変数の 1 つよりも変動が少ないためです。 この場合、最初の 2 台の PC のみを使用することを選択することになります。そして、最初の 2 つは化学的に最も理にかなっているようです。 このようなケースでは 3 台の PC を使用することがよくありますが、これは主に 3D 散布図で見栄えが良いためだと思われます。
PCA からの統計とシステムのドメイン理解の組み合わせを使用して、共変量因子として繰り越す PC の数の選択を通知する必要があります。
クラスタリングのような代替手段があり、ライブラリから同様の候補のグループが得られます。その後、それぞれから代表者を選択して、候補者の多様なサンプルを提供することができます。 しかし、それでは意味のある PC を要素として使用することで得られる洞察は得られません。 そして、それでは、検討する可能性のある他のプロセス要因と並行して、候補の特性を最もよく調査する実験を計画することはできません。 k 最近傍をどのように使用するかはわかりませんが、同じ欠点があると思います。
これがお役に立てば幸いです。
フィル
