DoE 使用主成分作為變量你好，
我正在研究一個優化問題，並對數據集執行了一些 PCA。前七個主成分解釋了大約 80% 的方差。我希望使用這七個主要成分作為變量來規劃 DoE。然而，一位同事表示這是無稽之談，因為較晚的主成分與較早的主成分相比解釋的方差相對較小，因此將它們包含在內會導致實驗資源的低效使用。（有關信息，他反而提倡進行 k 最近鄰分析，我對此了解不多）。我的疑問是，使用解釋數據的能力差異很大的變量（在本例中為主成分）進行 DoE 是否仍然有效。（在我所在的領域，我經常看到只根據前三個 DoE 提出 DoE，即使它們只解釋了總體可變性的一小部分。）
實驗設計回复：DoE 使用主成分作為變量你好@kjwx109 ,
如果沒有更多詳細信息，可能很難為您提供幫助，例如，我不知道：
- 如果你想分析你已有的數據集，或者你想根據這個數據集來計劃實驗？
- 分析的目標是什麼？
- 你想創建一個預測模型，還是一個解釋模型（或兩者）？
- 你有高維問題嗎？ 你有多少原始因素/變量？
- 你想分組/聚類個人/觀察或變量嗎？
從一般的角度來看，在主成分變量上創建 DoE 可能是有效的，但如果這些主成分變量從領域專業知識的角度來看更有意義：也許某些因素在特定 PC 中“混合”，並且您可以找到一個包含這兩個相關因素的術語，並解釋為什麼它們可能聯繫在一起。
如果這是您想要解決的問題，則有許多選項可以降低維度，並且您可以選擇對變量或觀察/個人執行此操作。 這可能會導致不同的可視化和結果。 我在這裡回答了一個關於聚類的類似話題： JMP 社區 - 聚類列，還有其他降維的方法：主成分分析，多元嵌入（UMAP，t-SNE，...）...
我看不出 K-Nearest Neighbors 在這種情況下有何用處，它更常用於預測方法或缺失值的預處理步驟。 它不是一種變量選擇方法。 您可以在此處找到更多信息： K 最近鄰 (jmp.com)
你可以在這裡看到它是如何以交互方式工作的（以及數據集大小、鄰居數量等的影響）： K 最近鄰 (KNN) - 可視化決策邊界的方差 / Antoine Broyelle |可觀察的（observablehq.com）
我希望這個第一反應對您有所幫助，期待在更多背景下進一步幫助您。
回复：DoE 使用主成分作為變量維克多問了一些很好的問題。我想知道您實際上是如何操作主成分以及如何設置水平的？
回复：DoE 使用主成分作為變量您的所有變量都是獨立的嗎，這意味著您可以直接為每個變量設置值嗎？如果是這樣，那麼僅探索由這 7 個組件定義的空間可能比潛在的設計空間小得多，並且您可能會錯過最佳點，因為您過去從未跑過那裡。示例：如果工廠從未修改溫度 X，則使用 PCA 組件的 DOE 也不會移動 X。
另一方面，那個未知的空間可能會產生非常糟糕的產品或者根本不起作用。如果您可以在所有這些組件的極限下有效地分析和可視化性能，並且確信最佳點是裡面然後從該空間開始的空間設計可能是最有效的。使用初步結果來驗證這一點，如果您確定設計空間太小或太大，則擴充設計。
關於組件的數量，我認為對這些組件進行一些分析是必要的。 如果您真的有 7 個因素可以控制，並且如果優化第 7 個因素的潛在好處值得額外運行探索該空間，那麼就去做吧。在某些情況下，前 4 個組成部分在任何給定時間都可能是設施控制之外的因素，因此第 5 個組成部分是第一個可以控制的實際槓桿。在其他情況下，第 7 個組件的最佳設置和最差設置之間的差異可能導致節省甚至不支付實驗費用。
流程和設計充滿細微差別。我不願概括太多，所以回答這樣的問題真的取決於你的過程和你的目標。
回复：DoE 使用主成分作為變量你好@kjwx109 ,
我假設您已經對不同“候選”材料庫中的大量連續描述符變量進行了 PCA，以便獲得較少數量的協變量因子來設計一個實驗來探索各種候選材料.
如果是這樣，那麼我認為所附示例可能有助於回答您的問題。 這裡的目標是選擇各種溶劑作為優化化學反應過程的一部分。
我們有 9 個溶劑描述符，其中許多描述符之間存在很強的相關性。 因此，PCA 可用於減小問題的規模：2 個 PC 捕獲溶劑描述符中 >70% 的變異。 （如果描述符之間沒有很強的相關性，那麼 PCA 就沒有意義——我們只會在我們的實驗中使用描述符作為協變量因子。）
查看頂部的 2 個 PC，它們作為系統的“真實”化學性質是有意義的：第一個似乎描述了溶劑的“極性”或“水樣”；第二個描述了溶劑的“體積”。 解釋第三個 PC 的含義要困難得多，它只佔變異的 9%。
在我們設計的實驗中，我們應該使用多少個 PC 作為協變量因子？ 當然，我們不會使用全部 9 個——重點是將問題的規模從大量相關的可測量描述符減少到我們認為描述系統重要屬性的有意義的、潛在的“潛在”組件的數量更少。
一般的經驗法則是不要考慮特徵值小於 1 的 PC，因為它們描述的變化小於原始變量之一。 在這種情況下，這意味著我們將選擇僅使用前 2 台 PC。前兩個似乎在化學上最有意義。 在很多像這樣的情況下，人們使用 3 台 PC，但我懷疑這主要是因為它在 3D 散點圖上看起來不錯！
我們應該結合使用來自 PCA 的統計數據和我們對系統的領域理解，以告知選擇要作為協變量因素結轉的 PC 數量。
有像聚類這樣的替代方法，它可以為我們提供來自圖書館的相似候選者組。然後我們可以從每個人中選擇一個代表來提供不同的候選人樣本。 但是，這不會為我們提供通過使用有意義的 PC 作為因素而獲得的洞察力。 而且它不會使我們能夠設計一個實驗來最好地探索候選人的屬性以及我們可能正在考慮的其他過程因素。 我不確定我們將如何使用 k 個最近的鄰居，但我想它會有同樣的缺點。
我希望這有幫助。
菲爾
