如何設計具有分佈良好的連續輸入的實驗?大家好!我有一個關於簡易實驗設計的問題。我正在做一個包含 4 個輸入和 4 個輸出的實驗設計。所有輸入都是連續值:前兩個輸入的範圍是 0 到 5,後兩個輸入的範圍是 0 到 10。
我在創建實驗設計時,注意到設計建議的值只有 0、最大值的一半和最大值。然而,這些輸入的影響實際上並不是線性的,因此由於這些輸入值缺乏多樣性,我的設計不太準確。
您知道如何創建分佈更均勻的點設計來提高預測準確性嗎?
先感謝您 !
西娜:)
實驗設計回覆:如何設計具有分佈良好的連續輸入的實驗?我不熟悉「易用」這個術語,因為它與實驗設計有關。搜尋顯示它
簡單、直接的設計,只需最少的資源即可輕鬆實現
此類設計適用於探索性研究、先導研究,或無法實現真正隨機化的情況。然而,這種簡化往往以犧牲內在效度為代價,使得建立真正的因果關係變得更加困難。
你的疑問讓我猜測你實驗的目的。你感興趣的是理解因果結構還是「挑選優勝者」?這是你在本次研究中進行的第一個實驗,還是你已經做過篩選設計?你想研究的模型是什麼?例如,如果你對非線性多項式有疑問,但仍在嘗試確定合適的設計空間,你可以運行中心點法。
由於您懷疑因子之間存在非線性關係,因此您似乎有意在 3 個水平上進行檢驗。通常,估計二次效應只需要 3 個水平,而且這些水平會均勻分佈在因子空間中。這簡化了分析。這將是您下次迭代的合理選擇。之後,您可以透過未來的實驗來擴充因子空間。透過分析殘差(並了解噪音的影響),可以更好地理解模型的「準確度」(或許用「精度」這個詞更貼切)。
回覆:如何設計具有分佈良好的連續輸入的實驗?你好@Xena ,
歡迎加入社群!
您描述的情況似乎表明您可能對空間填充設計感興趣。
空間填充設計是與模型無關的實驗設計,強調預測性能,專門針對連續因素(主要)、低噪聲響應(通常是計算機實驗和模擬)而設計,其中預期高度非線性和複雜的響應面。
如果您可以提供有關目標(預測模型、元模型…?)、任何因素約束、回應類型(測量?模擬?可變性/再現性?…)、可接受的最大運行次數的更多信息,我們可能會幫助您選擇合適的空間填充設計類型(如果此選項對您的主題有效)。
根據您的資訊和目標,我的第一個猜測是,您沒有任何因素約束,並且僅使用 4 個連續因素進行預測目的(可能的低/中樣本量少於 100 次實驗),因此均勻或拉丁超立方體設計可能是合適的選擇。
希望這個答案能對你有幫助,
回覆:如何設計具有分佈良好的連續輸入的實驗?你好 Victor,謝謝你的快速回覆!
我不太了解什麼是空間填充設計……但從你提到的來看,它們似乎確實適用。我的確想進行預測。我的結果來自電腦模擬,因此完全可重複。我尋求的是一種能讓我分析數據並找出正確組合的輸出,有時我會嘗試最大化某些輸出,同時最小化其他輸出。
可接受的樣本數量約為 50 個(如果值得的話可以多一點),因為我沒有允許我自動檢索模擬資料並將其輸入 JMP 的 API。
感謝您的協助
回覆:如何設計具有分佈良好的連續輸入的實驗?你好,Statman,
也感謝您的快速回覆!
實際上,JMP 中有一個名為「Easy DOE」的類別,JMP 會使用自然語言詢問你擁有什麼以及你想做什麼。事實上,我的目標是找到一個能夠滿足我需求的組合(有些輸出需要最小化,有些輸出需要最大化,或針對特定目標)。
我不完全理解您關於具有水平的因素的觀點,因為在我的例子中,變數是連續的,並且我想探索它們的整個範圍。
回覆:如何設計具有分佈良好的連續輸入的實驗?你好@Xena ,
好的,如果您正在處理電腦實驗,空間填充設計確實是在實驗空間中均勻分佈點的好方法,並且使用有用的模型近似您的模擬響應,而無需對方程式/模型形式做出任何假設。
預設情況下,如果您啟動包含 4 個連續因子的空間填充設計平台(位於選單「DoE」、「特殊用途」、「空間填充設計」),JMP 建議的運行次數為 40 次(接近您可接受的運行次數),並且您可以使用所有設計類型。由於因子和運行次數較少,並且您可能更關注預測性能,因此均勻設計(或拉丁超立方體)可能是合適的選擇:

關於適合回應的模型,預設情況下,當您製作資料表時,有一個腳本會根據您的回應啟動高斯過程模型:

這是一個很好的預設基準模型,但您也可以使用「模型篩選」平台嘗試其他機器學習模型,並採用適當的驗證策略(以避免過度擬合)。在這種情況下,通常會選擇隨機或分層的 K 折交叉驗證,因為您不想從訓練中排除某些點。
一旦找到具有良好性能的模型,您就可以使用在每個折疊上訓練的模型並平均它們的預測,如這裡所述: 使用 k 折擬合品質進行交叉驗證
如果您總共可以進行 50 次運行,則可以啟動具有 40 次運行的 DoE 並訓練/驗證最佳模型,然後使用平台增強設計(採用空間填充策略)在您的資料集中添加 10 次新運行,這些運行將用作您的預測模型的測試集(最終驗證)。
希望這些建議有意義,
回覆:如何設計具有分佈良好的連續輸入的實驗?我不太了解你的情況,無法提供具體的建議。確實有一個名為「Easy DOE」的平台。恕我直言,這個平台是為幾乎沒有實驗經驗的人設計的。它旨在鼓勵使用該方法(或許也是為了推廣該軟體)。然而,該平台有許多細微之處沒有涵蓋。
無論如何,診斷情況對於選擇合適的設計至關重要。您是在進行解釋性工作還是發現性工作?您是否提出假設(例如,為什麼某個因素會對反應產生影響或不產生影響?)?您是如何確定這四個因素的?您處理其他所有因素的策略是什麼?測量系統是否已經研究過? ……
設計實驗沒有唯一的“正確方法”,但通常情況下,實驗的第一步是篩選眾多可能的因子,以建立合適的設計空間。最有效的方法是運行n維空間的某個部分。由於研究本質上是短期的(即,您沒有時間序列來揭示因子效應的固有變異),因此必須誇大其效應。這可以透過將因子水平設定為粗體(合理的極值)並對大量因子進行實驗來實現。同時,您試圖創建盡可能寬的推理空間,因此您同樣會誇大噪音(您未來不願管理的因子)的影響,通常使用完整或不完整的區組。一旦您擁有了合理且合理的設計空間,您就可以擴展該空間來估計有用的模型。
我們通常按照泰勒級數來建構模型。也就是說,我們從一階(透過兩級因子設定實現)開始,然後以更高階(包括階乘(交互項)和多項式(非線性))進行增廣。目標並非找到能夠描述一切的最複雜模型,而是找到一個能幫助預測未來表現的有用模型。包含三階交互項或三次多項式+非線性項的模型極難管理,通常也沒什麼用。
以下是一些針對入門實驗設計的建議參考:
Box, George EP 和 Bisgaard, S. (1987)“品質改進的科學背景。” 品質進步六月
Czitrom, Veronica, (1999) “單因子試驗與設計試驗”, 《美國統計學家》 ,5月,第53卷,第2期
Box, GEP, Patrick Liu (1999) “統計學作為科學方法學習的催化劑第一部分——一個例子”, 《質量技術雜誌》 ,第 31 卷,第 1 期,1 月
Hahn, Gerald (1977) “工程師應該了解的實驗設計知識”, 品質技術雜誌, January, Vol. 9, No. 1
科克倫,威廉,《實驗設計背後的哲學》,約翰霍普金斯大學
Montgomery, Douglas, Coleman, D., (1993). “設計工業實驗的系統規劃方法”, 《技術計量學》 ,1993年2月,第35卷,第1期
回覆:如何設計具有分佈良好的連續輸入的實驗?你好,維克多,
我會嘗試你的解決方案。
太感謝了 !
回覆:如何設計具有分佈良好的連續輸入的實驗?@statman @Victor_G - 我每次都會理解更多一點,謝謝!
回覆:如何設計具有分佈良好的連續輸入的實驗?聽起來你用的是基本的析因設計,這種設計通常只考慮低/中/高三個等級。如果你的系統是非線性的,你可能需要考慮中心複合設計或拉丁超立方抽樣,以便更好地覆蓋輸入空間。我之前也遇到類似的問題,不得不採用超越簡單的三水平設計的方法。我透過Excedify 複習了結構化的實驗設計方法,這幫助我了解何時應該切換到響應面方法以提高預測精度。