介紹
歡迎來到我們空間填充設計實驗系列的最後一篇文章！在前幾篇文章中，我們建立了框架和評估方法，現在我們將展示對比研究的全面結果。這些發現為何時以及如何為您的特定應用選擇最合適的空間填充設計提供了明確的指導。
主要發現總結
我們對四種設計類型、三種維度設定和每種因素的三種樣本大小條件進行了分析，結果揭示了設計性能和計算時間方面的一些有趣的見解。
如前所述在本系列的前一篇文章中結果分析是透過兩種不同的方法進行的：對不同維度和樣本大小設定下的設計類型進行排名（圖 1），以及根據因素對反應差異、MaxPro 和時間響應進行建模的方法（圖 2）。
圖 1：所有回答的排名結果。
圖 2：所有反應的預測分析器和變數重要性。
如預期，在測試的不同配置中，並不存在通用的空間填充設計方案。具體情況決定了最優選擇，特別是維度和每個因素的點數對設計性能以及所需的計算時間都有顯著影響。
快速柔性填充是投影性能的最佳設計（MaxPro 標準）。
均勻性設計在空間覆蓋/均勻性方面表現最佳（差異準則），但計算它所需的生成時間最長，而且很快就會變得難以承受。
有趣的是，設計表現很大程度取決於樣本量和維度的交互作用，因為對於特定數量的因素，相對表現會隨著運行總次數的變化而變化。
設計類型排名結果
使用本系列第二篇文章中介紹的腳本，可以將連續回應轉換為排名，其中四種設計在每個維度和樣本大小場景下的效能從 1（最佳設計）到 4（最差設計）進行評分。
- 空間覆蓋率（差異）屬性比較：
- 在所有維度和樣本量設定下，均勻分佈設計都表現出最佳的空間覆蓋性能。考慮到均勻分佈設計傾向於盡可能地使點分佈遵循均勻分佈，這一點並不令人驚訝。如本系列第一篇所述因此，預計他們在差異指標方面的表現會很好。
- 拉丁超立方設計透過模擬均勻分佈來分配點，因其良好的空間覆蓋性能而位居第二。
- 最後，快速且靈活的設計，在空間覆蓋率和投影特性之間取得平衡，以及球體堆積設計，盡可能地將點分散到設計區域內，分別位列第三和最後一位（圖 3）。
圖 3：所有維度和樣本大小的測試配置的設計差異排名（越低越好）。
- 投影（MaxPro）屬性比較：
- 快速靈活的填充設計在各種情況下都能展現最佳的噴射性能。
- 對於中等（每個因子 20 次運行）和高（每個因子 100 次運行）樣本量，均勻設計比拉丁超立方設計表現更好。
- 球體堆積設計的 MaxPro 統計量未定義，因為點在一個維度上可能具有相同的值，因此它們不會出現在排名中（圖 4）。
圖 4：MaxPro 對所有維度和樣本大小的測試配置的設計進行排名（越低越好）。
- 設計時產生方式比較：
- 拉丁超立方設計在幾乎所有維度和樣本大小設定下都表現出最快的生成速度。
- 對於中等（每個因素 20 次運行）到高（每個因素 100 次運行）的樣本量，快速靈活設計因其設計生成速度而成為極具競爭力的選擇。
- 球體堆積設計的計算速度通常較慢，而均勻堆積設計的計算速度最慢（圖 5）。
圖 5：所有維度和樣本大小的測試配置的設計產生時間排名（越低越好）。
模型結果
使用本系列第二篇文章中介紹的修改後的模型腳本，我們對三個回應變數——差異值、MaxPro 和時間——運行了模型。對於每個反應變量，我們都可以注意到模型的擬合效果似乎都不理想（圖 6）。
圖 6：初始響應差異模型的實際值與預測值圖。
此外，殘差中還可以看出非常態和非隨機模式（圖 7）。
圖 7：殘差視覺化顯示非隨機和非常態模式。
殘差值應圍繞零隨機分佈，這樣反應變數的變化才能完全由模型中包含的效應解釋。如果殘差呈現非隨機模式，則該模式的性質可能表示模型有潛在問題。在這種情況下，曲率效應、殘差的非正態性以及異方差性（非齊次方差）可能表明需要進行資料轉換來解決這些問題。由於資料涵蓋了非常不同的尺度範圍（圖 8），因此對數轉換（或 λ=0 的 Box-Cox 轉換）似乎是合適的。
圖 8：對差異響應進行對數常態分佈擬合的結果。
JMP 提供的 Box-Cox 轉換評估證實了這項評估，顯示 λ 的建議值非常接近 0（圖 9）。
圖 9：Box-Cox 變換面板結果的差異響應。
在Box-Cox 轉換的紅色三角形下（位於「因子分析」>「Box Cox Y 變換」中「回應」旁的紅色三角形內），我們選擇「替換為變換」 ，並將 lambda 值為 0，以自動將模型擬合替換為對數轉換後的模型。現在，這些模型似乎足以用於分析實驗數據。
- 差異響應建模結果：大部分差異反應的變異可由因子比 exp/因子和設計類型解釋。維度（因子數量）也是一個重要因素，但其重要性相對低於前面提到的兩個因素（圖 2）。檢測到了交互作用效應，但與主效應相比，它們對差異變異的影響相對較小。因子比 exp/因子的二次效應非常顯著（圖 10）。
圖 10：差異響應效應量圖。
透過顯示 DOE 分析的每個因子數情境的 exp/因子比率所測量的差異值，可以直觀地看出設計類型選擇對差異值的影響（圖 14）。
- MaxPro響應的建模結果：MaxPro反應的大部分變異可由因子比exp/因子和設計類型解釋。維度（因子數量）也是一個重要因素，但其重要性相對低於前面提到的兩個因素（圖2）。模型偵測到中等程度的交互作用，涉及這三個因子。因子比exp/因子的二次效應非常顯著（圖11）。
圖 11：MaxPro 響應的效應量圖。
透過顯示 DOE 分析的每個因子數情境的 exp/因子比率測量的 MaxPro 值，可以直觀地看出設計類型選擇對 MaxPro 指標的影響（圖 14）。
- 設計生成時間的建模結果：三個因素（設計類型、因素數量和效應量/因素比率）對設計生成時間響應具有相似且較高的重要性（圖 2）。三個因素之間存在顯著的交互作用，顯示不同的點生成方法類型如何影響設計生成時間（圖 12）。拉丁超立方設計類型似乎特別適用於高維和大樣本量（每個因素的點數）的情況，而均勻設計可能更適合低維度和小樣本量的情況。
圖 12：時間響應效應量圖。
透過顯示 DOE 分析的每個因子數量場景的 exp/因子比率來衡量設計類型選擇對設計生成時間的影響，可以簡單地將其視覺化（圖 13）。
圖 13：設計產生時間隨因素（設計類型、因素數量和指數/因素比率）的變化。
關鍵見解
隨著樣本數的增加，設計特有的優勢更加顯著。樣本量增加時，各因素分佈的間隙減少，從而降低了差異。然而，隨著點數的增加，點之間的距離縮小，MaxPro準則值增加。值得注意的是，差異和MaxPro準則之間存在著一個平衡點，具體需要根據每個因素的運行次數進行權衡。這種平衡點在60到80之間的區域尤為明顯，在該區域內，必須在差異和MaxPro指標之間對設計性能準則進行優先排序（圖14）。
對於 MaxPro 建模，可以注意到拉丁超立方設計和快速靈活填充設計的表現會隨著維度（因子數）的變化而變化：當每個因子的實驗次數比約為 70 時，這兩種設計的 MaxPro 值都會隨著因子數的增加而增加。
圖 14：差異和 MaxPro 值隨設計因素的變化。
對於高維度資料和/或大樣本量，均勻分佈設計的計算量會變得過大。性能與速度之間的權衡決定了不同場景下應採用不同的設計。為了總結每種設計的優點和缺點，我們提供了一個包含結果的表格（表1）。
實用選擇指南/決策框架
第一步：評估你的實驗環境
- 因子空間的維度（因子的數量和類型）
- 預期響應特性（噪音水準）
- 樣本量限制
- 可用運算資源
步驟 2：套用選擇規則
- 高維度：避免千篇一律的設計
- 混合因素類型和/或存在限制條件：採用快速靈活的填充設計
- 響應噪音：優先選擇球形堆積設計，或先使用基於篩選/模型的實驗設計。
- 樣本量小：創建均勻或拉丁超立方設計
- 需要快速生成設計稿：生成拉丁超立方或快速靈活填充設計
摘要：空間填充設計對比
表 1：以空間填滿設計類型劃分的結果摘要。
請注意，由於計算時間過長，無法對完全析因設計（九個因子，每個因子運行 100 次的均勻設計）進行一項處理（圖 15）：
圖 15：JMP 顯示的組合均勻設計訊息，該設計由九個因素組成，每個因素運行 100 次。
由於此配置的原因，該設計計算在完成前已中止。即使全因子設計中缺少此實驗，分析仍然可以順利進行。
局限性和未來方向
研究局限性
- 運算能力的限制使得最高維度的測驗無法進行。
- 專注於不受限制的連續因素，以便測試多種設計類型。
未來研究
- 與主動學習策略（貝葉斯優化）的整合
- 與不同機器學習模型的效能比較
- 響應中對噪音的穩健性/敏感性
結論和建議
我們的綜合評估提供了明確的證據，表明空間填充設計選擇應由具體的實驗特徵驅動，而不是預設選擇。
重點總結
- 沒有絕對的贏家；具體情況決定最佳選擇。
- 維度至關重要。
- 快速且靈活的填充設計是投影性能的最佳設計（MaxPro 標準）。
- 反應類型很重要；光滑表面和複雜表面需要不同的處理方法。
- 樣本量交互作用；隨運轉次數的相對表現變化。
最終建議：以我們的決策框架為起點，但盡可能透過試驗研究來驗證設計選擇。
至此，我們關於空間填充實驗設計的三篇系列文章就全部結束了：
- 空間填充設計常見類型簡介
- 比較框架和評估指標
- 結果、分析和設計選擇指南（這篇文章）
感謝您關注本系列文章！我希望這些見解能幫助您在自己的工作中，就空間填充設計做出更明智的決定。
資源與延伸閱讀
- 本研究使用的配置：
- 處理器：第 11 代英特爾® 酷睿™ i9-11900H @ 2.50GHz (2.50 GHz)
- 已安裝記憶體：64.0 GB（可用記憶體：63.7 GB）
- 系統類型：64 位元作業系統，x64 處理器
- 用於設計生成和評估的 JMP 腳本
- 擴展結果表格和視覺化
- 參考 ：
嗨@Victor_G ，
感謝您的文章，它們真的很有幫助。
我有一個關於在電腦模擬中選擇拉丁超立方設計還是快速柔性設計的問題。
請考慮以下因素；
A：範圍：0-1（連續值）
B：範圍：1-100（該範圍內的所有整數值）
C：範圍：1-5（該範圍內的所有整數值）
問題：JMP建議對離散因子使用 FFF 設計。然而，因子 B 和因子 C 雖然技術上是離散的，但它們的取值範圍應該是整數（1, 2, 3, 4, ..., 100）。我只是不希望它們在模擬中使用小數。我應該使用哪種設計？
JMP中有一個選項可以設定因子值的寬度，這讓我可以去掉拉丁超立方變換中的小數部分。我不確定這是否會對分析結果產生影響。
在 LHD 中，我可以將因子視為連續變數並調整寬度，或者使用某種舍入方法來獲得整數值嗎？
JMP 文件中給出的拉丁超立方插值考慮的是連續輸入，但最終設計表的值是整數。
https://www.jmp.com/support/help/en/19.0/index.shtml#page/jmp/example-of-creating-a-latin-hypercube-design.shtml#
你好@Divya123rama ，
感謝您的好評。
關於您的問題，我的想法如下：
正如您可能已經在本系列部落格的第一部分「探索空間填充設計（第一部分）：常見空間填充類型簡介 - JMP 使用者社群」中讀到的那樣，拉丁超立方設計會創建與最終設計中所需的運行次數相等的區間。最終設計中所需的運行次數會影響因子的區間數量，以及數值「向上取整」對設計的影響程度。在您提供的 JMP 幫助範例中，該設計包含 8 個運行，因子範圍為 1 到 8，因此拉丁超立方會創建寬度為 1 的區間，以便每個區間都能在設計中使用。當因子範圍等於運行次數時，區間將變成離散的整數值。
就你的情況而言，你有兩個截然不同的因子範圍：通常情況下，對於範圍較小的離散因子（1-5），分箱數量可能總是大於該範圍內可供選擇的值的數量（5）。因此，我建議使用離散數值因子，因為如果在設計中向上取整，可能會導致大量重複值，這可能會影響設計的覆蓋率和投影特性。
以拉丁超立方設計為例，進行 30 次試驗，僅考慮連續因子（B 和 C 在設計生成後向上取整，使其僅具有整數值）：
快速靈活填充設計範例，運行次數為 30 次，A 和 B 為連續因子（B 在設計生成後向上取整），C 為離散數值：
快速靈活填充設計範例，包含 30 次運行，A 為連續填充，B 和 C 為離散數值填充：
第二種和第三種情況下的運行分佈似乎非常相似，而且由於至少存在一個離散數值因子，它們都採用了快速靈活填充設計。第一種情況是強制產生僅包含連續因子的LHD序列，然後再進行向上取整而得到的。這種情況似乎並非最優，因為點的分佈看起來比較聚集，實驗空間邊界處有間隙。
在這種情況下，我建議使用快速靈活填充設計，可以選擇方案 2 或方案 3。
希望這個回答對您有幫助。
Victor，你關於空間填充設計的3篇系列文章清晰易懂，非常實用。
對於許多應用而言，採用 FFF 設計並使用 ML 方法（如自驗證整合模型）對回應資料進行後續分析，對於已知或預期響應面複雜的流程來說，似乎是一個很好的選擇。
空間填充設計的一個顯著優勢在於，由於設計空間中的空隙相對較小，因此無需對預測模型進行過多測試。與空間填充設計中的空隙相比，典型的中心複合設計或最優設計中的空隙簡直如同魯卜哈利沙漠一般巨大。這一優勢意味著更簡化的實驗設計流程和更經濟的實驗設計成本。
謝謝你！
Stephen Czupryna，Pyzdek 研究所，美國亞利桑那州普雷斯科特谷
嗨@SteveCz ，
非常感謝您的好評和回饋！
我同意，快速靈活填充設計是很好的選擇，具有良好的投影和偏差性能，由於能夠處理多種因素類型和約束，因此應用範圍很廣，而且計算生成時間短。
是的，使用空間填充設計和機器學習建模的目標是找到一個能夠在設計點之間平滑插值的模型（取決於所選演算法和回應行為假設）。為了驗證擬合模型的相關性和有效性，可以使用特定的驗證方法，例如留一法和自驗證整合模型。對於一些簡單的模型，例如隨機森林和支援向量機，還可以檢查一些關鍵的超參數值（例如隨機森林的樹深度、支援向量機的懲罰項和曲率），以防止和評估過擬合的風險，並選擇合適的超參數值。
最後，沒有什麼比驗證運行更有效的了，在有趣的位置（最佳/最差結果、距離設計點較遠的區域等）運行新的實驗來確認模型的有效性始終是一個好主意…
最好的，
感謝您對SF設計分析的補充見解。
完全同意，驗證運行是一個非常好的主意，確實應該成為工作流程的一部分。但是，經驗表明，由於時間壓力和資源限制，在產品開發過程中，驗證運作往往很難進行。在這種情況下，預先選擇空間填充設計可以降低因減少驗證運行次數而做出商業決策的整體風險。
史蒂夫
