398669_zh-TW

liliconcom

利用空間填充混合設計、神經網路和 SVEM 加速創新 (2021-US-45MP-807)

等級：中級

 

Philip Ramsey，北黑文集團和新罕布夏大學資料科學家兼教授
Marie Gaudard，Predictum 資料科學家
Wayne Levin，Predictum 所有者

 

儘管約束混合物和混合物製程設計對於製程/產品開發和改進至關重要，但生成和分析卻具有挑戰性。經典的混合和混合製程設計通常無法提供足夠的設計空間覆蓋，將太多的設計點分配給邊界區域。此外，經典的混合製程設計通常太大而不可行。 此外，約束混合設計中固有的大量部分混疊使得它們難以分析，特別是對於預測建模目的。

在本次演講中，我們基於 JMP 中提供的快速靈活空間填充設計提出了新型高效約束混合和混合製程設計。這些設計大大改善了設計空間的覆蓋範圍，並且無需預先指定模型即可產生。

透過模擬和案例研究，我們展示了這些新設計如何與適合神經網路的自我驗證整合建模（SVEM）相結合，產生有效的預測模型。 這些模型為製程表徵和最佳化提供了基礎，從而確保更好的放大和縮小模型效能。我們示範如何使用 JMP 16 產生設計並進行 SVEM 分析。

 

 

自動產生的成績單...

 

揚聲器	成績單
菲利普·J·拉姆齊	大家好，我是來自新罕布夏大學和 Predictum 的 Phil Ramsey。 與我的共同主持人 Predictum 的 Wayne Levin 和 Marie Gaudard 一起，
	新罕布夏大學和 Predictum 的榮譽教授，我們將發表關於現代混合設計的演講。
	演講的議程是我們將討論機器學習和實驗設計，簡要介紹什麼是混合設計，
	談論一種新的 DOE 機器學習方法，稱為自動驗證，它與整合建模相結合，創建了我們稱為自驗證整合建模方法的東西。
	然後我們將討論 SVEM，這是自我驗證的整合建模，我們將使用混合實驗進行演示，然後我們將討論
	SVEM 方法和空間填充設計。 Wayne Levin 將談論 Predictum 開發的用於執行 SVEM 的插件，他還將演示尿素實驗。
	我想指出的是，最近，事實上光是今年，我們就已經有了三個，很快就會出現在期刊上發表的關於以下主題的論文：
	DOE和機器學習，因此人們發現機器學習方法傳統上應用於大數據
	可能對能源部有很多適用性，我們當然同意。 我們將展示如何在混合實驗中有效地使用它們。 但所謂的機器學習應用的傳統限制之一
	對於像 DOE 這樣的較小資料集，人們認為必須擁有非常大的資料集。 這實際上並不完全正確。
	正如您將看到的，SVEM 方法是由許多人開發的，包括我自己和 JMP 的 Chris Gotwalt 博士，
	實際上，我們使將這些傳統的大數據方法應用於小得多的數據變得非常可行，就像我們在實驗設計中發現的那樣。
	而且機器學習實際上都是關於預測的，所以我們將統計建模分為兩種方法，一種稱為解釋性方法，這是經典的，它側重於假設檢定以及 P 值和參數。
	這通常不會產生良好的預測模型，但機器學習完全專注於預測。
	這就是我們的觀點，這就是我們今天要使用的觀點，並將其應用於混合實驗。 我們將使用機器學習
	用於預測。 我們的重點不是解釋，正如您將看到的，我們將能夠將這些預測機器學習方法應用於小型實驗設計
	數據集。 嗯，傳統上我們評估預測模型的方式是用一部分資料來訓練，所以我們稱之為訓練集，這是很常見的方法。
	然後我們還有另一組，但我們以某種方式保留了。 有多種策略。 我們只討論一種，稱為「保留」。
	我們把它放在一邊，將模型擬合到訓練集，然後保留集或驗證集使我們能夠評估預測能力。 換句話說，我們正在預測未用於擬合模型的數據。
	然而，這種策略不適用於實驗設計。 他們非常有效率並且以資訊為中心，
	而且通常沒有足夠的資源或預算來開發驗證集。 人們很少能夠進行可用於驗證的額外運行。
	因此，這似乎是使用機器學習進行預測建模的障礙，但正如我們將要展示的，這種 SVEM 方法使我們繞過了這個限制。
	在我們進入 SVEM 之前，我想快速向您討論混合設計。 我知道你們有些人熟悉它們，有些人不熟悉。
	這些是一種特殊類型的實驗設計。 它們並不像應有的那麼常見，因為人們不了解它們，但它指的是對配方或配方的實驗，這些配方的成分實際上可以是液體、氣體或固體。
	重要的概念之一是對反應的影響僅取決於成分的相對比例。
	所以我們非常關心我們的成分的比例，就像你在食譜中所說的那樣。 我們不關注數量。 如果存在的總量很重要，這就會導致另一種類型的實驗，稱為混合物量，這超出了今天的範圍。
	但由於這些是配方的組成部分，因此這些因素受到限制。 換句話說，總量必須受到限制；有時這是自然發生的。
	但比例也必須受到限制。 因此，在混合實驗中，與因子實驗不同，您無法獨立更改因子。
	所以在很多人熟悉的傳統DOE中，對因素的聯合設定沒有任何約束。 在某些情況下有，但通常沒有。
	另一方面，在混合物實驗中，由於它們是某種配方的成分，因此總量必須總計為 1 或 100%。 因此，如果我有 Q 因子，那麼每次試驗的 Q 實驗因子的設定必須總和為 1。 此外，
	任何一個單獨組件的設定必須介於 0 到 1 之間。 我還要指出，我們今天沒有時間討論這個，
	混合設計的一個重要變體稱為混合過程實驗，其中我們將混合因素與過程因素結合。
	我們這樣做是因為混合的行為。 例如，考慮三部分黏合劑，其行為會隨著加工條件而發生巨大變化。 因此，我們可能會考慮固化黏合劑的壓力和溫度等因素以及最佳的
	配方通常會根據這些製程因素而變化。 這超出了今天討論的範圍，但它是混合物的一個重要方面。
	因此，從歷史上看，當人們分析混合物甚至創建它們…創建它們時，重點是解釋性目標，即
	對參數、P 值和信賴區間的假設檢定。 然而，從一般的混合物來看，這總是有問題的，因為混合物本質上有很多
	因素和影響之間存在多重共線性或相關性。 它們必須這樣做，因為總數……總數受到限制，而且它們的總和必須為 1，因此它們在設計上不能是獨立的。 然而，
	我們不同意這種傳統的關注點，根據我們在混合實驗方面擁有的大量經驗，坦白說，目標始終是預測。
	這不是解釋。 我們試圖預測混合物或配方的性能，這正是科學家或工程師所感興趣的。
	因此，科學家的需求與我們分析混合物的方式之間存在著很大的脫節。 此外，許多傳統設計都是我們所謂的邊界點設計。
	如果您熟悉術語 D 最優，那麼它們往往是非常 D 最優的，也就是說，
	大多數點都分配在邊界周圍，我們幾乎沒有內部資訊。 點很少，有時沒有
	在設計區域的內部。 為什麼這很重要？ 嗯，混合物系統，特別是在化學和生物應用中，
	往往非常複雜。 正在發生非常複雜的動力學，而這些響應面具有非常複雜的形狀。
	如果我們沒有關於設計區域內部的大量信息，那麼我們很可能不會提出真正代表系統行為的模型。
	在混合設計的使用歷史上，這種情況實際上經常發生。 再說一次，我們今天沒有時間談論這個，
	過去分析或建模的經典方法是我所謂的 Scheffe 多項式，
	這些是一種設計用於混合物的多項式。 它們有許多變體，但這些模擬多項式通常不足以對這些響應面進行建模，尤其是其經典形式。
	那我們要如何解決這個問題呢？ 嗯，我們相信我們需要從空間填充設計的角度來進行混合設計。
	為什麼要進行空間填充設計？ 同樣，這本身就可以是一個主題，但這些設計是為了在給定數量的設計點上盡可能覆蓋設計空間而創建的。
	以及設計點數
	是用戶的一個選項。 這實際上可以讓我們使用更小的設計，
	經典設計，覆蓋了設計領域。 因此，這可以為我們提供更準確和有用的預測模型。 我們對整個設計區域有更好的資訊。
	在我們的混合物方法中，這一切都基於太空拍攝設計的使用，這是我們近年來在行業中註意到的趨勢。
	我現在想換個話題，談談……好吧，鑑於我們已經創建了混合物，我們已經運行了它，那麼我們如何分析它？
	我之前提到過，將機器學習應用於 DOE 的問題之一是我們實際上沒有一個自然的驗證集。 好吧，Gotwalt 和 Ramsey，也就是我和 Chris Gotwalt 博士，實際上提出了一種我們稱為自動驗證的驗證方法。 和
	關於這個問題的第一次演講實際上是在幾年前的 Discovery Europe 會議上進行的。
	這看起來並不直觀，但請聽我說完。 我們可以使用原始數據、原始實驗進行訓練和驗證。 換句話說，我們獲取原始資料並創建它的副本或克隆，
	我們稱之為自動驗證集。 因此，訓練集中的每個觀察結果在自動驗證集中都有一個雙胞胎。
	現在看來，這似乎是荒謬的。 由於自動驗證集與訓練集具有相同的觀察結果，因此如何提供對預測能力的獨立評估？ 嗯，它本身不能。
	自動驗證思想的關鍵是我們對觀測值應用加權方案，該方案基於從伽瑪分佈產生權重。
	順便說一句，伽馬分佈通常用於統計應用中的加權。 伽馬權重有許多...許多很好的屬性，我們今天不會討論。
	我們所做的是產生一組權重，但我們以特殊的方式進行。 如果訓練集中的觀察值較高、權重較高，
	自動驗證集中的觀察結果（雙胞胎）的權重較低。 我們為什麼要做這個？ 這驅動了兩個數據集之間的反相關性。
	換句話說，我們正在嘗試使用加權方案來消除這些集合的相關性，並且我們在過去幾年中對此進行了大量研究。 說明這個方法非常有效。
	很快就會有一篇論文發表，其中將提供所有這些結果。 所以我們的想法是使用這種加權方案，所以我們採用
	訓練集，我們分配伽瑪權重，我們有自動驗證集，並且我們為每個雙胞胎分配相應的權重，所以如果訓練集具有高權重，
	自動驗證集中的雙胞胎的權重較低，這會導致這種反相關行為。 然後我們只需重複該策略幾次，由使用者指定。 因此，在下一張投影片中，我將展示一個簡單實驗的範例。 我們有三個因素。 注意
	運行 1-7 是原始訓練集。 運行 8-14 是克隆或副本。 請注意，兩組的觀察值完全相同，然後注意稱為
	成對的 FWB 配重。 我稍後會解釋 FWB。
	請注意，如果某個觀察（例如觀察 1）的權重較高，那麼它的孿生觀察 8（觀察 8）的權重較低。 因此觀察 8 在驗證集中。
	因此，分數加權的想法很重要，因此分析是透過將分數權重應用於回應來完成的。 然後我們重複這個策略
	一定次數（次數取決於使用者和場景），我們每次都會適合模型。 換句話說，我們基本上就是所謂的分數加權引導。
	什麼是分數加權引導？ 它基本上是引導的一種形式，也稱為廣義引導，
	其中我們不引導觀察。 我們引導應用於觀察的權重。 這是一種眾所周知的方法，我們正在應用它。
	不同的是，我們重複應用這個，正如我所說，可能是數百次、數千次，這實際上取決於用戶。
	每次我們擬合一個模型，最後，我們所做的就是取平均值或整體。 這些被稱為......這就是我們得到這個術語的地方
	自我驗證或自動驗證是自我驗證整合建模。 我們取平均值
	順便說一句，整合建模在機器學習和深度學習中非常常見，因為它往往會導致更穩定和更好的預測建模。
	因此，SVEM 透過分數加權引導來產生一系列模型，然後使用模型平均值來得出最終的預測模型。
	那麼，該方法是如何運作的呢？ 好吧，您為預測建模選擇一種演算法。 在我們的例子中，我們將重點放在神經網絡
	混合設計，但您可以選擇其他方法。 SVEM 對於與它一起使用的演算法相當不可知，而且它非常適合許多演算法。 因此，我們建立訓練和自動驗證集。 我們分配分數權重。
	然後我們擬合模型，然後根據使用者的定義引導多次，然後取平均值。 好的，現在我將把它交給我的同事 Wayne Levin，他將演示 SVEM 並討論執行此操作的插件。
韋恩	我只是在這裡進行切換
	並分享螢幕。
	只是要切換 PowerPoint。
	非常感謝，菲爾。 我們將在這裡使用這個例子，這個尿素數據，所以實驗的目的是優化清潔劑的解決方案。
	此混合物的三種成分是水、酒精和尿素。 這就是這裡的三欄。 我們只關註一個響應，即黏度。 我們試圖達到 100 的目標，但是，正如我們在這裡看到的，
	我們希望黏度在 95 到 105 之間。 因此，我將切換到 JMP。
	好的，這是我們的尿素數據。 剛剛在這裡打開它，請注意只有 15 次運行，所以我只是進入下一步。 下一步
	過程是建立自動驗證表，所以當我單擊該表時，您會看到發生一些事情。 首先，我們有一個新表，並且有前 15 次運行，這與我們這裡的完全相同。 然後對於每次運行...因此，例如，如果我專注於第一行 (52, 29, 19)，
	你可以看到它在下面重複，所以 52, 29, 19。
	同樣，第二行將是 57、23、19。 我顯然不會重複所有這些，但我想你已經明白了。 它只是重複這個組合...
	在下面的第二組中，第一組是訓練......用於訓練的內容，然後第二組，如此處所示，是我們用於驗證的內容。 現在介於兩者之間的是菲爾正在談論的配對分數加權列。 所以
	我們傾向於看到......當我們傾向於在這裡看到高數字時，我們會在下面得到相應的較低數字，並且它非常遵循......
	好吧，那個菲爾正在談論的伽馬分佈。 那我為什麼不直接展示這一點呢？ 我只是想在這裡繪製權重，只是這樣
	將其放置在螢幕上。 因此，每次我們進行迭代時，我們都會刷新權重。 所以只要看看這裡的權重，然後看看
	專欄在這裡，這篇專欄就在這裡。 所以我將運行它以便您可以看到。 所以每次迭代，我們都會得到一組新的
	訓練集和驗證集的分數...分數加權對。 好的。 所以接下來我要
	做一個擬合模型。 所以你可能會說，如果你願意的話，我將進行一次迭代。
	所以黏度就是響應。 請注意，這裡的頻率角色具有成對的分數...分數加權自舉權重，因此這就是它在建模中的影響因素。 那我們就開始吧，如果你願意的話，這是一個迭代，
	好的，基於這些特定的權重。 出色地，
	如果我們想要一個整合模型，我們就必須重複這樣做。 所以我現在要做的是用新的重量來跑這個，如果你願意的話，
	留意...你必須同時留意三個不同的地方，這可能是一個挑戰。 我只是想嘗試定位這些東西，好吧。
	因此，當我單擊此處使用新權重運行時，您將看到此處的權重發生變化，將建立模型並保存預測模型
	上面這兒。 我要在這裡做一個。 讓我們試試看。 砰，所以它改變了模型的製作方式。
	在此保存模型。 也新增了此欄；這就是菲爾所說的整體，這是平均值。 當然，我只進行了一次迭代，所以平均值只是
	相同。 所以我要在這裡進行另一次迭代，我們得到一組新的權重，一個新的模型，並且一個新的模型已被保存，現在這裡的整體模型是這兩個的平均值
	在這裡。 所以我會再做幾次，哦，我不知道。 這並不難做到，我們可以看到這些東西
	隨著我們的前進而改變。 現在我已經有了六個，所以我們為什麼不快速瀏覽一下這六個
	模型...單一模型，以及平均模型、整體模型，這些都顯示在分析器中。 這恰恰表明了不穩定
	菲爾早些時候提到過，因為如果，如果你只做一次……現在我知道這裡正在發生分數加權，但正如菲爾提到的，你知道，我真的可以做任何點的移動
	如果你願意的話，擾亂模型，你最終會得到一些不真正的特徵...
	也許並不真正屬於那裡。 它們只是特定設計點的產物。 但只要看看這裡，你就會明白如何
	每個單獨的模型看起來……嗯，它們有一些不同的功能。但在下面，平均模型在某種意義上......嗯，它是上面所有模型的平均值。
	你或多或少可以看到，這裡的大問題已經解決了。 你在這裡看到了一點點。
	現在這僅進行了 6 次迭代，對於該插件，我們建議實際上進行 50 次迭代。
	但我也會做的是，讓我們看看實際情況與預測情況。 現在這個結果很漂亮...
	非常一致。 無論如何，這些線幾乎都是 1 的斜率。 通常，當我們這樣做時，我們確實會看到更多的變化，但是您會在
	平均模型，在這個特定的例子中有點難以看到，但它是一條實線，基本上穿過那裡其他線的質量。 所以我要把這些移到一邊，接下來我要做的就是
	我實際上要在這裡進行一系列跑步。 我想我們會在這個演示中進行 25 次迭代。 你可以看到模型的變化，你可以看到權重
	到這裡換。 它沒有在這裡添加任何新內容。 所以我們只是經歷而已。 砰，完成了，現在我們來看看報告。 所以我要打開它。
	最初，我們最終得到了此處的實際與預測以及殘差圖。 在這裡看看可能會很好
	分析器。
	我喜歡分析器。 它是
	非常適合混合物，因為你可以看到，當我換水時，當我增加水量時，另外兩個會下降。 這就是
	混合物的固有性質，當然，它們都必須包含或加起來為1。 好吧，如果你願意的話，這就是平均模型。
	在這裡進行的 25 場合奏模型，好吧。 所以如果可以的話我會
	現在快速瀏覽一下混合物分析器。
	我們在這裡看到這個樣子。
	事實上，如果可以的話，你可以從中看到什麼...
	注意要點。 你看到這些點是如何很好地配合的嗎？ 這是設計的空間填充性質，您還會注意到設計實際上有限制。
	所以我們無論如何都不會覆蓋水 0-1 或尿素 0-1 等的整個空間，所以我們在這裡有這些限制。
	我現在要做的就是加入限制，這樣我就可以想像……想像 95 到 105。 所以這向我展示了我可以在此處的空白處...
	如果您願意的話，什麼組合可以滿足這些條件…此處的規格限制。
	好的，這就是演示
	SVEM 方法、方法論（如果您願意的話）以及
	我可以... 我就這樣吧
	所以SVEM和空間填充設計。 再說一次，這樣做的一大動機是它們本質上不穩定。
	因此，數據中的微小變化可能會導致預測發生巨大變化，因此單一預測模型當然可能會不穩定。 你知道，你最終會遇到那些問題，而且，你知道，
	通常光是看著就令人不安，因為這通常不是動力學發生的方式。
	因此，我們需要穩定性以及基於分數加權引導的多個模型的整合。
	另一個……關於此的另一件大事是這些……在這些情況下固有地存在的多重共線性。 混合物是複雜的系統。
	它們不是組件行為的總和。 它們確實是互動的產物，這就是為什麼我再次喜歡分析器，因為它們描繪了
	這些互動很美妙。 這些動態表現得非常好。 因此，因為我們得到了所有這些多重共線性，它在某種程度上減輕了這種情況，並提供了穩定、更準確的預測模型。 我們現在一直在運行這個...
	實際上它可以追溯到幾年前但是
	自從我們創建了 SVEM 插件（我稍後會討論一下）以來，自今年早些時候以來，我們已經運行了它很多次，而且它做得非常好。
	我們的客戶對此非常滿意。 正如我所說，使用SVEM 進行平均的模型不是自動化的，也不是JMP 標準或JMP Pro，但我們確實有一個插件，如果您訪問我們的網站Predictum.com，您可以了解有關它的更多資訊以及如何使用為拿到它，為實現它。
	是的，SVEM 上有一個特定的頁面。 我們還有一個現代混合設計課程，你可以看到這是瑪麗、菲爾和我自己的課程。
	您可以在 Predictum 網站的培訓頁面上看到這一點。 我們確實涵蓋了經典混合設計的一部分，但課程的三分之二到四分之三都以 SVEM 為特色。
	這是可用的，SVEM 插件作為課程的一部分提供。 因此，在本次演講中，我們了解如何根據數據建立預測模型...
	數據受到進行驗證試驗以控製過度擬合的可行性的限制。 你知道，在經典的設計實驗中，我們只是沒有在運作要做
	訓練和驗證，因此我們建議使用空間填充設計，特別是對於混合 DOE，但實際上更普遍地也適用於其他 DOE 情況。 我們描述了 SVEM，它基於自動驗證和分數加權引導。
	我們還討論了 SVEM 如何在無需進行一組單獨的驗證運行的情況下對 DOE 資料進行預測建模。
	我們使用尿素實驗數據演示了 SVEM。
	我確實希望您知道，如果您下載投影片，您會發現一大堆參考資料。 所以這裡有一些，還有更多，我喜歡這個的一件事是
	實際上可以追溯到1996年。 所以這件事已經醞釀了一段時間了，我鼓勵你去看看這些參考資料。
	接下來我們將回答問題。

爆發美國能源部統計和建模回覆：透過空間填充混合設計、神經網路和 SVEM 加速創新 (2021-US-45MP-807)

很棒的訊息！