398669_zh-TW

liliconcom

通過空間填充混合物設計、神經網絡和 SVEM 加速創新 (2021-US-45MP-807)

級別：中級

 

Philip Ramsey，數據科學家兼教授，North Haven Group 和新罕布什爾大學
Marie Gaudard，數據科學家，Predictum
韋恩萊文，所有者，預測

 

儘管對工藝/產品開發和改進至關重要，但受限混合物和混合物工藝設計的生成和分析具有挑戰性。經典的混料和混料過程設計通常不能提供足夠的設計空間覆蓋範圍，為邊界區域分配了過多的設計點。此外，經典的混合工藝設計通常太大而不可行。 此外，受限混合設計中固有的大量部分混疊使它們難以分析，特別是對於預測建模目的。

在本次演講中，我們基於 JMP 中可用的快速靈活空間填充設計，提出了新類別的高效約束混合和混合工藝設計。這些設計大大改進了設計空間的覆蓋範圍，並且無需預先指定模型即可生成。

通過模擬和案例研究，我們展示了這些新設計如何結合自驗證集成建模 (SVEM) 來擬合神經網絡，從而產生有效的預測模型。 這些模型為過程表徵和優化提供了基礎，從而確保了更好的放大和縮小模型性能。我們演示瞭如何使用 JMP 16 生成設計和進行 SVEM 分析。

 

 

自動生成的成績單...

 

揚聲器	成績單
菲利普·J·拉姆齊	你好，我是來自新罕布什爾大學和 Predictum 的 Phil Ramsey。 和我的共同主持人 Predictum 的 Wayne Levin 和 Marie Gaudard，
	新罕布什爾大學和 Predictum 名譽教授，我們將就現代混合設計進行演講。
	演講的議程是我們將討論機器學習和實驗設計，簡要介紹什麼是混合設計，
	討論 DOE 的一種新機器學習方法，稱為自動驗證，它與集成建模相結合，創建了一種我們稱之為自驗證集成建模方法的東西。
	然後我們將討論 SVEM，它是自我驗證的集成建模，我們將使用混合實驗進行演示，然後我們將討論
	SVEM 方法和空間填充設計。 韋恩·萊文 (Wayne Levin) 將談論 Predictum 開發的用於執行 SVEM 的插件，他還將進行尿素實驗的演示。
	我想指出的是，最近，事實上僅在今年，我們就已經有三篇了，而且很快就會發表在期刊上的論文，主題是
	DOE 和機器學習，所以人們發現機器學習方法傳統上應用於大數據
	可能對 DOE 有很多適用性，我們當然同意。 我們將展示如何通過混合實驗有效地使用它們。 但是在所謂的機器學習應用中的傳統限制之一
	對於像 DOE 這樣較小的數據集，人們認為必須擁有非常大的數據集。 這實際上並不完全正確。
	正如你將看到的， SVEM 方法已經由許多人開發，包括我和 JMP 的 Chris Gotwalt 博士，
	我們實際上使將這些傳統的大數據方法應用於更小的數據變得非常可行，就像我們通過實驗設計發現的那樣。
	而且機器學習實際上完全與預測有關，因此我們將統計建模分為兩種方法，一種稱為解釋性方法，很經典，它側重於假設檢驗以及 P 值和參數。
	這通常不會產生好的預測模型，但機器學習完全專注於預測。
	這就是我們的觀點，這就是我們今天將要使用的並將其應用於混合實驗的觀點。 我們將使用機器學習
	用於預測。 我們的重點不是解釋，正如您將看到的，我們將能夠將這些預測性機器學習方法應用於小型實驗設計
	數據集。 嗯，傳統上我們評估預測模型的方式是將一部分數據用於訓練，所以我們稱之為訓練集，這是一種非常常見的方法。
	然後我們有另一組以某種方式阻止了。 有多種策略。 我們只談一個，叫做hold back。
	我們把它放在一邊，我們將模型擬合到訓練集，然後保留集或驗證集允許我們評估預測能力。 換句話說，我們正在預測未用於擬合模型的數據。
	但是，這種策略不適用於實驗設計。 他們非常高效，以信息為中心，
	並且通常沒有足夠的資源或預算來開發驗證集。 人們很少能進行可用於驗證的額外運行。
	因此，這似乎是使用機器學習進行預測建模的障礙，但是，正如我們將展示的，這種 SVEM 方法讓我們繞過了這個限制。
	在我們進入 SVEM 之前，我想快速給你一個關於混合設計的討論。 我知道你們中有些人熟悉它們，有些則不熟悉。
	這些是一種特殊類型的實驗設計。 它們並不像應有的那樣普遍，因為人們不了解它們，但它指的是對配方或配方的實驗，而這些配方的成分實際上可以是液體、氣體或固體。
	其中一個重要的概念是對響應的影響僅取決於組件的相對比例。
	所以我們非常關心我們的成分的比例，就像你在食譜中所做的那樣。 我們不關注數量。 如果存在的總量很重要，這將導致另一種類型的實驗，稱為混合量，這超出了今天的範圍。
	但是因為這些是公式的組成部分，所以對這些因素有限制。 換句話說，總金額必須受到限制；有時這是自然發生的。
	但也必須限制比例。 因此，在混合實驗中，與因子實驗不同，您不能獨立地更改因子。
	所以在很多人熟悉的傳統DOE中，對於因子的聯合設置沒有限制。 在某些情況下有，但通常沒有。
	另一方面，混合物實驗，由於它們是某些配方的成分，因此總量必須為 1 或 100%。 因此，如果我有 Q 因子，那麼每次試驗的這些 Q 實驗因子的設置總和必須為 1。 此外，
	任何一個單獨組件的設置都必須介於 0 到 1 之間。 我還要指出，我們今天沒有時間討論這個，
	混合設計的一個重要變體稱為混合過程實驗，其中我們將混合因素與過程因素結合起來。
	我們這樣做是因為混合物的行為。 例如，想想像三部分粘合劑這樣的東西，其行為會隨著加工條件而發生巨大變化。 因此，我們可能會考慮諸如用於固化粘合劑的壓力和溫度以及最佳
	配方通常會隨著這些工藝因素而變化。 這超出了今天的討論範圍，但它是混合物的一個重要方面。
	所以，從歷史上看，當人們分析混合物甚至創造它們……創造它們時，重點是解釋性目標，也就是說，
	參數、P 值和置信區間的假設檢驗。 然而，從一般的混合物來看，這總是有問題的，因為混合物本質上有很多
	因素和效應之間的多重共線性或相關性。 他們必須這樣做，因為總數...總數受到限制，並且它們的總和必須為 1，因此它們不能在設計上獨立。 然而，
	我們不同意這種傳統的關注點，而且我們在混合實驗方面有很多經驗，坦率地說，我們的目標總是預測。
	這不是解釋。 我們正試圖預測混合物或配方的性能，而這正是科學家或工程師感興趣的。
	因此，科學家的需求與我們分析混合物的方式之間存在很大的脫節。 還有很多傳統的設計就是我們所說的邊界點設計。
	如果你熟悉術語 D 最優，它們往往是非常 D 最優的，也就是說，
	大多數點都分配在邊界周圍，我們幾乎沒有內部信息。 點數很少，有時沒有
	在設計區域的內部。 為什麼這很重要？ 嗯，混合系統，特別是在化學和生物應用中，
	往往非常複雜。 有非常複雜的動力學發生，這些響應面具有非常複雜的形狀。
	如果我們沒有關於設計區域內部的大量信息，那麼很可能我們不會提出真正代表系統行為的模型。
	這實際上在混合設計的使用歷史上經常發生。 再說一遍，我們今天沒有時間談論它，
	過去一種經典的分析或建模方法是我所說的 Scheffe 多項式，
	這些是一種設計用於混合的多項式。 它們有許多變體，但這些模擬多項式經常不足以對這些響應面進行建模，尤其是在其經典形式中。
	那麼我們如何解決這個問題呢？ 好吧，我們相信我們需要從空間填充設計的角度來處理混合設計。
	為什麼是空間填充設計？ 同樣，這本身可能是一次談話，但這些設計旨在為給定數量的設計點盡可能地覆蓋設計空間。
	以及設計點數
	是用戶的一個選項。 這實際上可以讓我們使用更小的設計，
	經典的設計，它們涵蓋了設計領域。 因此，這可以為我們提供更準確和有用的預測模型。 我們在整個設計區域有更好的信息。
	而在我們的混合方法中，都是基於空間拍攝設計的使用，這是我們近年來在行業中註意到的趨勢。
	我現在想換檔並談論......好吧，鑑於我們已經創建了混合物，我們已經運行了它，好吧，我們如何分析它？
	我之前提到過，將機器學習應用於 DOE 的問題之一是我們沒有真正的自然驗證集。 好吧，Gotwalt 和 Ramsey，也就是我和 Chris Gotwalt 博士，實際上提出了一種我們稱之為自動驗證的驗證方法。 和
	關於這一點的第一次演講實際上是幾年前在探索歐洲會議上發表的。
	這看起來不直觀，但請聽我說。 我們可以使用原始數據、原始實驗進行訓練和驗證。 換句話說，我們獲取原始數據並創建它的副本或克隆，
	我們將其稱為自動驗證集。 因此，訓練集中的每個觀察結果在自動驗證集中都有一個孿生。
	現在就其本身而言，這似乎是荒謬的。 由於自動驗證集具有與訓練集相同的觀察結果，這如何提供對預測能力的獨立評估？ 好吧，它本身不能。
	自動驗證思想的關鍵是我們對觀察應用加權方案，該方案基於從伽瑪分佈生成權重。
	順便說一下，伽馬分佈通常用於統計應用中的加權。 伽馬權重有許多……我們今天不會再討論的一些很好的屬性。
	我們所做的是生成一組權重，但我們以一種特殊的方式來做。 如果訓練集中的觀察得到高值、高權重，
	自動驗證集中的觀察結果，雙胞胎，權重較低。 我們為什麼要做這個？ 這推動了兩個數據集之間的反相關。
	換句話說，我們正在嘗試使用加權方案去關聯這些集合，並且我們現在在過去幾年中已經對此進行了大量研究。 這表明這種方法非常有效。
	很快就會有一篇論文發表，其中將提供所有這些結果。 所以我們的想法是使用這個加權方案，所以我們取
	訓練集，我們分配伽馬權重，我們有自動驗證集，我們為每個孿生分配相應的權重，所以如果訓練集具有高權重，
	自動驗證集中的雙胞胎獲得了較低的權重，這推動了這種反相關行為。 然後我們簡單地重複這個策略幾次，由用戶指定。 所以在下一張幻燈片中，我展示了一個簡單實驗的例子。 我們有三個因素。 注意
	運行 1-7 是訓練集，原始的。 運行 8-14 是克隆或副本。 注意兩個集合的觀察值完全相同，然後注意名為
	成對的 FWB 權重。 稍後我將解釋 FWB。
	請注意，如果觀察，如觀察 1 獲得高權重，它的孿生，觀察 8，獲得低權重。 所以觀察 8 在驗證集中。
	所以這個分數加權的想法很重要，所以分析是將分數權重應用於響應。 然後我們重複這個策略
	一些次數（次數取決於用戶和場景），我們每次都擬合模型。 換句話說，我們基本上就是所謂的分數加權自舉。
	什麼是分數加權自舉？ 它基本上是自舉的一種形式，也稱為廣義自舉，
	其中我們不引導觀察。 我們引導權重應用於觀察。 這是一種眾所周知的方法，我們正在應用它。
	不同的是，我們重複應用這個，正如我所說，可能是數百次，數千次，這真的取決於用戶。
	每次我們擬合一個模型，然後在最後，我們所做的是取平均值或集合。 這些被稱為......這就是我們得到這個詞的地方
	自驗證或自動驗證是自驗證集成建模。 我們取平均值
	順便說一下，集成建模在機器學習和深度學習中非常常見，因為它往往會導致更穩定和更好的預測建模。
	因此，SVEM 進行分數加權引導以生成一系列模型，然後使用模型平均得出最終的預測模型。
	那麼，該方法是如何工作的呢？ 好吧，您為預測建模選擇一種算法。 在我們的例子中，我們將專注於神經網絡
	混合設計，但您可以選擇其他方法。 SVEM 與它所使用的算法無關，並且它非常適合許多算法。 所以我們創建了訓練和自動驗證集。 我們分配我們的分數權重。
	然後我們擬合模型，然後我們根據用戶的定義進行多次引導，然後取平均值。 好的，現在我將把它交給我的同事 Wayne Levin，他將演示 SVEM 並討論一個加載項來實現它。
韋恩	我只是在這裡做開關
	和共享屏幕。
	只是要切換 PowerPoint。
	非常感謝，菲爾。 我們將在這裡使用這個例子，這個尿素數據，所以實驗的目的是優化清潔劑的解決方案。
	而這種混合物的三個成分是水、酒精和尿素。 這些就是這裡的三列。 我們將只關註一種響應，即粘度。 我們試圖擊中我們的目標 100 但是，正如我們在這裡看到的，
	我們希望在粘度方面介於 95 和 105 之間。 因此，我將切換到 JMP。
	好的，這是我們的尿素數據。 剛剛在這裡打開它，請注意只有 15 次運行，所以我只是在進行下一步。 下一步
	過程是創建自動驗證表，所以當我點擊它時，你會看到一些事情發生。 首先，我們有一個新表，我們有前 15 次運行，這與我們這裡的完全相同。 然後對於每一次運行......所以如果我專注於，例如，第一行（52,29,19），
	你可以看到它在下面重複了，所以 52、29、19。
	同樣，第二行將是 57、23、19。 我顯然不會重複所有這些，但我想你明白了。 它只是重複這個組合......
	在此處的第二組中，第一組是訓練……用於訓練的內容，然後如此處所示，第二組是我們獲得的用於驗證的內容。 現在介於兩者之間的是 Phil 正在談論的成對分數加權列。 所以
	我們傾向於看到......當我們在這裡看到高數字時，我們會在下面得到相應的較低數字，而且它非常遵循......
	好吧，那個 phil 正在談論的伽馬分佈。 那我為什麼不直接展示呢。 我只是要在這裡繪製權重，只是有點
	將其定位在屏幕上。 所以每次我們進行迭代時，我們都會得到……我們刷新權重。 所以只要看看這裡的權重 看看
	專欄在這裡，這個專欄就在這裡。 所以我只是要運行它，這樣你就可以看到了。 所以每次迭代，我們都會得到一組新的
	分數...訓練集和驗證集的分數加權對。 好的。 所以接下來我要
	做一個擬合模型。 所以我打算做，如果你願意，你可能會說，一次迭代。
	因此粘度是響應。 請注意，頻率角色具有成對的分數...分數加權自舉權重，因此這就是將其納入建模的方式。 所以我們走了，這裡是，如果你願意，一個迭代，
	好的，基於這些特定的權重。 好，
	如果我們想要一個集成模型，我們必須反复這樣做。 所以我現在要做的是用新的權重來運行它，如果你願意，
	注意……你必須同時注意三個不同的地方，這可能有點挑戰。 我只是要嘗試定位這些東西，好吧。
	那麼將會發生的事情是，當我單擊此處使用新權重運行時，您將看到此處的權重發生變化，將創建一個模型並保存預測模型
	上面這兒。 我要在這裡做一個。 讓我們試一試吧。 Bang，所以它改變了製作模型的方式。
	在此處保存模型。 還增加了這一欄；這就是菲爾所說的合奏，這是平均水平。 當然我只做了一次迭代所以平均值只是
	相同。 所以我要在這裡再做一次迭代，我們得到一組新的權重，一個新模型，一個新模型已經保存，現在這裡的集成模型是這兩個的平均值
	這邊。 所以我只是要這樣做，哦，我不知道，再做幾次。 tt不難做，這些東西我們都能看出來
	隨著我們的進展而改變。 所以我現在有六個，所以我們為什麼不快速瀏覽一下這六個
	模型...單個模型，以及平均模型、集成，這顯示在分析器中。 而這恰恰表明了不穩定性
	菲爾之前提到過，因為如果，如果你只做一次......現在我知道這裡正在進行分數加權，但正如菲爾提到的，你知道，任何一點的運動我真的可以
	打擾模型，如果你願意，你最終會得到一些並不真正......
	也許並不真正屬於那裡。 它們只是特定設計點的人工製品。 但只要看看這裡，你就會知道如何
	這些單獨的模型中的每一個看起來......好吧，它們在這裡有一些不同的功能。但在下面，平均模型在某種意義上是......好吧，它是上面所有模型的平均值。
	你或多或少可以看到，這裡的大扭結已經被平滑了。 你在這裡看到了一點點。
	現在這只有 6 次迭代，而且對於加載項，我們建議實際進行 50 次迭代。
	但我也要做的是，讓我們來看看實際與預測。 現在這個出來很漂亮......
	相當一致。 無論如何，這些線幾乎都是一個斜率。 通常當我們這樣做時，我們確實會看到更多的變化，但是你會在
	平均模型，在這個特定示例中有點難以看到，但它是一條實線，基本上穿過那裡其他線的質量。 所以我要把這些放在一邊，接下來我要做的是
	我實際上要在這裡進行一些跑步。 我想我們會在這個演示中做 25 次迭代。 你可以看到模型的變化，你可以看到權重
	這邊換。 它沒有在這裡添加任何新東西。 所以我們只是通過。 砰，完成了，現在我們來看看報告。 所以我要打開它。
	最初，我們最終得到了實際與預測的對比和殘差圖。 在這裡看看可能會很好
	分析器。
	我喜歡分析器。 它是
	非常適合混合物，因為你可以看到，當我換水時，當我增加水時，另外兩個水會下降。 那就是
	混合物的固有性質，當然，它們都必須包含或加起來為 1。 好的，如果您願意，這就是平均模型。
	在這裡發生的 25 次合奏的合奏模型，好吧。 所以如果可以的話，我要去
	現在只需快速瀏覽一下混合分析器。
	我們在這裡查找。
	事實上，如果可以的話，你能從中看到什麼......
	注意要點。 你看到這些點是如何很好地擬合的嗎？ 這是設計的空間填充特性，您還會注意到這個設計實際上有一些限制。
	所以我們沒有以任何方式覆蓋水 0-1 或尿素 0-1 等的整個空間，所以我們在這裡有這些約束。
	我現在要做的就是突破極限，這樣我就可以形象化……形象化 95 到 105。 所以這就是我可以在空白處向我展示的地方......
	什麼組合，如果你願意，滿足那些那些條件......這裡的規範限制。
	好的，這就是演示
	SVEM 方法、方法論（如果您願意）以及
	我可以... 我就
	所以SVEM和空間填充設計。 再次重申，這樣做的一大動機是它們本質上是不穩定的。
	因此，數據的微小變化可能會導致預測的巨大變化，當然，單個預測模型可能會因此而不穩定。 你知道的，你最終會遇到那些問題，你知道的，
	通常只是看著就很令人不安，因為這通常不是動力學發生的方式。
	所以我們需要穩定性和多個模型的集成，基於分數加權自舉給我們。
	另一個……關於這個的另一件大事是在這些……在這些情況下固有地存在的多重共線性。 混合物是複雜的系統。
	它們不是組件行為的總和。 它們確實是交互的產物，這就是為什麼我再次喜歡分析器，因為它們描繪了
	這些互動很漂亮。 這些動態非常好。 因此，因為我們得到了所有這些多重共線性，它在某種程度上減輕了這種情況，並提供了一個穩定、更準確的預測模型。 我們現在一直在運行這個......
	實際上它可以追溯到幾年前但是
	自從我們創建了 SVEM 加載項（我將稍後討論）以來，我們已經運行了無數次，從今年早些時候開始，它做得非常好。
	我們的客戶對此非常滿意。 所以就像我說的，使用 SVEM 平均的模型，它不是自動化的 JMP 標准或 JMP Pro，但我們有一個插件，如果你訪問我們的網站 Predictum.com，你可以了解更多關於它以及如何為拿到它，為實現它。
	所以是的，SVEM 上有一個特定的頁面。 我們還有一個現代混合設計課程，你可以看到這是與瑪麗、菲爾和我一起的。
	您可以在 Predictum 網站的培訓頁面上看到這一點。 我們確實涵蓋了有關經典混合設計的部分，但課程的三分之二到四分之三以 SVEM 為特色。
	這是可用的，SVEM 加載項作為課程的一部分提供。 所以在本次演講中，我們已經看到瞭如何從數據構建預測模型......
	數據受到進行驗證試驗以控製過度擬合的可行性的限制。 你知道，在經典的設計實驗中，我們只是沒有足夠的時間去做
	訓練和驗證，所以我們建議使用空間填充設計，特別是對於混合 DOE，但實際上更普遍地用於其他 DOE 情況。 我們描述了基於自動驗證和分數加權引導的 SVEM。
	我們還討論了 SVEM 如何在沒有單獨的一組驗證運行的情況下為 DOE 數據啟用預測建模。
	我們使用尿素實驗數據演示了 SVEM。
	我確實想讓你知道，如果你下載幻燈片，你會找到一大堆參考資料。 所以這裡有一些，還有一些，我喜歡這個的一件事是
	它實際上可以追溯到 1996 年。 所以這已經醞釀了一段時間，我鼓勵你看看這些參考資料。
	有了這個，我們將提出問題。

爆發美國能源部統計和建模回复：通過空間填充混合物設計、神經網絡和 SVEM 加速創新 (2021-US-45MP-807)

很棒的信息！