揚聲器 | 成績單 |
| 喬丹希勒 | 出去。 |
| 菲爾·凱 | 好的，謝謝您加入我們。 我是菲爾·凱。 我是 JMP 的學習經理，我將以 SVEM 的交互式示例開始本次演示，SVEM 是自我驗證的集成建模。 |
| 我將介紹 SVEM 是什麼及其工作機制，然後 Pete 和 Trent 將分享示例， |
| 案例研究和模擬，真正解釋了您為什麼要這樣做。 我只是要在一個 |
| 非常簡單的案例研究，所以一開始看起來可能不是為什麼……可能不清楚為什麼你想要這樣做，但希望在我解釋完之後你會理解這個機制。 |
| 好的，我現在要停止我的視頻，只關注這裡的軟件演示。 |
| 我們這裡有一本 JMP 日誌，我們正在與您分享，因此您可以從 Community.JMP.com 的 JMP 社區中的帖子訪問該日誌。 |
| 我們將使用的示例是一個經典的 DOE 示例。 這是反彈數據，您可以從 JMP 的幫助文件中獲取該數據。 |
| 所以這是三個因子，15 次運行。 這是 Box-Behnken 設計，我們在那裡得到了響應，它是拉伸的，所以非常簡單，標準， |
| 傳統的老式 DOE。 |
| 對這些數據進行建模並沒有真正的挑戰，我們看看我們是否適合一個響應曲面模型，這種曲線行為、二次效應以及因素之間的相互作用也很重要。 |
| 那麼讓我們看看如何使用 SVEM 方法對此進行建模。 |
| 因此，如果我們要使用 SVEM 對此進行建模，您首先會注意到我們有 30 行數據，因此我們實際上複製了每一行數據，這可能看起來有點瘋狂。 這可能看起來像作弊。 這是 SVEM 方法中的一個關鍵技巧。 |
| 您會看到我們在這裡有一些額外的列，其中關鍵的一個是驗證權重。 因此，讓我們繪製一下它，以便您了解它的含義。 |
| 所以你可以看到，對於我們的每一行數據，我們的每次運行，我們實際上都有成對的運行，所以運行第一，你可以在這裡看到。 |
| 實際上，我們將每個運行的權重分配到訓練集（為零）或驗證集（為 1）中。 你可以看到每對 |
| 這些權重成反比。 因此，例如，在這裡運行第七個，您可以看到它在訓練中的權重很大，驗證集為零，並且在驗證集中相應地權重較低。 |
| 現在這些已經被隨機分配，我們可以...... |
| 通過單擊此處，我們可以重新繪製它們，以便重新分配權重。 同樣，如果一行在訓練集中具有較重的權重，例如，此處的第六行在訓練集中具有較重的權重，則它在驗證集中的權重相應較低。 |
| 因此，我們將此處的數據行加倍。 |
| 我們將用它來進行自我驗證。 所以我們實際上可以做的是，我們可以使用保留驗證的變體，其中 |
| 我們要做的不是將一行數據完全保留到驗證集中，而是保留每行數據的一部分，這樣每一行實際上都可以在訓練集和驗證集中，重要的是，我們可以重新分配這些權重 |
| 重複，這在集成建模時就可以了。 |
| 好吧，總結一下，我們基本上已經重複了每一行數據，並且我們為這些數據分配了權重，這樣有些行將在訓練中更多，而有些行將在訓練中更多驗證集。 |
| 現在我們可以使用驗證來擬合模型。 |
| 所以我們在這裡使用 GenReg，你可以看到我們正在使用驗證集（並且忽略那裡的錯誤消息）。 |
| 我們使用 Lasso，並使用驗證作為模型選擇。 而且，在這種情況下，實際上沒有在模型中選擇任何活動效果。 所以它適合響應面模型，我們使用驗證作為選擇方法，使用套索， |
| 並且我們已經確定沒有任何效果實際上是活躍的，因此我們有一個實際上沒有活躍影響的模型。 |
| 然後我們可以做的是再次重新繪製這些權重，這樣我們就可以重新調整列的權重。 |
| 我們可以看到，這次我們得到了一個不同的模型。 因此，實際上一些效應現在變得活躍，因此二氧化矽在二氧化矽和硫之間的相互作用中是活躍的。 |
| 讓我們保存該模型。 |
| 所以現在，隨著我們的 |
| 數據表，您可以看到我們在那裡保存了模型公式列。 |
| 讓我們再次重新繪製這些權重。 因此，我們再次重新繪製它們，以便某些行在訓練中更加重要，其中一些行在驗證中更加重要。 |
| 我們又得到了一個不同的模型，現在讓我們保存它。 所以我們現在有 |
| 兩行...兩列，保存了預測公式。 |
| 我們可以再次這樣做。 所以我要重新繪製權重並保存預測公式。 我剛剛有一個腳本可以為我們做到這一點。 然後實際上創建了這個模型平均值，因此我們實際上對三個保存的模型進行了平均。 |
| 因此每個單獨的模型都使用不同的驗證權重。 |
| 每個模型都不同，有些模型比其他模型更好。 關鍵是當我們將它們平均起來時， |
| 這些的平均值是迄今為止最好的模型。 所以你可以看到這實際上看起來非常接近我們使用標準方法擬合的原始模型...... |
| 原始數據集。 |
| 我們可以繼續這樣做。 我們可以重複這個動作 10 次，所以我們要重複這個動作。 你可以看到重新繪製權重；每次我們得到的模型都略有不同。 |
| 我們可以保存每個不同的模型。 |
| 最終得到的平均值可能是最好的模型。 |
| 事實上，如果我們將其與我們從這些數據的標準分析中看到的原始模型進行比較， |
| 您可以看到這兩個模型實際上非常接近。 |
| 因此，在這種情況下，使用這種自我驗證的集成建模確實得到了與使用標準模型相同的模型 |
| 線性回歸。 |
| 所以我想回顧一下你們所看到的要點。 正如我所說，我們將繼續由 Pete 和 Trent 介紹，他們將解釋想要使用這種新穎的建模技術的動機。 |
| 我們所做的是複制原始數據行。 |
| 那麼這意味著，我們可以應用隨機權重來表示每對行中有多少是在訓練中，有多少是在驗證中。 |
| 這使我們能夠使用驗證。 我們無法將其用於如此小的數據集。 完全保留一行數據是沒有意義的，但是我們可以用這個重複的集合做什麼 |
| 就是進行加權驗證。 因此，在這種情況下，我們使用套索選擇來擬合模型，並且套索選擇利用了這個加權驗證列。 |
| 然後我們重新繪製這些權重。 我們再次為這些行對隨機分配不同的權重，然後重新擬合模型。 而且，在我們的例子中，我們重複了 10-15 次，但在實踐中，為了獲得良好的自我驗證集成模型，我們希望重複此過程 100 次或更多次。 |
| 每個模型都是它自己......迭代過程的每個步驟中的每個單獨模型並不是特別有用，但是模型平均值或整體是，正如我們在最終模型中看到的那樣，我們實現了所有這些迭代的平均值。 |
| 所以，現在我想把它交給 Pete，他現在將討論一個案例研究，這實際上說明了為什麼您想要使用這種不尋常的方法來建模這樣的數據。 |
| 彼得·赫什 | 非常感謝，菲爾。 我要繼續在這里分享我的屏幕。 |
| 讓我們通過一個例子來了解何時我們可以 |
| 使用這個方法。 所以我在這裡 |
| 首先查看結果，因此我們正在研究幾個非常小的 DOE 設計，即 6 次運行、8 次運行和 10 次運行 DOE，具有三個因子。 |
| 這些是響應曲面設計，本質上是超飽和到飽和的，它們都是最佳設計，所以這些運行次數非常少 |
| 來實現我們的目標。 這就是我們要去的地方。 那麼讓我們回顧一下設計以及我們是如何做到這一點的。 |
| 所以。 |
| 這是一個案例研究，我們試圖通過調整不同的營養組合來最大化微生物的生長速度。 正如我之前提到的，我們正在使用超飽和 I 優化設計，並且我們正在調整運行次數。 |
| 這是模擬數據，其中所有主效應以及所有二次方程都處於活動狀態。 |
| 那麼這是如何設置的，我們從三個因素開始。 我設計了我的模型。 如果您之前沒有在 JMP 中設計過飽和或超飽和設計， |
| 做到這一點的方法是盡可能對待那些不是主效應的效應，這樣您就可以減少運行次數或與模型效應相同的運行次數。 然後我在那裡生成了我的設計。 |
| 並經歷了菲爾如此精美地描述的這個過程，即對數據進行重新採樣，獲得那些反......反比例權重，這是這個過程的關鍵。 |
| 我們已經進行了幾次會談，我只有這些的二維碼。 |
| 這項技術是由 Chris Gotwalt 和 Phil Ramsey 開發的，他們在之前的幾次演講中介紹了該技術。 還有這最後一個 |
| QR 代碼是一個插件，用於在舊版本的 JMP 中設置此驗證列。 從 JMP 16 開始，您可以在軟件中本地執行此操作，但如果您有 JMP 15，則需要使用此插件設置。 |
| 正如菲爾所說，所以 |
| 個別模型可能不太適合數據，有些模型可以很好地擬合，有些則沒有任何條件。 |
| 但這只是這裡的示例，您可以在其中看到每個單獨的模型。 有些只是截距，有些不太適合，偶爾的模型效果很好。 |
| 所以這就像菲爾描述的那樣，每個都有不同的重新計算權重。 所以我們得到了一個稍微不同的模型，我們將繼續將它們保存下來。 這是第一步。 |
| 下一步是我們對這些模型進行平均。 正如您所看到的，當您對這些模型進行平均時，越來越多的模型，模型擬合度會越來越好。 因此，單個模型並不是很好，但總體平均模型給了我們很好的擬合度。 |
| 我想談的最後一步是這些模型本質上是有偏見的。 正如您在菲爾製作的第一個模型中看到的那樣，其中沒有主動效果。 所以 |
| 當您對模型執行某些模型或變量選擇技術時，您偶爾會得到一個未輸入該特定變量的模型。 |
| 因此，如果我們查看這些分佈，您可以看到 |
| 所有這些都是主動效應，它們的分佈在 5 左右，即效應大小，但它們也有一個 0 的條形。 |
| 所以我們不會經常高估效果，因為我們得到 0 來抵消這一點，所以這將偏向一個較低的值，所以我們要做一個 |
| 消除這些模型偏差的小技巧，我們 |
| 將此模型視為最小二乘模型中的預測變量，這將消除這些偏差，我將逐步完成此過程，向您展示這是如何完成的。 |
| 但最終我們得到了非常好的結果，我在極少數的運行中分享了這一結果。 因此，這就是為什麼您使用 SVEM 的動機是能夠預測並創建一個不錯的模型，並且比不使用該技術時運行次數更少。 |
| 好吧，讓我們跳到這裡的 JMP |
| 和 |
| 完成該過程。 |
| 好的，這是我展示的該示例的六次運行 DOE，其中我們有三個因素和增長率。 這是我們建立模型之後的情況。 |
| 這就是它看起來的樣子，我們現在已經經歷並運行了。 所以我們有六次運行和六次結果。 我們的下一步是創建驗證列並在 JMP 內部執行此操作，我們將直接分析預測模型， |
| 創建驗證列，然後我們將創建一個自動驗證表，而不是驗證列。 |
| 好吧，我就是這麼做的。 我已經完成並完成了該過程，因此我不會重複該過程。 |
| 但這是數據及其重新採樣的數據和負相關的權重，就像菲爾演示的那樣。 您的體重較高，而重複跑步的體重較低。 完成之後，我們將進行檢查並製作模型。 |
| 在本例中，我使用了 GenReg 模型，您想要選擇一種變量選擇技術。 所以如果我繼續運行這個，我想做一些類似前向選擇套索的事情 |
| 或這些選擇技術之一。 特倫特將更詳細地介紹這些選擇技術以及他們研究了哪些技術。 |
| 因此，在我運行模型後，您會看到 JMP 已完成並選擇了一些處於活動狀態的效果。 它捕獲了一些，但你可以在這裡看到 |
| 我們看到的這種偏差，這兩個主要效應都應該是活躍的，但結果卻為 0。 所以當我將其保存到數據表時， |
| 我將像菲爾展示的那樣創建一個新專欄，然後我將重新計算該重量並一遍又一遍地進行。 這是一個簡單的腳本，可以執行 100 次，並且 |
| 我們很樂意分享這一點。 只需將您的腳本、模型腳本複制並粘貼到此處即可非常容易，並且能夠重現我們在這裡所做的事情。 |
| 好的，這就是最終結果，我們已經通過了 DOE、我們的結果，然後我們得到了 |
| 我保存的 100 個模型 |
| 並隱藏在這裡。 然後是最終的模型，即 |
| 所有 100 個模型的平均值。 我們要做的最後一步是去偏步驟。 所以我們要做的就是治療這個 |
| 平均模型作為增長率的預測因子。 |
| 所以在這裡，你可以看到我們的原始模型 |
| 有一個更陡的斜率，所以它有一個不錯的 R 平方，但它並不像我們希望的那麼好。 我的意思是，即使有六次運行，這......六次運行也很合適，但是 |
| 如果我們能夠消除這種偏見，也許我們可以做得更好一點。 設置非常簡單。 我們只取增長率。 我們的回應是我們的 Y。 我們添加 |
| 這裡是整體模型，是所有模型的平均值 |
| 個體模型作為我們的預測器。 我們運行這個並得到一個結果，你可以看到它是一個比預測圖更好的實際結果。 如果我們在那裡進行比較，你會發現消除這種偏見會對積極的方向產生很大的影響。 |
| 是的，所以在我把它還給特倫特之前，我想再展示一個 |
| 幻燈片在這裡，這基本上只是一個總結 |
| 我們... （我的任務欄丟失了）...我們強烈鼓勵你們使用 |
| 並檢查一下這個技巧，但這並不是一個在任何情況下都有效的神奇技巧。 但是當你在篩選設計和類似的事情中檢查這一點時，這可能是一個非常好的技術，它將 |
| 幫助您完成使用標準建模技術可能無法完成的事情。 接下來，我將把它傳遞給特倫特，他已經 |
| 關於如何完成此操作以及 |
| 那裡的信息。 那麼特倫特，你想把它拿走嗎？ |
| 特倫特·萊姆庫斯 | 是的，謝謝你，彼得。 我很感激。 |
| 所以 |
| 我正在分享我的 |
| PDF。 我只是想確保這確實是共享，並且每個人都可以看到。 |
| 彼得·赫什 | 是的。 |
| 特倫特·萊姆庫斯 | 好吧，太棒了。 所以 |
| Phil 和 Peter 介紹了他們提出的案例研究，我認為這些案例都是非凡的軼事，展示了 SVEM 的力量以及何時以及為何使用 SVEM。 |
| 我們為目前正在同行評審過程中的研究論文所做的是，我們進行了大量的模擬研究，以展示……憑經驗了解 SVEM 在預測環境中的表現。 所以 |
| 接下來...我要展示一系列幻燈片。 我知道這可能會顯得有點無聊和枯燥，但我認為有必要討論細節 |
| 在我進入一些更有趣的事情之前，這是我們如何使用的一個例子...... |
| 以我們如何使用 JMP、JSL 以及我如何運行模擬為例，向您展示一些輸出以及結果。 |
| 因此，首先也是最重要的是，我們模擬研究的綱要和目標主要是 |
| 我們想要創建真實世界的模擬架構。 因此，我們希望我們的模擬能夠盡可能地模仿現實世界的工業能源部。 |
| 其次，我們想了解當代模型構建或當代模型選擇技術以及 SVEM 在主要關注純預測時的表現如何， |
| 乾淨利落。 因此，我們想看看當我們將模型擬合到設計中時，它如何預測事實或保留的數據集，或者請原諒我的口音，數據。 |
| 由此，如果我們能夠在計算上可行的情況下多次模擬這些獨特的運行，我們希望進行現實世界的推理……我們希望……推斷出盡可能接近現實世界的結果，以便我們能 |
| 規定設置以及在何處以及如何使用 SVEM，因為 SVEM 才剛剛起步。 |
| 那麼，首先也是最重要的，我們在模擬中使用了哪些設計？ 我們使用了明確的篩選設計 |
| 我們使用 Box-Behnken 設計，其中我們設計中的底層真實生成模型是完全二次模型，或更通俗地稱為二階模型。 我們選擇這些設計的原因是因為 A) 對於最終的篩選設計， |
| 主效應越多，模型就越飽和，然後超飽和，這意味著主效應越高，自由度就越小。 鑑於您的 Box-Behnken 設計以及我們使用的主要效果， |
| 你不會遇到這種情況。 所以我們有一個......我們有兩個場景之間的並置，其中一方面我們有 |
| 在應用模型選擇技術時，我們的 Box-Behnken 設計有足夠的自由度來估計我們的係數，並且在最終的篩選設計案例中，我們幾乎有 |
| 在大多數情況下，我們的設計都是超飽和的，因此自由度不足。 換句話說，簡單地說， |
| 我們無法估計使用當代模型構建技術時的所有效果，例如您的前向選擇，例如您的套索，您的 Dantzig 選擇器等等， |
| 這引導我們了解我們用於模擬的實際模型算法。 因此，對於 SVEM 模型，請記住，如果您... |
| 如果您不太了解 SVEM 是什麼，那麼回顧一下 Peter 之前提到的一些演示非常重要。 |
| 但我們必須將 SVEM 與底層模型構建技術結合使用，例如前向選擇、前向剪枝和 Lasso，這就是我們用於模擬研究的技術。 |
| 在我們的非 SVEM 模型案例中，我們使用相同的模型構建算法，但我們還結合了 Dantzig 選擇器，這在 DOE 中非常流行， |
| 以及與最終篩選密切相關的適合最終篩選設計；它沒有用於其他設計。 |
| 此外，我們使用稱為 AICc 或校正 AIC 的信息標準，這在 DOE 中非常常見，並且實際上因選擇非常簡約的模型而臭名昭著。 |
| 因此，正如您所看到的，我們正在嘗試結合工業 DOE 使用中非常流行的當代技術，這堅持我在最初的幻燈片中展示的核心...核心點，即 |
| 我們希望通過模擬研究盡可能接近地模仿現實世界，這樣我們就可以使這些經驗...... |
| 因此我們可以憑經驗評估這些不同的模型構建算法如何進行預測。 希望我們能夠從經驗上證明 SVEM 的性能或優於其競爭對手。 |
| 因此，對於實際的模擬結構，我們對每個模型構建算法運行了 1,000 次模擬。 舉例來說，如果我們用 AICc 擬合正向模型， |
| 這 1,000 次運行中的每一次我們都會生成一個真實的模型，即事實，然後我們會向其中添加噪聲。 |
| 高斯噪聲（這在學術界和......進行研究時很常見）， |
| 從而創建一個訓練集（如果你願意的話）和一個真相集，這樣，一旦我們擬合了模型，我們就可以看到該模型如何根據真相進行預測。 我們隨機重新運行並重新生成這些數據集 1,000 次。 |
| SVEM 超參數（我不會詳細介紹它是什麼），我們使用的 nBoot 為 200。 簡而言之，我們基本上擬合了 200 個模型，並對這些模型進行平均以生成最終的 SVEM 模型。 |
| 這些設計還針對多個功能進行了迭代。 所以主效應的數量 |
| 對於最終的篩選設計，我們有四個主效應和八個主效應。 對於我們的 Box-Behnken 設計，我們有 |
| 三個主效應和五個主效應。 這意味著什麼，舉個例子，對於我們的 DSD，例如，其中 K 是 8，則有八個主效果。 如果您有完整的二次模型， |
