756832_zh-TW

liliconcom

JMP Pro 16 預測刻畫器中的外推控制 (2021-US-45MP-838)

Laura Lancaster，SAS JMP 首席研究統計師開發人員
Jeremy Ash，SAS JMP 分析軟體測試員
Christopher Gotwalt，SAS 統計研究與發展 JMP 總監

不受控制的模型外推會導致兩種嚴重的錯誤：(1) 模型可能在遠離資料的情況下完全無效；(2) 變數值的組合可能無法在物理上實現。使用刻畫器優化擬合觀測資料的模型可能會導致外推解，這些解在沒有任何預警的情況下毫無實際用途。 JMP Pro 16 將外推控制引入許多預測建模平台以及刻畫器平臺本身。預測刻畫器中的這項新功能會提醒使用者可能存在的外推，或完全避免在模型可能無效的地方繪製外推點。此外，使用者可以在避免外推的約束區域內進行最佳化。在本示範中，我們將討論外推控制的動機和實用性，示範如何在 JMP 中輕鬆使用它，並詳細描述我們的方法。

自動產生的成績單...

揚聲器	抄本
提姆·皮爾斯	去。
	好的，我要靜音了。
	大家好，我是 Chris Gotwalt。我和我的共同主持人 Laura Lancaster 和 Jeremy Ash 將介紹 JMP Pro 一項實用的新功能—外推控制。
	幾乎任何你想要預測的模型都有一定範圍的適用性，
	輸入空間的一個區域，他們的預測被認為是
	夠可靠。在該區域之外，我們開始推斷模型中遠離用於擬合模型的資料的兩個點。在該點使用該模型的預測可能會導致完全不可靠的預測。
外推法有兩個主要來源	統計外推和基於領域的外推。新功能涵蓋這兩種類型。
	當人們嘗試使用模型對不接近用於訓練該模型的值的 X 進行預測時，就會發生統計外推。
	基於領域的外推發生在當你嘗試評估由於科學原因而不可能的 X 時-
	或基於工程的約束。此處的範例在一個範例中演示了兩種外推法。此處，我們看到一個冶金生產過程模型的分析器。
	預測讀數為 -2.96，沒有跡象表明我們正在評估不可能的溫度和壓力組合
	在領域意義上，這台機器能夠達到這個目標。我們也有統計推斷，因為它與使用的數據相差甚遠
	擬合模型，如右側訓練資料的散佈圖所示。在 JMP Pro 16 中，Jeremy、Laura 和我合作添加了一項新功能，當刻畫器認為你可能進行外推時，它會發出警告。
	或者，如果您打開外推控制，它將限制您看到的點集，僅限於那些它認為不是外推的點。
	我們有兩種類型的外推控制。
	一種是基於槓桿的概念，並使用最小平方法模型。第一種類型僅在專業版的擬合模型最小平方法中可用。
	另一種類型我們稱之為通用機器學習外推控制，它可以在分析器平台和 JMP Pro 中幾種最常見的機器學習平台中使用。
	根據要求，我們甚至可以將其添加到MOR中。最小平方法外推控制使用槓桿的概念，它就像是預測變異數的縮放版本。它是基於模型，因此
	它使用有關主效應交互作用和高階項的資訊來確定外推。
	對於一般的機器學習外推控制案例，我們必須提出自己的方法。我們需要一種在缺失值情況下具有穩健性的方法，
	線性依賴性，計算速度更快，可以處理連續和分類輸入變數的混合，我們也明確希望將外推模型與用於擬合資料的模型分開。
	因此，當我們打開一般外推控制時，只有一個監督模型......將輸入變數與我們在分析器追蹤中看到的響應相匹配。
	該配置文件提出了一個快速而粗糙的無監督模型來描述訓練集 Xs，並且該無監督模型由配置文件器在後台使用來確定外推控制約束。
	因此我不得不切換，因為出於某種原因，PowerPoint 和我的相機現在無法配合使用。
	我們知道，從事資料科學工作的人們每天都在進行有風險的推斷，並且確信使用推斷會導致錯誤的預測，並最終導致糟糕的業務結果。
	外推控制為模型預測設定了護欄，並將幫助 JMP Pro 使用者做出更量化的決策。
	當使用者看到發生外推時，使用者必須根據他們的領域知識和對當前問題的熟悉程度來決定是否應該使用預測。
	如果您開始看到外推控制警告的發生，那麼通常可能是該模型的生命週期的結束，並且需要將其重新擬合到新數據，因為輸入的分佈已經偏離了訓練數據的分佈。
	說實話，我們非常驚訝和震驚，數據科學界沒有更好地認識到識別外推的必要性
	並儘可能簡化外推控制，使其自動化程度更高。 Laura 在 JMP Pro 中開發了該選項，她接下來將演示該選項。然後，為我們團隊做了大量研究的 Jeremy 將深入講解該方法的數學細節和統計動機。
	您好。我叫 Laura Lancaster，來這裡是為了示範 JMP Pro 16 新增的外推控制功能。我想先用一個使用擬合模型最小二乘平台的簡單範例來示範。
	我將使用一些你或許熟悉的數據。它們是樣本數據中的健身數據。
	我將使用攝氧量作為反應，並使用運行時間、運行脈搏和最大脈搏作為預測因子。我想重申一下，在擬合模型的最小二乘法中，使用的外推指標是槓桿率，所以讓我們繼續，啟動 JMP。
	所以現在，我在 JMP 中打開了適應度數據，並且我有一個腳本可以保存到數據表中以自動啟動我的擬合最小二乘模型。
	我要繼續運行那個腳本。它會啟動最小二乘平台。
	我讓分析器自動打開，我們可以看到分析器看起來和以前一樣，
	其中因子邊界由每個因子的範圍單獨定義，從而為我們提供了矩形邊界約束。
	當我改變因子設定時，由於這些邊界約束，很難判斷您是否遠遠超出了資料的相關結構。
	這就是我們想要添加外推控制的原因。 JMP Pro 16 中的多個平台都新增了這項功能。
	包括擬合最小平方法。若要使用外推控制，請前往「分析器」功能表下的選單。如果我在這裡查看，我會看到一個名為“外推控制”的新選項。
	預設情況下，它是關閉的，但我可以將其設定為“開啟”或“警告開啟”，以啟用外推控制。如果我將其設為“打開”，請注意，它會限制我的曲線軌跡，使其僅到達我不進行外推的值。
	如果我將其打開為警告，我會看到完整的配置文件跟踪，但是當我進入被視為外推的區域時，我會收到警告。
	我還可以打開推斷細節，我發現這非常有用，
	這給了我更多資訊。首先，它告訴我，我用來定義外推的指標是槓桿率，這在擬合最小平方法平台中是正確的。
	並且最初預設使用的閾值將是最大槓桿，但這是我可以更改的，我將在一分鐘內向您展示。
	另外，我可以看到目前設定的外推指標。就是這個數字，它會隨著我更改因子設定而改變。
	每當這個數字大於閾值時，我就會收到警告，提醒我可能進行了推斷。如果低於閾值，就不會再收到警告了。
	除非我在選單中進行一些修改來調整閾值，否則這個閾值不會改變。現在就讓我來做這件事。我要進入菜單，
	我要設定閾值標準。在擬合最小平方法中，閾值有兩個選項。最初，它被設定為最大槓桿，這將使你保持在數據的凸洞內，
	或者你可以切換到乘數乘以平均槓桿率或模型項除以觀測值。我想切換到那個閾值，所以它設定為3
	作為預設乘數，因此這將是平均槓桿的三倍。點擊“確定”，您會注意到我的閾值會發生變化。它實際上變小了，所以這是一個更保守的外推定義。
	我要重新開啟它來限制我的個人資料追踪，現在我只能去地區
	我的槓桿率是平均槓桿率的三倍以內。
	現在我們也實現了遵循外推約束的最佳化。現在，如果我打開集合可取性
	我負責優化，
	我將得到一個滿足外推限制的最優值。請注意，這個指標小於或等於閾值。
	現在，當我轉到下一張投影片時，我將透過圖表（散佈圖矩陣）來比較開啟和關閉外推控制時的最佳值之間的差異。
	這是我用 JMP 建立的散點圖矩陣，它顯示了原始預測變數資料以及預測變數值
	不使用外推控制的最適解（藍色）和使用外推控制的最適解（紅色）。注意這裡藍色表示的無約束解，對吧？
	這裡，違反了運行脈衝和最大脈衝的原始資料的相關結構，從而增加了該預測的不確定性，而使用外推控制的最優解與原始資料更一致。
	現在讓我們來看一個使用更廣義的外推控制方法的例子，我們稱之為正規化 T 平方方法。
	正如Chris之前提到的，我們開發了這種方法，用於除最小二乘模型之外的其他模型。我們將研究一個針對糖尿病數據的神經模型，該模型也包含在樣本數據中。
	反應是疾病進展的指標，預測因子是基線變數。同樣，本例中使用的外推指標是正規化T平方，Jeremy 稍後會更詳細地描述。
	我在 JMP 中打開了一個糖尿病數據，並且保存了一個神經模型擬合腳本。我接下來要運行這個腳本。
	它啟動了神經平台。請注意，我使用的是隨機抑制驗證方法。我只是想說明，任何時候使用驗證方法，外推控制都僅基於訓練資料。
	而不是您的驗證或測試數據。
	我打開了分析器，你可以看到它正在使用完整的軌跡。外推控制尚未開啟。
	我們繼續並將其打開。
	我還將介紹詳細資訊。
	您可以看到軌跡已被限制，度量是正則化的 T 平方。
	閾值是樣本正則化T平方標準差的三倍。 Jeremy 幾分鐘後會詳細解釋這到底意味著什麼。
	我想提一下，當我們使用正規化 T 平方方法時，閾值只有一個選擇，但你可以調整乘數。所以如果你去
	外推控制，設定閾值，你可以調整這個乘數，但我打算把它保留為3。現在我想使用
	外推控制，所以我只需要最大化並記住。現在我得到了一個開啟外推控制的最適解。
	現在，我想看我們的散點圖矩陣，就像我們之前查看的原始資料一樣，以及具有和不具有外推控制的最優值。
	這是我在 JMP 中創建的糖尿病資料散點圖矩陣。它包含了原始預測值。
	以及使用外推控制的最適解（紅色）和不使用外推控制的最適解（藍色）。你可以看到
	紅點看起來比藍點更符合原始資料的相關結構。當你觀察低密度脂蛋白（LDL）與總膽固醇的關係時，這一點尤其明顯。
	現在讓我們來看一個使用圖形選單下的分析器的範例，我將其稱為圖形分析器。
	它還使用了正則化 T 平方方法，使我們能夠對任何類型的模型進行外推控制，這些模型可以創建並保存為 JSL 公式。它還允許我們同時對多個模型進行外推控制。
	讓我們來看一個使用粉末冶金技術為汽車行業生產鋼製傳動軸的公司的例子。
	他們希望能夠找到最佳的生產設置，以最大程度地減少收縮，並最大程度地減少由於表面狀況不佳而導致的故障。因此，我們有兩種應對措施
	收縮是連續的，我們將為其擬合最小二乘模型，而表面狀況是通過/失敗的，我們將為其擬合一個名義邏輯模型。
	我們的預測變數只是生產中的一些關鍵過程變數。再次強調，外推指標是正規化的T平方。
	我在 JMP 中打開了粉末冶金數據，並且已經為收縮響應擬合了最小二乘模型，
	我已經為表面狀況的通過/失敗響應擬合了一個名目邏輯模型。並且我已經將預測公式保存到資料表中，以便可以在圖形分析器中使用。
	因此，如果我轉到圖形選單分析器，我可以載入收縮的預測公式，而我的預測公式適用於表面狀況。
	按一下“確定”。
	現在我已經將兩個模型都啟動到圖形分析器中。
	在我打開外推控制之前，你可以看到我得到了完整的剖面軌跡。一旦我打開外推控制，
	你可以看到痕跡縮小了一點。我還要打開細節
	只是為了表明，我確實在這個方法中使用了正則化的 T 平方。
	所以我真正想做的是，找到最小化收縮和最小化故障的最佳條件
	開啟外推控制。我想確保我沒有進行外推。我想找到一個有用的解決方案。
	在進行最佳化之前，我實際上需要設定我的期望值。我先設定期望值；收縮率已經正確了，但我需要設定表麵條件的期望值。
	我將嘗試最大化傳球次數並最小化失敗次數。
	好的。
	現在我應該能夠使用外推控制進行最佳化、最大化並記住。
	現在我有了最佳解決方案
	開啟外推控制。現在我們再看一下原始資料的散佈圖矩陣，以及開啟外推控制和關閉外推控制的解。
	這是我在 JMP 中創建的粉末冶金資料散點圖矩陣，它也有最佳解
	紅點表示採用外推控制，藍點表示沒有外推控制的最適解。再次強調，當我們不實施外推控制時，
	最優解遠遠超出了資料的相關結構。我們尤其可以看到，這裡比率與壓實壓力的關係。
	現在，我想將演示交給 Jeremy，讓他更詳細地介紹我們的方法。
	你好。我們在專案開始時就制定了一些外推控制的目標。
	我們需要一個能夠透過大量觀測值和變數快速計算的外推指標，並且需要一種快速評估該指標是否顯示外推的方法。這是為了保持刻畫器軌跡的互動性，並且
	我們需要它來進行優化。
	我們希望它能夠支援分析器中可用的各種變數類型。這些變數類型主要包括連續型、分類型和序數型。
	我們希望利用缺失細胞的觀察結果，因為一些建模方法將包括這些觀察結果和???。
	我們需要一種能夠有效抵禦資料中線性相關性的方法。例如，當變數數量大於觀測值數量時，就會出現線性相關性。
	我們想要一些易於自動化且不需要大量用戶輸入的東西。
	對於最小平方法模型，我們採用槓桿，它通常用於識別線性模型中的異常值。
	新預測點的槓桿率是根據此公式計算的。槓桿率有很多種解釋。其中一種解釋是
	它是預測點與訓練資料集中心之間的多變量距離。另一種解釋是，它是一個縮放的預測方差，因此，隨著預測點遠離資料集中心，預測的不確定性會增加。
	我們使用統計文獻中的兩個常見閾值來確定這個距離是否太大。
	第一個是最大槓桿。超出此閾值的預測點位於訓練資料的凸孔之外。
	第二個是槓桿平均值的三倍。可以證明，這相當於模型項數的三倍除以觀測值的數量。
	正如勞拉之前所描述的，您可以更改這些閾值的乘數。
	最後，當最佳化期望值時，外推約束是非線性約束。之前，剖析器允許使用線性約束進行約束優化，
	但這種優化更具挑戰性，因此 Laura 實作了遺傳演算法。如果你不熟悉遺傳演算法，它利用分子演化的原理來優化複雜的成本函數。
	接下來我將討論我們用來推廣外推控制線性模型以外的兩個模型的方法。
	在 JMP 中建立預測模型時，首先要建立一組預測變數和一組反應變數。
	訓練一些監督模型，然後可以使用分析器來視覺化模型表面。
	JMP 中的刻畫器有很多變體。您可以在建模平台內部使用刻畫器，也可以輸出預測公式並構建
	正如 Laura 所示範的，它是一款適用於多種模型的分析器。您可以為整合模型建立分析器。我們希望找到一種能夠推廣到所有這些場景的外推控制方法，因此我們不會將方法與特定模型綁定，而是採用無監督方法。
	只有當預測點遠遠超出預測空間中資料集中點的範圍時，我們才會將其標記為外推。這使我們能夠在不同分析器之間保持一致，從而使我們的外推控制方法能夠適用於任何分析器。
	槓桿的多元距離解釋表明，Hotelling 的 T 平方可以作為一般外推控制的距離。事實上，一些代數運算可以證明，Hotelling 的 T 平方只是槓桿的移位和縮放。
	此圖顯示了 Hotelling T 平方如何測量觀測值位於哪個橢圓上，其中橢圓以資料的平均值為中心，形狀由協方差矩陣定義。
	由於我們不再使用線性模型，這個指標與預測變異數不再有相同的關聯。因此，我們不再依賴線性模型中使用的閾值，而是進行一些分佈假設來確定
	預測點的 T 平方應視為外推。
	這裡我展示了 Hotelling T 平方的公式。平均值和協方差矩陣是使用模型的訓練資料估計的。
	如果 P 小於 N，其中 P 是預測變數的數量，N 是觀測值的數量，
	如果預測變數服從多元常態分佈，那麼預測點的 T 平方服從 F 分佈。然而，我們想要一種方法來
	對具有複雜資料類型的資料集進行概括，例如連續和分類資料集的混合，其中 P 大於 N；
	資料集中存在缺失值。因此，我們不再對每種情況都進行分析計算分佈，而是使用一個簡單的保守控制限值，我們發現它在實踐中效果很好。
	這是使用訓練資料中的 T 平方經驗分佈的三西格瑪控制限值，如 Laura 所提到的，您也可以調整這個乘數。
	一個複雜的問題是，當 P 大於 N 時，Hotelling 的 T 平方是不確定的。協方差矩陣中的參數太多，無法用現有資料來估計。
	這通常發生在外推控制的典型用例中，例如偏最小二乘法。因此，我們決定採用新的方法來計算Hotelling的T平方，以處理這些情況，我們稱之為正規化T平方。
	為了計算協方差矩陣，我們使用了 Schafer 和 Strimmer 最初為高維基因組數據開發的正則化估計器。它只是全樣本協方差矩陣（此處為 U）和約束目標矩陣（此處為 D）的加權組合。
	對於 Lambda 權重參數，Schafer 和 Strimmer 推導出一個解析表達式，可以漸近地最小化 MSE，即估計量。
	Schafer 和 Strimmer 提出了幾個可能的目標矩陣。我們選擇的目標矩陣是對角矩陣，其中預測變數的樣本變異數位於對角線上。此目標矩陣對於外推控制具有許多優點。
	首先，在看到資料之前，我們不假設變數之間存在任何相關結構，這可以作為一般先驗。
	此外，當用於估計協方差矩陣的資料很少時（由於 N 較小或缺失部分較大），
	橢圓約束透過對角矩陣上的較大權重進行擴展，這導致外推控制的檢定更加保守。我們發現，這對於合理控制假陽性率是必要的。
	更簡單地說，當訓練資料有限時，正規化的 T 平方不太可能將預測標記為外推，而這正是您想要的，因為您更有可能偶然觀察到協方差。
	我們有一些模擬結果可以證明這些細節，但我沒有時間一一詳述。因此，我們在社區網頁上放了一篇存檔論文的鏈接，我們計劃將其提交給《計算圖形統計雜誌》。
	下一張投影片展示了我們需要考慮的其他一些重要細節。我們需要弄清楚如何處理分類變數。
	我們只是將它們轉換為指示編碼的虛擬變數。這與多重對應分析類似。
	另一個難題是如何在有缺失資料的情況下計算Hotelling T平方。一些JMP預測建模平台使用缺失資料的觀測值來訓練模型。
	其中包括樸素貝葉斯和自舉森林，這些公式展示了我們用來估計協方差矩陣的配對刪除方法。
	更常見的方法是使用逐行刪除，這意味著在計算協方差矩陣之前，所有包含缺失值的觀測值都會被刪除。這種方法最簡單，但如果訓練資料的樣本量較小，則可能會導致有用的資料被丟棄。
	使用成對刪除時，僅當用於計算對應條目的變數對中存在缺失值時，才會刪除觀察值。
	這些公式就是為了說明這一點。這看似簡單，你只是使用了所有可用的數據，但實際上它可能會導致一系列問題，因為計算每個條目時會用到不同的觀測數據。
	這可能會導致奇怪的事情發生，例如具有負特徵值的協方差矩陣，這是我們必須處理的事情。
	與評估中的其他方法相比，我們發現正則化 T 平方具有以下一些優點。
	一是正則化以通常的方式發揮作用。它在過度擬合訓練資料和估計器過度偏差之間取得平衡。這使得估計器對雜訊和模型錯誤設定更具穩健性。
	接下來，Schafer 和 Strimmer 在他們的論文中表明，正則化可以在高維度環境中產生更精確的估計量。這有助於解決困擾大多數基於距離的外推控制方法的「維數災難」。
	然後，在已經發展出外推控制方法的領域中，
	它們通常既有高維度數據，又有高度相關的預測因子。例如，在化學資訊學和化學計量學中，化學特徵通常高度相關。
	外推控制通常與PCA和PLS模型結合使用，其中T平方和DModX用於檢測相關結構的違規。這與我們在模型驅動的多元控製圖中所做的類似。
	由於這是一個常見的用例，我們希望有一個與這些方法偏差不大的選擇。
	我們的正規化 T 平方提供
	相同類型的外推控制，但它不需要投影步驟，這具有一些優點。
	我們發現這使我們能夠更好地推廣到其他類型的預測模型。
	在我們的評估中，我們還發現，如果線性投影不適合你的數據，例如預測變數之間存在非線性關係，
	這些錯誤可能會擴大基於投影的方法的控制限度，從而導致對外推的保護能力較差，而我們的方法比這更為穩健。
	另一個重點是我們發現
	單一外推指標的使用和解釋要簡單得多。
	以下是外推控制特徵的簡要總結。此方法可以更好地可視化可行區域
	分析器中的高維模型。一種新的遺傳演算法已被實現，用於靈活的約束優化。
	我們的正規化 T 平方可以處理 P 大於 N 以及連續變數和分類變數等情況下的混亂觀測資料。
	此方法適用於 JMP 16 Pro 中的大多數預測模型，並支援其許多特性。它還支援圖形刻畫器，這充分發揮了它的實用性，因為它可以應用於任何預測公式。
	然後作為未來的方向，我們正在考慮實施基於 K 最近鄰的約束，它將超越當前的相關結構約束。
	預測變數通常由多個分佈生成，從而導致預測變數空間中的聚類，而基於 K 最近鄰的方法使我們能夠控制聚類之間的外推。
	因此，感謝所有收看本集節目的觀眾，如果您有任何其他問題，請發送電子郵件至此處。
傑里米·阿什（JMP）	你們還在那兒。
克里斯·戈特沃特	是的。
勞拉·蘭開斯特	只是。

進階統計建模基礎資料分析與建模消費者與市場研究數據探索與視覺化實驗設計預測模型和機器學習品質與工藝工程可靠度分析