JMP® Pro 16 預測刻畫器中的外推控制 (2021-EU-45MP-751) Laura Lancaster，SAS JMP 首席研究統計師開發人員
Jeremy Ash，SAS JMP 分析軟體測試員
Chris Gotwalt，SAS 統計研究與發展 JMP 總監
不受控制的模型外推會導致兩種嚴重的錯誤：(1) 模型可能在遠離資料的情況下完全無效；(2) 變數值的組合可能無法在物理上實現。使用刻畫器優化擬合觀測資料的模型可能會導致外推解，這些解在沒有任何預警的情況下毫無實際用途。 JMP Pro 16 將外推控制引入許多預測建模平台以及刻畫器平臺本身。預測刻畫器中的這項新功能會提醒使用者可能存在的外推，或完全避免在模型可能無效的地方繪製外推點。此外，使用者可以在避免外推的約束區域內進行最佳化。在本示範中，我們將討論外推控制的動機和實用性，示範如何在 JMP 中輕鬆使用它，並詳細介紹我們的方法。
自動產生的成績單...
| 揚聲器 |
抄本 |
| |
嗨，我是 Chris Gotwalt。我的同事 |
| |
主持人 Laura Lancaster 和 |
| |
Jeremy Ash 與我一起介紹 |
| |
實用的全新 JMP Pro |
| |
稱為外推的能力 |
| |
控制。幾乎任何模型 |
| |
你想預測 |
| |
具有一系列 |
| |
適用性， |
| |
輸入空間，其中 |
| |
預測被認為是 |
| |
夠可靠。除此之外 |
| |
區域，我們開始推斷 |
| |
模型遠離 |
| |
用於擬合模型的數據。使用 |
| |
該模型的預測 |
| |
在這些點上可能會導致 |
| |
完全不可靠 |
| |
預測。有兩個 |
| |
主要來源 |
| 外推 |
統計 |
| |
外推和基於域的 |
| |
外推法。兩種類型都是 |
| |
新功能涵蓋。 |
| |
發生統計外推 |
| |
當一個人試圖 |
| |
使用 x 模型進行預測 |
| |
這與價值觀並不接近 |
| |
用於訓練該模型。 |
| |
基於域的外推 |
| |
當你嘗試評估時會發生 |
| |
在 x 處，由於 |
| |
科學或工程 |
| |
基於約束。範例 |
| |
這裡說明了兩種 |
| |
在一個例子中進行外推。 |
| |
這裡我們看到一個來自 |
| |
冶金生產模型 |
| |
過程。預測如下 |
| |
結果是-2.96，沒有 |
| |
表明我們正在評估 |
| |
在溫度組合下 |
| |
以及不可能的壓力 |
| |
在領域意義上實現 |
| |
這台機器。我們還有 |
| |
統計外推 |
| |
與用於擬合的數據相差甚遠 |
| |
散點圖中的模型 |
| |
訓練資料的圖 |
| |
對了。在 JMP Pro 16 中，Jeremy |
| |
勞拉和我合作 |
| |
新增功能 |
| |
當分析器 |
| |
認為你可能是 |
| |
推斷。或如果你轉身 |
| |
外推控制，它 |
| |
將限制點集 |
| |
你只看到那些 |
| |
它不認為 |
| |
推斷。我們有兩種類型 |
| |
外推控制。一是 |
| |
基於槓桿的概念 |
| |
並使用最小平方法模型。 |
| |
第一種類型僅 |
| |
在專業版中可用 |
| |
擬合模型最小平方法。 |
| |
另一種類型我們稱之為一般 |
| |
機器學習外推 |
| |
控制並可在 |
| |
Profiler 平台和一些 |
| |
最常見的機器學習 |
| |
JMP Pro 中的平台。 |
| |
請求，我們甚至可以將其添加到 |
| |
更多。最小平方法 |
| |
外推控制採用 |
| |
槓桿的概念 |
| |
就像一個縮放版本 |
| |
預測方差。它是模型 |
| |
基於，因此它使用信息 |
| |
關於主要影響 |
| |
高階交互作用 |
| |
確定條款 |
| |
外推。對於一般 |
| |
機器學習外推 |
| |
控制案例，我們必須提出 |
| |
我們採用自己的方法。我們 |
| |
想要一種方法 |
| |
對缺失值穩健，線性 |
| |
依賴關係、更快的計算、 |
| |
可以處理混合物 |
| |
連續和分類輸入 |
| |
變數，我們還可以 |
| |
明確想要分開 |
| |
外推模型 |
| |
用於擬合資料的模型。因此 |
| |
當我們有一般 |
| |
外推控制已開啟， |
| |
只有一個受監督 |
| |
適合的模型 |
| |
回應的輸入變數 |
| |
我們在分析器中看到的 |
| |
痕跡。分析器 |
| |
快速而骯髒的 |
| |
無監督模型來描述 |
| |
訓練集軸，以及這個 |
| |
採用無監督模型 |
| |
幕後 |
| |
分析器來確定 |
| |
外推控制 |
| |
約束。所以我必須 |
| |
切換，因為 PowerPoint 和我的 |
| |
相機不配合 |
| |
現在因為某些原因。我們 |
| |
知道有風險的推斷 |
| |
每天都有 |
| |
從事數據科學工作的人員 |
| |
並確信使用 |
| |
外推法導致不良 |
| |
預測並最終 |
| |
糟糕的業務成果。 |
| |
外推控制地點 |
| |
模型預測的護欄 |
| |
並將導致量化 |
| |
JMP Pro 協助您做出更明智的決策 |
| |
用戶。當用戶看到推斷 |
| |
發生時，用戶必須做出 |
| |
關於是否 |
| |
是否應該使用預測 |
| |
根據其域使用 |
| |
知識和熟悉 |
| |
當前的問題。如果你 |
| |
開始看到推論 |
| |
控制警告經常發生 |
| |
通常，這可能是 |
| |
此模型的生命週期 |
| |
是時候重新適應新數據了 |
| |
因為 |
| |
投入已從 |
| |
訓練資料。我們 |
| |
說實話，相當驚訝， |
| |
擔心需要 |
| |
辨識外推不是 |
| |
數據更好地體現了 |
| |
科學界，並 |
| |
控制外推為 |
| |
盡可能簡單和自動化。 |
| |
Laura 在 JMP 中開發了它 |
| |
Pro 將示範 |
| |
接下來是選項。然後是傑里米， |
| |
對我們的 |
| |
團隊將深入數學 |
| |
細節和統計 |
| |
方法的動機。 |
| |
你好，我叫勞拉 |
| |
蘭開斯特和我來這裡是為了 |
| |
外推演示 |
| |
新增到 JMP 的控件 |
| |
16. 我想開始 |
| |
舉一個相當簡單的例子 |
| |
使用擬合模型最少 |
| |
廣場平台。我要 |
| |
使用一些可能 |
| |
熟悉的；這是健身數據 |
| |
這是樣本數據，我 |
| |
將使用氧氣吸收作為 |
| |
我的回應和運行時間，運行 |
| |
Pulse 和 Max Pulse 作為我的 |
| |
預測因素。我想 |
| |
重申一下，在擬合模型中， |
| |
擬合最小平方法 |
| |
外推指標 |
| |
用的是槓桿。所以讓我們開始吧 |
| |
繼續並開始 JMP。 |
| |
現在我有了健身數據 |
| |
在 JMP 中打開，我有一個腳本 |
| |
儲存到資料表中 |
| |
自動啟動我的健身 |
| |
最小平方法模型。所以我 |
| |
繼續運行 |
| |
腳本，它啟動最少的 |
| |
方形平台。我有 |
| |
分析器會自動開啟。並且 |
| |
我們可以看到分析器 |
| |
看起來它總是在 |
| |
過去，因素邊界 |
| |
由每個範圍定義 |
| |
單獨考慮，給我們 |
| |
矩形邊界約束。 |
| |
當我改變因素 |
| |
設置，因為這些綁定 |
| |
約束，它真的可以 |
| |
很難判斷你是否在搬家 |
| |
遠遠超出相關性 |
| |
資料的結構。 |
| |
這就是為什麼我們想要添加 |
| |
外推控制。所以 |
| |
這已添加到幾個 |
| |
JMP Pro 平台 |
| |
16，包括擬合最小平方法。 |
| |
為了得到推斷 |
| |
控制，你去下面的選單 |
| |
分析器選單。如果我查看 |
| |
我看到這裡有一個新選項 |
| |
稱為外推控制。 |
| |
預設情況下，它處於關閉狀態， |
| |
但我可以將其轉換為 |
| |
開啟或警告開啟 |
| |
外推控制。如果我 |
| |
將其打開，注意 |
| |
它限制了我的個人資料 |
| |
追蹤只到值 |
| |
我沒有進行推論。 |
| |
如果我將其轉為警告 |
| |
我會查看完整的個人資料 |
| |
痕跡，但我會得到一個 |
| |
當我去某個地區時發出警告 |
| |
在那裡它將被考慮 |
| |
進行推斷。 |
| |
我還可以開啟外推 |
| |
細節，我發現真的 |
| |
很有幫助，這給了我 |
| |
更多資訊。首先 |
| |
這一切告訴我我的 |
| |
我使用的指標 |
| |
定義外推是 |
| |
槓桿，這在 |
| |
擬合最小平方法平台。 |
| |
而門檻是 |
| |
最初預設使用的是 |
| |
將成為最大槓桿， |
| |
但這是我可以做的 |
| |
改變，我會讓你看到 |
| |
一會兒。另外，我可以看到 |
| |
我的外推指標是什麼 |
| |
適用於我的當前設定。 |
| |
就是這個號碼， |
| |
隨著我的改變而改變 |
| |
我的因素設定。 |
| |
任何時候這個數字都大於 |
| |
比門檻高，我要 |
| |
收到這個警告，我可能會 |
| |
推斷。如果低於， |
| |
我不會再得到那個 |
| |
警告。此閾值不 |
| |
除非我改變，否則不會改變 |
| |
選單中需要調整的內容 |
| |
我的門檻。那麼就讓我繼續吧。 |
| |
現在就這麼做。所以我要 |
| |
進入選單 |
| |
我要去片場 |
| |
閾值標準。所以 |
| |
在擬合最小平方法中，你有兩個 |
| |
閾值選項 |
| |
最初，它被設定為最大 |
| |
槓桿，這將保持 |
| |
你在凸包內 |
| |
數據，或者你可以切換到 |
| |
乘數乘以平均值 |
| |
槓桿或模式條款 |
| |
觀察。我想 |
| |
切換到那個閾值。所以 |
| |
設定為 3 作為乘數 |
| |
預設情況下。所以這將 |
| |
是平均槓桿的3倍 |
| |
然後我點擊“確定”，然後注意到 |
| |
我的門檻將會改變。 |
| |
它實際上變小了，所以這個 |
| |
更保守 |
| |
外推的定義。 |
| |
我要把它轉回 |
| |
限制我的個人資料痕跡。 |
| |
現在我只能去 |
| |
我所在的地區在 3 |
| |
乘以平均槓桿。 |
| |
現在我們也有 |
| |
實施最佳化 |
| |
遵守 |
| |
外推 |
| |
約束。所以現在如果我 |
| |
開啟設定可取性 |
| |
我負責優化， |
| |
我將得到一個最優值 |
| |
滿足外推 |
| |
約束。請注意， |
| |
指標小於或等於 |
| |
門檻。所以現在當我去 |
| |
下一張投影片是 |
| |
用圖表、散佈圖進行比較 |
| |
矩陣，差異 |
| |
最佳值與 |
| |
外推控制已開啟 |
| |
並將其關閉。 |
| |
這是散點圖 |
| |
我用 JMP 建立的矩陣， |
| |
並顯示原始 |
| |
預測變數數據 |
| |
作為預測變數值 |
| |
尋找最優解 |
| |
沒有外推控制， |
| |
藍色，最佳解決方案使用 |
| |
紅色表示外推控制。 |
| |
並注意到不受約束的 |
| |
這裡用藍色表示的解決方案， |
| |
就在這裡，違反了 |
| |
相關結構 |
| |
運行脈衝的原始數據和 |
| |
最大脈衝，從而增加 |
| |
該預測的不確定性。 |
| |
而最優解 |
| |
確實使用了外推法 |
| |
控制更加一致 |
| |
與原始數據。 |
| |
現在讓我們來看一個例子 |
| |
使用更通用的 |
| |
外推控制方法， |
| |
我們稱之為 |
| |
正則化 T 平方方法。 |
| |
Chris 之前提到過，我們 |
| |
為模型開發了此方法 |
| |
除了最小平方法模型之外。 |
| |
所以我們要看一個 |
| |
糖尿病的神經模型 |
| |
樣本中的數據 |
| |
數據。回應是一個度量 |
| |
疾病進展，以及 |
| |
預測指標為基線 |
| |
變數。再次， |
| |
用於外推度量 |
| |
這個例子是 |
| |
正規化 T 方 |
| |
Jeremy 將會描述 |
| |
幾分鐘後會更詳細介紹。 |
| |
所以我打開了糖尿病數據 |
| |
JMP 和我儲存了一個腳本 |
| |
我的神經模型適合。我 |
| |
繼續運行 |
| |
腳本。它啟動神經 |
| |
平台，並注意到我 |
| |
使用驗證方法，隨機 |
| |
忍住。我只是想指出 |
| |
無論何時你使用 |
| |
驗證方法， |
| |
外推控制基於 |
| |
僅基於訓練數據 |
| |
而不是你的驗證 |
| |
或測試數據。 |
| |
所以我打開了分析器 |
| |
你可以看到它正在使用 |
| |
完整跡線。外推 |
| |
控制未開啟。讓我們 |
| |
繼續並打開它。 |
| |
我還要 |
| |
打開詳細資訊。 |
| |
你可以看到痕跡 |
| |
受到限制，且指標 |
| |
是正規化的 T 平方。 |
| |
門檻是3倍 |
| |
樣本的標準差 |
| |
正規化 T 平方。傑里米是 |
| |
將會進一步討論 |
| |
這一切意味著 |
| |
分鐘。我只是想 |
| |
當我們使用時提到 |
| |
正規化的 T 平方 |
| |
方法，只有一個選擇 |
| |
閾值，但你可以 |
| |
調整乘數。所以如果你 |
| |
進入外推控制，設置 |
| |
閾值，你可以調整這個 |
| |
乘數，但我要 |
| |
把它留在3。現在我 |
| |
想要使用 |
| |
外推控制。所以我 |
| |
只是要最大化和 |
| |
記住。現在我有一個 |
| |
最優解 |
| |
外推控制轉向 |
| |
現在我想看看 |
| |
在我們的散佈圖矩陣中， |
| |
就像我們之前看到的一樣 |
| |
原始數據，以及 |
| |
具有最優值 |
| |
並且無需推斷 |
| |
控制。 |
| |
這是一個散點圖矩陣 |
| |
我所收集的糖尿病數據 |
| |
在 JMP 中建立。它具有 |
| |
原始預測值， |
| |
以及最優解 |
| |
使用外推控制 |
| |
紅色，且無最優解 |
| |
藍色表示外推控制。 |
| |
你可以看到紅色 |
| |
點看起來更多 |
| |
在相關結構中 |
| |
原始數據比 |
| |
藍色，而且特別 |
| |
當你看到這個 LDL 時 |
| |
與總膽固醇相比。 |
| |
現在我們來看一個例子 |
| |
使用下面的分析器 |
| |
圖形選單，我稱之為 |
| |
圖形分析器。它還使用 |
| |
正規化T平方方法 |
| |
它允許我們使用 |
| |
對任何外推控制 |
| |
可以 |
| |
建立並儲存為 JSL |
| |
公式。它還允許我們 |
| |
有外推控制 |
| |
一次可以建立多個模型。 |
| |
讓我們來看一個例子 |
| |
對於使用粉末的公司 |
| |
冶金技術 |
| |
生產鋼製傳動軸 |
| |
汽車業。 |
| |
他們希望能夠找到 |
| |
最佳設定 |
| |
生產將最小化 |
| |
收縮並最小化... |
| |
盡量減少因不良 |
| |
服務條件。所以我們有 |
| 二 |
反應收縮（即 |
| |
持續不斷，我們將 |
| |
擬合最小平方法模型 |
| |
)和表面狀況( |
| |
是通過/失敗，我們將 |
| |
擬合名目邏輯模型 |
| |
那個）。我們的預測器 |
| |
變數只是一些關鍵 |
| |
生產過程中的製程變數。 |
| |
再次推斷 |
| |
度量是正則化的 T 平方。 |
| |
所以我有粉末 |
| |
在 JMP 中開啟冶金數據 |
| |
我已經適應了至少 |
| |
我的收縮的正方形模型 |
| |
回應，我已經適應了 |
| |
名目邏輯模型 |
| |
表面狀況合格/不合格 |
| |
回應，我已經儲存了 |
| |
數據的預測公式 |
| |
桌子，以便他們準備好 |
| |
用於圖形分析器。 |
| |
如果我進入圖表選單 |
| |
分析器，我可以加載 |
| |
收縮預測公式 |
| |
我的預測公式是 |
| |
表面狀況。 |
| |
點選“確定”。現在我有 |
| |
我的兩個模特兒都開始 |
| |
圖形分析器。 |
| |
在我打開之前 |
| |
外推控制，你 |
| |
可以看到我有完整的 |
| |
個人資料追蹤。一旦我打開 |
| |
外推控制 |
| |
你可以看到痕跡 |
| |
縮小一點，我也會 |
| |
打開詳細信息， |
| |
只是為了表明我確實是 |
| |
使用正規化 T 平方 |
| |
這裡使用這種方法。 |
| |
所以我真正想做的是 |
| |
想要找到最佳的 |
| |
我最小化的條件 |
| |
收縮，我盡量減少 |
| |
外推失敗 |
| |
控制，我想確保 |
| |
我不是推斷。我想 |
| |
找到一個有用的解決方案。並且 |
| |
在我進行優化之前， |
| |
我實際上需要設定我的 |
| |
願望。所以我要 |
| |
設定願望。它已經 |
| |
收縮正確，但我 |
| |
需要為服務設定它們 |
| |
條件。我會盡量最大化 |
| |
通過並儘量減少失敗。 |
| |
K. |
| |
現在我應該可以做到 |
| |
最佳化 |
| |
外推控制開啟。 |
| |
盡量最大化並記住。 |
| |
現在我有了最佳狀態 |
| |
外推解 |
| |
控制。現在讓我們來看看 |
| |
再次在 |
| |
散點圖矩陣 |
| |
原始數據，以及 |
| |
外推解 |
| |
溶液中的控制， |
| |
透過外推控制 |
| |
離開。 |
| |
這是一個散點圖矩陣 |
| |
粉末冶金數據 |
| |
我在 JMP 中創建了它。 |
| |
也有最優解 |
| |
以外推控製作為 |
| |
紅點，以及最佳 |
| |
無需外推的解決方案 |
| |
控制點是一個藍點。一旦 |
| |
再一次，你可以看到，當我們 |
| |
不要進行推斷 |
| |
控制，最優解 |
| |
距離 |
| |
相關結構 |
| |
數據。我們尤其可以看到 |
| |
這裡的比例與 |
| |
壓實壓力。 |
| |
所以現在我想交出 |
| |
向傑里米展示 |
| |
深入探討 |
| |
關於我們的方法的詳細資訊。 |
| |
嗨，這裡有一些 |
| |
外推控制目標 |
| |
我們在 |
| |
專案開始時。我們 |
| |
需要一個外推指標 |
| |
可以快速計算 |
| |
有大量的 |
| |
觀察值和變量，以及 |
| |
我們需要一種快速的方法來評估 |
| |
該指標是否表明 |
| |
推斷與否。這是 |
| |
保持互動性 |
| |
分析器追蹤和 |
| |
我們需要這個 |
| |
進行優化。 |
| |
我們希望能夠 |
| |
支援各種變數 |
| |
可用的類型 |
| |
分析器。這些是 |
| |
本質上連續的， |
| |
分類和序數。 |
| |
我們想利用 |
| |
缺失細胞的觀察結果， |
| |
因為一些建模方法 |
| |
將包括這些觀察結果 |
| |
在 ？ ？ ？ 。 |
| |
我們想要一種方法 |
| |
對線性相關性具有穩健性 |
| |
數據。這些發生在 |
| |
變數數量較大 |
| |
比觀察次數， |
| |
例如。我們想要 |
| |
很容易的事情 |
| |
無需 |
| |
大量用戶輸入。 |
| |
對於最小平方法模型，我們 |
| |
靠槓桿，也就是 |
| |
常用於識別異常值 |
| |
在線性模型中。槓桿 |
| |
新的預測點是 |
| |
根據這個計算 |
| |
公式。有很多 |
| |
槓桿的解釋。 |
| |
一種解釋是 |
| |
多元距離 |
| |
預測點距中心 |
| |
訓練資料。另一個 |
| |
解釋是，這是一個 |
| |
縮放預測方差。所以 |
| |
隨著預測點的移動 |
| |
遠離中心 |
| |
數據的不確定性 |
| |
預測的增加。而且我們 |
| |
使用兩個常見的閾值 |
| |
統計文獻 |
| |
確定這個距離 |
| |
太大了。第一個是 |
| |
最大槓桿，預測 |
| |
超出此閾值的點 |
| |
或在凸包之外 |
| |
訓練資料。 |
| |
第二個是 |
| |
槓桿的平均值。 |
| |
可以證明這是 |
| |
相當於三倍 |
| |
模型項數除以 |
| |
按觀察次數。 |
| |
正如勞拉所描述的 |
| |
之前，你可以改變 |
| |
這些的乘數 |
| |
階段。 |
| |
最後，當願望 |
| |
正在進行優化， |
| |
外推約束是 |
| |
非線性約束，以及 |
| |
以前，分析器允許 |
| |
約束優化 |
| |
線性約束。這種類型的 |
| |
優化更多 |
| |
具有挑戰性，因此 Laura 實施了 |
| |
遺傳算法。如果你 |
| |
不熟悉這些， |
| |
遺傳演算法使用 |
| |
分子原理 |
| |
進化至優化 |
| |
複雜的成本函數。 |
| |
接下來，我將討論 |
| |
我們用來概括的方法 |
| |
模型外推控制 |
| |
除了線性模型之外。當 |
| |
你正在建立一個預測 |
| |
在 JMP 中，您首先要 |
| |
一組預測變數和一個 |
| |
一組反應變數。一些 |
| |
訓練監督模型，並且 |
| |
然後可以使用分析器 |
| |
可視化模型表面。 |
| |
有很多變化 |
| |
JMP 中的刻畫器。您可以 |
| |
在內部使用分析器 |
| |
建模平台。您可以 |
| |
輸出預測公式和 |
| |
為多個建置分析器 |
| |
模型。正如勞拉所展示的， |
| |
您可以建立分析器 |
| |
集成模型。我們想要一個 |
| |
外推控制法 |
| |
這將概括所有這些 |
| |
場景，所以 |
| |
將我們的方法與 |
| |
具體型號，我們將 |
| |
使用無監督 |
| |
方法。 |
| |
我們只會標記一個 |
| |
預測點為 |
| |
如果距離很遠，則推斷 |
| |
數據所在位置之外 |
| |
集中在預測變數中 |
| |
空間。這讓我們能夠 |
| |
保持一致 |
| |
分析器，以便我們的 |
| |
外推控制法 |
| |
可以插入任何分析器。 |
| |
多元距離 |
| |
槓桿的解釋 |
| |
建議 Hotelling 的 T 平方為 |
| |
一般距離 |
| |
外推控制。事實上， |
| |
一些代數運算將會 |
| |
顯示 Hotelling 的 T 平方是 |
| |
只是槓桿轉移了 |
| |
縮放。該圖顯示如何 |
| |
Hotelling 的 T 平方測量 |
| |
省略觀察結果 |
| |
位於，其中橢圓位於 |
| |
以平均值為中心 |
| |
數據，形狀已定義 |
| |
透過協方差矩陣。 |
| |
因為我們不再 |
| |
線性模型，這個指標 |
| |
沒有相同的 |
| |
與預測的聯繫 |
| |
方差。因此， |
| |
依賴所使用的閾值 |
| |
回到線性模型，我們 |
| |
打算做一些 |
| |
分佈假設 |
| |
確定 T 平方是否 |
| |
對於預測點應該 |
| |
被視為外推。 |
| |
這裡我展示了 |
| |
Hotelling T 平方。平均值和 |
| |
協方差矩陣估計 |
| |
使用訓練數據 |
| |
模型。如果 P 小於 N， |
| |
其中 P 是 |
| |
預測變量，N 是數字 |
| |
觀察結果，如果 |
| |
多變量預測因素 |
| |
正常，則 T 平方為 |
| |
成癮點有F |
| |
分佈。然而，我們想要 |
| |
一種方法來概括 |
| |
包含複雜資料的資料集 |
| |
類型，例如連續的混合 |
| |
和分類資料集，其中 P |
| |
大於 N，資料集 |
| |
缺失值。因此， |
| |
計算分佈 |
| |
在每種情況下，我們進行分析 |
| |
使用簡單的保守 |
| |
我們發現的控制限度 |
| |
在實踐中效果很好。這是 |
| |
三西格瑪控制限度 |
| |
使用經驗分佈 |
| |
訓練中的 T 平方 |
| |
數據，正如 Laura 所提到的，你 |
| |
也可以調整這個乘數。 |
| |
一個複雜的問題是，當 P |
| |
大於 N，Hotelling 的 T |
| |
平方是未定義的。有 |
| |
參數太多 |
| |
協方差矩陣估計 |
| |
利用現有數據， |
| |
這在典型使用中經常發生 |
| |
外推控制案例 |
| |
就像偏最小平方法一樣。 |
| |
所以我們決定要寫一本小說 |
| |
計算 Hotelling T 值的方法 |
| |
平方，處理這些 |
| |
案例，我們稱之為 |
| |
正規化的 T 平方。 |
| |
計算協方差 |
| |
矩陣我們使用正規化 |
| |
最初估計量 |
| |
由 Schafer 開發， |
| |
修剪器高 |
| |
維基因組學資料。 |
| |
這只是一個加權 |
| |
完整組合 |
| |
樣本協方差矩陣， |
| |
這裡是 U，還有一個 |
| |
約束目標矩陣 |
| |
即 D。 |
| |
對於 Lambda 權重 |
| |
參數，Schafer 和 Strimmer |
| |
得出了分析 |
| |
最小化 |
| |
MSE，估計量 |
| |
漸近地。 |
| |
Schafer 和 Strimmer 提出 |
| |
幾個可能的目標 |
| |
矩陣。目標矩陣我們 |
| |
選擇的是具有 |
| |
樣本變異數 |
| |
預測變數 |
| |
對角線。這個目標矩陣有 |
| |
有很多優點 |
| |
外推控制。首先，我們 |
| |
不要假設任何相關性 |
| |
變數之間的結構 |
| |
在看到數據之前， |
| |
作為一般先驗，效果很好。 |
| |
此外，當數據很少時 |
| |
估計協方差 |
| |
矩陣，要么是由於 N 較小，要么 |
| |
很大一部分缺失， |
| |
橢圓約束是 |
| |
因重量過大而擴大 |
| |
對角矩陣，以及這個 |
| |
導致更加保守 |
| |
外推控制測試。 |
| |
我們發現這是必要的 |
| |
獲得合理的控制 |
| |
假陽性率。換句話說 |
| |
更簡單地說，當有 |
| |
有限的訓練數據， |
| |
正規化的 T 平方小於 |
| |
可能會將預測標記為 |
| |
外推法，這就是你 |
| |
想要，因為你更 |
| |
可能觀察到協方差 |
| |
偶然。我們有一些 |
| |
模擬結果 |
| |
展示這些細節， |
| |
但我沒有時間去 |
| |
融入這一切。相反 |
| |
社區網頁上，我們放了一個 |
| |
連結到檔案中的論文和 |
| |
我們計劃將其提交給 |
| |
計算雜誌 |
| |
圖形統計。 |
| |
下一張投影片展示了一些其他 |
| |
我們需要的重要細節 |
| |
考慮一下。我們需要弄清楚 |
| |
如何處理分類 |
| |
變數。我們只是 |
| |
將它們轉化為指標 |
| |
編碼虛擬變數。這是 |
| |
相當於多個 |
| |
對應分析。另一個 |
| |
複雜之處在於如何計算 |
| |
Hotelling 的 T 平方 |
| |
缺少數據。一些 |
| |
JMP預測建模 |
| |
平台利用觀察 |
| |
缺少資料來訓練 |
| |
模型。這些包括樸素 |
| |
貝葉斯和 Bootstrap 森林。以及 |
| |
這些公式表明 |
| |
成對刪除方法我們 |
| |
用於估計協方差 |
| |
矩陣。更常見的是使用 |
| |
逐行刪除。這意味著 |
| |
所有缺失的觀測值 |
| |
之前刪除的值 |
| |
計算協方差矩陣。 |
| |
這是最簡單的，但它可以 |
| |
導致丟掉有用的 |
| |
數據，如果樣本量 |
| |
訓練資料量較小。 |
| |
成對刪除觀察 |
| |
並且僅當存在 |
| |
對中缺失的值 |
| |
用於計算的變數 |
| |
對應的條目，這就是 |
| |
這些公式顯示了什麼。 |
| |
看起來是一件簡單的事。 |
| |
你只是在使用所有數據 |
| |
這是可用的，但它 |
| |
實際上可以導致一系列 |
| |
問題，因為 |
| |
不同的觀察結果 |
| |
計算每個條目。這可以 |
| |
導致奇怪的事情發生， |
| |
像協方差矩陣 |
| |
負特徵值，即 |
| |
我們必須處理的事情。 |
| |
以下是 |
| |
正規化的 T 平方 |
| |
與其他相比時發現 |
| |
我們評估中的方法。一個 |
| |
是正規化 |
| |
正規化的工作方式 |
| |
正常工作。它擊中了 |
| |
過度擬合之間的平衡 |
| |
訓練資料和過度偏見 |
| |
估計器。這使得 |
| |
估計器對雜訊更穩健 |
| |
以及模型錯誤指定。 |
| |
接下來，Schafer 和 Strimmer |
| |
他們在論文中表明 |
| |
正規化導致 |
| |
更準確的估計 |
| |
高維設定。 |
| |
這有助於草書 |
| |
困擾 |
| |
大多數基於距離的方法 |
| |
用於外推控制。 |
| |
然後在有 |
| |
開發了以下方法 |
| |
外推控制， |
| |
通常他們都有很高 |
| |
維數據和高度 |
| |
相關預測因子。對於 |
| |
化學資訊學的例子和 |
| |
化學計量學、化學 |
| |
功能通常非常 |
| |
相關。外推控制 |
| |
經常組合使用 |
| |
使用 PCA 和 PLS 模型，其中 |
| |
T 平方 DModX 用於 |
| |
偵測相關性違規 |
| |
結構。這類似於 |
| |
我們在模型驅動中做什麼 |
| |
多元控製圖。 |
| |
由於這是一個常見的用例， |
| |
我們希望有一個選擇 |
| |
沒有偏離太遠 |
| |
這些方法。我們的正規化 T |
| |
squared 提供相同類型 |
| |
外推控制，但它 |
| |
不需要投影步驟 |
| |
這有一些優點。 |
| |
我們發現這使我們能夠 |
| |
更好地概括其他類型 |
| |
預測模型。此外， |
| |
我們的評估發現 |
| |
如果線性投影不 |
| |
非常適合您的數據，例如 |
| |
你有非線性關係 |
| |
預測變數之間，誤差 |
| |
可以擴大控制限度 |
| |
基於投影的方法， |
| |
這將導致不良 |
| |
保護 |
| |
外推法和我們的方法 |
| |
比這更強大。 |
| |
另一個重點 |
| |
我們發現 |
| |
單一外推度量 |
| |
使用起來更簡單， |
| |
解釋。 |
| |
以下是 |
| |
外推法的特點 |
| |
控制。該方法提供了更好的 |
| |
可行性視覺化 |
| |
高維度區域 |
| |
分析器中的模型。 |
| |
一種新的遺傳演算法 |
| |
已實施靈活 |
| |
約束優化。 |
| |
我們的正規化 T 平方 |
| |
處理混亂的觀察 |
| |
數據，像 P 這樣的案例更大 |
| |
比 N，並且連續和 |
| |
分類變數。 |
| |
此方法適用於大多數 |
| |
JMP 中的預測模型 |
| |
16 Pro 並支援許多 |
| |
他們的特質。這也是 |
| |
在分析器中可用 |
| |
圖表，真正揭示了它的 |
| |
實用，因為你可以操作 |
| |
任何預測公式。 |
| |
作為未來的方向， |
| |
我們正在考慮實施 |
| |
基於 K 最近鄰 |
| |
超越的限制 |
| |
目前相關性 |
| |
結構約束。通常 |
| |
預測變數由 |
| |
多個分佈導致 |
| |
在預測器聚類中 |
| |
空間。以及 K 個最近鄰 |
| |
基於方法將能夠 |
| |
我們控制外推 |
| |
簇之間。 |
| |
所以感謝大家 |
| |
收看這個節目 |
| |
如果您有，請點擊此處查看我們的電子郵件 |
| |
還有其他問題嗎？ |
進階統計建模基礎資料分析與建模消費者與市場研究數據探索與視覺化實驗設計預測模型和機器學習品質與工藝工程可靠度分析
