在 JMP® Pro 16 (2021-EU-45MP-751) 的預測描繪器中控制外推等級:中級
Laura Lancaster,JMP 首席研究統計師開發人員,SAS
Jeremy Ash,JMP 分析軟體測試員,SAS
Chris Gotwalt,SAS JMP 統計研究與發展總監
不受控制的模型外推會導致兩種嚴重的錯誤:(1)遠離資料的模型可能完全無效,(2)變數值的組合可能無法在物理上實現。 使用 Profiler 來優化適合觀測資料的模型可能會導致推斷出的解決方案在沒有任何警告的情況下沒有實際用途。 JMP Pro 16 將外推控制引入許多預測建模平台和 Profiler 平臺本身。 預測刻畫器中的這項新功能會提醒使用者可能的外推或完全避免在模型可能無效的情況下繪製外推點。 此外,使用者可以在避免外推的約束區域上執行最佳化。 在本演示中,我們討論外推控制的動機和用途,演示如何在 JMP 中輕鬆使用它,並描述我們方法的細節。
自動產生的成績單...
揚聲器 | 成績單 |
| 嗨,我是克里斯·戈特瓦爾特。 我的同事 |
| 主持人勞拉·蘭卡斯特和 |
| 傑里米·阿什和我正在介紹 |
| 有用的新 JMP Pro |
| 稱為外推的功能 |
| 控制。 幾乎任何型號 |
| 你會想要預測 |
| 具有一系列 |
| 適用範圍,一個區域 |
| 輸入空間,其中 |
| 預測被認為是 |
| 夠可靠。 在那之外 |
| 區域,我們開始推斷 |
| 模型遠離 |
| 用於擬合模型的數據。 使用 |
| 該模型的預測 |
| 在那些點上可能會導致 |
| 完全不可靠 |
| 預測。那裡有兩個 |
| 主要來源 |
| 外推法 | 統計 |
| 外推法和基於域的 |
| 外推法。兩種類型都是 |
| 新功能涵蓋了。 |
| 發生統計外推 |
| 當一個人試圖 |
| 使用 x 處的模型進行預測 |
| 這與價值觀不接近 |
| 用於訓練該模型。 |
| 基於域的外推 |
| 當你嘗試評估時會發生 |
| 由於 x 是不可能的 |
| 科學或工程 |
| 基於約束。 這個例子 |
| 這裡說明了兩種 |
| 在一個例子中進行外推。 |
| 在這裡我們看到一個分析器 |
| 冶金生產模型 |
| 過程。預測中寫道 |
| 輸出顯示 -2.96,沒有 |
| 表明我們正在評估 |
| 在溫度組合下 |
| 和不可能的壓力 |
| 在領域意義上達到 |
| 這台機器。 我們還有 |
| 統計外推法 |
| 與用來擬合的數據相差甚遠 |
| 散點圖中看到的模型 |
| 訓練資料圖 |
| 正確的。在 JMP Pro 16 中,Jeremy, |
| 勞拉和我合作 |
| 增加一個新功能,可以 |
| 當分析器出現時發出警告 |
| 認為你可能是 |
| 推斷。或如果你轉身 |
| 外推控制,它 |
| 將限制點集 |
| 你只看到那些 |
| 它不認為是 |
| 推斷。我們有兩種類型 |
| 的外推控制。 一是 |
| 基於槓桿的概念 |
| 並使用最小平方法模型。 |
| 第一種類型僅 |
| 專業版提供 |
| 擬合模型最小平方法。 這 |
| 我們稱之為一般的其他類型 |
| 機器學習外推 |
| 控制並可在 |
| Profiler 平台和幾個 |
| 最常見的機器學習 |
| JMP Pro 中的平台。 之上 |
| 請求,我們甚至可以將其添加到 |
| 更多的。最小平方法 |
| 外推控制使用 |
| 槓桿的概念,即 |
| 就像一個縮放版本 |
| 預測方差。 它的型號是—— |
| 基於,因此它使用信息 |
| 關於主要影響 |
| 高階交互作用 |
| 條件來確定 |
| 外推法。對於一般 |
| 機器學習外推 |
| 控制案例,我們必須提出 |
| 用我們自己的方法。 我們 |
| 想要一種方法 |
| 對缺失值穩健,線性 |
| 依賴性,更快的計算, |
| 可以處理的混合物 |
| 連續和分類輸入 |
| 變量,我們也 |
| 明確想要分開 |
| 的外推模型 |
| 用於擬合資料的模型。 所以 |
| 當我們有一般的 |
| 外推控制打開, |
| 只有一個人受到監督 |
| 模型是...適合 |
| 回應的輸入變數 |
| 我們在分析器中看到的 |
| 痕跡。分析器來了 |
| 又快又髒 |
| 無監督模型來描述 |
| 訓練集軸,這個 |
| 使用無監督模型 |
| 幕後由 |
| 探查器來確定 |
| 外推控制 |
| 約束。所以我必須 |
| 切換是因為 PowerPoint 和我的 |
| 相機不相容 |
| 現在由於某種原因。 我們 |
| 知道有風險的推斷 |
| 每天都在製作 |
| 從事數據科學工作的人 |
| 並有信心使用 |
| 的外推法導致較差 |
| 預測並最終 |
| 業務成果不佳。 |
| 外推控制位置 |
| 模型預測的護欄 |
| 並將導致可量化的 |
| JMP Pro 做出更好的決策 |
| 用戶。當用戶看到推斷時 |
| 發生時,用戶必須做出 |
| 決定是否 |
| 是否應該使用預測 |
| 根據其域使用 |
| 的知識和熟悉程度 |
| 手頭上的問題。 如果你 |
| 開始看到外推法 |
| 控制警告經常發生 |
| 通常,這很可能是結束 |
| 此模型的生命週期 |
| 是時候將其重新調整為新數據了 |
| 因為分佈 |
| 輸入已經從 |
| 的訓練資料。 我們 |
| 老實說很驚訝並且 |
| 感到震驚的是,需要 |
| 辨識外推法不是 |
| 透過數據更好地理解 |
| 科學界並做出了 |
| 控制外推為 |
| 盡可能簡單和自動。 |
| Laura,在 JMP 中開發它 |
| 親,將演示 |
| 接下來的選項。 然後傑里米,他 |
| 對我們做了很多研究 |
| 團隊,將進入數學 |
| 細節和統計 |
| 方法的動機。 |
| 你好,我的名字是蘿拉 |
| 蘭卡斯特和我來這裡是為了做一個 |
| 外推法演示 |
| 新增到 JMP 的控件 |
| 臨 16。 我想開始 |
| 用一個相當簡單的例子 |
| 最少使用擬合模型 |
| 方形平台。 我要 |
| 使用一些可能的數據 |
| 熟悉的;這是健身數據 |
| 這是樣本數據,我是 |
| 將使用攝氧量作為 |
| 我的回應和運行時間,運行 |
| 脈搏和最大脈搏作為我的 |
| 預測因子。我想要 |
| 重申一下,在擬合模型中, |
| 擬合最小平方法 |
| 外推度量是 |
| 使用的是槓桿。 那我們走吧 |
| 繼續並開始 JMP。 |
| 現在我有了健身數據 |
| 在 JMP 中打開,我有一個腳本 |
| 儲存到資料表中 |
| 自動啟動我的健身 |
| 最小平方法模型。 所以我 |
| 繼續運行它 |
| 腳本,它啟動最少 |
| 方形平台。 我有 |
| 探查器自動打開。 和 |
| 我們可以看到分析器 |
| 看起來它總是在 |
| 過去,因素邊界 |
| 由每個的範圍定義 |
| 單獨考慮因素,給我們 |
| 矩形邊界約束。 |
| 當我改變因素時 |
| 設置,因為這些綁定 |
| 約束條件,這可能真的是 |
| 很難判斷你是否要搬家 |
| 遠遠超出相關性 |
| 資料的結構。 |
| 這就是為什麼我們要添加 |
| 外推控制。 所以 |
| 這已被添加到幾個 |
| JMP Pro 中的平台 |
| 16,包括擬合最小平方法。 |
| 並進行推斷 |
| 控制,您進入下面的選單 |
| 探查器選單。 所以如果我看 |
| 在這裡,我看到有一個新選項 |
| 稱為外推控制。 |
| 預設為關閉, |
| 但我可以把它變成 |
| 打開或警告打開 |
| 外推控制。 如果我 |
| 打開它,注意 |
| 它限制了我的個人資料 |
| 追蹤僅到達值 |
| 我沒有推斷。 |
| 如果我把它變成警告 |
| 上,我會看到完整的個人資料 |
| 痕跡,但我會得到一個 |
| 當我去某個地區時發出警告 |
| 哪裡會考慮 |
| 進行外推。 |
| 我還可以打開外推法 |
| 細節,我發現真的 |
| 有幫助,這給了我一個 |
| 更多資訊。 首先 |
| 所有,它告訴我,我的 |
| 我正在使用的指標 |
| 定義外推法是 |
| 槓桿作用,這在 |
| 適合最小平方法平台。 |
| 以及正在發生的門檻 |
| 最初預設使用的是 |
| 將達到最大槓桿, |
| 但這是我能做的 |
| 改變,我會告訴你 |
| 在一分鐘內。 另外,我還可以看到 |
| 我的外推指標是什麼 |
| 是針對我目前的設定。 |
| 就是這個號碼,就在這裡 |
| 這會隨著我的改變而改變 |
| 我的因子設定。 |
| 任何時候這個數字更大 |
| 超過閾值,我將 |
| 收到此警告,我可能會 |
| 推斷。如果跌到下面的話 |
| 我不會再明白了 |
| 警告。這個門檻不 |
| 除非我改變,否則就會改變 |
| 選單中需要調整的內容 |
| 我的門檻。 那麼就讓我繼續吧 |
| 現在就這樣做。 所以我要去 |
| 轉到選單 |
| 我要去片場 |
| 閾值標準。 所以 |
| 在擬合最小平方法中,你有兩個 |
| 閾值選項 |
| 最初,它設定為最大值 |
| 槓桿,這將保持 |
| 你在凸包內 |
| 數據,或者您可以切換到 |
| 乘數乘以平均值 |
| 槓桿或模式條款超過 |
| 觀察。我想要 |
| 切換到該閾值。 所以就是 |
| 設定為 3 作為乘數 |
| 預設情況下。 所以這將是 |
| 平均槓桿的3倍 |
| 然後我單擊“確定”,並注意到 |
| 我的門檻將會改變。 |
| 它實際上變小了,所以這個 |
| 是一個比較保守的 |
| 外推法的定義。 |
| 我要把它轉回 |
| 來限制我的個人資料痕跡。 |
| 現在我只能去 |
| 我在 3 以內的區域 |
| 乘以平均槓桿率。 |
| 現在我們還有 |
| 實施最佳化 |
| 遵守 |
| 外推法 |
| 限制。所以現在如果我 |
| 打開設定的意願 |
| 我做了優化, |
| 我將得到一個最優值 |
| 滿足外推 |
| 約束。請注意,這 |
| 度量小於或等於 |
| 門檻。 所以現在當我走的時候 |
| 到我的下一張投影片 |
| 以圖表、散佈圖進行比較 |
| 矩陣,差值 |
| 之間的最佳值與 |
| 外推控制打開 |
| 並關閉它。 |
| 這就是散點圖 |
| 我用 JMP 建立的矩陣, |
| 它顯示了原來的 |
| 預測變數數據,以及 |
| 作為預測變數值 |
| 使用最佳解決方案 |
| 無外推控制,在 |
| 藍色,以及使用的最佳解決方案 |
| 紅色的外推控制。 |
| 並注意如何不受約束 |
| 此處的解決方案為藍色, |
| 就在這裡,違反了 |
| 的相關結構 |
| 運行脈衝的原始數據和 |
| 最大脈衝,從而增加 |
| 該預測的不確定性。 |
| 而最優解 |
| 確實使用了外推法 |
| 控制更加一致 |
| 與原始數據。 |
| 現在讓我們來看一個例子 |
| 使用更通用的 |
| 外推控制方法, |
| 我們稱之為 |
| 正則化 T 平方方法。 作為 |
| 克里斯之前提到過,我們 |
| 為模型開發了這種方法 |
| 除了最小平方法模型之外。 |
| 所以我們要看 |
| 糖尿病神經模型 |
| 樣本中也包含的數據 |
| 數據。回應是一種措施 |
| 疾病進展狀況,以及 |
| 預測變數是基線 |
| 變數。 再一次, |
| 外推度量用於 |
| 這個例子是 |
| 正規化 T 方 |
| 傑里米將描述 |
| 幾分鐘後即可了解更多詳細資訊。 |
| 所以我打開了糖尿病數據 |
| JMP 和我儲存了一個腳本 |
| 我的神經模型適合。 我是 |
| 繼續運行它 |
| 腳本。它啟動了神經 |
| 平台,並注意到我是 |
| 使用驗證方法,隨機 |
| 憋。 我只是想注意 |
| 任何時候你使用 |
| 驗證方法, |
| 外推控制是基於 |
| 僅在訓練資料上 |
| 而不是你的驗證 |
| 或測試數據。 |
| 所以我打開了分析器並 |
| 你可以看到它正在使用 |
| 完整的痕跡。 外推法 |
| 控制未開啟。 讓我們 |
| 繼續並打開它。 |
| 而且我也要去 |
| 打開細節。 |
| 可以看到有痕跡 |
| 受到限制和指標 |
| 是正則化 T 方。 這 |
| 閾值是3倍 |
| 樣本的標準差 |
| 正規化 T 平方。 傑里米是 |
| 將會更多地談論什麼 |
| 所有這一切都意味著在幾個 |
| 分鐘。我只是想 |
| 提到當我們使用 |
| 正規化 T 平方 |
| 方法只有一個選擇 |
| 對於閾值,但你可以 |
| 調整乘數。 所以如果你 |
| 轉到外推控制,設定 |
| 閾值,你可以調整這個 |
| 乘數,但我要 |
| 將其保留為 3。 而現在我 |
| 想要使用運行優化 |
| 外推控制。 所以我 |
| 只是要最大化並且 |
| 記住。現在我有一個 |
| 最優解與 |
| 外推控制轉向 |
| 在。所以現在我想看看 |
| 在我們的散點圖矩陣中,只需 |
| 就像我們之前看過的那樣 |
| 原始數據,以及 |
| 與最優值 |
| 並且無需外推 |
| 控制。 |
| 所以這是一個散點圖矩陣 |
| 我的糖尿病數據 |
| 在 JMP 中建立。 它有 |
| 原始預測值,如 |
| 以及最優解 |
| 使用外推控制 |
| 紅色,最優解無 |
| 藍色的外推控制。 |
| 你可以看到紅色 |
| 點似乎更多 |
| 在相關結構內 |
| 原始數據比 |
| 藍色,特別是 |
| 當你查看這個 LDL 時,確實如此 |
| 與總膽固醇相比。 |
| 現在讓我們來看一個例子 |
| 使用下面的分析器 |
| 圖形選單,我稱之為 |
| 圖形分析器。 它還使用 |
| 正規化T平方法 |
| 它允許我們使用 |
| 任意的外推控制 |
| 可以是模型類型 |
| 建立並儲存為 JSL |
| 公式。它還使我們能夠 |
| 有外推控制 |
| 一次多個模型。 |
| 讓我們來看一個例子 |
| 對於使用粉末的公司 |
| 冶金技術 |
| 生產鋼製傳動軸 |
| 汽車業。 |
| 他們希望能夠找到 |
| 適合他們的最佳設置 |
| 將最大限度地減少生產 |
| 收縮並最大限度地減少... |
| 最大限度地減少因不良造成的故障 |
| 服務條件。 所以我們有 |
| 二 | 響應收縮(即 |
| 持續不斷,我們將 |
| 擬合最小平方法模型 |
| 那個)和表面狀況(哪個 |
| 是通過/失敗,我們要 |
| 擬合名目邏輯模型 |
| 那個)。 還有我們的預測器 |
| 變數只是一些關鍵 |
| 生產中的製程變數。 |
| 再次推斷 |
| metric 是正規化 T 方。 |
| 所以我有粉 |
| 在 JMP 中開啟冶金數據 |
| 我已經至少適應了 |
| 我的收縮的正方形模型 |
| 回應,我已經適合了 |
| 名目邏輯模型 |
| 表面狀況通過/失敗 |
| 響應,我已經保存了 |
| 數據的預測公式 |
| 桌子,以便他們準備好 |
| 在圖形分析器中使用。 |
| 所以如果我進入圖形選單 |
| 探查器,我可以加載 |
| 收縮預測公式 |
| 我的預測公式是 |
| 表面狀況。 |
| 按一下“確定”。 現在我有 |
| 我的兩個模型都推出了 |
| 圖形分析器。 |
| 在我開機之前 |
| 外推控制,你 |
| 可以看到我有完整的 |
| 輪廓痕跡。 一旦我打開 |
| 外推控制 |
| 你可以看到痕跡 |
| 縮小一點,我也去 |
| 打開詳細信息, |
| 只是為了表明我確實是 |
| 使用正規化 T 方 |
| 在這個方法中。 |
| 所以我真正想做的是 |
| 想要找到最優的 |
| 我最小化的條件 |
| 收縮,我最小化 |
| 外推失敗 |
| 控制,我想確保 |
| 我不是推斷。 我想要 |
| 找到一個有用的解決方案。 和 |
| 在我進行優化之前, |
| 我實際上需要設定我的 |
| 願望。所以我要去 |
| 設定願望。 它已經 |
| 正確的收縮,但我 |
| 需要為服務設定它們 |
| 狀態.我會嘗試最大化 |
| 通過並儘量減少失敗。 |
| K. |
| 現在我應該能夠做到 |
| 優化與 |
| 外推控制打開。 |
| 最大化並記住。 |
| 現在我已經有了我的最佳狀態 |
| 外推解法 |
| 控制開啟。 現在讓我們來看看 |
| 再次在 |
| 的散佈圖矩陣 |
| 原始數據,連同 |
| 外推解法 |
| 溶液中的控制, |
| 與外推控制 |
| 離開。 |
| 所以這是一個散點圖矩陣 |
| 粉末冶金數據 |
| 我在 JMP 中創建的。 還有它 |
| 也有最優解 |
| 外推控製作為 |
| 紅點,以及最佳 |
| 沒有外推的解決方案 |
| 控制為藍點。 還有一次 |
| 你可以再次看到,當我們 |
| 不要進行外推 |
| 控制,最優解 |
| 是相當遠的外面 |
| 的相關結構 |
| 數據。我們特別可以看到 |
| 這裡的比率與 |
| 壓實壓力。 |
| 所以現在我想交出 |
| 給傑里米的演講 |
| 深入了解更多 |
| 詳細了解我們的方法。 |
| 你好,這裡有一些 |
| 外推控制目標 |
| 我們在 |
| 專案的開始。 我們 |
| 需要一個外推度量 |
| 可以快速計算 |
| 與大量 |
| 觀察結果和變量,以及 |
| 我們需要一種快速的方法來評估 |
| 指標是否表明 |
| 是否外推。 這是 |
| 以保持互動性 |
| 探查器追蹤和 |
| 我們需要這個 |
| 執行優化。 |
| 我們希望能夠 |
| 支援各種變數 |
| 中可用的類型 |
| 分析器。這些都是 |
| 本質上是連續的, |
| 絕對的和序數的。 |
| 我們想利用 |
| 缺失細胞的觀察結果, |
| 因為一些建模方法 |
| 將包括這些觀察結果 |
| 在 ???。 |
| 我們想要一種方法 |
| 對線性依賴性具有穩健性 |
| 數據。 這些發生時, |
| 變數數量較多 |
| 比觀測值的數量, |
| 例如。 我們想要 |
| 很容易做到的事情 |
| 自動化,無需 |
| 大量的用戶輸入。 |
| 對於最小平方法模型,我們 |
| 落在槓桿上,即 |
| 通常用於識別異常值 |
| 在線性模型中。 槓桿 |
| 新的預測點是 |
| 按照這個計算 |
| 公式。有許多 |
| 槓桿的解釋。 |
| 一種解釋是,它是 |
| a 的多元距離 |
| 距中心的預報點 |
| 的訓練資料。 其他 |
| 解釋是它是一個 |
| 縮放預測方差。 所以 |
| 隨著預測點移動 |
| 離中心較遠 |
| 數據的不確定性 |
| 的預測增加。 和我們 |
| 使用兩個常見的閾值 |
| 統計文獻 |
| 判斷這個距離是否 |
| 太大了。 第一個是 |
| 最大槓桿、預測 |
| 超過此閾值的點 |
| 或在凸包之外 |
| 訓練資料。 |
| 第二個是3倍 |
| 槓桿的平均值。 它 |
| 可以證明這是 |
| 相當於三倍 |
| 劃分的模型項數 |
| 透過觀察的數量。 |
| 正如勞拉所描述的 |
| 早些時候,您可以更改 |
| 這些的乘數 |
| 閾值。 |
| 最後,當願望 |
| 正在優化中, |
| 外推約束是 |
| 非線性約束,以及 |
| 之前分析器允許 |
| 約束優化 |
| 線性約束。 這類 |
| 優化更多 |
| 具有挑戰性,所以勞拉實施了 |
| 遺傳算法。 如果你 |
| 對這些不熟悉, |
| 遺傳演算法使用 |
| 分子原理 |
| 進化優化 |
| 複雜的成本函數。 |
| 接下來我要講的是 |
| 我們用來概括的方法 |
| 對模型的外推控制 |
| 除了線性模型之外。 什麼時候 |
| 你正在建立一個預測 |
| 在 JMP 中的模型中,您可以從 |
| 一組預測變數和一個 |
| 響應變數集。 一些 |
| 訓練有監督模型,並且 |
| 然後可以使用分析器 |
| 可視化模型表面。 |
| 有很多變化 |
| JMP 中的刻畫器。 你可以 |
| 在內部使用分析器 |
| 建模平台。 你可以 |
| 輸出預測公式和 |
| 為多個建構一個分析器 |
| 楷模。正如勞拉所證明的那樣, |
| 您可以建立分析器 |
| 係綜模型。 我們想要一個 |
| 外推控制法 |
| 這將概括所有這些 |
| 場景,所以而不是 |
| 將我們的方法綁定到 |
| 具體型號,我們去 |
| 使用無人監督的 |
| 方法。 |
| 我們只會標記一個 |
| 預測點為 |
| 如果距離很遠則進行推斷 |
| 數據所在的外部 |
| 集中於預測器 |
| 空間。這使我們能夠 |
| 保持一致 |
| 分析器使我們的 |
| 外推控制法 |
| 將插入任何分析器。 |
| 多元距離 |
| 槓桿的解釋 |
| 建議霍特林的 T 平方為 |
| 一般的距離 |
| 外推控制。 實際上, |
| 一些代數運算將 |
| 證明霍特林的 T 平方為 |
| 只是槓桿轉移了 |
| 縮放。該圖顯示如何 |
| 霍特林 T 平方度量 |
| 哪個橢圓是一個觀察值 |
| 位於橢圓的位置 |
| 以平均值為中心 |
| 數據,並且形狀被定義 |
| 由協方差矩陣。 |
| 既然我們已經不在了 |
| 線性模型,這個指標 |
| 沒有相同的 |
| 與預測的聯繫 |
| 方差。 所以而不是 |
| 依賴所使用的閾值 |
| 回到線性模型,我們是 |
| 要做一些 |
| 分佈假設 |
| 確定 T 平方是否 |
| 對於預測點應該 |
| 被認為是外推法。 |
| 在這裡我展示了公式 |
| 霍特林的 T 方。 均值和 |
| 估計協方差矩陣 |
| 使用訓練數據 |
| 模型。如果 P 小於 N, |
| 其中 P 是數量 |
| 預測變量,N 是數量 |
| 的觀察結果,如果 |
| 多變量的預測因子 |
| 正常,然後 T 平方為 |
| 成癮點有一個F |
| 分配。然而,我們想要 |
| 一種概括的方法 |
| 數據複雜的數據集 |
| 類型,例如連續的混合 |
| 和分類資料集,其中 P |
| 大於 N,資料集 |
| 缺失值。 所以而不是 |
| 計算分佈 |
| 對每種情況進行分析,我們 |
| 使用了簡單的保守 |
| 我們發現的控制極限 |
| 在實踐中效果很好。 這是 |
| 三西格瑪控制限 |
| 使用經驗分佈 |
| 訓練中的 T 平方 |
| 數據,正如勞拉所提到的,你 |
| 也可以調整這個乘數。 |
| 一個複雜的情況是,當 P |
| 大於 N,Hotelling 的 T |
| 平方未定義。 有 |
| 中的參數過多 |
| 要估計的協方差矩陣 |
| 與可用的數據,以及 |
| 這在典型使用中經常發生 |
| 外推控制的情況 |
| 就像偏最小平方法一樣。 |
| 所以我們決定寫一本小說 |
| 計算霍特林 T 的方法 |
| 平方,它處理這些 |
| 案例,我們稱之為 |
| 正規化 T 平方。 |
| 計算協方差 |
| 我們使用正規化矩陣 |
| 最初的估計量 |
| 由謝弗和 |
| 高修剪器 |
| 維度基因組學資料。 |
| 這只是一個加權 |
| 完整的組合 |
| 樣本協方差矩陣, |
| 這裡是 U 和 a |
| 約束目標矩陣 |
| 這是D。 |
| 對於 Lambda 權重 |
| 參數,Schafer 和 Strimmer |
| 得出分析的 |
| 最小化的表達式 |
| MSE,估計器 |
| 漸進地。 |
| 謝弗和斯特里默提議 |
| 幾個可能的目標 |
| 矩陣。我們的目標矩陣 |
| 選擇的是對角矩陣 |
| 的樣本方差 |
| 的預測變數 |
| 對角線。此目標矩陣有 |
| 的許多優點 |
| 外推控制。 首先,我們 |
| 不要假設任何相關性 |
| 變數之間的結構 |
| 在看到數據之前, |
| 作為一般先驗,效果很好。 |
| 另外,當數據很少時 |
| 估計協方差 |
| 矩陣,要么由於小 N 要么 |
| 很大一部分缺失, |
| 橢圓約束是 |
| 因大重量而膨脹 |
| 對角矩陣,以及這個 |
| 結果更保守 |
| 外推控制檢定。 |
| 我們發現這是必要的 |
| 獲得合理的控制 |
| 誤報率。 為了把這個 |
| 更簡單地說,當有 |
| 訓練資料有限, |
| 正則化 T 平方較小 |
| 可能將預測標記為 |
| 外推法,這就是你 |
| 想要,因為你更 |
| 可能觀察到協方差 |
| 偶然。 我們有一些 |
| 仿真結果 |
| 展示這些細節, |
| 但我沒時間去 |
| 進入這一切。 相反 |
| 在社群網頁上,我們放了一個 |
| 連結到有關存檔的論文和 |
| 我們計劃將此提交給 |
| 計算雜誌 |
| 圖形統計。 |
| 下一張投影片顯示了其他一些 |
| 我們需要的重要細節 |
| 考慮。我們需要弄清楚 |
| 找出如何處理分類 |
| 變數。 我們只是 |
| 將它們轉換成指標- |
| 編碼虛擬變數。 這是 |
| 相當於一個倍數 |
| 對應分析。 其他 |
| 複雜的是如何計算 |
| 霍特林的 T 平方 |
| 缺少數據。 一些 |
| JMP 預測建模 |
| 平台使用觀察結果 |
| 缺少數據來訓練他們 |
| 楷模。其中包括幼稚的 |
| 貝葉斯和 Bootstrap 森林。 和 |
| 這些公式顯示了 |
| 成對刪除法 |
| 用於估計協方差 |
| 矩陣。比較常用的是 |
| 逐行刪除。 這意味著 |
| 所有缺失的觀測值 |
| 值之前被刪除 |
| 計算協方差矩陣。 |
| 這是最簡單的,但它可以 |
| 結果丟掉了有用的 |
| 數據如果樣本大小 |
| 訓練資料量較小。 和 |
| 成對刪除觀察 |
| 僅當存在時才刪除 |
| 一對中缺失值 |
| 用於計算的變數 |
| 相應的條目,那就是 |
| 這些公式顯示了什麼。 |
| 看起來是一件簡單的事。 |
| 您只是使用所有數據 |
| 這是可用的,但是它 |
| 實際上可以導致許多 |
| 問題是因為有 |
| 不同的觀察習慣 |
| 計算每個條目。 這個可以 |
| 導致奇怪的事情發生, |
| 就像協方差矩陣一樣 |
| 負特徵值,即 |
| 我們必須處理的事情。 |
| 以下是一些優點 |
| 正則化 T 平方我們 |
| 與其他比較時發現 |
| 我們的評估中的方法。 一 |
| 是正規化 |
| 正規化的工作方式 |
| 正常工作。 它打擊了一個 |
| 過度擬合之間的平衡 |
| 訓練資料和過度偏差 |
| 估計器。 這使得 |
| 估計器對噪音更加穩健 |
| 以及型號規格錯誤。 |
| 接下來,謝弗和斯特里默 |
| 在他們的論文中表明 |
| 正規化結果為 |
| 更準確的估計器 |
| 高維設定。 |
| 這有助於草書 |
| 困擾的維度 |
| 大多數基於距離的方法 |
| 用於外推控制。 |
| 然後在有的領域 |
| 開發了方法論 |
| 外推控制, |
| 通常他們都有很高的 |
| 尺寸數據和高度 |
| 相關預測因子。 為了 |
| 化學資訊學的例子和 |
| 化學計量學,化學計量學 |
| 特徵往往是高度 |
| 相關的。外推控制 |
| 經常組合使用 |
| 與 PCA 和 PLS 模型,其中 |
| T 平方 DModX 用於 |
| 偵測相關性違規 |
| 結構。這類似於 |
| 我們在模型驅動中做什麼 |
| 多變量控製圖。 |
| 由於這是一個常見的用例, |
| 我們想要一個選擇 |
| 並沒有偏離太遠 |
| 這些方法。 我們的正規化T |
| squared 提供相同類型 |
| 外推控制,但它 |
| 不需要投影步驟 |
| 這有一些優點。 |
| 我們發現這使我們能夠 |
| 更好地概括其他類型 |
| 的預測模型。 另外,在 |
| 我們的評估我們觀察到 |
| 如果線性投影沒有 |
| 適合您的數據,例如 |
| 你有非線性關係 |
| 預測變數之間的誤差 |
| 可以誇大控制限度 |
| 基於投影的方法, |
| 這將導致貧窮 |
| 保護免受 |
| 外推法和我們的方法 |
| 比這更穩健。 |
| 然後還有一個重要的點 |
| 是我們發現了 |
| 單一外推度量 |
| 使用起來更簡單 |
| 解釋。 |
| 這是一個快速總結 |
| 外推法的特點 |
| 控制。該方法提供了更好的 |
| 可行的可視化 |
| 高維度區域 |
| 分析器中的模型。 |
| 一種新的遺傳演算法 |
| 已實施靈活 |
| 約束優化。 |
| 我們的正則化 T 方 |
| 處理凌亂的觀察 |
| 數據,像P這樣的情況較大 |
| 比 N,且連續且 |
| 分類變數。 |
| 此方法適用於大多數 |
| JMP 中的預測模型 |
| 16 Pro並支援許多 |
| 他們的特質。 這也是 |
| 在探查器中可用 |
| 圖表,這確實打開了它的 |
| 實用,因為你可以操作 |
| 任何預測公式。 |
| 然後作為未來的方向, |
| 我們正在考慮實施 |
| 基於K最近鄰的 |
| 超出的限制 |
| 目前的相關性 |
| 結構約束。 常 |
| 預測器是由產生的 |
| 產生多重分佈 |
| 在預測器的聚類中 |
| 空間。和一個K-最近鄰 |
| 基於方法將使 |
| 我們控制外推 |
| 簇之間。 |
| 所以感謝大家 |
| 收看這個節目並且 |
| 如果你有的話,這是我們的電子郵件 |
| 如有任何其他問題。 |
爆發數據視覺化預測建模