預測建模就是要找到準確預測感興趣結果的模型。 例如,假設我想根據多種因素預測一種特定疾病(在本例中為糖尿病)的進展情況。 更具體地說,我想確定最有可能出現高疾病進展的患者,以便進行適當的干預。
我有JMP專業版,而且我知道我可以擬合幾種可能的預測模型。 例如,我可以擬合回歸模型、各種類型的基於樹的模型或神經網絡,僅舉幾例。 我應該使用哪個建模平台? 哪種類型的模型可以最準確地預測結果? 對於任何給定的建模情況,最佳模型很大程度上取決於數據——沒有一種模型最適合所有問題。
為了找到糖尿病場景的最佳模型,我可以使用交叉驗證擬合所有可能的模型,一次一個。 我可以將單個模型保存到數據表或公式庫中,然後使用模型比較來比較模型在驗證集上的性能以選擇最佳模型。 或者我可以選擇模型的最佳組合。 雖然這種方法不僅僅是完成工作,但它確實需要一些工作。
現在,借助 JMP Pro 16 中的新模型篩選平台,我們讓這一切變得更加容易。 模型篩選提供了一個高效的工作流程,可同時擬合、比較、探索、選擇和部署最佳預測模型。
為了說明,我將使用 JMP 示例數據庫中的糖尿病數據。 響應或結果變量是 Y Binary,它有兩個可能的值:低(對於低疾病進展)和高。 預測變量或因素是通過葡萄糖計算的年齡。

我從分析 > 預測建模菜單中選擇模型篩選並指定響應和因子。 驗證列將數據劃分為訓練集和驗證集,因此我將使用它進行模型驗證。
模型篩選對話框的頂部如下所示:

在對話框的底部,有幾種不同的建模方法可供選擇,以及許多不同的擬合和交叉驗證選項。 請注意,XGBoost 是一種可用的方法,因為我安裝了XGBoost 插件來自JMP 用戶社區.
我將使用默認模型,但將添加雙向交互並將隨機種子設置為 11111 以使我的結果可重現。

對這些數據有意義的所有模型都是合適的,並且提供了幾個驗證統計數據。 這些模型按廣義 R 方的降序排序,但要找到在所有驗證統計數據中脫穎而出的一個或多個模型,我將單擊 Select Dominant。
我可以看到,總體而言,頂級模型是具有雙向交互的神經增強和廣義回歸套索。

為了探索這些模型的分類,我將從頂部的紅色小三角菜單中選擇決策閾值。 此選項為比較所選模型的分類準確性提供了豐富的信息。 上半部分顯示了每個模型的真假分類細目,如果我更改概率閾值(通過拖動滑塊線或使用編輯框),我可以看到分類和分類錯誤如何針對不同的截止值發生變化。
底部有顯示不同分類圖和指標的選項卡。 此處顯示了驗證數據的 Metrics 選項卡。 在這種情況下,我想確定最有可能糖尿病進展率高的患者。 所以,我想找到導致假陰性率最低的模型。 在概率閾值為 0.42 時,廣義回歸模型的假陰性率較低,同時相對於其他模型仍保持較低的假陽性率。

現在,我可能想仔細看看這個模型。 模型篩選使這無縫。 我可以通過單擊 Run Selected 在新窗口中輕鬆運行選定的模型。
或者,無需離開模型篩選,我可以直接在詳細信息大綱中查看結果,如此處所示。 在模型篩選中,我可以訪問在廣義回歸中看到的所有選項。 因此,例如,我可以與解決方案路徑進行交互,並且可以保存或發布模型以進行部署。 我什至可以運行其他模型,看看是否可以進一步提高模型準確性。

我在這裡只觸及了模型篩選的表面,但希望您能看到這種簡化的工作流程如何幫助您節省大量時間和精力! 您只需要在模型中指定變量,選擇您想要擬合的模型和驗證方法,剩下的交給模型篩選!
要了解有關在 JMP Pro 中擬合和驗證預測模型的更多信息,請訪問主要功能頁面在我們的網站上。
客戶怎麼說
“過去幾個月在 JMP Pro 16 beta 上使用了模型篩選,它已經成為我珊瑚礁預測建模研究中不可或缺的一部分。 雖然在 JMP Pro 的早期版本(例如,JMP Pro 15 的“模型比較”平台)中可以相當容易地比較模型,但這個新工具使用戶可以更輕鬆地同時測試許多不同的模型(例如,gen-reg、PLS、判別式、神經網絡等)具有相同的數據集。 曾經需要我幾個小時甚至幾天的事情現在可以在幾分鐘(甚至幾秒鐘)內完成。哇,多麼棒的功能! 這肯定是第 15 版到第 16 版的最大改進,我相信很多其他人也會有同感。”
- 美國國家海洋和大氣管理局 (NOAA) 和邁阿密大學的 Anderson Mayfield
謝謝你的問題@sukrit2020 . 模型篩選平台目前不提供 MAE。
你好@mia_stephens感謝您的補充說明! 我同意這是一個權衡問題,很大程度上取決於主題專業知識和產品/用戶應用程序和風險。我看到了圖表是如何進行這種權衡的,儘管起初我認為在兩個方向上交叉的軌跡線可能會有點令人困惑(實線在增加方向,虛線在減少方向)。我會將主題創意添加到願望清單中!@PatrickGiuliano
你好@PatrickGiuliano ,這是一個相對膚淺的例子,出於說明目的,我選擇了 0.42 作為閾值。 這裡的目標是找到一個導致低假陰性率同時保持低假陽性率的截止點。 但是,什麼是可接受的利率? 這在很大程度上取決於研究情況或問題,以及特定類型錯誤的“成本”。 對於特定情況,如果會導致更高的誤報率,您可能願意接受更高的誤報率。這些圖表可以幫助找到最佳點,以平衡兩個速率。
這是一個小型數據集,因此結果相當精細。 但是,在這裡的第二張圖中,我看到神經增強的誤報率在 0.45 或 0.5 左右之後開始快速增長,而誤報率在該點附近迅速下降,並開始趨於平穩。

添加“記住的設置”選項的想法令人信服。 您願意將此發佈到 JMP 願望清單嗎?
謝謝!
米婭
@mia_stephens這太酷了,我對“決策閾值”功能很感興趣,並試圖更好地理解它。在您的示例中,您在確定 0.42 的概率閾值將是一個不錯的選擇時,是否基本上選擇了高曲線的錯誤分類計數與概率閾值的“交叉點”(我在附件圖像中用黑色圈出的點)用於最小化假陰性(同時將假陽性率保持在大致相同的水平?)
我使用了 JMP 16 EA8 並運行了幾乎相同的設置,只是我在模型篩選對話框中指定了“XGBoost”作為模型擬合選項(在 1111 處保留相同的隨機種子)。 
也許這裡的一個有用功能是以類似的方式“記住設置”,因為這可以在預測分析器中完成(它會生成一個用於到達保存設置的單選按鈕),因此您可以輕鬆地在不同的概率閾值之間切換以直接查看/比較您感興趣的特定閾值處的效果。 附上示例圖片。

你好@MannyUy ,是的,這是一個真正的節省時間!
我過去基本上做同樣的事情,但一次使用一個模型平台。 花了很多時間。 這種新功能真正節省了時間。 謝謝!