我們很高興對最近的事情產生瞭如此濃厚的興趣從技術上講具有模型篩選功能,這是JMP Pro 16中的一項強大功能。 在構建模型時,您永遠不會知道哪種方法對任何給定的數據集都將是最佳方法。
使用“模型篩選”,您可以一次嘗試多種方法,評估模型性能並選擇性能最佳的模型,包括根據需要自定義決策閾值。 這項功能強大的新功能產生了很多問題,我們無法全部回答。 因此,我們將在此博客文章中解決這些問題。 您可以在中查看模型篩選的速度和力量這集技術上講。
凱末爾·奧弗魯斯(Kemal Oflus)搭建了展示模型篩選平台的舞台。
一般的問題
當我們嘗試擬合非參數模型時,我們可能會實現較高的可預測性,但會失去模型的可解釋性。 我們如何在現實世界中的製造問題中實現可預測性和可解釋性之間的平衡?
在這個分析性插曲,加利特·斯穆利(Galit Shmueli)她的引文深入探討了這個主題的細節,解釋或預測。 我們有類似RSquare的指標,它根據基本模型可以解釋多少差異來總結模型性能。 RSquare較高的模型在技術上優於較低的模型。 模型的可解釋性提供了對輸入和輸出之間關係的洞察力。 解釋的模型可以回答有關獨立特徵為何預測依賴屬性的問題。 之所以會出現這個問題,是因為隨著模型精度的提高,模型的複雜性也隨之增加,卻以可解釋性為代價。 對於這種情況,JMP Profiler幫助我們可視化了基礎模型,因此我們可以使用主題專業知識來驗證模型的合理性和可行性。 參數較少的模型更易於解釋。 這很直觀。 線性回歸模型具有每個輸入要素的係數和一個截距項。 例如,您可以查看每個術語並了解它們如何對輸出作出貢獻。 轉向邏輯回歸可提供更多潛在功能,這些潛在關係可以通過對輸出進行函數轉換而建模,而現在必須將輸出與係數一起理解。 決策樹(大小適中)可能是可以理解的,裝袋的決策樹需要不同的視角來解釋為什麼預計會發生事件。 進一步推動,將多個模型的優化融合到單個預測中可能超出有意義或及時的解釋範圍。 同樣,JMP Profiler是可視化和解釋我們構建的模型的理想工具。
在評估回歸模型時,是否有一個好的RSquare度量標準範圍可以表示一個好的模型,或者它取決於上下文?
這將取決於具體情況;如果要預測股票市場,則相對於您要預測心臟瓣膜是否會衰竭的情況,RSquare的55%綽綽有餘。
訓練集和驗證集有什麼區別? 您能否詳細介紹這些數據集中的數據場景類型?
訓練集是我們用來從數據中學習(並建立模型)的工具;驗證集是對我們從訓練集中學到的知識進行驗證。 如果有足夠的數據,則最好還有一個測試數據集來進一步調整模型,然後使用驗證集來驗證結果。
有沒有不使用PLS的理由?
沒什麼特別的原因,只是它很難解釋並且不適合我們在網絡研討會期間查看的數據集。
一些測定法具有較大的誤差。 有沒有辦法在模型中輸入預期的誤差?
如果這是有關使用分類器的問題,則默認情況下,分類閾值設置為50%,但是您可以根據自己的情況修改此閾值。
關於咖啡上的樣本,為什麼神經強化方法的樣本量比所有其他模型(彼此相同)的樣本量小? 通過選擇更合適的數據,神經刺激的RSquare值是否獲得了優勢?
這是因為某些選定的輸入因子缺少值;一些算法可以處理缺失值,因此可以使用給定觀察值中的其餘信息。 但是,由於神經網絡無法實現,因此樣本中包含的觀測值數量較少。
一個人將如何調整和比較幾種型號的參數設置?
模型篩选和比較平台提供了一種對多個模型進行平均/組合/匯總的方法,因此您可以創建一個集成模型,然後將其用於優化參數設置。
似乎此過程可能容易過擬合。 您如何將其與AIC進行比較?
在模型篩選平台的單個模型摘要部分中提供了適用模型的AIC值。 詳細內容網上幫助在“模型比較報告”中涵蓋了這一點以及更多內容。
數據科學家不會扮演JMP無法扮演的關鍵角色嗎? 例如,在分類問題中,數據科學家可以在有更多FP風險的情況下獲得更多的真實陽性(TP)之間取得平衡。 JMP如何處理這種折衷並將其傳達給建模者?
軟件不能替代主題專家(在本例中為數據科學家)的角色,後者是數據與適用用例之間的橋樑。 但是,JMP所提供的工具和報告提供了模型評估指標(RSquare,調整後的RSquare,錯誤分類率,混淆矩陣,最重要的是,探查器),使得將調查結果傳達給組織的不同層次非常容易。
JMP功能問題
我們可以在JMP中進行劑量反應邏輯模型嗎?
是的,這個郵政在社區和這個一來自JMP合作夥伴Pega Analytics的內容涵蓋了有關如何在JMP中執行此操作的更多信息。
我們可以在JMP中運行基於代理的建模嗎?
目前不行。
用戶可以指定模型參數的值還是默認值?
模型篩選平台旨在查找最佳參數設置(例如,樹的數量,增強的圖層等)。 您可以包括線性模型的交互項。 一旦找到最佳模型(或一組模型),就可以進一步自定義每個模型。
您的工作表中是否有一個驗證列? 這會自動填充嗎?
如果您有一個驗證列,則可以利用它。 如果沒有,JMP提供了多種創建驗證列的方法。 看選項如何做到這一點。
如果我將數據和預測放在JMP中,是否可以通過任何方法獲取使用Python創建的模型的模型分析(例如Prediction Profiler)?
Excel JMP加載項中有一個Excel分析器,該分析器只能用於在Excel中創建的模型。 但是,只要您有權使用該軟件,JMP即可執行您的Python,R或MATLAB腳本和/或來回交換數據。
如何創建在從原始數據創建的模型中可能最有效的自定義變量? 這個平台會處理這個問題嗎?還是有必要先創建它們以將其作為輸入?
模型篩選平台按原樣使用數據;如果您認為應該有一些複合變量(例如Principal Components),則必須分別創建它們。 可以通過對話框中的複選框選擇簡單的交互變量,例如a * b或二次方。 而且,神經網絡中的每個節點還對應於一個複合變量,該複合變量可能具有物理意義(但同樣,我們對這些變量沒有任何控制權)。
JMP可以合併用R或Python創建的模型嗎?
如果您擁有使用模型來預測結果的R或Python腳本,則可以在需要時讓JMP運行R / Python腳本並將結果用作新的列變量。 這個白皮書,“ JMP協同作用:將JMP和JMP Pro與Python和R結合使用”是一個很好的資源。
您是否對文本數據完全使用過JMP?
JMP具有內置的Text Explorer平台。 這個JMP探索峰會演講有一些很好的例子,網上幫助給出了很好的概述。
在Prediction Profiler中,當我們看到y相對於x的行為時,是否確定了它的存在(考慮到它是唯一的x),還是假設知道模型中還有其他x的行為也假定了該行為?

探查器提供了一種調查和優化多個輸入變量與所需輸出變量之間的關係的方法。 輸入變量可以設置為彼此獨立或可以相互交互。 這個視頻顯示瞭如何使用事件探查器。 我們自己的傑出研究研究員Bradley Jones撰寫了這篇文章JMP前言文章為了慶祝Profiler 30週年,這是我們最受歡迎的交互式可視化工具之一。