組合模型如果我今年從 Discovery Summit Americas 學到了一件事,那就是平均和/或創建集成模型是多麼普遍,這是我聽說過但從未考慮過的(作為建模新手)。 所以我決定去做。 製作集成模型很容易;我將模型保存為預測公式,並簡單地將其作為預測器包含在下一輪模型篩選中(使用 JMP Pro 16 的模型篩選)。 什麼似乎更簡單,模型平均,讓我感到困惑。 如果我找到兩個我喜歡的模型,將它們作為預測公式保存到我的數據表中,然後創建一個新列將它們組合在一起,看起來概率被組合了,但公式不是我所用的語法可以將其應用於新數據(它僅顯示概率的平均值)。 如果我將兩個模型都發佈到 Formula Depot,我可以很容易地對它們求平均值,所以這是我目前的解決方法,但我不應該也可以在表格中對它們求平均值嗎? 我認為問題可能在於,因為預測公式有一個公式和一個概率,當我將它們組合起來時,只有概率得到平均,而我實際上想要對公式本身進行平均。 我能否以一種允許我將該平均公式複製到新數據表中並使用新數據對其進行測試的方式進行平均? 如果沒有,Formula Depot 就是為了做到這一點而設計的,所以這沒什麼大不了的。 我只想有幾個選擇! 也許我只是將概率部分移到列的信息單元格中僅保留公式的位置?
分析回复:組合模型根據您的描述,聽起來您想要平均預測(離散)而不是概率(連續)。我沒有看到它是那樣做的。有一種技術,共形預測,旨在查看模型的預測有多穩健。但是您所描述的內容如下所示:假設有 2 個要預測的類,您將它們編碼為連續的 0 和 1。假設您有 3 個模型:其中 2 個預測特定情況的 0,1 個預測 1 . 然後,您的“平均”將產生 1/3 的結果,我猜您會將其視為獲得 1 的概率。有趣的想法,但我不確定這種方法有什麼統計基礎。此外,它似乎僅限於二元分類(儘管這只是一個限制)。我很想看看你得到的其他回應。
回复:組合模型你好@abmayfield ,
喜歡你的演講,儘管必須點播,但無法進行現場觀看和問答。
通常,如果您正在執行典型的回歸公式(數字形式),您將能夠平均預測列。 您只需取兩者的平均值即可。 但是,由於您正在使用分類值是或否(甚至可能),它變得更加複雜,因為它必須將數值 X 輸入轉換為邏輯函數,然後它會找到概率並將結果與 IfMax( ) 功能。
以大類文件為例。 如果你嘗試用 :height 和 :weight 來預測 :sex,你會得到一個邏輯輸出函數,在我的例子中,我試圖預測性別 = M。 雖然有一些中間函數用於確定 Prob[M] 和 Prob[F]。 線性函數就是這樣,類似於 Lin[M] = a + b*:height + c*:weight,其中 a、b 和 c 只是擬合係數。 為了得到概率,JMP 然後使用變換 1/(1_exp(-Lin[M])) 來表示 Prob[M] 和 1/(1+exp(Lin[M]) 來表示 Prob[F],這只是 1-問題[M]. 最可能的結果是 MaxIf(Prob[M]=>M, Prob[F]=>F) 並且 Prob[y] 較大者是最可能的結果,M 或 F。
在您的情況下,如果您使用分類結果,我認為您需要對 Lin[Y] 函數求平均值,然後將其轉換為概率。 擬合數據的是線性函數,而不是概率函數,這就是為什麼在轉換線性函數之前需要求平均值的原因。
如果您可以將結果更改為連續響應,那麼預測公式的簡單平均值就很簡單。 只要建模類型是名義型或有序型,JMP 就會將其視為離散級別並每次執行邏輯建模。
我可能不得不使用連續比例的一個想法是表示給定區域內的漂白百分比。 假設您評估 100 cm^2(10cmx10cm 的補丁)的珊瑚並確定大約 2cmX3cm(或 6cm^2)被漂白,那麼漂白百分比將為 60%。 通過這樣做,您可能會更準確地表示珊瑚標本有多少被漂白,並且您現在可以使用回歸與分類進行建模的連續響應。
希望這可以幫助!,
DS
聚苯乙烯 發現峰會很棒。 我喜歡很多談話。 此外,我正在更新我的 GUI 以根據用戶輸入自動生成調整表。 當新版本準備就緒時,我會通知您。 通過生成具有您希望執行的運行次數的空間填充設計,它應該有助於進一步自動化該過程。
回复:組合模型是的! 我相信,像往常一樣,你對試圖預測一個分類變量的奇怪性質是正確的,你實際上需要兩個方程,從而使事情變得更加棘手。 我希望做的是最終有足夠大的樣本量到我有一個真正的梯度,1-10、1-5或1-100,這個想法是一樣的:1=可怕,最高數=偉大. 即使在這種情況下,我也有兩個類別(抗漂白與漂白敏感)或有時三個(前兩個 +“中間”)。 我可能會嘗試將它們分別重新編碼為 1、50 和 100,分別表示易感、中間和抗性,然後看看我得到了什麼樣的結果。 我認為我獲得和分析的樣本越多,讓我的 Y 成為連續變量就越有意義。 我現在正在玩 20 個樣本,我沒有足夠的數據來超過 2-3 個 bin。 但是,當我將分類分類重新編碼為連續變量時,看看我的模型是否看起來非常不同將會很有趣。 它肯定會使所有模型構建更加無縫。 實際上,在自然界中,它不會像“健康”與“生病”那麼簡單;我確實希望獲得一個跨越健康譜的梯度,就像你在人類中看到的那樣(例如,你在 JMP 糖尿病數據集中看到的)。 不過,關於概率分數,這個練習的有趣之處在於,我從來沒有真正看過這些。我直接去了JMP的“猜測”。 但是現在查看實際概率非常有趣,因為這最終是我想要報告的:珊瑚 A 有 95% 的機會漂白。 所以通過這個模型平均練習,我不小心撿到了一些我以前完全錯過的很酷的細微差別! 就像我之前說的,即使我暫時被分類響應“卡住”,Formula Depot 的模型平均功能也可以很好地解決這個問題。
您會很高興知道,多虧了您的 GUI,在我最近提交的論文(基本上描述了第 1 階段 = 實驗室實驗)中,有超過 20,000 個神經網絡模型(21,450 個,但誰在數呢?!)。 顯然,只有少數通過了所有質量控制,在文本中詳細討論的更少,但了解哪些 NN 參數對我來說本質上是最重要的調整非常有用。 另外,我想構建最簡單、(可能)最簡約的模型,所以如果一個 NN 有兩個隱藏層,每個隱藏層有三個激活節點,而第二個模型有一個 NTANH(3) 層,其他條件相同,我會選擇後者,儘管我想這並不是很關鍵,因為即使是最簡單的也很複雜。 我今年在 Discovery 中試圖學習的一件事是,我感謝 Chris Gotwalt,即是否可以使用 NN Profiler 下的變量重要性指標來從本質上告訴您哪些分析物在模型中最有影響力。 舊規則是 NN 是一個黑匣子,要挖掘哪些響應變量最重要太複雜了,但我很高興看到這並不完全正確。 它們很難解釋嗎? 是的。 你能說一種蛋白質的行為隨著模型的預測能力以一種特定的、容易定義的方式擴展嗎? 也許不會。 但如果分子生物學家問我:“在你的最佳 NN 模型中,哪些珊瑚蛋白最重要”我至少可以從 NN profiler 的可變重要性特徵中列出一些。 這實際上是我在演講中選擇討論 gen-reg 模型的原因;我不確定我是否可以“信任”NN 的探查器(!),但現在我知道我可以了。 但無論如何,這就是為什麼作為一名模特新手,我從這些專題討論會中受益匪淺。 再次感謝您深思熟慮的回復以及您的所有幫助。