簡單邏輯迴歸建模屬於某個群體的機率的最佳方法和替代方案你好
我需要一些幫助來選擇正確的方法來解決我的問題。
我有一個連續變數 X 可以取 [-45 0] 之間的任何值。
我有 12 個不同組的 X 值資料集,請參考下面的直方圖。
我正在嘗試建立兩個模型:
1) 一個模型,對於給定的新 X 值,給出屬於每個組的機率,並給出最有可能的組。
2)一個模型,對於假定屬於給定群組的 X 的新條目,給出該條目不屬於該組的機率。
我最初認為邏輯迴歸是最好的方法,至少對於 1) 但對於 2) 我不確定。特別是對於分佈非常狹窄的群體,例如 K。
先致謝!

進階統計建模基礎資料分析與建模預測建模和機器學習回覆:簡單邏輯迴歸建模屬於某個群體的機率的最佳方法和替代方案根據資料集的大小,您可能會查看決策樹方法。特別是 Bootstrap Forest(文獻中的隨機森林)。
回覆:簡單邏輯迴歸建模屬於某個群體的機率的最佳方法和替代方案謝謝@MikeD_Anderson 。會看看!
我有大約 800 個條目,但有些組的觀察結果少於 20 個。
不過,我只能訪問 JMP(不是 Pro),所以我仍然對具有連續預測公式的其他替代方案感興趣。 ANN 有用嗎?
謝謝
回覆:簡單邏輯迴歸建模屬於某個群體的機率的最佳方法和替代方案嗨@KarlA026 。您可能還想嘗試判別分析。
https://www.jmp.com/support/help/en/18.0/index.shtml#page/jmp/overview-of-the-discriminant-platform.shtml#
回覆:簡單邏輯迴歸建模屬於某個群體的機率的最佳方法和替代方案謝謝@MRB3855 。我透過 ANN 獲得了更好的結果。但當我只有一個(連續)預測變數時,我仍然不禁會想我正在使用複雜的工具。
對於方法 2) 如果我將分佈模型擬合到一個群組(常態組或其他組)並使用模型公式作為預測公式會怎麼樣?
回覆:簡單邏輯迴歸建模屬於某個群體的機率的最佳方法和替代方案你好@KarlA026你所說的 ANN 比 LR 「更好」是什麼意思?
並且,對於(2),您正在翻轉(1)中的隨機內容。在(1)中,組別是隨機的。在(2)中,依照你的表達方式,X 是隨機的。這就是為什麼我建議你考慮 DA。
我不確定您所說的“將分佈模型擬合到一個群組(正態或其他)並使用模型公式作為預測公式?”是什麼意思?你能澄清一下嗎?
回覆:簡單邏輯迴歸建模屬於某個群體的機率的最佳方法和替代方案謝謝@MRB3855和@MikeD_Anderson
對於 ANN,我的意思是,當使用 X 來預測群組時,我的錯誤分類結果比使用 LDA 少。這是因為 LDA 只是給出了與 logit 類似的模型,不允許非線性模型(請參閱 K 組範例中所附圖像中的分析器差異)。
正如您所看到的,ANN 模型的刻畫器接近 K 組的分佈。只是,例如,當我嘗試將常態分佈模型擬合到 K 組時,我能夠將模型公式儲存為新列,並將其用作任何新條目的指示列,以評估該新條目的機率屬於K組。
我只想估計,對於給定的固定 X 值,該點屬於給定組的機率。
希望我現在清楚了!
謝謝!


回覆:簡單邏輯迴歸建模屬於某個群體的機率的最佳方法和替代方案@MRB3855 , @MikeD_Anderson ,
有什麼想法嗎?先致謝!
回覆:簡單邏輯迴歸建模屬於某個群體的機率的最佳方法和替代方案嗨@KarlA026 :不幸的是,我不確定我有一個很好的解決方案。而且,如果我上面的評論之一未被注意到,我將在下面對其進行擴展。
上面有幾個帖子,我說:
"並且,對於(2),您正在翻轉(1)中的隨機內容。在(1)中,組別是隨機的。在(2)中,按照你的表達方式,X 是隨機的。
(1) 在Logistic 迴歸或ANN 中,您要估計機率(在給定某個X 值的情況下屬於某個群組),為簡潔起見,可以將其寫為P(G|X) 並閱讀「給定X 的組成員資格的機率」。所以在這裡,組別是隨機分量。 X 是固定的(即選擇的)。因此,對於給定的 X,您可以估計屬於每個組的機率。
(2)你「只是想估計」的東西有很大不同。按照你陳述問題的方式,你問 Prob(X 屬於一個組,給定一個組) = Prob(X|G) 讀“X 屬於給定組的機率”。的。那麼,X 屬於給定組的機率是多少。在這裡,您選擇群組,並詢問 X 屬於該組的機率是多少。
P(G|X) 與 P(X|G) 非常不同,就像機率(A 患有該疾病,假設 A 對該疾病檢測呈陽性)與 Prob(A 對該疾病檢測呈陽性,鑑於A 患有該疾病)。
總而言之:看看頂部的圖,如果您選擇 x 值,例如 -30 並筆直向上畫一條線。您可以看到 M 組 -30 左側曲線下方的面積百分比約為 50%。對於 D 組,大約為 20% 等 當您說“將分佈模型擬合到組(正態或其他)並使用模型公式作為預測公式”時,這就是您所想的嗎?
回覆:簡單邏輯迴歸建模屬於某個群體的機率的最佳方法和替代方案@MRB3855感謝您的澄清。
我想我已經考慮到了這一點,但我制定的並不是很嚴格。
無論如何,知道您建議如何評估/建模 P(G|X) 或 P(X|G) 嗎?
事實上,你在上一段所描述的似乎與我的想法很接近。回覆:簡單邏輯迴歸建模屬於某個群體的機率的最佳方法和替代方案嗨@KarlA026 :我不確定。為什麼需要「對於給定的固定 X 值,估計該點屬於給定組的機率」?即,你如何觀察X? X 的精確值是否無法預測(某些製程的輸出可能具有某些不受控制的可變性來源),或者您可以根據需要選擇 X 嗎?無論這個模型是什麼,如何在實務上使用?能提供一些細節嗎?
回覆:簡單邏輯迴歸建模屬於某個群體的機率的最佳方法和替代方案謝謝@MRB3855 !
我應該從那裡開始。 X是原料的固有材料屬性,可以透過特定分析來獲得。這些團體是這種原料的不同供應商。
兩種場景對應的情況:
1) 我們有一種材料,其供應商未知,我們需要根據 X 評估最可能的供應商(組)。
2) 原料供應商正在提供樣品,我們想要評估該材料有效來自該供應商的機率,或相反,該材料來自其他地方的機率。所有這些都基於圖中所示的參考資料庫中該樣本的 X 值。
希望這可以幫助!回覆:簡單邏輯迴歸建模屬於某個群體的機率的最佳方法和替代方案嗨@KarlA026 :是的,這很有幫助。謝謝!
據我了解,這個想法是基於圖中的數據來建立一個機率模型。然後,該模型可用於分別估計該樣本來自每個供應商的機率(基於材料屬性 X 的觀測值)。
情況1(來自未知供應商的材料):您測量X。商(機率最高的供應商) )。
情況 2(來自已知供應商的材料):如果您認識供應商並且知道 X,則該材料來自(或不是)該供應商的機率是無關緊要的(儘管可以計算,與上面的情況1 相同) 。這是一個例子。假設你向外看,正在下雨。但是,一小時前你查看了天氣預報,然後說,今天下雨的機率是 10%。從二元預測的角度來看,你真正能說的是模型錯了;然而,從機率的角度來看,模型並沒有錯(它並沒有說下雨的可能性是 0%)。但是,無論哪種方式,下雨了……機率不參與其中。因此,一旦某件事發生或已知,就不可能有與之相關的機率。在您的情況下,一旦您了解了供應商,就不可能有與之相關的機率......儘管您可以計算它(就像上面的情況 1 一樣)以查看模型的預測效果如何。因此,如果模型預測供應商 M,但您知道它實際上來自供應商 F……從預測的角度來看,您只能說模型出錯了。也就是說,您有理由不信任供應商嗎?例如,您是否有可能從供應商 D 獲得實際上來自供應商 B 的樣品?如果是這樣,那就是另一個情況,有一個簡單的解決方案(不要再使用供應商 D!)。
回覆:簡單邏輯迴歸建模屬於某個群體的機率的最佳方法和替代方案@MRB3855非常感謝!
來回答你的問題。是的,在我們的場景中,我們假設某些原材料可能來自該供應商所述的其他供應商(或可能與其他來源混合)。這裡的目的是獲得某種基於 X 的認證。
另外,由於我這裡只有一個預測變量,ANN 是可以接受的方法嗎?我一直認為這僅適用於多元問題。
回覆:簡單邏輯迴歸建模屬於某個群體的機率的最佳方法和替代方案嗨@KarlA026 :啊,我明白了。祝你好運!
當然,如果 X = -5 並且它是“來自供應商 D”,那麼根據您上面的情節,我會非常懷疑。但是,如果 X = -24 呢?那麼也許有幾家供應商是可信的,但幾乎沒有能力準確區分它們。我認為一般來說 X 本身並不是一個好的判別器。也許還有其他材料特性?
當然,ANN 還可以;從純粹的統計角度來看,我認為沒有理由不能使用 1 個預測變數。不過,正如我上面所說,您所測量的 X 一般來說不足以區分群體。