不平衡數據和權重分類你好,
我有一個原始響應高度不平衡的數據庫。 個人主要興趣類別是少數類別(罕見但嚴重感染的患者,約佔觀察的 5%)。
其他原始類的分類與增強的林樹分類器一起工作得很好,但這些類或不符合我的興趣(不太嚴重的感染或根本沒有感染)。 我徘徊是否可以使用“權重”選項來給少數群體更多的權重。 此外,我想計算分類器在哪個“權重”的最佳閾值上表現最好。 在不平衡的數據中,AUC ROC 似乎不是合適的性能指標。F1 分數(衡量誤報率和誤報率)似乎更適合這一點。
有人知道 JMP 中 F1 分數的自動計算嗎?
有沒有辦法在高度不平衡的數據中微調 JMP 分類模型中的選項“權重”以最大化 F1 分數?
有人有其他建議來解決這個問題嗎?
謝謝,
魯
回复:不平衡數據和權重分類抱歉,我是說 Matthews CC
回复:不平衡數據和權重分類最近的一份出版物清楚地描述了馬蒂亞斯相關係數 (MCC) 作為分類模型的最佳性能度量的優勢,即使在不平衡的數據中也是如此。
https://www.ncbi.nlm.nih.gov/pubmed/31898477
https://www.ncbi.nlm.nih.gov/pubmed/28574989
回复:不平衡數據和權重分類您好,我找到了一個不錯的插件,它可以幫助定義分類的最佳閾值(附在下面)。 或在 JMP 社區網站的文件交換 - 插件中搜索“混淆矩陣”。
回复:不平衡數據和權重分類我認為這裡有兩個有些不同的問題。 一個是數據的不平衡性——你的一些類別比其他類別更常見,所以簡單的錯誤分類率可能會“忽略”數量較少的類別——我相信 F1 主要是解決這個問題的一種方法。 另一個問題是錯誤的不對稱性——誤報和誤報可能會產生非常不同的後果。 我認為 F1 不會對此有所幫助——只有更好的模型和改變概率截止值才能解決這個問題。 我不知道這兩個問題之間的系統關係(可能有一個,學習起來會很有趣)。回复:不平衡數據和權重分類我也對 F1 分數感興趣,但不相信它們是在 JMP 中自動計算的。除非有人有更好的主意,否則我會避免使用權重來解決您的問題 - 我認為這會讓您很難看到發生了什麼。我自己的傾向是將您的響應變量重新編碼為 2 類 - 您感興趣的疾病和其他所有內容。然後您可以手動微調截止概率(這個插件非常好),看看哪個截止概率最能識別您感興趣的疾病。然後,您可以返迴響應變量的完整分類,看看該截止概率是否穩健。對我來說,反複試驗可能比尋找問題的自動解決方案更具啟發性(但如果有自動方法,我想知道它)。
回复:不平衡數據和權重分類如果您打開分類模型的混淆矩陣選項,您可以獲得誤報/誤報率。
您還可以為正/負分類設置不同的截止值(默認為 0.5)。