在擬合模型和預測時抑制異常值的影響我認為學生化殘差是識別異常值的好方法。我的問題是如何在JMP預測模型中過濾掉這些異常值的影響?模型會自動避免這些異常值還是我們應該刪除它們以獲得更準確的預測?

實驗設計回覆:擬合模型和預測時抑制異常值的影響你好@Victor_G
非常感謝您的詳細解釋。這真的很有幫助。
回覆:擬合模型和預測時抑制異常值的影響親愛的巴特爾,
非常感謝您的回答。我想我應該在這裡澄清一下。我隨問題發送的圖片只是我的擬合模型的一個範例。你是絕對正確的,最後幾個數據點不僅僅是任何異常或錯誤的數據點。這是一個 DOE,在不同的溫度下塗有不同的塗層。這是由於高溫下的一些問題引起的。
回覆:擬合模型和預測時抑制異常值的影響嗨@Mathej01 ,
學生化殘差可能是根據假設模型識別異常值的好方法。請在此處查看有關如何計算學生化殘差的更多資訊: 行診斷 (jmp.com)
「落在紅色限制之外的點應被視為可能的異常值。落在綠色限制之外但在紅色限制之內的點應被視為可能的異常值,但確定性較低。 ”正如您從定義中看到的,異常值的性質沒有明確的確定性,它可能取決於您暗示的假設模型。
我完全同意並同意@P_Bartell的評論,對於可能的異常值的存在可能有幾種解釋(潛伏變量、噪音、不同的運算符…)。
在採取行動之前,關於異常值的最大建議可能是:了解你的異常值。根據它們來自哪裡、它們是什麼類型(全局、本地/上下文或集體異常值)以及發現它們的技術,它們是不同的,可以以不同的方式檢測,並且可能對創建的模型產生不同的影響:
- 全域異常值:在單變量資料中,箱線圖可以輕鬆偵測到它們。在多變量資料中,基於密度的聚類(DBSCAN、光學等)或異常檢測演算法(隔離森林)可能會有所幫助。它們可能是由記錄/測量錯誤或異常樣本引起的。
- 上下文(條件)離群值:由於離群值可能不是資料所有維度中的離群值,因此 K 最近鄰、馬哈拉諾比斯距離、主成分分析、折刀距離可能值得關注。在模型中考慮這些異常值很有趣,因為它們的異常值是由特定上下文產生的。
- 集體異常值:在這種情況下,聚類技術可能會有所幫助:可以考慮 K 均值、高斯混合、層次聚類和其他演算法。他們可以被視為一個群體。
一個好的建議是了解可能的異常值是否對模型有影響,因為所有異常值都不是(高)槓桿點。您可以嘗試在有或沒有此點的情況下並行擬合相同模型,以查看此異常值是否(也是)高槓桿點。查看實際圖與預測圖、殘差圖以及RMSE PRESS 和 R² PRESS等指標,以更好地評估異常值是否對模型有任何影響。
嘗試分析是什麼導致了最後 4-5 個點的較高變異性(導致高噪音的特定因素等級、操作員/測量設備的變化…?)。
希望這個補充性的回答能幫助你,
回覆:擬合模型和預測時抑制異常值的影響檢查殘差可能是識別“異常值”的有用方法。要回答上一個問題的前半部分,“模型會自動(原文如此)避免這些異常值......”,不會。
現在讓我們回顧一下。在從分析中排除點之前,僅僅為了獲得更好的擬合模型可能類似於把嬰兒和洗澡水一起倒掉。您是否花了一些時間和精力來檢查這些奇怪點的根本原因?這項調查是否告訴您一些值得了解的事情?如果圖中顯示的資料是“真實的”,我的眼睛會說系統中最後 4 或 5 行發生了與之前所有行不同的事情。就像行號是生產序列,或者可能是設計實驗的運行順序一樣,一些潛伏的干擾因素進入系統並導致這些擾動。你有沒有想過這個問題?