<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />
你好,
我目前正在尋找一種自動從分佈中剔除異常值的方法。
我想知道是否有人有一個腳本在 JMP 數據表上執行 Dixon 的 Q 測試。
提前致謝,
熱羅姆
感謝您使用我們的腳本。 我很高興它很有用。 文件交換的眾多原因之一是提供有用的工具來補充 JMP。 如果您希望將此異常值測試內置到 JMP 中,請訪問 JMP 社區中的 JMP 願望清單並提出請求。 您可以先搜索它(我沒有),如果您發現已經提交了這樣的請求,那麼對其進行投票以增加其機會。
我不知道你引用的論文(Rorabacher 1991),所以它不是我劇本的基礎。 不過,我使用了他引用的來源之一。 我使用了巴特利特和劉易斯(1994),儘管比羅拉巴赫使用的版本更新。 我同意他的觀點,即此類測試很重要並且很有用。 我希望更多的科學家了解它們的含義以及如何正確使用它們。 我通常會看到一些人稱之為“p 值釣魚”的行為,其中應用測試直到其中之一“具有統計顯著性”。 這種行為在異常值測試中尤其猖獗。
這些測試已經開發並重新審視了數十年。 計算技術和統計理論的改進使舊方法受益,因此我們都受益。這些測試是基於客觀的,但它們依賴於主觀選擇:
- 合理測試異常值的最小樣本量是多少?
- 我願意承擔 I 類錯誤和 II 類錯誤的哪些風險?
- 測試假設的滿足程度如何?
- 我如何確定假設的滿足程度?
- 我應該使用哪個測試? 也就是說,我對這些數據的具體污染過程有何看法?
至於你的具體問題,你說:“第一個問題是,腳本中的臨界值似乎是指單尾測試,或者實際上是選擇 0.05 選項時 90% 的 CL。 請參閱羅拉巴赫對於臨界值列表,特別是對於 95% CL 的情況。 ”
我仔細檢查了腳本並確認它使用了正確的臨界值集,置信度為 95% 和 99%。 我進一步測試了與腳本結果一致的已發布示例。
另請注意,只有腳本提供的第一個測試(“上離群值或下離群值”)才能正確應用為雙邊測試。 所有其他測試都是單方面的,因此將這些測試的 alpha 加倍或使用兩側置信區間是沒有意義的。 羅拉巴赫似乎在第 141 頁犯了這個錯誤。 在任何檢驗或構建任何置信區間時,明確零假設和替代假設非常重要。
你說, ”在所附示例中,值 11.66 顯然是異常值。 ”
我希望事情就這麼簡單明了。 在我作為分析化學家的這些年裡,我見過很多案例,我想將一個觀察結果稱為異常值,但僅基於 3 個觀察結果,這樣的調用是沒有根據的。 我如何知道這兩個負值不是異常值? 隨機變化(例如在總體樣本中看到的隨機變化)可以提供令人驚訝但仍然有效的觀察結果。 有關總體的先驗知識可用於增強測試,但這些測試不使用樣本外部的信息。
使用臨界值還會造成觀察結果是異常值或不是異常值的錯覺。 事實上,這些測試中使用的距離越遠,證據就越有力。 這是信念的連續且非線性的變化。
你說, ”腳本顯示的臨界值是 Q0=1,實際上它應該是 0.971,與測試結果 Q=0.98 相比應該表明存在異常值。 ”
Rorabacher 指出了幾十年來如何出現不同的臨界值,所以我不會說“事實上,它應該是 0.971”。 每位作者都誠實地努力發展基於上述主觀選擇的批判價值觀。 該值 0.971 代表了這些測試的另一個主觀選擇。 我堅持我對來源的選擇q0我在腳本中使用的值。 但如果您更喜歡 Rorabacher 的值,歡迎您修改腳本。 腳本的優點之一是您不必等待 JMP 開發人員添加或增強該功能。
你好馬克,
感謝您提供 Dixon 測試腳本,該腳本非常有幫助(我希望運行 Dixon 測試的能力將成為 JMP 的標準功能)。 我正在查看這個腳本,除非我遺漏了某些內容,否則我認為它可能存在兩個問題。
為了演示它們,我使用了帶有三個數字的雙尾測試(列表中的第一個選項),如所附示例中所示。
第一個問題是,腳本中的臨界值似乎是指單尾測試,或者實際上是選擇 0.05 選項時 90% 的 CL。 請參閱羅拉巴赫對於臨界值列表,特別是對於 95% CL 的情況。
在所附示例中,值 11.66 顯然是異常值,如果使用單尾或雙尾測試,則應檢測到該異常值。 腳本顯示的臨界值是 Q0=1,實際上它應該是 0.971,與測試結果 Q=0.98 相比應該表明存在異常值。
再次,謝謝你。 我將感謝您的反饋。
Grubbs 測試和 Dixon Q 測試的腳本現在可在新的 JMP 文件交換中使用。
格拉布斯離群值檢驗
異常值的 Dixon Q 檢驗
我的劇本快完成了。 我正在驗證它的操作和計算,並添加更多的查找表。 我會盡快將其提交到 JMP 用戶社區中的文件交換。 我還將提交我為 Grubb 測試完成的腳本。