統計學意義你好,
所以我擬合了一個迴歸模型。整個模型的預測變數之一的 P 值為 0.0538。我應該完全採用這個預測器並使用簡化模型進行預測還是可以保留它?
0.05 左右的 P 值的術語是什麼?我在一些網路資料中看到,0.05到0.1可以稱為邊際顯著。在解釋統計模型時這個術語有任何意義嗎?請分享您的見解。
先致謝
傑瑞
基礎資料分析與建模實驗設計回覆:統計意義這是我關於是否保持 ap 值為 0.0538 的效果的建議...兩種方法都嘗試一下。然後回答「哪種模型可以幫助我解決實際問題?」的問題並使用該模型。關於在模型中保留或刪除術語已經有許多論文和討論。最終取決於你。對於這個特定問題,沒有「一刀切」的解決方案。顯著性閾值 0.05 附近沒有任何神聖或神聖的東西。這只是許多人死記硬背使用的一個值,而不是任何其他原因。您可以輕鬆選擇 0.01、0.1 或任何其他值。至於術語,我並不擔心這個……我想說的是,“效應 x 在 p 值為 0.05 時並不顯著。”就這樣吧。意義不是懸崖…而 p 值往往會將人們的思維推向懸崖心態。
回覆:統計意義讓我補充一下 P_Bartell 的合理建議。 p=0.05 不僅沒有什麼神聖之處,而且我建議不要在不進行某種決策分析的情況下使用任何閾值。如果您使用閾值(並意識到也許沒有必要 - 通常,我建議建立模型並報告結果,無論 p 值如何)來做出二元決策(例如是否將變數保留在模型中) ,並認識到無論哪種方式都可能涉及錯誤。在決定使用什麼截止值之前,您應該考慮錯誤的相對成本。
除此之外,削減通常是一個壞主意。我永遠不建議從迴歸模型中刪除“無關緊要”的變數。這些變數的存在大概是有原因的。你認為它們應該很重要。如果數據不足以揭示其影響力,那就這樣吧。刪除變數金額來決定變數沒有任何影響,您沒有證據證明這一點。此外,模型中的所有其他變數的係數都會改變 - 您準備好說這些現在會比以前更準確嗎?
儘管 p=.05 被廣泛使用,但您應該檢查 ASA 關於 p 值的爭議以及他們最近對此的一些聲明。一些心理學期刊甚至取消了 p 值。許多期刊仍會拒絕 p 值 < 0.05 的論文。在如此混亂的情況下,以下是我自己的看法。我想知道 p 值 - 我相信它表明了我所擁有的數據中關於該變量的信號有多強(請注意,即使該聲明也受到相當多的批評)。我不希望看到任何二元選擇:我盡量不說變數 X 影響或不影響結果 Y。 p 值是證據的一部分,當它很高時,它會告訴你一些事情。由於變數的 p 值而省略變數就是做出沒有證據基礎的決定(這相當於說變數 X 不重要)。如果您對潛在因素數量的觀察很少,那麼您可以使用預測器篩選來幫助選擇要使用的因素,但您無法做任何事情來改變您的數據可能不足以用於模型的事實你想建造。
回覆:統計意義感謝您準確地表達了我的觀點。當我過去教授假設檢定時,我會透過課堂上的一些練習來介紹 p 值和統計顯著性的概念。我會拿出一枚硬幣並告訴學生們『我們要做一個小測驗。我將透過告訴你我相信我有一枚公平的硬幣來開始測試。我要拋硬幣並告訴你拋硬幣的結果。正面或反面。我希望你在你面前寫下你願意挑戰我對公平硬幣的信念的拋擲。然後我開始拋硬幣……每次都告訴學生這是“正面”,即使不是正面。我的目的是讓他們確定什麼時候對他們和他們自己而言,「重要性閾值」被跨越。通常到第八次左右,每個人都會「拒絕」我的信念。然後我從這樣的問題開始,『告訴我,透過舉手,你最終確信這枚硬幣確實是不公平的。一拋? (通常沒有人舉手)拋兩次? (很少)三拋? (可能會得到一些)四次拋擲? (現在我已經有很多了)五次拋擲? (大多數人)六次拋擲(只有少數人堅持)然後我們就「重要性」的概念如何真正取決於決策者的眼睛進行對話......而不是一些神奇的機率數字。我告訴他們,希望你現在已經了解了關於統計顯著性的所有知識,這些我們稱之為 p 值的東西,以及人們實際上是如何做出決策的……這是一定程度的信念……並且我的朋友們說的並不是一個統計值。
回覆:統計意義嗨@Mathej01 ,
您可能對此社區其他成員就這個密切相關的主題提供的答案感興趣,即按照設計的實驗從模型中刪除術語
沒有足夠的上下文或資訊來幫助您,但以下是有關模型評估、比較和選擇的一些問題、評論和注意事項:
- 您的資料來源是什麼?設計的實驗、歷史資料集…?
根據您的回答,您可能對找到的 p 值有或多或少的信心。對於歷史資料集,我將運行評估設計平台(用於 DoE)來評估完整假設模型中不同項的可用功率。這可以為您提供有關所發現 p 值的「可靠性」的指示,以及來自非顯著項的 p 值的指示(因為可用效力非常低!)。
- 您使用此模型的目標是什麼?因果解釋、預測和最佳化,兩者(也連結到可用的資料集和收集方法)?
在比較模型時,統計顯著性可能是一項有趣的指標,但不是唯一的指標(始終添加領域專業知識!)。補充模型的估計和評估指標,例如對數似然、資訊標準(AICc、BIC)或模型指標(透過R2 和R2 調整的解釋力、透過MSE/RMSE/RASE 的預測力…)提供不同的視角,並可能突出顯示不同的型號。
然後,您可以根據領域專業知識和統計評估來選擇最適合/與您的主題相關的模型,並選擇使用不同的模型來估計單一預測(以了解它們的不同之處),和/或使用組合模型來平均預測誤差。
一般來說,避免「統計顯著性崇拜」有以下幾個原因:
- 還有其他可用的補充指標可以幫助您比較和選擇最相關的模型,並且在許多情況下,p 值可能會被扭曲,因此不應盲目信任(例如,混合設計和使用沒有截距的模型)。
- 由於特定閾值而刪除術語可能是一種危險的做法。在您的範例中,是否真的應該丟棄 p 值為 0.0538 的預測變量,因為它沒有達到 0.05 ?聽起來太接近了,無法拒絕它,即使高於 0.05(而且我什至不在這裡質疑具體的閾值......)。根據您對此預測變數分析的能力,這可以解釋為什麼您沒有達到顯著性閾值。我更願意在模型中保留不重要的項,而不是丟棄可能的(但尚未檢測到)顯著的影響。
- 在處理多個可能的模型並嘗試評估和選擇一些模型來回答問題時,「所有模型都是錯誤的,但有些模型是有用的」是一個足夠的引用。您的案例中可能有幾個同樣「統計上良好」的模型,因此您也應該始終使用領域專業知識對模型進行排序並幫助選擇。您也可以選擇多個模型並對它們進行平均/組合。
- 不要將統計顯著性與實際顯著性混淆,並使用兩者來選擇模型:既然您希望模型有用,您還應該考慮該預測變數的實際顯著性:它對反應平均值有多大影響(規模效應) ?如果此預測變數具有很強的效應量,那麼將其保留在模型中可能會更明智。
希望這個補充的回答能幫助你,