逐步回歸問題我在使用 JMP 的擬合模型 - 逐步函數選擇模型時遇到以下問題。
- 如果交互項顯著但主效應不顯著,則將從模型中刪除主效應,同時也刪除交互項。
- 我們知道,如果交互項或高階項顯著,即使它不顯著,我們也應該保留主效果。
- 即使我們除了 P 值閾值之外還使用 AIC/BIC 標準,在向後選擇過程中也會消除主效果。
如果您能讓我知道您對這些問題的任何解決方案或建議,我將不勝感激。
當使用所附資料考慮僅具有一階交互項的四個因素時,Y1 中發生了這種情況。
|
JMP 逐步選擇
|
第六步
|
|
|
交互作用項「因子 1 * 因子 4」仍顯著,但因子 1 已被刪除,因為它不顯著。
回覆:逐步回歸問題Stepwise 中的規則可能會令人困惑。您遇到的問題是“組合”規則。來自 JMP 幫助:
結合
計算 當考慮輸入有先例的術語時,兩個單獨測試的p值。首先 p值, p 1 ,透過將術語與其先前術語分組並測試該組作為聯合條目的顯著性機率來計算 F 測試。第二 p值, p 2是在先行項已經進入模型後測試該項的顯著性機率的結果。有先例的術語的最終顯著性機率為 max( p 1 , 第2頁)。
提示: 組合規則避免包含不重要的交互項,這些項的先行項可能會產生特別強烈的影響。在這種情況下,強大的主效應可能會使該組進入的顯著機率, p 1 ,非常小。然而,第二次測試發現交互作用本身並不顯著。因此, 第2頁 很大並且被用作進入的最終顯著性機率。
警告: 有先例的術語的自由度值取決於兩個條目顯著性機率中哪一個較大。用於輸入的最終顯著性機率的檢定確定了自由度, nDF ,在目前估計表中。因此,如果 第1頁 用來, 無纖維 等於聯合測試組中的術語數,並且如果 第2頁 使用時,nDF 等於 1。
合併選項是預設規則。看 具有交叉項、交互項或多項式項的模型。
現在回到我的評論。由於使用組合規則完成的兩個測試,非顯著項目正在推動互動的刪除。避免這種情況的一種方法是將您的規則更改為“限制”。以下是執行此操作時的結果:

我想這些都是你所期望的結果。
回覆:逐步回歸問題從 JMP 18 開始,Stepwise 平台中提供了尊重遺傳的選項

.
回覆:逐步回歸問題嗨丹,這是我正在尋找的結果。感謝您建議適當的選項。然而,我仍然對與逐步回歸相關的選項感到困惑。 「限制」在手冊中被定義為「限制有先例的術語,以便在輸入其先例之前無法輸入它們」。如果交互作用顯著,這似乎與包含主效果不同。此外,唐提到的「尊重遺傳的整體效應」選項顯示了不同的結果。您能否提供更詳細的解釋以幫助我更好地理解?再次感謝你。
回覆:逐步回歸問題@HyeWonJung在具有兩個以上級別的分類術語的模型中使用組合、限制、無規則和整體效應是顯示正在發生的情況的好方法。作為說明,使用 Cars 1993 資料集擬合以下模型。車輛類別有五個級別,優先順序如下:
- {廂式車&大型&中型&運動型&緊湊型–小型}
- {廂型車-大型&中型&運動型&緊湊型}
- {大中型-運動型&緊湊型}
- {大-中}
- {運動-緊湊}
這就是 Stepwise 建構一個自由度對比的方式。它與 Partition 用於建立分割的方法相同。如果您在運行分區時將高速公路里程作為 Y,將車輛類別作為唯一的 X,則拆分將完全按照此順序進行。就我個人而言,我發現以這種方式創建的對比通常缺乏可解釋性,並且更喜歡廣義回歸根據個體層級創建一個自由度對比的方式。我將這些對比稱為 C1 – C5。

將停止規則變更為 P 值閾值,並將 Prob to Enter 設為 0.40。將“方向”設定為“前進”。 
從沒有規則開始。點擊“步驟”,直到不再輸入任何術語。術語按以下順序輸入:
- 重量
- 車輛類別 (C2) * 重量
- 車輛類別 (C1) * 重量
- 車輛類別(C2)
- 車輛類別 (C4) * 重量
- 車輛類別(C1)
非常簡單。無論優先順序如何,找到最小的 p 值並繼續添加,直到模型外部沒有任何 p 值小於或等於 0.4。
點擊“全部刪除”並重複“合併”
- 重量
- 車輛類別 (C1) * 重量和車輛類別 (C1)
- 車輛類別(C2)
- 車輛類別 (C4) 和車輛類別 (C3)
- 車輛類別(C5)
請注意,在步驟 2 和 4 中同時添加了兩個效果。在每種情況下,兩項的 p 值都是單獨計算的。在步驟 2 的情況下,新增的第一項是交互作用,而在步驟 4 中新增的第一項是對比。另請注意,模型中缺少車輛類別 (C2) * 重量,即使它是無規則案例中添加的第二項。這是因為,在測試時,單一車輛類別 (C2) 很重要,但一旦車輛類別 (C2) 進入模型,車輛類別 (C2) * 重量就不再重要。這就是聯合行動。
現在對限制執行相同的操作
- 重量
- 車輛類別(C1)
- 車輛類別 (C1) * 重量
- 車輛類別(C2)
這與合併類似,只是一次添加一項。對比 C3 和 C4 未使用 Restrict 添加,因為 C3(C4 之前)的 p 值太大而無法進入模型。但是,Combine 會計算模型中 C3 和 C4 的 p 值,以及 C3 加到模型後的 C4 的 p 值。兩者都小於 0.4 截止值。
最後,整體效果
- 重量
- 重量*車輛類別(所有對比)
這裡的整體效應是指任何效應中的所有對比,而不是統計遺傳。在這種情況下,交互作用的 p 值較小,一旦加入模型中,車輛類別主效應 p 值就會太大而無法考慮。
如果您使用尊重遺傳的整體效應再次執行此操作,則主效應將透過步驟 2 中的交互作用添加。
希望這是有道理的。如果您有疑問,請告訴我。
回覆:逐步回歸問題我的評論將適用於您所遇到的情況:所有連續變數。當你有分類因素時,事情會變得稍微複雜一些,但我相信唐在他的長篇文章中很好地指出了這一點。順便說一句,我沒有註意到唐指出的新選項。我認為 JMP 幫助描述得很好:

至於限制,它限制交互作用(和二次方程式——有先例的術語),以便在輸入先例之前無法輸入它們。換句話說,只有在主效應輸入之前,交互作用才能輸入到模型中。在您的情況下,因子 1 和因子 2 都會進入模型,因此可以評估因子 1*因子 2 是否進入。然而,與Combine 不同的是,Restrict 僅對該術語進行一次測試,而不是兩次測試。
回覆:逐步回歸問題謝謝@dobudo @DonMcCormack !
感謝您的解釋,我已經深入研究了每個選項,並了解每個選項的機制