逐步之間的區別 |所有可能的模型和廣義回歸 |最佳子集您好,我只是想知道使用 Stepwise - All Possible Models estimation 和 Generalized Regression - Best Subset estimation 方法有什麼區別。在我看來,如果響應呈正態分佈,它們應該產生相同的結果。我有 JMP 14 32 位,發現由於內存限制,我可以使用最佳子集運行比使用所有可能模型更大的最大效果。
回复:逐步之間的區別|所有可能的模型和廣義回歸 |最佳子集@P_Bartell感謝您的建議!
回复:逐步之間的區別|所有可能的模型和廣義回歸 |最佳子集我添加一些額外的想法來補充@馬克貝利的明智建議。 如果您使用多種模型擬合算法,通常最好使用某種模型交叉驗證方案。 因此,如果沒有其他原因選擇交叉驗證場景的類型,結果可能會有所不同。 其中一些方法具有“隨機”成分,因此用於擬合模型的確切數據可能因建模方法的不同而不同。
此外,在廣義回歸平台內,有幾個建模個性。 根據所選的個性,答案會有所不同。 其中一些個性允許我稱之為“參數估計中的一點偏差”(與經典的普通最小二乘回歸相比),並在偏差中進行權衡以最小化預測方差。 從主題上講,您十有八九應該得出一致的實際結論……但是如果您正在尋找結果中的精確匹配,具體到特定參數估計、預測方差等……會有差異。
在實踐中,當擬合許多不同的線性和非線性(考慮回歸/分類樹等方法)方法時,在比較多種建模方法時,我會尋找所有方法的實際結論的合理性和一致性。 JMP Pro 的模型比較平台是進行這些比較的非常高效的一站式購物中心。 這反過來又提高了我的信心水平,即我得出的實際結論是我能做的最好的。
回复:逐步之間的區別|所有可能的模型和廣義回歸 |最佳子集感謝你的回答。我發現這個 PDF 解釋得很好: GR平台
回复:逐步之間的區別|所有可能的模型和廣義回歸 |最佳子集逐步回歸遵循向前、向後或混合方向的路徑。 它考慮基於當前模型和候選術語通過單個術語更改模型。 因此,有可能未訪問最佳模型,並且這種情況可能會隨著候選項的數量而增加。 這種方法允許您在大多數實際情況下考慮許多可能的術語。
另一方面,所有可能的模型選項訪問所有可能的模型達到您指定的複雜性。 您的可用記憶和時間可能會限制可以考慮的實際術語數量。
廣義回歸選項介於兩者之間。 以下是Help的解釋:
最佳子集通過在每個步驟中增加模型中的活動效應數來計算參數估計值。 在每個步驟中,模型都是在所有可能的模型中選擇的,其效果由步驟編號給出。 解決方案路徑圖的水平軸上的值表示模型中活動效應的數量。 步驟 0 對應於僅攔截模型。 步驟 1 對應於僅包含一種主動效應的模型中的最佳模型。 這些步驟一直持續到在“模型啟動”報告的“高級控件”中指定的“最大效應數”的值。 請參閱“高級控件”
第 309 頁。提示:最佳子集估計方法是計算密集型的。 不建議用於大問題。
希望這個解釋有所幫助。
所以你不一定會從所有這些方法中得到相同的模型,並且分佈與結果無關,假設你在所有情況下都使用相同的分佈。
請記住,這些方法是幫助選擇模型. 沒有任何其中的一個保證它會找到最好的模型。