為什麼在Std Least Squares個性下的AICc和BIC值與混合模型之一下的AICc和BIC值不同？如果使用完全相同的數據和混合模型，則將獲得不同的AICc和BIC值，具體取決於我使用的是標準最小二乘（SLS）還是混合模型。對於SLS案例，是否存在簡化這些標準的公式？如果是這樣，那是什麼？廣義回歸人格是什麼情況？
回复：為什麼在標準最小二乘法下的AICc和BIC值與在混合模型下的值不同？JMP中的時間序列和混合模型平台沒有使用相同的估計算法。ARIMA運行初始化步驟以啟動卡爾曼濾波器，而混合模型則不執行。但是，差異很小並且可以忽略不計。
感謝您的提問。
回复：為什麼在標準最小二乘法下的AICc和BIC值與在混合模型下的值不同？你好 @phersh 和 jian ，
附加到此消息後，您將找到一個模擬的數據集，我將其匯總以說明我的先前觀點，並顯示了模擬公式。
響應是“ y”，在t（時間）內觀察到。沒有固定的效果，只是攔截模型。保存的腳本顯示（1）t與y的關係圖;（2）ARIMA解;（3）具有AR（1）協方差的混合模型解決方案;（3）具有隨機效應的混合模型解決方案;（4）具有AR的混合模型解決方案（1）協方差和隨機效應。根據我模擬數據的方式，解決方案（4）是正確的，而實際上是AICc和BIC最低的解決方案。
這是為了表明我在上一篇文章中的意思，如果我想比較具有相同固定效果規範的不同協方差結構（此處沒有，只是截取），我被迫使用混合模型個性（即 ML）。此外，AR（1）時間序列解決方案（也包括ML）不會輸出與混合模型AR（1）解決方案中發現的相同的AICc / BIC / -2 LogLikelihood值-儘管我注意到它們的差異往往隨著數據大小而消失增長，此處未顯示。
回复：為什麼在標準最小二乘法下的AICc和BIC值與在混合模型下的值不同？ @fdottaviano 好消息！您可以在混合模型平台中比較不同的隨機效果規範。
再次感謝 jian ，
您可以使用混合模型中的AICc或BIC將不同的隨機效果規範與相同或不同的固定效果集進行比較。
至於重複測量中協變量結構的規範，我不知道您是否可以使用AIC或BIC將其與混合模型中的隨機效應模型進行比較。 您有一個用例，您想將它們進行比較嗎？我上面描述的比較技術可以用於您創建的任何模型。
jian 我們試圖強調的是，即使具有相同的協方差結構（隨機效應規範等同於CS結構），對於具有不同固定效果集的模型，SLS使用的REML也會有所不同。但是我想這會引起混亂：
“關鍵的區別在於，在REML LL中有一個懲罰項，（1/2）log | X`VinvX |，它涉及模型中的固定效應X。因此，當兩個模型的固定效應部分不同時（例如，主效應與主效應+具有相同協方差結構的相互作用），REML LL（即AICc和BIC）將不同。這使得模型比較無效。”
回复：為什麼在標準最小二乘法下的AICc和BIC值與在混合模型下的值不同？ @fdottaviano ，
另一個大問題。
將ML與SLS或所有不同類型的固定效應和隨機效應的模型進行比較的一種方法是從模型的保存列和預測公式下保存預測公式。 然後使用分析菜單/預測建模下的模型比較平台。 由於不同的建模平台對日誌似然性的計算方式不同，因此不會為您提供AICc或BIC。 缺少AICc或BIC的另一個原因是允許將基於樹的模型與線性建模進行比較。 模型比較將為您提供RSquare，RASE，AAE。 它還將允許您比較每個模型的殘差
僅在JMP Pro中可用。
回复：為什麼在標準最小二乘法下的AICc和BIC值與在混合模型下的值不同？謝謝 @phersh ，
讓我看看我是否正確。
我了解到，“ SLS”和“廣義回歸”個性都使用REML，而“混合模型”個性使用ML。
由於廣義回歸只能運行固定效應模型，因此不存在使用AICc或BIC術語進行無效比較的風險，因為它們都由固定效應組成。
當您想要混合模型（固定+隨機效果）時，就個性而言，您有兩種選擇：SLS和混合模型。
如果我使用SLS，則可以比較模型-用AICc或BIC術語- 具有不同的隨機效果規範-例如，兩個隨機效果與一個隨機效果與無隨機效果-提供的所有模型都具有相同的固定效果規範。
如果使用混合模型，則可以使用AICc或BIC術語比較具有不同固定效果規範的模型-例如，響應面與主面影響 +互動與主要效果-僅提供所有模型具有相同的隨機效果規格。
要了解我的SAS PROC MIXED培訓材料如何適合JMP，我們應該首先從完整的固定效果規範入手，然後使用REML（即使用SLS個性）測試不同的隨機效果規範。一旦我們選擇了最佳的隨機效果規範（例如最低的AICc或BIC），我們便使用ML（即使用混合模型個性）測試不同的固定效果規範。一旦我們選擇了最佳的固定效果規範（例如最低的AICc或BIC），我們就會回到SLS個性，並估計包含最佳的固定規範和隨機規範的最終模型。到現在為止還挺好。
但是，如果我不確定具有給定固定效果規範和不同協方差結構的兩個模型（例如隨機效果與空間），該怎麼辦協方差？在JMP中，我只能使用混合模型個性來適應空間模型。因此，只能通過ML擬合空間模型，這迫使我使用相同的混合模型個性以隨機效果擬合模型，因此它們都可以採用相同的方法擬合：ML。現在，如果我想選擇基於AICc或BIC的一個，那不是無效的嗎？在這種情況下，我該如何比較蘋果和蘋果？
回复：為什麼在標準最小二乘法下的AICc和BIC值與在混合模型下的值不同？謝謝 jian 對此的答案。 首先，真的是一個好問題。 這來自使用不同對數可能性的不同建模平台。
混合模型和SLS使用的具有隨機效果的ML LL和REML LL如下所示 jian 從SAS文檔中捕獲了它們 https://support.sas.com/documentation/cdl/zh-CN/statug/63962/HTML/default/viewer.htm#statug_mixed_sect025.htm ）
關鍵區別在於REML LL中有一個懲罰項， （1/2）日誌| X`VinvX | ，其中涉及模型中的固定效果X。因此，當兩個模型的固定效應部分不同時（例如，主效應與主效應+具有相同協方差結構的相互作用），REML LL（即AICc和BIC）將不同。這使得模型比較無效。
這是JMP決定使用ML LL而不是REML的基本原理。換句話說，在混合模型個性中，您可以使用AIC或BIC比較具有不同規格固定效果的不同模型。 （我說JMP的決定是因為SAS Proc Mixed使用REML作為默認估算方法，但提供了ML作為選擇:cara_que_sonríe_con_ojos_sonrientes:）
補充說明：混合模型的“擬合統計”報告中的“ -2剩餘對數似然”遵循REML LL（即包括懲罰項），並與SLS的REML方差分量估計中報告的-2對數似然相匹配。
對於廣義回歸平台，我們目前不支持隨機效應，因此在這種情況下無濟於事。
GenReg具有許多不同的技術，例如套索和彈性網，它們允許一步進行變量選擇和模型擬合。 有相關因素時，嶺回歸非常有用。 這是一個不錯的概述。
https://www.jmp.com/support/help/zh-cn/15.1/?os=win&source=application#page/jmp/overview-of-the-generalized-regression-personality.shtml
