廣義 R 方和 R 方結果之間的差異大家好，
我嘗試在社區或 JMP 幫助中找到問題的答案，但找不到。 因此，如果有人能在這裡為我指明正確的方向，或者讓我知道我缺少的基本概念是什麼，我將非常感激。
我正在根據我的回應（因變數- DV）擬合一個模型，該模型是連續的，使用3 個自變數(IV) [2 個分類變數和1 個連續變數] 以及其中2 個變數之間的交互作用（另一個我只是使用主變數）影響）。 我首先使用最小二乘法來實現這一點，如下面的螢幕截圖所示。
然而，我的預測圖殘差看起來不太好（我有一些異常值）。無論我嘗試將哪些其他因素添加到模型或轉換中，我都無法改善我的殘差圖。 我能得到的最好結果就是改變我的回應，這就是我上面已經展示的。
接下來，我考慮透過廣義迴歸使用懲罰迴歸方法（更具體地說嶺）。 我讀到它對異常值更加穩健（儘管它會引入一些偏差）。
我開始使用標準最小平方法運行廣義迴歸。
根據我看過的一些視頻，這應該會產生與最小二乘回歸相同的結果。
另外，根據JMP幫助（ https://www.jmp.com/support/help/en/15.2/index.shtml#page/jmp/training-and-validation-measures-of-fit.shtml ）提供的廣義 R 方應介於 0 和 1 之間，並且它將簡化為標準最小二乘設定中連續正態響應的傳統 R 方。 然而，正如您從下面的螢幕截圖中看到的，雖然廣義 R 方與訓練集的 R 方匹配，但它與驗證集不匹配（並且為負）。 其他統計數據（例如 RASE）確實與兩組（訓練和驗證）相符。
關於這裡可能發生的事情有什麼想法嗎？
預先感謝您的任何想法和提示！
PS：對於我在這篇文章中所做的一切，我使用了 JMP 中的 FitModel 平台。
資料混合與清理回覆：廣義 R 方和 R 方結果的差異謝謝你，馬克！ 我剛剛開了一張關於它的票。
當我得到答案時，我會將答案發佈在這裡。回覆：廣義 R 方和 R 方結果的差異我無法從這次討論中說出什麼可能會導致差異。 我建議您聯絡 JMP 技術支援（ support@jmp.com ）關於此事。
回覆：廣義 R 方和 R 方結果的差異感謝您提供所有詳細資訊並讓我了解有關 GenReg 的更多資訊。
但在這種情況下我仍然感到困惑（假設響應呈正態分佈），如何解釋兩個“平台”（擬合最小二乘法和 GenReg）之間驗證集之間的廣義 Rsquare 值的差異？
抱歉，如果我誤解了你所說的話。
謝謝你！
回覆：廣義 R 方和 R 方結果的差異你是對的，整個模型的指標不應該隨著不同的參數化而改變。 當然，個別術語或參數的指標將會改變。
因此，不同參數化的係數並不相同，因此它們的估計也必定不同。
OLS 解和 MLE 最佳化應該在具有常態分佈響應的相同參數化下產生相同的估計值。
我誤導你：GenReg 中的標準最小二乘結果是 OLS了。 看這一頁更多細節。
回覆：廣義 R 方和 R 方結果的差異謝謝你！
我不知道我們能夠在 JMP 中引導估計值。 謝謝你教我這個！
也感謝您提供的所有其他見解。 很有幫助！
回覆：廣義 R 方和 R 方結果的差異你好@馬克貝利，非常感謝您再次回覆我。 我非常感謝您對我的問題的所有幫助和耐心。
是的，對於這個特定的回應，我的所有異常值都在驗證集中。 但對於我正在調查的其他回應，情況並非如此（異常值同時出現在驗證集和訓練集中）。
就我正在建模的內容而言：我使用離散事件模擬進行了一些實驗（使用不同的種子，以便我擁有不同的數據）。 在此基礎上，我計算了我感興趣的四種反應（這裡我只展示了一種）。
現在，我正在嘗試將迴歸模型擬合到這些回應，因為我的下一步將是使用最佳化模型來找到我感興趣的回應的最佳設定。
據我所知，參數化/編碼不應影響模型統計數據。 我在這裡錯過了什麼嗎？ (編碼）
此外，對於線性迴歸且當殘差呈常態分佈時，OLS 和 MLE 會產生相同的係數。 不是嗎？ (最小最小平方法和最大似然估計）
根據這個廣義回歸教程發布者@gail_massari ，時間8:35左右，我的理解是@brady_brady也表示 MLE 和 OLS 之間的結果應該要匹配。
最後，您介意向我指出 JMP 幫助頁面嗎？該頁面指示當分佈呈正態分佈時，廣義回歸使用 MLE 而不是 OLS？
由於下圖（取自 JMP），我有一個錯誤的印象：如果選擇的分佈是常態分佈，廣義迴歸仍將使用 OLS：
謝謝你！
回覆：廣義 R 方和 R 方結果的差異你好@安娜保拉,
我不確定我是否完全理解您如何使用計算的種子來產生驗證列的分層。 但是，如果您使用 JMP Pro 中的驗證列平台（如果您可以存取 GenReg，則擁有該平台），那麼您可以將您擬合的回應（Y 變數）進行分層。 如果所有異常值都在驗證集中，您可能需要重新考慮它如何產生這兩個集合。
您可能會考慮的另一點是將不用於擬合資料的測試資料集完全拆分到另一個資料表中。 如果您在訓練/驗證集上執行多個模型，則可以使用測試資料集來查看哪個模型確實最適合預測，您可以使用模型比較平台來執行此操作。 據推測，您的目標是擁有最佳的預測能力，並且您需要以某種方式對其進行測試。 看起來你有一個足夠大的集合，你可以做類似的事情。 例如，製作一個驗證列，例如 60% 訓練、20% 驗證、20% 測試。 將測試資料集子集到完全不同的表中，然後使用剩餘的訓練/驗證子集來建立模型。
對於您關於 R^2 的其他問題以及它是否為負或不完全匹配，我會參考馬克所說的。
如果您的資料是對數常態分佈的，您將需要在模型規格中選擇該選項，因為這會更改其擬合方式背後的一些底層過程。
當您在 SLS 或 GenReg 或 PLS 中建立模型時，您可以透過右鍵點擊「估計」列並選擇「引導」來引導估計。 您需要執行數千次，然後查看分佈，看看該項係數的原始估計值是否接近許多估計值的全域平均值。 JMP 將以稍微不同的起點運行一些計算，從而產生幾個不同的估計值，然後您可以查看該分佈並確定總體上1) 第一次嘗試的估計值是否準確，以及2) 效果係數是否真正起作用很多或沒有。 例如，在 SLS 平台中，為效應賦予 FDR LogWorth 值，以估計該效應的錯誤發現率。 如果該值 >2（藍線），則有重要證據表明該效應確實對模型有貢獻。 另一方面，它可能更小，或接近值 2。 如果您引導這些 FDR 值，您可以找到平均值和範圍來確定效果是否有意義。 我曾經遇到過這樣的情況：效果看起來可能處於臨界狀態，並且在引導 FDR 後，大多數時間實際上並未超過 2，因此實際上並不是模型中的全局重要因素。
最後一點，我強烈建議運行多種不同類型的建模平台：提升樹、引導森林、神經網路等，看看另一個平台是否最適合您的資料/情況。
希望這可以幫助！，
DS
回覆：廣義 R 方和 R 方結果的差異我注意到在你原來的殘差圖中，異常值似乎都在驗證保留集中。
廣義迴歸使用與擬合最小平方法不同的參數化。 請參閱此頁統計細節。 它還使用不同的估計方法（MLE 與 OLS）。
回覆：廣義 R 方和 R 方結果的差異你好@SDF1
非常感謝您的回覆和您的見解。 他們非常有幫助，並且與我正在思考的一些事情是一致的。
如果您有更多見解可以提供，我將在這裡提供一些額外的資訊（我將非常感激）。
1. 基於驗證列的分層響應確實具有（非常）相似的分佈。 正如我向馬克解釋的那樣，響應是根據使用不同種子生成的計算機實驗計算的（我使用種子分層為訓練集和驗證集）。
2.假設我過度擬合，我的主要問題是：
為什麼我的訓練集 R 方為 0.9995，直接使用 FitModel 中的 LeastSquares 或透過廣義回歸，而我的驗證集 R 方為0.9791直接使用 FitModel 中的 LeastSquares 和-1.24e+12透過廣義迴歸使用最小平方法。
我不明白驗證集的 R 方值之間的差異。 這些值不應該相同嗎（即使存在過度擬合）？
3. 我確實認為我有理由將這些術語包含在我的模型中。 首先，我的回應是使用基於不同重複次數（一個分類 IV）的不同資料和基於不同數量的聚類（第二個分類 IV）的不同「公式/資料」來計算的。 計算反應的已知理論公式考慮了到達率（連續 IV），因為該值會影響產生的數據。
我不確定如何在 JMP 中進行引導。 但我確實手動嘗試了不同的模型（帶或不帶術語），並且我還嘗試使用向前逐步。 在這兩種情況下，結果最終都顯示兩個分類 IV + 它們的交互作用 + 連續 IV 是最好的模型。
4. 你的最後一點其實是我希望有人能帶進這次討論的。
我的反應實際上不是正常的（事實上，它是 LogNormal）。
因此，當我嘗試 Ridge 或 ElasticNet 時，我將對此進行調整。
但即使我的回應不正常，我上傳的兩個圖像中驗證集的 R 方值不應該匹配嗎？
非常感謝您的見解！
回覆：廣義 R 方和 R 方結果的差異對不起@馬克貝利，我想我的問題不是很清楚。
正如你所說，我沒有使用 Ridge（那將是我的下一步）。 但首先，我再次使用最小二乘法（透過廣義迴歸模型）來檢查結果是否與直接從 FitModel 視窗使用 LeastSquares 得到的結果相符。 因為我的結果不匹配，所以我什至最終沒有嘗試 Ridge（這將是我的下一步）。
但我很好奇為什麼透過廣義回歸得到的 LeastSquares 結果與直接從 FitModel 透過 LeastSquares 得到的結果不匹配。 你有什麼想法？
回答您的問題：
1. 連續預測變數不參與交互項。
2.我使用了逐步的方法，也使用了自己的估計來確定是否應該去除交互作用
3.我嘗試了Log、Logistic、Logit和Reciprocal。 如果是倒數，模型會惡化很多。 使用 Logistic，統計資料（R 方、RASE）略有改善，但殘差圖沒有改善。 因此，在我看來，沒有任何東西可以證明使用轉換的合理性。
4. 訓練和驗證是根據我所擁有的組別來定義的（這些是使用不同隨機種子的電腦實驗）。 我使用種子將資料分組，並使用該列作為我的保留驗證列。
5. 我與否定相關的問題是廣義R方，因為當我第一次閱讀 JMP 幫助時，我認為它只能在 0 和 1 之間。 但是，是的，我找到了該公式，正如我們所見，它也可以低於 0：
| Nagelkerke / Cragg & Uhler's（廣義 R 方） | 
|
謝謝你！
回覆：廣義 R 方和 R 方結果的差異你好@安娜保拉,
如果我理解正確的話，您有一個根據某種驗證列分割的資料集。 需要考慮的一件事是您是否根據回應對驗證列進行分層，以確保訓練列和驗證列具有相似的分佈。
由於 R^2 為負，對我來說這表示您過度擬合了數據。 您是否對估計進行了一些引導，以查看模型中的項目是否真的重要？ 您有包含混合項的理論基礎嗎？
另外，您可能想嘗試 Elastic Net，因為它是 Ridge 和 Lasso 的組合。 另一件需要考慮的事情是您的回應分佈是否確實是常態的，或者不同的分佈是否更適合您的資料。
DS
回覆：廣義 R 方和 R 方結果的差異交互項中是否涉及連續預測變數？ 您是否使用對省略的交互的估計來確定應將其刪除，還是一開始就將其遺漏？
您嘗試了哪些回應轉變？
懲罰迴歸和最小平方法迴歸通常不會導致模型參數的相同估計，因此 R 平方不會相同。 您的圖片顯示的是 OLS 結果，而不是嶺迴歸。
訓練和驗證結果應該與最佳無偏模型相似，但又不相同。 您如何確定用於驗證的保留集？
負 R 平方是可能的。
