在線性回歸中使用變量對數?我是使用 JMP 的新學生,有一個問題。
我有一個數據集,其中有幾個變量嚴重傾斜,如它們的分佈所示。一個是我的因變量,其他都是自變量。
我使用 Log_variable 作為因變量和主要自變量之一創建新列。
他們的兩個分佈都顯著向正態分佈改善。
如上所述,我還有其他嚴重傾斜的自變量,並且正在考慮將它們轉換為日誌。
我的問題是,將嚴重傾斜的自變量轉換為 log_variable 是否總是明智的?
或者應該最少使用它?
僅供參考 - 一旦我“準備好”變量(即解決缺失值和潛在異常值,創建 log_variables),我將對變量進行多元回歸分析。
謝謝,
傑康
回复:在線性回歸中使用變量對數?我很困惑。 如果響應的值為非正值,您如何獲取響應的日誌?如果您的響應範圍在 $1M 到 $40B 之間,為什麼不能使用 Box-Cox Y 變換命令?
當響應不同(Y 與 Log Y)時,很難比較回歸統計數據。
您也可以嘗試轉換 X 變量。
變化超過幾個數量級的數據通常會受益於這種轉換。
您根據模型偏差和方差、簡約性、有效模型假設以及經驗驗證或交叉驗證確定這些選擇是有幫助的。
該模型是用於預測還是解釋目的?
回复:在線性回歸中使用變量對數?憑藉 JMP 的強大功能和易用性……我對回歸設置中的預測變量或響應轉換的一般建議是,除非您擁有一些領域專業知識,表明提前轉換是一個好主意,否則為什麼要把水攪渾呢? 我在建模時試圖遵循一個原則: “能夠回答最初的實際問題的最簡單的模型就是‘最佳’模型。”
從未轉換的變量開始,然後使用 JMP 中的所有模型診斷測試和可視化來查看未轉換的模型的執行情況,這是一項非常簡單的任務。 然後使用這些知識來指導轉換過程,如果需要解決原始問題......我認為這與@馬克貝利在想什麼?
回复:在線性回歸中使用變量對數?我回顧了 Box-Cox 轉換能力,但我有零和
負值,因此它不會運行。
是的,我知道殘差的正態性要求,並且
它們是隨機的且平均值為零。
我已經檢查了剩餘分佈來驗證這一點。
我還審查了擬合摘要和要修改的參數估計
模型的置信度降至 0.05 且 VIF 值較低。
由於我的輸入變量的範圍非常大,從低至百萬美元到
$40 B 變量。
我將其轉換為對數,將我的 Adj R 平方值減半,但是
RMSE 從 300 多下降到 1.5。
只是想知道應用相同的轉換方法是否合理
在運行之前將日誌變量更改為另一個輸入變量
回歸。
我確實意識到該模型可能會解釋一些偏度
沒有轉換為log_variables的數據,那麼決定因素是什麼
何時轉換變量或保留收到的變量?
謝謝。
回复:在線性回歸中使用變量對數?正態性要求適用於響應的條件分佈,而不是總體分佈或邊際分佈。 它根本不適用於預測變量。 有些偏差可能是非隨機的,並由模型解釋! 因此我們評估殘差。 我們期望它們呈正態分佈、獨立且具有恆定方差。 擬合最小二乘平台中有一些診斷工具可以幫助您評估問題。
還有一個工具可以評估轉型的好處。 您評估了對數轉換。 冪變換的概括是 Box-Cox Y 變換,可在分析下的“擬合最小二乘法”紅色小三角菜單中找到。