在线性回归中使用变量对数?我是使用JMP的新学生,有一个问题。
我有一个数据集,其中包含多个变量,这些变量的分布证明存在严重偏差。 一个是我的因变量,其他都是自变量。
我使用Log_variable作为因变量和主要自变量之一来创建新列。
它们的分布都朝着正态分布显着改善。
如上所述,我还有其他一些自变量,它们也存在严重偏差,因此正在考虑将其转换为日志。
我的问题是,始终建议将严重偏斜的自变量转换为log_variable吗?
还是应该最少使用它?
仅供参考-一旦“准备好”变量(即解决缺失值和潜在异常值,创建log_variables),我将对变量进行多元回归分析。
谢谢,
JK
回复:在线性回归中使用变量的对数吗?正态性要求适用于响应的条件分布,而不适用于整体或边际分布。它根本不适用于预测变量。一些偏斜可能是非随机的,由模型解释!因此,我们评估了残差。我们期望它们是正态分布的,独立的并且具有恒定的方差。Fit Least Squares平台中有诊断工具可帮助您评估问题。
还有一种工具可以评估转换的好处。您评估了日志转换。幂变换的一般化形式是“轮廓最小二乘”红色三角菜单中的Box-Cox Y变换。
回复:在线性回归中使用变量的对数吗?我查看了Box-Cox转换功能,但我有零个
负值,因此它将不会运行。
是的,我知道残差的正态性要求,
它们是随机的,均值为零。
我已经审查了剩余分布以验证这一点。
我还查看了拟合摘要和参数估计值以进行修订
该模型可以降低到0.05的置信度和较低的VIF值。
由于我的输入变量的范围非常大,因此从$百万到
$ 40 B在一个变量上。
我将其转换为将Adj R平方值减半的日志,但是
RMSE从300下跌至1.5。
只是想知道采用相同的转换方法是否合理
在运行之前,将一个日志变量转换为另一个输入变量
回归。
我确实意识到该模型可能会解释
数据而不转换为log_variables,那么决定因素是什么
关于何时转换变量或将其保留为收到的?
谢谢。
回复:在线性回归中使用变量的对数吗?借助JMP的强大功能和易用性...我对回归设置中的预测变量或响应转换的一般建议是,除非您具有某些领域的专业知识,否则建议提前转换是个好主意,为什么还要多花钱呢?建模时我尝试遵循一个原则。“回答原始实际问题的最简单模型是'最佳'模型。”
从未转换的变量开始,然后使用JMP中的所有模型诊断测试和可视化效果,以观察未转换的模型的性能如何,这是一个非常简单的任务。然后使用这些知识来指导转换过程,如果需要的话,可以解决原始问题...我认为这与 @马克贝利在想什么?
回复:在线性回归中使用变量的对数吗?我很困惑。如果响应的日志具有非正值,您如何处理?如果您的响应范围从$ 1M到$ 40B,为什么不能使用Box-Cox Y转换命令?
当响应不同时(Y与Log Y),比较回归统计数据很困难。
您也可以尝试转换X变量。
变化幅度超过几个数量级的数据通常会从这种转换中受益。
您可以基于模型偏差和方差,简约性,有效的模型假设以及经验验证或交叉验证来决定选择是否有用。
此模型是出于预测目的还是解释目的?