你好,
我有一个简单的问题,我想知道是否有更多经验的人可以对此有所了解。
我知道OLS不一定需要正态性假设,但是残差的正态性会导致偏差最小的无偏估计。
我尝试使用Fit Model平台中的最小二乘拟合具有三个自变量的连续响应模型。 该模型的Radj约为0.45,残差图显示出清晰的图案。
接下来,我检查了连续响应的分布,发现它与正常值相差很远。
使用广义回归(Lasso)和正态响应分布,该模型仍然得出约0.45的广义Rsquare。 但是,当我切换到指数响应分布时,Rsquare增加到0.84。
如果最小二乘不需要正常响应,那么怎么解释这种差异呢?
谢谢!
顺便说一句,我发现了这种材料( https://community.jmp.com/kvoqx44227/attachments/kvoqx44227/discovery-2019-content/28/1/glmTalkTucson.pdf)它说假设错误(和响应)是正常的,那么生活就容易多了。 但是,在此链接中( https://www.jmp.com/en_us/statistics-knowledge-portal/what-is-regression/simple-linear-regression-assumptions.html) ,仅讨论错误的正常性。
因此,我不确定JMP是否假定响应的正常性?
如果是的话,为什么正常的回应会“使生活更加轻松”?
就响应的分布而言,普通最小二乘回归通常被视为特殊情况。 作为@Thierry_S解释了一下,我们通常假设误差是正态分布的,然后处理残差(估计误差)。 您也可以将其描述为条件分布:Y〜正态(均值=预测Y = f(X),方差)。 因此,均值Y如线性回归模型所述随X变化,但Y的方差是恒定的,或与响应无关。 换句话说,对于任何给定的平均响应(预测的),响应均显示误差的正态分布。
我不会说“ OLS不一定需要正常性。 ”
如果条件分布不是正态的,则正态性假设和OLS会导致模型较差。 因此,在您的情况下,指数分布似乎是方差的模型,而不是正态分布。