附上房地产销售和房屋面积的样本。如果您构建一个模型来预测价格作为规模的函数,则有明显的证据表明存在非常数方差。因此,我创建了一个权重列来进行加权最小二乘回归。然而,残差模式永远不会改变——我尝试了权重= 1/大小,然后是大小的平方、立方等。残差模式看起来完全相同,直到我使用大小的 5 次方 - 然后残差变为零并且拟合完美。我不明白为什么残差的五次及更高次方会产生完美的拟合(尽管我怀疑这是因为权重变得如此之小,以至于回归线变成了平均价格线,并且由于微小的误差而被忽略)权重)。但我真正的问题是,为什么即使权重为 1/size4,残差模式也保持不变。
在随附的数据表中,我放置了原始未加权回归模型的脚本。还有使用房屋面积的四次方和五次方的倒数进行加权回归的脚本。
加权后的残差与未加权时的残差不同,但总体模式是相同的。 您在这两种情况下都拟合了线性模型,即使两组参数估计值不相同,您仍然会绘制实际价格减去预测价格与预测价格的关系。 权重影响参数估计,而不影响残差模式。
此线性回归中的加权是通过倒数方差进行的,但在这种情况下可能很难确定方差函数。 所以还有其他技术可以提供帮助。 第一种技术是转换响应,从而改变方差。 Box-Cox 变换有多种用途,包括稳定响应方差。 该命令位于“因子分析”子菜单中“拟合最小二乘”的红色三角形下方。 这是使用转换后的响应的线性回归:

我没有花任何时间选择用于转换的 lambda 参数,因此您可能使用其他值会做得更好,但您可以看到残差模式不同并且越来越接近恒定方差。
第二种技术是使用对均值响应和响应方差建模的方法,并在回归均值时使用方差函数。 将“拟合模型”启动对话框中的拟合特性更改为对数线性方差,并添加居住区域作为第二个模型的效果。 您现在正在拟合两个模型。 一种对平均响应进行建模,另一种对响应方差进行建模。 他们都将居住面积作为唯一的预测因素。 结果是这样的:

该模型中正确考虑了因方差。 当然,残差模式仍然会显示方差不是恒定的。 避免这种情况的唯一方法是改变响应以稳定方差,但这本身不应成为目标。 您只是试图处理普通最小二乘回归中违反常量方差假设的问题。
第三种技术是使用另一种不假设恒定方差的预测模型。 这是神经模型:

不变换响应的残差模式与未加权线性回归相同,但神经模型估计不假设恒定方差。