附上房地產銷售和房屋面積的樣本。如果您建立一個模型來預測價格作為規模的函數,則有明顯的證據表明存在非常數方差。因此,我創建了一個權重列來進行加權最小二乘迴歸。然而,殘差模式永遠不會改變——我嘗試了權重= 1/大小,然後是大小的平方、立方等。殘差模式看起來完全相同,直到我使用大小的 5 次方 - 然後殘差變為零並且擬合完美。我不明白為什麼殘差的五次及更高次方會產生完美的擬合(儘管我懷疑這是因為權重變得如此之小,以至於回歸線變成了平均價格線,並且由於微小的誤差而被忽略)權重)。但我真正的問題是,為什麼即使權重為 1/size4,殘差模式也保持不變。
在隨附的資料表中,我放置了原始未加權迴歸模型的腳本。還有使用房屋面積的四次方和五次方的倒數進行加權回歸的腳本。
加權後的殘差與未加權時的殘差不同,但整體模式是相同的。 您在這兩種情況下都擬合了線性模型,即使兩組參數估計值不相同,您仍然會繪製實際價格減去預測價格與預測價格的關係。 權重影響參數估計,而不影響殘差模式。
此線性迴歸中的加權是透過倒數方差進行的,但在這種情況下可能很難確定方差函數。 因此還有其他技術可以提供幫助。 第一種技術是轉換響應,從而改變變異數。 Box-Cox 轉換有多種用途,包括穩定反應變異數。 此指令位於「因子分析」子選單中「擬合最小二乘」的紅色三角形下方。 這是使用轉換後的反應的線性迴歸:

我沒有花任何時間選擇用於轉換的 lambda 參數,因此您可能使用其他值會做得更好,但您可以看到殘差模式不同並且越來越接近恆定方差。
第二種技術是使用對均值響應和響應方差建模的方法,並在回歸均值時使用方差函數。 將「擬合模型」啟動對話方塊中的擬合特性變更為對數線性方差,並新增居住區域作為第二個模型的效果。 您現在正在擬合兩個模型。 一種對平均響應進行建模,另一種對響應方差進行建模。 他們都將居住面積作為唯一的預測因子。 結果是這樣的:

在該模型中正確考慮了因方差。 當然,殘差模式仍然會顯示變異數不是恆定的。 避免這種情況的唯一方法是改變反應以穩定方差,但這本身不應該成為目標。 您只是試圖處理普通最小二乘迴歸中違反常數變異數假設的問題。
第三種技術是使用另一種不假設恆定變異數的預測模型。 這是神經模型:

不變換響應的殘差模式與未加權線性迴歸相同,但神經模型估計不假設恆定變異數。