添付されているのは、不動産販売と住宅サイズのサンプルです。サイズの関数として価格を予測するモデルを構築する場合、一定でない分散の明確な証拠があります。そこで、加重最小二乗回帰を行うために加重列を作成しました。ただし、残余パターンは決して変化しません。重み= 1 /サイズ、次にサイズの2乗、3乗などを試しました。サイズの5乗を使用するまで、残余パターンはまったく同じように見えます。その後、残余はゼロになり、近似は完全になります。残余の5乗以上が完全に一致する理由がわかりません（ただし、重みが非常に小さくなり、回帰直線が平均価格線になり、誤差が小さいために無視されているためだと思います）重み）。しかし、私の本当の質問は、1 / size4の重みでも残差パターンが変わらないのはなぜかということです。
添付のデータテーブルに、元の重み付けされていない回帰モデルのスクリプトを配置しました。家のサイズの4乗と5乗の逆数を使用した加重回帰のスクリプトもあります。
残差は、重み付けを使用した場合と重み付けを使用しない場合で同じではありませんが、全体的なパターンは同じです。 どちらの場合も線形モデルに適合し、2セットのパラメーター推定値が同一ではない場合でも、実際の価格から予測価格を差し引いたものと予測価格をプロットしています。 重みは、残差のパターンではなく、パラメーター推定値に影響します。
この線形回帰の重み付けは逆数分散によるものですが、この場合、分散関数を決定するのは難しい場合があります。 したがって、役立つ他の手法があります。 最初の手法は、応答を変換して分散を変更することです。 Box-Cox変換は、応答分散の安定化など、いくつかの目的で使用されます。 このコマンドは、Fit LeastSquaresの赤い三角形の下にあるFactorProfilingサブメニューにあります。 変換された応答を使用した線形回帰は次のとおりです。
変換のラムダパラメーターを選択するのに時間を費やしなかったので、別の値を使用した方がよいかもしれませんが、残差パターンが異なり、一定の分散に近づいていることがわかります。
2番目の手法は、平均応答と応答分散をモデル化し、平均を回帰するときに分散関数を使用する方法を使用することです。 Fit Model起動ダイアログのフィッティングパーソナリティを対数線形分散に変更し、2番目のモデルの効果としてリビングエリアを追加します。 これで、2つのモデルが適合します。 1つは平均応答をモデル化し、もう1つは応答分散をモデル化します。 それらの両方は、唯一の予測因子としてリビングエリアを持っています。 結果は次のとおりです。
このモデルでは、従属分散が適切に考慮されます。 もちろん、残余パターンは、分散が一定ではないことを示します。 これを回避する唯一の方法は、分散を安定させるために応答を変換することですが、それ自体が目標であってはなりません。 通常の最小二乗回帰で一定の分散の仮定の違反を処理しようとしていました。
3番目の手法は、一定の分散を想定しない別の予測モデルを使用することです。 ニューラルモデルは次のとおりです。
応答を変換しない残余パターンは、重み付けされていない線形回帰と同じですが、神経モデルの推定では一定の分散を想定していません。
