不動産販売と住宅サイズのサンプルを添付します。サイズの関数として価格を予測するモデルを構築すると、変動が一定ではないという明らかな証拠が得られます。そこで、重み付き最小二乗回帰を実行するための重み列を作成しました。ただし、残留パターンは変わりません。重み = 1/サイズ、次にサイズの 2 乗、3 乗などを試しました。残差パターンは、サイズの 5 乗を使用するまではまったく同じに見えます。その後、残差はゼロになり、適合は完璧になります。なぜ残差の 5 乗以上で完全な適合が得られるのか理解できません (ただし、重みが非常に小さくなり、回帰直線が平均価格直線になり、微小なため誤差が無視されているためではないかと思いますが)重み）。しかし、私の本当の疑問は、なぜ重みが 1/size4 であっても残差パターンが変わらないのかということです。
添付のデータ テーブルに、元の重み付けされていない回帰モデルのスクリプトを入れました。住宅サイズの 4 乗および 5 乗の逆数を使用した加重回帰のスクリプトもあります。
残差は重み付けありの場合と重み付けなしの場合とは異なりますが、全体的なパターンは同じです。 どちらの場合にも線形モデルを当てはめると、2 セットのパラメーター推定値が同一ではないにもかかわらず、実際の価格から予測価格を差し引いた値と予測価格の関係がプロットされます。 重みは、残差のパターンではなく、パラメーター推定に影響します。
この線形回帰の重み付けは逆分散によって行われますが、この場合分散関数を決定するのは難しい場合があります。 したがって、役立つテクニックが他にもあります。 最初の手法は、応答を変換して分散を変更することです。 Box-Cox 変換は、応答の分散の安定化など、いくつかの目的に使用されます。 このコマンドは、最小二乗法フィットの赤い三角の下にある因子プロファイリングのサブメニューにあります。 変換された応答を使用した線形回帰は次のとおりです。
変換用のラムダ パラメーターの選択に時間を費やしなかったので、別の値を使用した方がよいかもしれませんが、残差パターンが異なり、一定の分散に近づいていることがわかります。
2 番目の手法は、平均応答と応答分散をモデル化し、平均を回帰するときに分散関数を使用する方法を使用することです。 [モデルの適合] 起動ダイアログの適合特性を対数線形分散に変更し、2 番目のモデルの効果としてリビング エリアを追加します。 これで 2 つのモデルを当てはめることになります。 1 つは平均応答をモデル化し、もう 1 つは応答の分散をモデル化します。 どちらも唯一の予測因子として居住エリアがあります。 結果は次のとおりです。
このモデルでは、依存分散が適切に考慮されています。 もちろん、残差パターンは分散が一定ではないことを示します。 これを回避する唯一の方法は、分散を安定させるために応答を変換することですが、それ自体が目標であってはなりません。 あなたは、通常の最小二乗回帰における定数分散の仮定の違反を処理しようとしていただけです。
3 番目の手法は、一定の分散を仮定しない別の予測モデルを使用することです。 ニューラルモデルは次のとおりです。
応答を変換しない残差パターンは重み付けされていない線形回帰と同じですが、ニューラル モデルの推定では一定の分散が仮定されません。
