John Sall、SASの共同創設者兼エグゼクティブバイスプレジデント
非常に単純な機能を追加することで、以前よりも正確に多くのモデルを適合させることができると私が言った場合はどうなりますか?同時に、私はあなたの前の答えが非常に偏っていたことをあなたに示すことができましたが、新しいものははるかに偏っていませんでした。さらに、欠落していないデータを単にフィットさせるのではなく、すべてのデータを使用して、回帰子が見つからない場合でも予測を行うことができます。
この大きな機会は、データの欠如が予測的であるときに起こります。住宅ローンのデフォルトデータを含むJMPサンプルデータテーブルEquity.jmpを考えます。応答は、顧客がローンのデフォルトを設定したかどうかです。回帰子の1つはデブティンこれは、収入に対する負債の割合です。 デブティンデータの多くに欠けています。欠損値は、顧客がローンのデフォルトを設定したかどうかを予測するものですか?
通常のモデルに他の12個すべての変数を回帰子として当てはめた場合、RS2乗は0.23ですが、これは5,960行のうち3,364行にしかありません。いずれかのリグレッサが欠落していると、応答が予測できません。
の欠損を使用してモデルを近似するとします。デブティン標識変数として。この1回帰モデルのRSquareは優れており(.25)、データが欠落しているかどうかにかかわらず、5,960行すべてを使用して予測します。そのため、行方不明は予測的で有益なものであり、通常のリグレッサーよりも優れている可能性があります。
新しいアイデアは、欠損値インジケータ変数を作成するだけでなく、欠損データの行を破棄せずに元のリグレッサを便利にすることです。
JMP Pro 11では、Fit Model起動ウィンドウに「有益な情報がありません」と呼ばれる新しい赤い三角形のメニュー項目が含まれています。この機能はJMP Proにしかありませんがこの記事で説明されているように、テーブル。
これを行うための伝統的な方法は、黙示録です。欠損値を見積もります。標準的な補完方法の1つは、モデル内の他のすべての非欠損変数を使用して、欠損変数の値を予測することです。データに欠損値がある場合、多変量プラットフォームは「欠損データの不定」オプションによる補完をサポートします。そして他の代入アプローチがあります。
有益なMissing回帰コーディングは代入よりもはるかに簡単で、さらに強力です。欠損値があるモデル内のすべての連続変数に対して、2つの変数を代入します。最初の変数は、列の欠損データに平均値を代入します。もう一方の変数は欠損値インジケータです。元の列が欠損している場合は1、それ以外の場合は0です。
たとえば、Equity.jmpでは、連続回帰子の式を使って2つの新しい変数を作成します。デブティン 。これは、式を使って2つの新しい変数を作成するためのスクリプトです。
新しいコラム ( 「欠けているか、欠けているかの意味」 、数値、連続、
式( もし ( 不足している (:DEBTINC)、 33.78 、 :DEBTINC))
;
新しいコラム ( 「DEBTINCが見つからない」 、数値、連続、
式( もし ( 不足している (:DEBTINC)、1、0))
;
「 33.78 式中の「」はデブティンただし、好きな値にすることができます。
今は使う代わりにデブティンモデルでは、2つの新しい数式変数を使用します DEBTINCまたは行方不明の場合は意味そして DEBTINCが見つからない 。追加の予測子(インジケータ変数)は、応答を強く予測できます。この例では、フィールドを見逃したままにするという行為は、申請者へのローンのリスクについての強力な手がかりです。
これら2つの新しい予測子を使用すると、2つの変数がなくなることはないので、すべてのデータで使用できます。欠損値インジケーター変数は近似に重要である可能性があるため、近似を改善する機会が与えられます。
他の新しいリグレッサーはどうでしょうか。 DEBTINCまたは行方不明の場合は意味 ?それは反論する原始的な方法のようですデブティン平均値だけを使います。欠損値を平均値で置き換えても、その変数の推定には影響しません。そうではなく、欠損値指標のパラメータは、予測とそのリグレッサの平均値との差を推定します。
あなたは行方不明のための平均の代わりにゼロを代用することができますデブティン 。そして、パラメータは、予測と、その共変量に対してゼロを持つこととの間の差を推定します。欠落のプラグイン値は、指標パラメータ推定値の解釈にのみ影響します。
このテクニックは代名詞ではありません。欠損値を予測値で置き換えることはしません。代わりに、回帰子が欠落しているときに情報を復元するためのコーディングシステムを構築します。さらに、予測値に欠損値を使用します。欠損値があってもランダムイベントは発生しないと想定していますが、予測値を持つ可能性があるのは何らかの原因によるものです。そのため、このコーディング手法を「有益な欠落」回帰コーディングと呼びます。
表1は、Equity.jmpデータに対する代入の使用と有益な欠落の劇的な違いを示しています。
表1。補完と有益な欠落の比較
方法 | 使用された観測数 | ルスクエア |
行方向の欠落除外を含む古いフルモデル | 3,364 | 23.2% |
| DEBTINC付きの1変数モデルがありません | 5,960 | 25.6% |
| 情報が不足している新しいフルモデル | 5,960 | 45.6% |
図1は、欠損値指標変数が非常に重要であることを示しています。 DEBTINCが見つからないモデル内の他のどのリグレッサよりも重要です。
[欠けている画像]
図1。 有意性によって分類されたパラメータ推定
ここで説明したように、後退する式列(または変換)を作成できます。JMP Pro 11では、Fit Modelの赤い「三角」メニューオプションを選択するだけです。もう1つの選択肢は、「有益な欠落コーディング」アドインを次のサイトからダウンロードすることです。 JMPファイル交換 。
あなたがそれを価値あるものとして扱うなら、行方不明はあなたの友達になることができます。