von John Sall, Mitbegründer und Executive Vice President von SAS
Was wäre, wenn ich Ihnen sagen würde, dass Sie durch das Hinzufügen einer sehr einfachen Funktion viele Modelle genauer anpassen könnten als zuvor? Gleichzeitig konnte ich Ihnen zeigen, dass Ihre vorherigen Antworten sehr voreingenommen waren, die neuen jedoch weniger voreingenommen waren. Außerdem können Sie nicht nur die nicht fehlenden Daten anpassen, sondern alle Daten verwenden, um auch dann Vorhersagen treffen zu können, wenn Regressoren fehlen.
Diese große Chance bietet sich an, wenn das Fehlen der Daten vorhersagbar ist. Betrachten Sie die JMP-Beispieldatentabelle Equity.jmp, die Standarddaten für die Hypothek von Eigenheimen enthält. Die Antwort ist, ob der Kunde das Darlehen nicht bezahlt hat. Einer der Regressoren ist DEBTINC , das ist das Verhältnis von Schulden zu Einkommen. DEBTINC fehlt für einen Großteil der Daten. Sind die fehlenden Werte aussagekräftig, ob der Kunde mit dem Kredit ausgefallen ist?
Wenn ich das übliche Modell mit allen 12 anderen Variablen als Regressoren zusammenbringe, ist das RSquare 0,23, aber dies ist nur 3.364 der 5.960 Zeilen. Ich kann die Reaktion nicht vorhersagen, wenn einer der Regressoren fehlt.
Angenommen, ich passe das Modell unter Verwendung des Fehlens von an DEBTINC als Indikatorvariable. Das RSquare in diesem Modell mit einem Regulator ist besser (0,25), und ich verwende alle 5.960 Zeilen, um vorherzusagen, unabhängig davon, ob die Daten fehlen. So kann das Fehlen vorhersagender, informativer Art und sogar die eines regulären Regressors übertreffen.
Die neue Idee besteht darin, nicht nur die Indikatorvariablen für fehlende Werte zu erstellen, sondern auch die ursprünglichen Regressoren nützlich zu machen, ohne Zeilen mit fehlenden Daten zu löschen.
In JMP Pro 11 enthält das Startfenster des Fit-Modells ein neues rotes Dreieck-Menüelement mit der Bezeichnung "Informative Missing". Obwohl diese Funktion nur in JMP Pro verfügbar ist, können Sie mit etwas Aufwand das gleiche Ziel erreichen, indem Sie den Daten Formelspalten hinzufügen Tabelle, wie in diesem Artikel beschrieben.
Ein traditioneller Weg, dies zu tun, ist die Imputation. Sie schätzen die fehlenden Werte. Eine Standard-Imputationsmethode ist das Vorhersagen von Werten für eine fehlende Variable unter Verwendung aller anderen Variablen im Modell, die nicht vorhanden sind. Bei fehlenden Werten in den Daten unterstützt die Multivariate-Plattform die Imputation mit der Option "Fehlende Daten übernehmen". Und es gibt andere Anrechnungsansätze.
Informativ Fehlende Regressionscodierung ist viel einfacher als die Imputation und auch leistungsfähiger. Für jede kontinuierliche Variable in Ihrem Modell, die fehlende Werte enthält, ersetzen Sie zwei Variablen. Die erste Variable ersetzt einen Mittelwert für fehlende Daten in der Spalte. Die andere Variable ist ein Indikator für fehlende Werte - 1, wenn die ursprüngliche Spalte fehlt, andernfalls 0.
In Equity.jmp beispielsweise erstelle ich zwei neue Variablen mit Formeln für den aufgerufenen kontinuierlichen Regressor DEBTINC . Hier ist das Skript zum Erstellen von zwei neuen Variablen mit Formeln:
Neue Spalte ( “DEBTINC oder gemein, wenn er fehlt” Numerisch, Kontinuierlich,
Formel( Ob ( Wird vermisst (: DEBTINC), 33,78 . : DEBTINC))
);
Neue Spalte ( „DEBTINC fehlt“ Numerisch, Kontinuierlich,
Formel( Ob ( Wird vermisst (: DEBTINC), 1, 0))
);
“ 33,78 ”In der Formel ist der Mittelwert von DEBTINC , obwohl es jeder Wert sein kann, den Sie mögen.
Jetzt anstatt zu verwenden DEBTINC Im Modell verwenden Sie die zwei neuen Formelvariablen DEBTINC oder Mittelwert, wenn er fehlt und DEBTINC fehlt . Der zusätzliche Prädiktor - die Indikatorvariable - kann die Antwort stark vorhersagen. In diesem Beispiel ist das Verlassen des Feldes ein starker Hinweis auf das Risiko eines Darlehens an den Antragsteller.
Mit diesen zwei neuen Prädiktoren haben Sie zwei Variablen, die niemals fehlen, sodass sie in allen Daten verwendet werden können. Die fehlende Wertindikatorvariable kann für die Anpassung wichtig sein, sodass Sie die Möglichkeit haben, die Anpassung zu verbessern.
Was ist mit dem anderen neuen Regressor? DEBTINC oder Mittelwert, wenn er fehlt ? Es scheint ein primitiver Weg zu sein DEBTINC nur mit dem Mittelwert. Das Ersetzen fehlender Werte durch den Mittelwert hat keinen Einfluss auf die Schätzung dieser Variablen. Vielmehr schätzt der Parameter für den Indikator für fehlende Werte die Differenz zwischen der Vorhersage und dem Mittelwert dieses Reglers.
Sie könnten anstelle des Mittelwerts Null für das Fehlen verwenden DEBTINC . Der Parameter würde dann die Differenz zwischen der Vorhersage und einer Null für diese Kovariate schätzen. Der Plug-In-Wert für "missing" beeinflusst nur die Interpretation der Indikatorparameterschätzung.
Diese Technik ist keine Imputation. Sie ersetzen die fehlenden Werte nicht durch vorhergesagte Werte. Stattdessen erstellen Sie ein Kodierungssystem, um Informationen wiederherzustellen, wenn die Regressoren fehlen. Außerdem verwenden Sie fehlende Werte für ihren Vorhersagewert. Es wird davon ausgegangen, dass ein fehlender Wert kein zufälliges Ereignis ist, sondern aus einem bestimmten Grund einen Vorhersagewert hat. Deshalb nennen wir diese Kodierungstechnik "Informative Missing" Regressionskodierung.
Tabelle 1 zeigt die dramatischen Unterschiede zwischen der Verwendung von Imputation und Informative Missing für die Equity.jmp-Daten.
Tabelle 1. Vergleich von Imputation mit informativem Missing
Methode | Anzahl der verwendeten Beobachtungen | R Quadrat |
Altes Vollmodell mit zeilenweisem Ausschluss | 3.364 | 23,2% |
| Ein variables Modell mit DEBTINC fehlt | 5,960 | 25,6% |
| Neues Vollmodell mit informativen Fehlfunktionen | 5,960 | 45,6% |
Abbildung 1 zeigt, dass Indikatorenvariablen für fehlende Werte sehr wichtig sind, mit DEBTINC fehlt signifikanter als jeder andere Regressor im Modell.
[Fehlendes Bild]
Abbildung 1. Parameterschätzungen nach Signifikanz sortiert
Wie hier gezeigt, können Sie Formelsäulen (oder Transformationen) erstellen, mit denen Sie regressieren können. Bei JMP Pro 11 müssen Sie in Fit Model nur die Menüoption "Informative Missing" des roten Dreiecks auswählen. Eine weitere Option ist das Herunterladen des Add-Ins "Informative Missing Coding" vom JMP-Dateiaustausch .
Fehlendes Verhalten kann Ihr Freund sein, wenn Sie es als wertvoll betrachten.
