Erfahren Sie mehr in unserem kostenlosen Online-Kurs:
Statistisches Denken zur industriellen Problemlösung
In diesem Video zeigen wir, wie man ein bestraftes Regressionsmodell mithilfe der generalisierten Regression in JMP Pro anpasst. Wir verwenden die Datei Bodyfat 07.jmp und passen mithilfe des Lassos mit Validierung ein Modell für %Fat an.
Zuerst passen wir ein lineares Regressionsmodell für %Fat an.
Dazu wählen wir im Menü „Analysieren“ die Option „Modell anpassen“. Wir wählen %Fat für die Y-Rolle aus, wählen alle Prädiktoren als Modelleffekte aus und verwenden die Validierungsspalte in der Validierungsrolle.
Dann wählen wir im Menü „Persönlichkeit“ die Option „Generalisierte Regression“ aus.
Die Standardantwortverteilung ist Normal.Wir werden dieses Modell mit der Normalverteilung ausführen.
Sie können sehen, dass wir ein standardmäßiges Regressionsmodell der kleinsten Quadrate angepasst haben. Wenn wir uns die Tabelle „Parameterschätzungen“ ansehen, können Sie erkennen, dass drei der Prädiktoren signifikant sind.
Schauen wir uns jedoch die VIFs oder Varianzinflationsfaktoren an, um zu sehen, ob es ein Problem mit der Multikollinearität gibt.
Dazu klicken wir mit der rechten Maustaste auf die Tabelle „Parameterschätzungen“ und wählen „Spalten“ und dann „VIF“ aus. Sie können sehen, dass viele dieser Werte größer als 10 sind und zwei der Werte größer als 100 sind. Dies zeigt uns, dass Multikollinearität bei diesen Daten tatsächlich ein Problem darstellt.
Wenn Sie korrelierte Prädiktoren haben, können Sie anstelle der Regression der kleinsten Quadrate eine Methode der bestraften Schätzung verwenden.
Die Standardmethode ist das Lasso, die Abkürzung für Least Absolute Shrinkage and Selection Operator. Das Lasso wendet eine Strafe an, um die Parameterschätzungen zu verkleinern. Da es die Schätzungen auf Null reduzieren kann, kann das Lasso auch zur Variablenauswahl verwendet werden.
Für das Lasso stehen viele Optionen zur Verfügung, wir werden das Modell jedoch mit den Standardeinstellungen ausführen.
Wir haben bei der Angabe des Modells eine Validierungsspalte verwendet, daher ist die Validierungsspalte die Standardvalidierungsmethode.
Wir klicken auf „Los“, um dieses Modell auszuführen.
Das beste, vom Lasso ausgewählte Modell wird angezeigt. Dies ist das Modell mit dem optimalen Wert des Strafparameters Lambda.
Beginnen wir mit allen Begriffen im Modell. Dies ist dasselbe wie unser Modell der kleinsten Quadrate. Dazu ziehen wir die rote Linie im Lösungspfad der Parameterschätzungen ganz nach rechts.
Der Lösungspfad zeigt die Größe der zentrierten und skalierten Parameterschätzungen. Um diese Schätzungen anzuzeigen, wählen wir „Regressionsberichte“ aus dem roten Dreieck für das Modell und dann „Parameterschätzungen für zentrierte und skalierte Prädiktoren“ aus.
Die oberste Zeile steht für die Parameterschätzung für den Bauch, die bei 117,87 liegt.
Die zweite Zeile von oben ist der BMI. Diese Schätzung liegt bei 88,9.
Wenn wir die rote Linie von rechts nach links ziehen, erhöhen wir den Wert des Strafparameters Lambda. Sie können sehen, dass dabei viele der Parameterschätzungen kleiner werden. Das heißt, sie schrumpfen.
Beispielsweise ist die Schätzung für den BMI von 88,9 auf 51,25 gesunken. Die Parameterschätzung für das Gewicht ist auf Null geschrumpft. Dieser Begriff wird aus dem Modell entfernt.
Hier wurde eine hohe Strafe verhängt. Bis auf Größe und Bauch wurde alles vom Modell entfernt.
Wie bestimmen Sie, wann das Entfernen von Begriffen aus dem Modell beendet werden soll? Das heißt, wie bestimmen wir den optimalen Wert des Strafparameters?
Dieses Modell wurde unter Verwendung einer Validierungsspalte erstellt, daher verwendet JMP eine Statistik namens skalierte negative Log-Likelihood.
Das Modell wird anhand der Daten im Trainingssatz erstellt. Das beste Modell ist dasjenige, das den Mindestwert der skalierten negativen Log-Likelihood für den Validierungssatz aufweist.
Dieses Modell umfasst mehrere Parameter. Die Schätzungen für Gewicht, BMI, Oberschenkel und Knie wurden aus dem Modell entfernt.
Schauen wir uns dieses reduzierte Modell an. Dazu wählen wir im roten Dreieck für das Modell die Option „Vorhersageausdruck anzeigen“ aus.
Die Parameterschätzungen sind einfach Koeffizienten in einem linearen Modell, genau wie Sie sie erhalten würden, wenn Sie ein multiples lineares Regressionsmodell angepasst hätten.
Dadurch sind bestrafte Modelle leicht zu interpretieren und zu erklären.
