Bezüglich der Parameterschätzungen aus der Regressionsanalyse kann ich die standardisierten partiellen Regressionskoeffizienten (standardisierte Beta-Werte) anzeigen, weiß aber nicht, wie ich das 95%-Konfidenzintervall für diese Koeffizienten darstellen kann. Falls jemand weiß, wie das geht, wäre ich für einen Hinweis dankbar.
Vielen Dank für Ihre Mitarbeit.
PS Ich dachte, das 95%-Konfidenzintervall für den standardisierten partiellen Regressionskoeffizienten ließe sich mit der Formel „Standardisierter partieller Regressionskoeffizient = Partieller Regressionskoeffizient x (Standardabweichung der erklärenden Variable / Standardabweichung der abhängigen Variable)“ berechnen. Daher habe ich versucht, den standardisierten partiellen Regressionskoeffizienten (standardisiertes β) anhand der aus der „Univariaten Verteilung“ erhaltenen Werte für „Standardabweichung der erklärenden Variable“ und „Standardabweichung der abhängigen Variable“ zu berechnen. Der Wert unterschied sich jedoch geringfügig von dem im Bericht angegebenen standardisierten partiellen Regressionskoeffizienten (standardisiertes β).
(Auf Japanisch)
■ Zu den Punktschätzungen: Wie Sie bereits erwähnt haben, lauten die Punktschätzungen der partiellen Regressionskoeffizienten bei der üblichen Kleinste-Quadrate-Schätzung (OLS) für lineare Regressionsanalysemodelle wie folgt:
Standardisierter partieller Regressionskoeffizient = Partieller Regressionskoeffizient × (Standardabweichung der erklärenden Variable / Standardabweichung der abhängigen Variable)
Das ist die Beziehung.
Standardmäßig werden fehlende Werte in „Modellanpassung“ mithilfe der Listenmethode behandelt. Die Listenmethode schließt jede Zeile von der Berechnung aus, wenn auch nur ein Wert im Paar aus abhängiger Variable y und unabhängigen Variablen x1, x2, ..., x_p fehlt.
Sind alle erklärenden Variablen stetig, können Sie den Mittelwert und die Standardabweichung nach listenweiser Entfernung mithilfe der Methode der „multivariaten Korrelation“ ermitteln.
(1) Wählen Sie [Analysieren] > [Multivariate Korrelation] .
(2) Wählen Sie im sich öffnenden Startfenster in der Kombinationsbox für „Varianzschätzung“ unten links die Option „Listenweise“ aus.
(3) Geben Sie alle Paare von abhängigen Variablen (y) und unabhängigen Variablen (x1, x2, ... x_p) in [Y, Spalte] an und klicken Sie auf die Schaltfläche [OK] .
(3) Klicken Sie oben auf die rote Dreiecksschaltfläche neben „Multivariat“ und wählen Sie [Grundlegende Statistik] > [Grundlegende Statistik für Multivariat] .
Alternativ können Sie eine Datentabelle erstellen, die nur Daten ohne fehlende Werte enthält, indem Sie die folgenden Schritte ausführen:
(1) Wählen Sie [Tabelle] > [Fehlende Wertemuster anzeigen] .
(2) Geben Sie alle Paare von abhängigen Variablen (y) und unabhängigen Variablen (x1, x2, ... x_p) in [Spalte hinzufügen] an und klicken Sie auf die Schaltfläche [OK] .
(3) Wählen Sie die erste Zeile der erstellten Datentabelle aus. In dieser ersten Zeile ist die „Anzahl der Spalten mit fehlenden Werten“ gleich 0, und alle „Muster“ sind gleich 0.
(4) Aktivieren Sie die ursprüngliche Datentabelle. Als Ergebnis des Vorgangs in (3) werden nur Zeilen ohne fehlende Werte ausgewählt.
(5) Wählen Sie [Tabelle] > [Teilmenge] .
(6) Wählen Sie die Optionsfelder [Ausgewählte Zeilen] und [Alle Spalten] aus und klicken Sie dann auf die Schaltfläche [OK] .
Wenn die Daten keine fehlenden Werte enthalten und die Abweichung von manuellen Berechnungen sehr gering ist, liegt dies möglicherweise daran, dass Sie die Zahlen bei den manuellen Berechnungen gerundet haben. JMP-Berichte zeigen Zahlen mit gerundeten Werten an. Um mehr Dezimalstellen anzuzeigen, klicken Sie mit der rechten Maustaste auf eine Spalte in der Tabelle und wählen Sie im Kontextmenü „Spaltenformat“. Ändern Sie anschließend die Anzahl der Dezimalstellen auf „20“ oder einen ähnlichen Wert. Alternativ können Sie mit der rechten Maustaste auf die Tabelle klicken und im Kontextmenü „In Datentabelle ausgeben“ auswählen. Dadurch werden die Ergebnisse in eine JMP-Datentabelle exportiert, in der Sie durch Klicken auf eine Zelle die ungerundeten, detaillierten Zahlen kopieren können.
Die listenweise Methode zum Umgang mit fehlenden Werten ist nur dann ein gültiges Schätzverfahren, wenn der Mechanismus für fehlende Daten vollständig zufällig ist (MCAR). Wenn Sie JMP Pro oder JMP Student Edition verwenden, können Sie in der Plattform „Strukturgleichungsmodelle“ eine Maximum-Likelihood-Schätzung mit vollständigen Informationen unter der Annahme einer multivariaten Normalverteilung durchführen. Sie erreichen die Plattform „Strukturgleichungsmodelle“ über [analysieren] > [Multivariat] > [Strukturgleichungsmodelle] . In der Plattform „Strukturgleichungsmodelle“ muss das Modell mithilfe eines Pfaddiagramms spezifiziert werden. Bei Interesse melden Sie sich bitte. Die Maximum-Likelihood-Schätzung mit vollständigen Informationen unter der Annahme einer multivariaten Normalverteilung ist ein gültiges Schätzverfahren, wenn die Grundgesamtheit multivariat normalverteilt ist und der Mechanismus für fehlende Daten zufällig ist (MAR).
■ Zu den Konfidenzintervallen: Da die Punktschätzung für das Konfidenzintervall der standardisierten partiellen Regressionskoeffizienten b sy/sx_j ist (wobei b der partielle Regressionskoeffizient, sy die Standardabweichung der abhängigen Variablen und sx_j die Standardabweichung der j-ten unabhängigen Variablen ist), kann man (l sy/sx_j, u sy/sx_j) als approximatives Konfidenzintervall verwenden. Hierbei ist l die untere und u die obere Grenze des Konfidenzintervalls. Diese Approximation ist jedoch nur dann gut, wenn sy und sx_j mit hoher Genauigkeit geschätzt werden und sy/sx_i als konstant angenommen werden kann. Normalerweise weisen sy und sx_j, ähnlich wie b, eine gewisse Variabilität auf, weshalb diese Methode als wenig geeignet gilt.
Bei einfachen Regressionskoeffizienten stimmen die standardisierten partiellen Regressionskoeffizienten mit den Korrelationskoeffizienten überein. Die Stichprobenverteilung des Korrelationskoeffizienten bei einer bivariaten Normalverteilung der Grundgesamtheit ist in Cramer (1946, S. 397–401) dargestellt. Theoretisch lässt sich damit ein genaues Konfidenzintervall bestimmen, obwohl eine numerische Integration erforderlich ist (wenn die Grundgesamtheit eine bivariate Normalverteilung aufweist). Da jedoch eine numerische Integration notwendig ist, wird in der Praxis traditionell die Fisher-Z-Transformation zur Bestimmung des Konfidenzintervalls für den Korrelationskoeffizienten verwendet. Auch JMPs „Multivariate Correlation“ verwendet die Fisher-Z-Transformation zur Bestimmung des Konfidenzintervalls für den Korrelationskoeffizienten.
Bootstrapping ist eine statistische Methode, die häufig in Situationen eingesetzt wird, in denen es schwierig ist, eine Stichprobenverteilung zu finden, die eine gute Näherung liefert, und zwar nicht nur für standardisierte partielle Regressionskoeffizienten. Bootstrapping kann auch in der linearen Regressionsanalyse der Plattformen „Modellabgleich“ und „Strukturgleichungsmodell“ angewendet werden.
"Modellabgleich" >
(0) Die Berechnung in (5) unten wird einige Zeit in Anspruch nehmen. Wenn Sie also gerade Analysen oder Datenverarbeitungen in JMP durchführen, speichern Sie diese vorsichtshalber.
(1) Klicken Sie mit der rechten Maustaste auf die Tabelle „Parameterschätzungen“ im Bericht und wählen Sie [Standard β] aus.
(2) Klicken Sie mit der rechten Maustaste auf die angezeigte Spalte "Standard β" und wählen Sie [Bootstrap] .
(3) Geben Sie die [Bootstrap-Stichprobengröße] an (z. B. 10.000 Mal).
(4) Geben Sie einen Startwert für die Zufallszahlengenerierung an, um die Reproduzierbarkeit zu gewährleisten.
(5) Klicken Sie auf die Schaltfläche [OK] .
→ Das Bootstrap-Sampling beginnt. Dies wird einige Zeit in Anspruch nehmen.
(6) Klicken Sie in der erstellten Datentabelle auf die grüne Dreiecksschaltfläche in der oberen linken Ecke des Tabellenskripts „Univariate Verteilung“ .
Die oben beschriebenen Schritte zeigen die Bootstrap-Verteilung und das daraus berechnete Konfidenzintervall an.
„BC“ steht für „bias-korrigiert“, und das Bootstrap-Konfidenzintervall wird unter Verwendung der bias-korrigierten Perzentilmethode berechnet, wie in Efron (1982, S. 82-84) beschrieben.
Bei der Anwendung der linearen Regressionsanalyse mit „Modellabgleich“ und der Bootstrap-Methode bei fehlenden Werten empfiehlt es sich, die Analyse erst nach der Erfassung vollständiger Daten mithilfe der oben beschriebenen Funktion „Muster fehlender Werte anzeigen“ durchzuführen. Dies gilt jedoch, wie auch bei Punktschätzungen, nur für vollständig zufällig fehlende Daten (MCAR).
(0) Die Berechnung in (2) unten wird einige Zeit in Anspruch nehmen. Wenn Sie also Analysen oder Datenverarbeitungen in JMP durchführen, speichern Sie diese vorsichtshalber.
(1) Nachdem Sie ein Pfaddiagramm erstellt und ein lineares multiples Regressionsmodell angepasst haben, wählen Sie im Bericht des Modells die Option „Standardisierte Parameterschätzungen“ aus.
(2) Wählen Sie über die rote Dreiecksschaltfläche mit der Bezeichnung „Strukturgleichungsmodell“ oben im Bericht die Option [Inferenzmethode] > [Bootstrap-Inferenz] .
■Ergänzung
Obwohl die multiple Imputation in JMP, JMP Pro und JMP Student Edition nicht unterstützt wird, gibt es eine Methode zum Umgang mit fehlenden Daten. Ähnlich wie die Bootstrap-Methode ist die multiple Imputation ein universelles statistisches Verfahren, das keine besonders komplexen analytischen Herleitungen erfordert. Theoretisch wäre es möglich, Bootstrap und multiple Imputation gleichzeitig anzuwenden, jedoch unterstützen JMP, JMP Pro und JMP Student Edition die multiple Imputation nicht. Selbst wenn dies möglich wäre, wäre die Rechenzeit wahrscheinlich beträchtlich.
■参考文献
Cramér, H. (1946) Mathematische Methoden der Statistik . Princeton University Press.
Efron, B. (1982) Das Jackknife-Verfahren, das Bootstrap-Verfahren und andere Resampling-Verfahren . Gesellschaft für Industrie- und Angewandte Mathematik.
Mithilfe der in „< Lineare Regressionsanalyse mittels Modellanpassung>“ beschriebenen Bootstrap-Methode konnte ich das 95%-Konfidenzintervall für die standardisierten partiellen Regressionskoeffizienten in der einfachen Regressionsanalyse ermitteln. Vielen Dank!
Ich habe eine Anschlussfrage: Ist diese Methode auch für multiple Regressionsanalysen anwendbar? Ich konnte die „Bootstrap-Methode“ in der Spalte „Standard-Beta“ der multiplen Regressionsanalyse auswählen. Bei der anschließenden Berechnung erhielt ich Werte, die nahe an denjenigen lagen, die sich aus dem 95%-Konfidenzintervall des partiellen Regressionskoeffizienten multipliziert mit (Standardabweichung der erklärenden Variable / Standardabweichung der abhängigen Variable) ergeben. Ich bitte die zusätzliche Frage zu entschuldigen und danke Ihnen im Voraus für Ihre Hilfe.
Die Bootstrap-Methode approximiert Konfidenzintervalle durch wiederholtes Ziehen von Stichproben aus den Originaldaten und kann auch in der multiplen Regressionsanalyse eingesetzt werden. Obwohl Bootstrap-Stichproben, die zu einem Fehlschlagen der multiplen Regressionsschätzung führen, häufig bei zu kleinem Stichprobenumfang oder zu großer Anzahl erklärender Variablen auftreten können, ist die Methode sowohl in der einfachen als auch in der multiplen Regressionsanalyse anwendbar. Die rote Linie in der folgenden Abbildung stellt das Bootstrap-Konfidenzintervall unter Verwendung der bias-korrigierten Perzentilmethode dar.
Bootstrapping schlägt stets fehl, wenn Parameter an den Rändern der Verteilung geschätzt werden sollen, beispielsweise Maximal- oder Minimalwerte oder das 1. oder 99. Perzentil. Da der Maximal- (oder Minimal-)Wert einer Bootstrap-Stichprobe niemals den Maximal- (oder Minimal-)Wert der Daten überschreiten kann, ist die Bootstrap-Schätzung immer fehlgeschlagen.
Vielen Dank nochmals für Ihre Antwort. Ich verstehe nun die Fälle, in denen die Bootstrap-Methode nicht funktioniert.
Ich verwende mindestens 400 Datenpunkte und muss keine Parameter an den Rändern der "Verteilung" schätzen, daher halte ich diese Methode für absolut akzeptabel.
Allerdings beträgt die maximale Anzahl an erklärenden Variablen, die in einer multiplen Regressionsanalyse verwendet werden, 19, und wenn diese Zahl zu groß ist, ist es möglicherweise besser, sie nicht zu verwenden.
