Data Mining mit kleinen Stichproben ... Regression mit kleinen Stichproben?<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />Liebe JMP-Experten, ich weiß, dass diese Art von Diskussion sowohl ein albernes ... sehr albernes als auch ein heißes Thema zugleich sein könnte ... aber ich dachte, es wäre schön, es anzusprechen: Welche Arten von linearer UND nichtlinearer Regression? Bietet JMP an, wenn Sie eine kleine Stichprobengröße haben (z. B. 50–70 Datensätze) und ein kontinuierliches Ergebnis aus 5–7 Prädiktoren (sowohl kategorisch als auch kontinuierlich) vorhersagen möchten. Kann eine kreuzvalidierte schrittweise lineare Regression ODER eine partielle kleinste Regression k-falten Gibt es eine Lösung für dieses Problem? Sind verstärkte Bäume ODER neuronale Netze einfach verrückt, wenn man nur daran denkt? Ihre Antworten werden sehr begrüßt und sehr geschätzt. Mit Respekt, Chris
Betreff: Data Mining mit kleinen Stichproben ... Regression mit kleinen Stichproben?Auch wenn es schon ziemlich lange her ist, dass diese Frage gestellt wurde, möchte ich mich hier einmischen, da ich denke, dass die Diskussion nicht auf einige Einzelheiten eingeht, die wichtig wären, um zu entscheiden, ob Sie in der Lage sein werden, aussagekräftige Informationen zu erhalten.
1. Stammen die Daten von einem DOE? Dann sind 50–70 Beobachtungen in der Regel weitaus ausreichend, um über genügend Freiheitsgrade zu verfügen, um das zugrunde liegende Verhalten zu erkennen.
2. Wenn von einem DOE, was für ein. Es ist wichtig, dass das DOE die Modelleffekte abschätzen kann, die Sie in Ihrer Regression oder anderen Modellen untersuchen möchten. Wenn es sich nur um ein Haupteffektmodell handelt, kann das Design abschätzen, dass Sie erneut unsicher sind, ob das erstellte Modell Ihnen die Wahrheit sagt
3. Wenn es sich nur um Beobachtungen handelt, kann Ihnen die explorative Datenanalyse dabei helfen, potenzielle Muster zu identifizieren. Wenn Sie dann verschiedene Modellierungsstrategien wie die zuvor genannten anwenden und diese vergleichen, können Sie feststellen, ob Sie den Modellen vertrauen können (erzählen diese die gleiche Geschichte oder vollständig). verschiedene?)
Im letzteren Fall möchten Sie möglicherweise ein besseres Verständnis von einem DOE erhalten.
4. Neuronale Netze seien bei so wenigen Datenpunkten nicht anwendbar, heißt es oft. Neuere Untersuchungen zeigen, dass man mit bestimmten Strategien immer noch akzeptable Ergebnisse erzielen kann. Allerdings sollten Sie niemals einem Modell allein vertrauen. Probieren Sie verschiedene aus. Überprüfen Sie, wie sich das Modell verhält, wenn Sie kleine Variationen der tatsächlichen Einstellungen simulieren, ob die Simulationsergebnisse innerhalb der Vertrauensgrenzen bleiben oder stark ausbrechen.
Bevor Sie das tun, sollten Sie die Qualität der Daten überprüfen, ob es Ausreißer oder fehlende Werte gibt, ob die Spalten aufgrund einiger zuvor bekannter Beziehungen wie A ist k*B oder ähnliches korrelieren und ob es viele Duplikate gibt. Handelt es sich bei den Beobachtungen um Messungen des Gleichen über die Zeit, handelt es sich um wiederholte Messungen, ... All dies wird Ihnen sagen, was Sie mit Ihren Daten tun können und was nicht.
Ich möchte also sagen, dass man Modelle für alle erstellen kann, aber ob sie nützlich sind, hängt davon ab Ihre Frage, woher die Daten kommen, Und wie es gemessen wurde, und nicht unbedingt davon, wie viele Beobachtungen Sie haben.
Betreff: Data Mining mit kleinen Stichproben ... Regression mit kleinen Stichproben?Das ist viel klarer. Vielen vielen Dank
Mit freundlichen Grüße
C
Betreff: Data Mining mit kleinen Stichproben ... Regression mit kleinen Stichproben?Would you please be so kind and elaborate a little bit more about signal and noise? (justone sentence)
Please accept my apologies but for me these two terms are pretty allegorical to my silly mind.
Bei den meisten statistischen Modellen wird versucht, festzustellen, ob ein Signal (eine reale Beziehung) vorhanden ist, das größer ist als die Variabilität der Fehler (Rauschen). Jede mir bekannte Modellierungstechnik liefert ein Maß für dieses Signal-Rausch-Verhältnis. Bei der Standardregression wäre dies beispielsweise der Gesamt-F-Test.
Es gibt keinen Grund, warum Sie in 50 Datenpunkten nicht ein sehr großes Signal und ein sehr geringes Rauschen haben können. Es kommt auf die Daten an.
Betreff: Data Mining mit kleinen Stichproben ... Regression mit kleinen Stichproben?Danke PG, das hilft. Ich werde es mir ansehen.
Betreff: Data Mining mit kleinen Stichproben ... Regression mit kleinen Stichproben?Ja, ich meinte eine Analyse vom Typ CART, die in JMP Partition genannt wird. Wenn die abhängige Variable kontinuierlich ist, ist das Ergebnis ein Regressionsbaum, andernfalls handelt es sich um einen Klassifikationsbaum (oder Entscheidungsbaum). Ich denke, dass Regressionssplines zu viele Freiheitsgrade verschlingen, um auf die Größe Ihres Datensatzes anwendbar zu sein. - PG
Betreff: Data Mining mit kleinen Stichproben ... Regression mit kleinen Stichproben?Hallo PaigeMiller
Wären Sie bitte so nett und gehen Sie etwas näher auf Signal und Rauschen ein? ( Nur ein Satz)
Bitte nehmen Sie meine Entschuldigung entgegen, aber für mich sind diese beiden Begriffe für meinen dummen Verstand ziemlich allegorisch.
DANKE SCHÖN!
Chris
Betreff: Data Mining mit kleinen Stichproben ... Regression mit kleinen Stichproben?PS Ich weiß, dass MARS nicht in JMP angeboten wird, aber es wird von SAS angeboten ... also Drehbuch könnte helfen.
Betreff: Data Mining mit kleinen Stichproben ... Regression mit kleinen Stichproben?Zunächst einmal vielen Dank für Ihre prompte Antwort. Ich schätze es wirklich
PGStats Meinen Sie die Klassifizierungs- und Regressionsbaumanalyse? WAGEN?
Glauben Sie alternativ, dass multivariate adaptive Regressions-Splines auch für kleine Stichprobengrößen funktionieren könnten?
Vielen Dank nochmal!
Betreff: Data Mining mit kleinen Stichproben ... Regression mit kleinen Stichproben?Das erste, was ich mit solch knappen Datensätzen mache, ist eine Regressionsbaumanalyse. Es ist eine schnelle und intuitive Möglichkeit, die Beziehung zwischen Ihren abhängigen Variablen und Prädiktorvariablen zu untersuchen. Die ersten drei oder vier Knoten sind im Allgemeinen aussagekräftig. - PG
Betreff: Data Mining mit kleinen Stichproben ... Regression mit kleinen Stichproben?Ob diese Verfahren bei diesen Stichprobengrößen funktionieren oder nicht, hängt vom Signal-Rausch-Verhältnis ab. Wenn Sie über viel Signal und wenig Rauschen verfügen, benötigen Sie wahrscheinlich nicht einmal 50 Datensätze. Andersherum: niedriges Signal und hohes Rauschen, und Sie verschwenden wahrscheinlich Ihre Zeit.
