| Lautsprecher |
Transkript |
| |
Hallo, ich bin Chris Gotwalt. Mein Co |
| |
Moderatoren, Laura Lancaster und |
| |
Jeremy Ash und ich präsentieren |
| |
ein nützliches neues JMP Pro |
| |
Fähigkeit namens Extrapolation |
| |
Steuerung. Fast jedes Modell, das |
| |
Sie würden jemals vorhersagen wollen |
| |
mit verfügt über eine Reihe von |
| |
Anwendbarkeit, eine Region der |
| |
Eingaberaum, wo die |
| |
Vorhersagen gelten als |
| |
zuverlässig genug. Außerhalb dieser |
| |
Region beginnen wir zu extrapolieren |
| |
das Modell zu Punkten weit entfernt von |
| |
Daten, die zur Anpassung des Modells verwendet wurden. |
| |
die Vorhersagen dieses Modells |
| |
an diesen Punkten könnte dazu führen, |
| |
völlig unzuverlässig |
| |
Vorhersagen. Es gibt zwei |
| |
primäre Quellen von |
| Hochrechnung |
statistisch |
| |
Extrapolation und domänenbasiert |
| |
Extrapolation. Beide Typen sind |
| |
durch die neue Funktion abgedeckt. |
| |
Statistische Extrapolation erfolgt |
| |
wenn man versucht, |
| |
Vorhersagen unter Verwendung eines Modells bei einem x |
| |
das ist nicht nahe an den Werten |
| |
wird zum Trainieren dieses Modells verwendet. |
| |
Domänenbasierte Extrapolation |
| |
passiert, wenn Sie versuchen zu bewerten |
| |
bei einem x, das unmöglich ist, weil |
| |
zu wissenschaftlichen oder technischen |
| |
basierenden Einschränkungen. Das Beispiel |
| |
Hier werden beide Arten von |
| |
Extrapolation in einem Beispiel. |
| |
Hier sehen wir einen Profiler aus einem |
| |
Modell einer metallurgischen Produktion |
| |
Prozess. Die Vorhersage lautet |
| |
out sagt -2,96 ohne |
| |
Hinweis darauf, dass wir bewerten |
| |
bei einer Kombination aus Temperatur |
| |
und Druck, der unmöglich ist |
| |
in einem Domänensinn zu erreichen für |
| |
diese Maschine. Wir haben auch |
| |
statistische Extrapolation, da es |
| |
ist weit entfernt von den Daten, die zur Anpassung verwendet werden |
| |
das Modell, wie es im Scatter zu sehen ist |
| |
Diagramm der Trainingsdaten auf dem |
| |
richtig. In JMP Pro 16, Jeremy, |
| |
Laura und ich haben zusammengearbeitet, um |
| |
Fügen Sie eine neue Funktion hinzu, die |
| |
eine Warnung ausgeben, wenn der Profiler |
| |
denkt, Sie könnten |
| |
Extrapolation. Oder wenn Sie drehen |
| |
Extrapolationskontrolle eingeschaltet, es |
| |
wird die Menge der Punkte einschränken |
| |
dass Sie nur diejenigen sehen, die |
| |
es denkt nicht, sind |
| |
Extrapolation. Wir haben zwei Arten |
| |
der Extrapolationskontrolle. Eine davon ist |
| |
basierend auf dem Konzept der Hebelwirkung |
| |
und verwendet ein Kleinste-Quadrate-Modell. |
| |
Dieser erste Typ ist nur |
| |
verfügbar in der Pro-Version von |
| |
Modellanpassung nach der Methode der kleinsten Quadrate. |
| |
anderen Typ nennen wir allgemein |
| |
Extrapolation des maschinellen Lernens |
| |
Steuerung und ist verfügbar in der |
| |
Profiler-Plattform und mehrere |
| |
das am häufigsten verwendete maschinelle Lernen |
| |
Plattformen in JMP Pro. Auf |
| |
Anfrage, wir könnten es sogar hinzufügen |
| |
mehr. Kleinste Quadrate |
| |
Extrapolationskontrolle verwendet die |
| |
Konzept der Hebelwirkung, das |
| |
wie eine skalierte Version des |
| |
Vorhersagevarianz. Es ist modell- |
| |
basiert und verwendet daher Informationen |
| |
über die wichtigsten Effekte |
| |
Wechselwirkungen höherer Ordnung |
| |
Bedingungen zur Bestimmung der |
| |
Extrapolation. Für die allgemeine |
| |
Extrapolation des maschinellen Lernens |
| |
Kontrollfall mussten wir uns überlegen |
| |
mit unserem eigenen Ansatz. Wir |
| |
wollte eine Methode, die |
| |
robust gegenüber fehlenden Werten, linear |
| |
Abhängigkeiten, schnellere Berechnung, |
| |
könnte Mischungen von |
| |
kontinuierliche und kategorische Eingabe |
| |
Variablen, und wir auch |
| |
wollte sich ausdrücklich trennen |
| |
das Extrapolationsmodell aus der |
| |
Modell zur Anpassung der Daten. Also |
| |
wenn wir allgemeine |
| |
Extrapolationskontrolle eingeschaltet, |
| |
es gibt nur einen beaufsichtigten |
| |
Modell, das...das passt zu |
| |
Eingabevariablen zu den Antworten |
| |
die wir im Profiler sehen |
| |
Spuren. Der Profiler kommt |
| |
mit einem schnellen und schmutzigen |
| |
unüberwachtes Modell zur Beschreibung |
| |
die Trainingssatzachsen, und dies |
| |
unüberwachtes Modell wird verwendet |
| |
hinter den Kulissen von der |
| |
Profiler zur Bestimmung der |
| |
Extrapolationskontrolle |
| |
Einschränkung. Also muss ich |
| |
wechseln, weil PowerPoint und mein |
| |
Kamera kommen nicht klar |
| |
gerade jetzt aus irgendeinem Grund. Wir |
| |
wissen, dass riskante Extrapolationen |
| |
werden jeden Tag gemacht von |
| |
Menschen, die in der Datenwissenschaft arbeiten |
| |
und sind überzeugt, dass die Verwendung |
| |
von Extrapolationen führt zu schlechten |
| |
Vorhersagen und letztlich zu |
| |
schlechte Geschäftsergebnisse. |
| |
Hochrechnungskontrollplätze |
| |
Leitplanken für Modellvorhersagen |
| |
und wird zu quantifizierbaren |
| |
bessere Entscheidungen durch JMP Pro |
| |
Benutzer. Wenn Benutzer eine Extrapolation sehen |
| |
auftreten, muss der Benutzer eine |
| |
Entscheidung darüber, ob die |
| |
Vorhersage sollte verwendet werden oder nicht |
| |
basierend auf ihrer Domäne verwendet |
| |
Kenntnisse und Vertrautheit mit |
| |
das vorliegende Problem. Wenn Sie |
| |
beginnen, Extrapolation zu sehen |
| |
Kontrollwarnungen passieren ziemlich |
| |
oft ist es wahrscheinlich das Ende von |
| |
den Lebenszyklus für dieses Modell in |
| |
Zeit, es an neue Daten anzupassen |
| |
weil die Verteilung der |
| |
Eingaben hat sich weg von |
| |
die der Trainingsdaten. Wir |
| |
sind ehrlich gesagt ziemlich überrascht und |
| |
alarmiert, dass die Notwendigkeit für |
| |
Identifizierung Extrapolation ist nicht |
| |
besser durch die Daten geschätzt |
| |
Wissenschaftsgemeinschaft und haben |
| |
Kontrolle der Extrapolation als |
| |
so einfach und automatisch wie möglich. |
| |
Laura, die es in JMP entwickelt hat |
| |
Pro, demonstriert die |
| |
Option als nächstes. Dann Jeremy, der |
| |
habe viel über unsere |
| |
Team, wird in die Mathematik gehen |
| |
Details und statistische |
| |
Motivation für den Ansatz. |
| |
Hallo, mein Name ist Laura |
| |
Lancaster und ich sind hier, um eine |
| |
Demo der Extrapolation |
| |
Steuerelement, das zu JMP hinzugefügt wurde |
| |
Pro 16. Ich wollte anfangen |
| |
mit einem ziemlich einfachen Beispiel |
| |
unter Verwendung des Anpassungsmodells am wenigsten |
| |
Quadrate Plattform. Ich werde |
| |
verwenden einige Daten, die möglicherweise |
| |
vertraut; es sind die Fitnessdaten |
| |
das sind Beispieldaten und ich bin |
| |
werde die Sauerstoffaufnahme als |
| |
meine Antwort und Run Time, Run |
| |
Pulse und Max Pulse als meine |
| |
Prädiktoren. Und ich wollte |
| |
wiederholen, dass im Fit-Modell, |
| |
passen Sie die kleinsten Quadrate an |
| |
Extrapolationsmetrik, die |
| |
verwendet wird, ist Hebelwirkung. Also los geht's |
| |
weiter und beginnen Sie mit JMP. |
| |
So, jetzt habe ich die Fitnessdaten |
| |
in JMP öffnen und ich habe ein Skript |
| |
in der Datentabelle gespeichert, um |
| |
starte mein Fit automatisch |
| |
Kleinste-Quadrate-Modell. Also ich bin |
| |
werde weitermachen und das ausführen |
| |
Skript, es startet am wenigsten |
| |
Quadrate Plattform. Und ich habe die |
| |
Profiler automatisch geöffnet. Und |
| |
wir können sehen, dass der Profiler |
| |
sieht aus wie immer in der |
| |
Vergangenheit, wo die Faktorgrenzen |
| |
werden durch den Bereich jedes |
| |
Faktor einzeln, was uns |
| |
rechteckige Begrenzungsbeschränkungen. |
| |
Und wenn ich den Faktor ändere |
| |
Einstellungen, da diese gebunden sind |
| |
Einschränkungen, es kann wirklich |
| |
schwer zu sagen, ob du dich bewegst |
| |
weit außerhalb der Korrelation |
| |
Struktur der Daten. |
| |
Und deshalb wollten wir hinzufügen |
| |
die Extrapolationskontrolle. So |
| |
Dies wurde zu mehreren hinzugefügt |
| |
der Plattformen in JMP Pro |
| |
16, einschließlich der Methode der kleinsten Quadrate. |
| |
Und um zur Extrapolation zu kommen |
| |
Steuerung gelangen Sie in das Menü unter |
| |
das Profiler-Menü. Wenn ich also |
| |
hier sehe ich eine neue Option |
| |
Extrapolationskontrolle genannt. |
| |
Es ist standardmäßig deaktiviert. |
| |
aber ich kann es entweder |
| |
ein oder Warnung ein zum Einschalten |
| |
Extrapolationskontrolle. Wenn ich |
| |
schalten Sie es ein, beachten Sie, dass |
| |
es schränkt mein Profil ein |
| |
Spuren, um nur zu Werten zu gehen |
| |
wo ich nicht extrapoliere. |
| |
Wenn ich es in eine Warnung verwandeln würde |
| |
an, würde ich das vollständige Profil sehen |
| |
Spuren, aber ich würde eine |
| |
Warnung, wenn ich in eine Region gehe |
| |
wo es in Betracht gezogen würde |
| |
eine Extrapolation sein. |
| |
Ich kann auch die Extrapolation aktivieren |
| |
Details, die ich wirklich finde |
| |
hilfreich, und das gibt mir eine |
| |
viele weitere Informationen. Zuerst |
| |
alles in allem sagt es mir, dass mein |
| |
Metrik, die ich verwende, um |
| |
definieren Extrapolation ist |
| |
Hebelwirkung, was in der |
| |
Plattform mit kleinsten Quadraten anpassen. |
| |
Und die Schwelle, die |
| |
standardmäßig wird zunächst verwendet |
| |
wird maximale Hebelwirkung sein, |
| |
aber das ist etwas, was ich kann |
| |
ändern und ich werde Ihnen zeigen, dass |
| |
in einer Minute. Außerdem kann ich sehen |
| |
was meine Extrapolationsmetrik |
| |
ist für meine aktuellen Einstellungen. |
| |
Es ist diese Nummer hier, |
| |
die sich ändern wird, wenn ich mich ändere |
| |
meine Faktoreinstellungen. |
| |
Immer wenn diese Zahl größer ist |
| |
als die Schwelle, werde ich |
| |
bekomme diese Warnung, dass ich möglicherweise |
| |
Extrapolation. Wenn es untergeht, |
| |
Das werde ich nicht mehr bekommen |
| |
Warnung. Dieser Schwellenwert ist nicht |
| |
wird sich ändern, wenn ich mich nicht ändere |
| |
etwas im Menü einzustellen |
| |
meine Schwelle. Also lass mich weitermachen |
| |
und zwar sofort. Also werde ich |
| |
um zum Menü zu gelangen |
| |
und ich gehe zum Set |
| |
Schwellenkriterium. So |
| |
bei der Anpassung der kleinsten Quadrate haben Sie zwei |
| |
Optionen für den Schwellenwert |
| |
zunächst ist es auf Maximum eingestellt |
| |
Hebelwirkung, die weiterhin |
| |
Sie innerhalb der konvexen Hülle von |
| |
die Daten, oder Sie können zu einem |
| |
Multiplikator mal dem Durchschnitt |
| |
Hebelwirkung oder Modellbedingungen über |
| |
Beobachtungen. Und ich möchte |
| |
auf diesen Schwellenwert umschalten. Es ist also |
| |
auf 3 als Multiplikator eingestellt |
| |
standardmäßig. Das wird also |
| |
3-mal so hoch wie der durchschnittliche Hebel |
| |
und ich klicke auf OK und stelle fest, dass |
| |
meine Schwelle wird sich ändern. |
| |
Es ist tatsächlich kleiner geworden, also das |
| |
ist ein konservativer |
| |
Definition der Extrapolation. |
| |
Und ich werde es wieder zurückdrehen zu |
| |
an, um meine Profilspuren einzuschränken. |
| |
Und jetzt kann ich nur noch zu |
| |
Regionen, in denen ich innerhalb von 3 |
| |
mal der durchschnittliche Hebel. |
| |
Nun haben wir auch |
| |
implementierte Optimierung |
| |
das gehorcht dem |
| |
Hochrechnung |
| |
Einschränkungen. Wenn ich jetzt |
| |
Aktivieren Sie die Einstellung „Wünschbarkeit“ |
| |
und ich mache die Optimierung, |
| |
Ich werde einen optimalen Wert erhalten, der |
| |
erfüllt die Extrapolation |
| |
Einschränkung. Beachten Sie, dass diese |
| |
Metrik ist kleiner oder gleich |
| |
die Schwelle. Also, wenn ich jetzt gehe |
| |
zu meiner nächsten Folie, die |
| |
in einem Diagramm, einem Streudiagramm vergleichen |
| |
Matrix, der Unterschied |
| |
zwischen dem optimalen Wert mit |
| |
Extrapolationskontrolle eingeschaltet |
| |
und mit ausgeschaltetem Gerät. |
| |
Dies ist also das Streudiagramm |
| |
Matrix, die ich mit JMP erstellt habe, |
| |
und es zeigt das Original |
| |
Prädiktorvariablendaten sowie |
| |
als Werte der Prädiktorvariablen |
| |
für die optimale Lösung mit |
| |
keine Extrapolationskontrolle, in |
| |
blau, und die optimale Lösung mit |
| |
Extrapolationskontrolle in Rot. |
| |
Und beachten Sie, wie die ungezwungene |
| |
Lösung hier in blau, |
| |
genau hier, verstößt gegen die |
| |
Korrelationsstruktur für die |
| |
Originaldaten für Laufpuls und |
| |
Maximaler Puls, dadurch Erhöhung der |
| |
Unsicherheit dieser Vorhersage. |
| |
Während die optimale Lösung |
| |
die Extrapolation verwendet haben |
| |
Kontrolle ist viel mehr im Einklang |
| |
mit den Originaldaten. |
| |
Schauen wir uns nun ein Beispiel an |
| |
unter Verwendung der allgemeineren |
| |
Extrapolationskontrollmethode, |
| |
die wir als |
| |
regularisierte T-Quadrat-Methode. Als |
| |
Chris hat bereits erwähnt, dass wir |
| |
entwickelte diese Methode für Modelle |
| |
andere als Kleinstquadrate-Modelle. |
| |
Wir werden uns also ansehen |
| |
neuronales Modell für den Diabetes |
| |
Daten, die auch in der Stichprobe enthalten sind |
| |
Daten. Die Antwort ist ein Maß |
| |
des Krankheitsverlaufs und der |
| |
Prädiktoren sind die Basislinie |
| |
Variablen. Wieder einmal |
| |
Extrapolationsmetrik für |
| |
Dieses Beispiel ist die |
| |
reguliertes T-Quadrat, das |
| |
Jeremy wird in |
| |
mehr Details in ein paar Minuten. |
| |
Ich habe also die Diabetesdaten geöffnet in |
| |
JMP und ich haben ein Skript gespeichert |
| |
meines neuronalen Modells passt. Ich bin |
| |
werde weitermachen und das ausführen |
| |
Skript. Es startet das neuronale |
| |
Plattform, und beachten Sie, dass ich |
| |
mit Validierungsmethode, zufällig |
| |
halte dich zurück. Ich wollte nur anmerken |
| |
dass jedes Mal, wenn Sie eine |
| |
Validierungsmethode, die |
| |
Die Extrapolationskontrolle basiert |
| |
nur auf den Trainingsdaten |
| |
und nicht Ihre Bestätigung |
| |
oder Testdaten. |
| |
Also habe ich den Profiler geöffnet und |
| |
Sie können sehen, dass es die |
| |
vollständige Spuren. Extrapolation |
| |
Steuerung ist nicht eingeschaltet. Lass uns |
| |
schalten Sie es ein. |
| |
Und ich werde auch |
| |
schalten Sie die Details ein. |
| |
Sie können sehen, dass die Spuren |
| |
eingeschränkt und die Metrik |
| |
ist das regulierte T-Quadrat. Die |
| |
Schwellenwert ist das Dreifache |
| |
Standardabweichung der Stichprobe |
| |
reguliertes T-Quadrat. Jeremy ist |
| |
mehr darüber reden, was |
| |
das alles bedeutet genau in wenigen |
| |
Minuten. Und ich wollte nur |
| |
erwähnen, dass wir, wenn wir |
| |
das regulierte T-Quadrat |
| |
Methode, es gibt nur eine Wahl |
| |
für Schwellenwert, aber Sie können |
| |
Passen Sie den Multiplikator an. Wenn Sie also |
| |
gehe zur Extrapolationssteuerung, setze |
| |
Schwellenwert können Sie diesen |
| |
Multiplikator, aber ich werde |
| |
lass es bei 3. Und jetzt ich |
| |
Sie möchten die Optimierung mit |
| |
Extrapolationskontrolle. Also bin ich |
| |
nur maximieren und |
| |
erinnere mich. Jetzt habe ich eine |
| |
optimale Lösung mit |
| |
Extrapolationskontrolle eingeschaltet |
| |
an. Und jetzt möchte ich schauen |
| |
in unserer Streudiagrammmatrix, nur |
| |
wie wir es uns vorher angesehen haben, mit |
| |
die Originaldaten sowie |
| |
mit den optimalen Werten mit |
| |
und ohne Extrapolation |
| |
Kontrolle. |
| |
Dies ist also eine Streudiagrammmatrix |
| |
der Diabetesdaten, die ich |
| |
in JMP erstellt. Es hat die |
| |
ursprünglichen Prädiktorwerte, als |
| |
sowie die optimale Lösung |
| |
Verwendung der Extrapolationskontrolle in |
| |
rot, und optimale Lösung ohne |
| |
Extrapolationskontrolle in Blau. |
| |
Und Sie können sehen, dass das rote |
| |
Punkte scheinen viel mehr |
| |
innerhalb der Korrelationsstruktur |
| |
der Originaldaten als die |
| |
blau, und das ist besonders |
| |
wahr, wenn man sich dieses LDL ansieht |
| |
im Vergleich zum Gesamtcholesterin. |
| |
Schauen wir uns nun ein Beispiel an |
| |
mit dem Profiler, der unter |
| |
das Graph-Menü, das ich nenne |
| |
der Graph-Profiler. Es verwendet auch |
| |
die regularisierte T-Quadrat-Methode |
| |
und es ermöglicht uns, |
| |
Extrapolationskontrolle auf jedem |
| |
Modelltyp, der |
| |
erstellt und als JSL gespeichert |
| |
Formel. Es ermöglicht uns auch, |
| |
haben Extrapolationskontrolle auf |
| |
mehr als ein Modell gleichzeitig. |
| |
Schauen wir uns also ein Beispiel an |
| |
für ein Unternehmen, das Pulver verwendet |
| |
Metallurgie-Technologie zu |
| |
produzieren Stahlantriebswellen für |
| |
der Automobilindustrie. |
| |
Sie wollen finden können |
| |
optimale Einstellungen für ihre |
| |
Produktion, die minimiert |
| |
Schrumpfung und auch minimieren... |
| |
Minimieren Sie Ausfälle aufgrund schlechter |
| |
Servicebedingungen. Wir haben also |
| zwei |
Reaktionen Schrumpfung (die |
| |
kontinuierlich und wir werden |
| |
Passen Sie ein Kleinstquadrate-Modell an für |
| |
dass) und Oberflächenbeschaffenheit (die |
| |
ist bestanden/nicht bestanden und wir werden |
| |
passen Sie ein nominales logistisches Modell an für |
| |
das). Und unser Prädiktor |
| |
Variablen sind nur einige Schlüssel |
| |
Prozessvariablen in der Produktion. |
| |
Und noch einmal die Extrapolation |
| |
Metrik ist das regulierte T-Quadrat. |
| |
Also habe ich das Pulver |
| |
Metallurgiedaten in JMP öffnen |
| |
und ich habe schon mindestens |
| |
Quadratmodell für meine Schrumpfung |
| |
Antwort, und ich habe bereits eine |
| |
nominales logistisches Modell für die |
| |
Oberflächenzustand bestanden/nicht bestanden |
| |
Antwort, und ich habe die |
| |
Vorhersageformeln zu den Daten |
| |
Tisch, damit sie bereit sind, |
| |
im Graph-Profiler verwendet werden. |
| |
Wenn ich also zum Diagrammmenü gehe |
| |
Profiler kann ich die |
| |
Vorhersageformel für Schrumpfung |
| |
und meine Vorhersageformel ist für |
| |
der Oberflächenzustand. |
| |
Klicken Sie auf OK. Und jetzt habe ich |
| |
beide meiner Modelle starteten in |
| |
der Graph-Profiler. |
| |
Und bevor ich einschalte |
| |
Extrapolationskontrolle, Sie |
| |
kann sehen, dass ich die volle |
| |
Profilspuren. Sobald ich einschalte |
| |
Extrapolationskontrolle |
| |
Sie können sehen, dass die Spuren |
| |
etwas schrumpfen, und ich werde auch |
| |
um die Details einzuschalten, |
| |
nur um zu zeigen, dass ich es tatsächlich bin |
| |
unter Verwendung des regulierten T-Quadrats |
| |
hier in dieser Methode. |
| |
Was ich also wirklich tun möchte, ist, |
| |
wollen die optimale |
| |
Bedingungen, unter denen ich minimiere |
| |
Schrumpfung und ich minimiere |
| |
Ausfälle mit Extrapolation |
| |
Kontrolle und ich möchte sicherstellen, |
| |
Ich extrapoliere nicht. Ich möchte |
| |
eine sinnvolle Lösung finden. Und |
| |
bevor ich die Optimierung durchführen kann, |
| |
Ich muss eigentlich meine |
| |
Wünsche. Also werde ich |
| |
Wünsche festlegen. Es ist bereits |
| |
richtig für Schrumpfung, aber ich |
| |
müssen Sie sie für den Dienst einstellen |
| |
Zustand. Ich werde versuchen, zu maximieren |
| |
Pässe und minimieren Sie Fehler. |
| |
K. |
| |
Und jetzt sollte ich in der Lage sein, |
| |
die Optimierung mit |
| |
Extrapolationskontrollen eingeschaltet. |
| |
Maximieren Sie und denken Sie daran. |
| |
Und jetzt habe ich mein optimales |
| |
Lösung mit Extrapolation |
| |
Kontrolle an. Schauen wir uns nun an |
| |
noch einmal bei der |
| |
Streudiagrammmatrix der |
| |
Originaldaten zusammen mit den |
| |
Lösung mit Extrapolation |
| |
Kontrolle in der Lösung, |
| |
mit der Extrapolationskontrolle |
| |
aus. |
| |
Dies ist also eine Streudiagrammmatrix |
| |
der pulvermetallurgischen Daten |
| |
die ich in JMP erstellt habe. Und es |
| |
hat auch die optimale Lösung |
| |
mit Extrapolationskontrolle als |
| |
roter Punkt und die optimale |
| |
Lösung ohne Extrapolation |
| |
Kontrolle als blauer Punkt. Und einmal |
| |
Sie können wieder sehen, dass, wenn wir |
| |
führen Sie die Extrapolation nicht durch |
| |
Steuerung, die optimale Lösung |
| |
liegt ziemlich weit außerhalb der |
| |
Korrelationsstruktur der |
| |
Daten. Wir können insbesondere sehen |
| |
das hier mit Verhältnis versus |
| |
Verdichtungsdruck. |
| |
So, jetzt möchte ich übergeben |
| |
die Präsentation für Jeremy |
| |
um noch viel mehr zu erfahren |
| |
Einzelheiten zu unseren Methoden. |
| |
Hallo, hier sind einige |
| |
Ziele für die Extrapolationskontrolle |
| |
die wir am |
| |
Beginn des Projekts. Wir |
| |
benötigte eine Extrapolationsmetrik |
| |
das könnte schnell berechnet werden |
| |
mit einer großen Anzahl von |
| |
Beobachtungen und Variablen und |
| |
Wir brauchten eine schnelle Möglichkeit zur Beurteilung |
| |
ob die angegebene Metrik |
| |
Extrapolation oder nicht. Dies war |
| |
um die Interaktivität von |
| |
der Profiler verfolgt und |
| |
wir brauchten dies, um |
| |
Optimierung durchführen. |
| |
Wir wollten in der Lage sein, |
| |
unterstützen die verschiedenen Variablen |
| |
Typen verfügbar in der |
| |
Profiler. Dies sind |
| |
im Wesentlichen kontinuierlich, |
| |
kategorisch und ordinal. |
| |
Wir wollten nutzen |
| |
Beobachtungen mit fehlenden Zellen, |
| |
weil einige Modellierungsmethoden |
| |
wird diese Beobachtungen beinhalten |
| |
In ???. |
| |
Wir wollten eine Methode, die |
| |
robust gegenüber linearen Abhängigkeiten in |
| |
die Daten. Diese treten auf, wenn die |
| |
Anzahl der Variablen ist größer |
| |
als die Anzahl der Beobachtungen, |
| |
zum Beispiel. Und wir wollten |
| |
etwas, das leicht zu |
| |
automatisieren, ohne dass ein |
| |
viele Benutzereingaben. |
| |
Für Kleinstquadrate-Modelle |
| |
landete auf Hebelwirkung, die |
| |
wird oft verwendet, um Ausreißer zu identifizieren |
| |
in linearen Modellen. Der Hebel |
| |
für den neuen Vorhersagepunkt ist |
| |
berechnet nach diesem |
| |
Formel. Es gibt viele |
| |
Interpretationen für Hebelwirkung. |
| |
Eine Interpretation ist, dass es |
| |
die multivariable Distanz eines |
| |
Vorhersagepunkt vom Zentrum |
| |
der Trainingsdaten. Ein weiterer |
| |
Interpretation ist, dass es sich um eine |
| |
skalierte Vorhersagevarianz. Also |
| |
wenn sich der Vorhersagepunkt bewegt |
| |
weiter weg vom Zentrum |
| |
der Daten, die Unsicherheit |
| |
der Vorhersage steigt. Und wir |
| |
Verwenden Sie zwei gemeinsame Schwellenwerte in |
| |
die statistische Literatur für |
| |
festzustellen, ob dieser Abstand |
| |
ist zu groß. Das erste ist |
| |
maximale Hebelwirkung, Vorhersage |
| |
Punkte über dieser Schwelle |
| |
oder außerhalb der konvexen Hülle von |
| |
die Trainingsdaten. |
| |
Und die zweite ist dreimal so |
| |
Durchschnitt der Hebelwirkungen. Es |
| |
kann gezeigt werden, dass dies |
| |
entspricht dem Dreifachen der |
| |
Anzahl der Modellterme geteilt |
| |
durch die Anzahl der Beobachtungen. |
| |
Und wie Laura es beschrieben hat |
| |
früher, können Sie ändern die |
| |
Multiplikator dieser |
| |
Schwellenwerte. |
| |
Schließlich, wenn Wünsche |
| |
optimiert werden, die |
| |
Extrapolationsbeschränkung ist eine |
| |
nichtlineare Einschränkung und |
| |
zuvor erlaubte der Profiler |
| |
eingeschränkte Optimierung mit |
| |
lineare Beschränkungen. Diese Art von |
| |
Optimierung ist mehr |
| |
herausfordernd, also implementierte Laura |
| |
ein genetischer Algorithmus. Und wenn Sie |
| |
sind mit diesen nicht vertraut, |
| |
genetische Algorithmen verwenden die |
| |
Prinzipien der molekularen |
| |
Evolution zur Optimierung |
| |
komplizierte Kostenfunktionen. |
| |
Als nächstes werde ich über die |
| |
Ansatz, den wir zur Verallgemeinerung verwendet haben |
| |
Extrapolationskontrolle auf Modelle |
| |
andere als lineare Modelle. Wenn |
| |
Sie erstellen eine prädiktive |
| |
Modell in JMP, beginnen Sie mit einem |
| |
Satz von Prädiktorvariablen und einem |
| |
Satz von Antwortvariablen. Einige |
| |
überwachtes Modell trainiert wird und |
| |
dann kann ein Profiler verwendet werden, um |
| |
Visualisieren Sie die Modelloberfläche. |
| |
Es gibt zahlreiche Variationen in |
| |
den Profiler in JMP. Sie können |
| |
Verwenden Sie den Profiler intern in |
| |
Modellierungsplattformen. Sie können |
| |
Ausgabevorhersageformeln und |
| |
Erstellen Sie einen Profiler für mehrere |
| |
Modelle. Wie Laura demonstrierte, |
| |
Sie können Profiler erstellen für |
| |
Ensemble-Modelle. Wir wollten ein |
| |
Extrapolationskontrollmethode |
| |
das würde all diese verallgemeinern |
| |
Szenarien, also statt |
| |
binden unsere Methode an eine |
| |
spezifisches Modell, wir gehen |
| |
unbeaufsichtigt zu benutzen |
| |
Ansatz. |
| |
Und wir werden nur ein |
| |
Vorhersagepunkt als |
| |
Extrapolation, wenn es weit ist |
| |
außerhalb, wo die Daten sind |
| |
konzentriert im Prädiktor |
| |
Raum. Und das ermöglicht uns, |
| |
konsistent sein |
| |
Profiler, so dass unsere |
| |
Extrapolationskontrollmethode |
| |
lässt sich in jeden Profiler einbinden. |
| |
Die multivariate Distanz |
| |
Interpretation der Hebelwirkung |
| |
schlug Hotellings T-Quadrat vor als |
| |
eine Distanz für allgemeine |
| |
Extrapolationskontrolle. Tatsächlich |
| |
einige algebraische Manipulationen werden |
| |
zeigen, dass Hotellings T-Quadrat |
| |
nur Hebelwirkung verschoben und |
| |
skaliert. Diese Abbildung zeigt, wie |
| |
Hotellings T-Quadrat-Maßnahmen |
| |
welche Ellipse eine Beobachtung |
| |
liegt auf, wo die Ellipsen sind |
| |
zentriert auf den Mittelwert der |
| |
Daten und die Form ist definiert |
| |
durch die Kovarianzmatrix. |
| |
Da wir nicht mehr in |
| |
linearen Modellen, diese Metrik |
| |
hat nicht das gleiche |
| |
Verbindung zur Vorhersage |
| |
Varianz. Anstatt also |
| |
basierend auf den verwendeten Schwellenwerten |
| |
zurück in linearen Modellen, wir sind |
| |
werde einige machen |
| |
Verteilungsannahmen |
| |
um festzustellen, ob T² |
| |
für Vorhersagepunkt sollte |
| |
als Extrapolation betrachtet werden. |
| |
Hier zeige ich die Formel für |
| |
Hotelling's T-Quadrat. Der Mittelwert und |
| |
Die Kovarianzmatrix wird geschätzt |
| |
unter Verwendung der Trainingsdaten für die |
| |
Modell. Wenn P kleiner als N ist, |
| |
wobei P die Anzahl der |
| |
Prädiktoren, N ist die Anzahl |
| |
von Beobachtungen und wenn die |
| |
Prädiktoren multivariater |
| |
normal, dann T² für |
| |
Suchtpunkt hat ein F |
| |
Verteilung. Wir wollten jedoch |
| |
eine Methode zur Verallgemeinerung der |
| |
Datensätze mit komplizierten Daten |
| |
Typen, wie eine Mischung aus kontinuierlichen |
| |
und kategoriale Datensätze, bei denen P |
| |
größer als N ist, Datensätze mit |
| |
fehlende Werte. Anstatt |
| |
Ausarbeitung der Verteilungen |
| |
analytisch in jedem Fall, wir |
| |
verwendete eine einfache konservative |
| |
Kontrollgrenze, die wir gefunden haben |
| |
funktioniert in der Praxis gut. Dies ist |
| |
eine Drei-Sigma-Kontrollgrenze |
| |
unter Verwendung der empirischen Verteilung |
| |
von T-Quadrat aus dem Training |
| |
Daten und, wie Laura erwähnte, Sie |
| |
kann diesen Multiplikator auch einstellen. |
| |
Eine Komplikation besteht darin, dass wenn P |
| |
größer als N ist, Hotellings T |
| |
Quadrat ist undefiniert. Es gibt |
| |
zu viele Parameter in der |
| |
Kovarianzmatrix zur Schätzung |
| |
mit den verfügbaren Daten und |
| |
Dies kommt häufig bei typischer Verwendung vor |
| |
Fälle für die Extrapolationskontrolle |
| |
wie bei partiellen kleinsten Quadraten. |
| |
Also entschieden wir uns für einen Roman |
| |
Ansatz zur Berechnung von Hotelling's T |
| |
im Quadrat, das sich mit diesen |
| |
Fällen, und wir nennen es eine |
| |
reguliertes T-Quadrat. |
| |
So berechnen Sie die Kovarianz |
| |
Matrix verwenden wir eine regularisierte |
| |
Schätzer ursprünglich |
| |
entwickelt von Schafer und |
| |
Rasentrimmer für hohe |
| |
dimensionale Genomikdaten. |
| |
Es ist nur ein gewichtetes |
| |
Kombination aus der vollen |
| |
Stichproben-Kovarianzmatrix, |
| |
das ist hier U und ein |
| |
Einschränkungszielmatrix |
| |
was D ist. |
| |
Für das Lambda-Gewicht |
| |
parameter, Schafer and Strimmer |
| |
abgeleitet eine analytische |
| |
Ausdruck, der minimiert die |
| |
MSE, der Schätzer |
| |
asymptotisch. |
| |
Schafer und Strimmer schlugen vor |
| |
mehrere mögliche Ziele |
| |
Matrizen. Die Zielmatrix, die wir |
| |
gewählt wurde eine Diagonalmatrix mit |
| |
die Stichprobenvarianzen der |
| |
Prädiktorvariablen auf der |
| |
diagonal. Diese Zielmatrix hat |
| |
eine Reihe von Vorteilen für |
| |
Extrapolationskontrolle. Zuerst |
| |
gehen Sie nicht von einem Zusammenhang aus |
| |
Struktur zwischen den Variablen |
| |
bevor Sie die Daten sehen, die |
| |
funktioniert gut als allgemeines Vorwissen. |
| |
Auch wenn es wenig Daten gibt |
| |
die Kovarianz zu schätzen |
| |
Matrix, entweder aufgrund kleiner N oder |
| |
ein großer Teil fehlt, die |
| |
elliptische Einschränkung ist |
| |
erweitert durch ein großes Gewicht auf |
| |
die Diagonalmatrix, und dies |
| |
führt zu einer konservativeren |
| |
Test zur Extrapolationskontrolle. |
| |
Wir fanden, dass dies notwendig war, |
| |
eine angemessene Kontrolle über die |
| |
Falsch-Positiv-Rate. Um dies auszudrücken |
| |
Einfacher gesagt, wenn es |
| |
begrenzte Trainingsdaten, die |
| |
regularisiertes T-Quadrat ist weniger |
| |
wahrscheinlich Vorhersagen als |
| |
Extrapolation, das ist, was Sie |
| |
wollen, weil du mehr bist |
| |
wahrscheinlich Kovarianzen zu beobachten |
| |
durch Zufall. Wir haben einige |
| |
Simulationsergebnisse |
| |
diese Details demonstrieren, |
| |
aber ich habe keine Zeit zu gehen |
| |
in all das. Anstatt auf |
| |
Auf der Community-Webseite haben wir eine |
| |
Link zu einem Artikel über Archivierung und |
| |
Wir planen, dies dem |
| |
Zeitschrift für Computergestützte |
| |
Grafische Statistiken. |
| |
Die nächste Folie zeigt einige andere |
| |
wichtige Details, die wir brauchten |
| |
überlegen. Wir mussten herausfinden |
| |
herauszufinden, wie man mit kategorischen |
| |
Variablen. Wir sind nur |
| |
Umwandlung in Indikatoren- |
| |
codierte Dummy-Variablen. Dies ist |
| |
vergleichbar mit einem Vielfachen |
| |
Korrespondenzanalyse. Ein weiterer |
| |
Komplikation ist, wie man berechnet |
| |
Hotellings T-Quadrat, wenn |
| |
Es fehlen Daten. Mehrere |
| |
JMP-Vorhersagemodellierung |
| |
Plattformen nutzen Beobachtungen mit |
| |
fehlenden Daten, um ihre |
| |
Modelle. Dazu gehören naive |
| |
Bayes und Bootstrap-Wald. Und |
| |
Diese Formeln zeigen die |
| |
paarweise Löschmethode wir |
| |
wird zur Schätzung der Kovarianz verwendet |
| |
Matrix. Es ist üblicher, |
| |
zeilenweises Löschen. Das bedeutet |
| |
alle Beobachtungen mit fehlenden |
| |
Werte werden gelöscht, bevor |
| |
Berechnung der Kovarianzmatrix. |
| |
Und das ist am einfachsten, aber es kann |
| |
führen dazu, dass nützliche |
| |
Daten, wenn die Stichprobengröße der |
| |
Trainingsdaten sind klein. Mit |
| |
paarweise Deletion Beobachtungen |
| |
und nur dann gelöscht, wenn |
| |
fehlende Werte im Paar von |
| |
Variablen zur Berechnung der |
| |
entsprechenden Eintrag und das ist |
| |
was diese Formeln zeigen. |
| |
Scheint eine einfache Sache zu sein. |
| |
Sie verwenden einfach alle Daten |
| |
das ist verfügbar, aber es |
| |
kann tatsächlich zu einer Vielzahl von |
| |
Probleme, denn es gibt |
| |
verschiedene Beobachtungen verwendet, um |
| |
jeden Eintrag berechnen. Dies kann |
| |
verursachen seltsame Dinge passieren, |
| |
wie Kovarianzmatrizen mit |
| |
negative Eigenwerte, was |
| |
etwas, mit dem wir uns auseinandersetzen mussten. |
| |
Hier sind einige Vorteile von |
| |
das regulierte T-Quadrat, das wir |
| |
gefunden beim Vergleich mit anderen |
| |
Methoden in unseren Bewertungen. Ein |
| |
ist, dass die Regularisierung |
| |
funktioniert die Regularisierung |
| |
funktioniert normalerweise. Es trifft einen |
| |
Gleichgewicht zwischen Überanpassung |
| |
Trainingsdaten und Überverzerrung |
| |
der Schätzer. Dies macht die |
| |
Schätzer robuster gegenüber Rauschen |
| |
und Modellfehlspezifikation. |
| |
Als nächstes Schafer und Strimmer |
| |
zeigten in ihrem Papier, dass |
| |
Regularisierung führt zu einer |
| |
genauerer Schätzer in |
| |
hochdimensionale Einstellungen. |
| |
Dies hilft bei der Schreibschrift |
| |
Dimensionalität, die plagt |
| |
die meisten distanzbasierten Methoden |
| |
zur Extrapolationskontrolle. |
| |
Dann in den Feldern, die |
| |
entwickelte die Methodik für |
| |
Extrapolationskontrolle, |
| |
oft haben sie beide hohe |
| |
Maßangaben und hoch |
| |
korrelierte Prädiktoren. Für |
| |
Beispiel in der Chemoinformatik und |
| |
Chemometrie, die chemische |
| |
Funktionen sind oft sehr |
| |
korreliert. Extrapolationskontrolle |
| |
wird oft in Kombination verwendet |
| |
mit PCA- und PLS-Modellen, wobei |
| |
T-Quadrat DModX werden verwendet, um |
| |
Verstöße gegen die Korrelation erkennen |
| |
Struktur. Dies ist ähnlich wie |
| |
Was wir im modellgetriebenen Bereich tun |
| |
multivariables Kontrolldiagramm. |
| |
Da dies ein häufiger Anwendungsfall ist, |
| |
wir wollten eine Option haben, die |
| |
wich nicht zu weit ab von |
| |
diese Methoden. Unsere regularisierten T |
| |
squared bietet den gleichen Typ |
| |
der Extrapolationskontrolle, aber es |
| |
erfordert keinen Projektionsschritt |
| |
was einige Vorteile hat. |
| |
Wir haben festgestellt, dass uns dies ermöglicht, |
| |
besser verallgemeinert andere Typen |
| |
von Vorhersagemodellen. Auch in |
| |
Bei unseren Auswertungen haben wir festgestellt, dass |
| |
wenn eine lineare Projektion nicht |
| |
gut für Ihre Daten funktionieren, wie |
| |
Sie haben nichtlineare Beziehungen |
| |
zwischen Prädiktoren, die Fehler |
| |
kann die Kontrollgrenzen aufblähen |
| |
von projektionsbasierten Methoden, |
| |
was zu einer schlechten |
| |
Schutz vor |
| |
Extrapolation und unser Ansatz |
| |
ist robuster als das. |
| |
Und dann noch ein wichtiger Punkt |
| |
ist, dass wir die |
| |
einzelne Extrapolationsmetrik |
| |
war viel einfacher zu bedienen und |
| |
interpretieren. |
| |
Und hier ist eine kurze Zusammenfassung von |
| |
die Merkmale der Extrapolation |
| |
Kontrolle. Die Methode bietet eine bessere |
| |
Visualisierung von machbaren |
| |
Regionen in hochdimensionalen |
| |
Modelle im Profiler. |
| |
Ein neuer genetischer Algorithmus hat |
| |
wurde für flexible |
| |
eingeschränkte Optimierung. |
| |
Unser reguliertes T-Quadrat |
| |
bewältigt chaotische Beobachtungen |
| |
Daten, Fälle wie P größer |
| |
als N und kontinuierlich und |
| |
kategoriale Variablen. |
| |
Die Methode ist in den meisten |
| |
der Vorhersagemodelle in JMP |
| |
16 Pro und unterstützt viele von |
| |
ihre Eigenheiten. Es ist auch |
| |
verfügbar im Profiler in |
| |
Graph, der wirklich seine |
| |
Nutzen, weil Sie betreiben können |
| |
auf jeder Vorhersageformel. |
| |
Und dann als zukünftige Richtung, |
| |
Wir erwägen die Umsetzung |
| |
ein K-nächster Nachbar basierend |
| |
Einschränkung, die über |
| |
die aktuelle Korrelation |
| |
Strukturbeschränkung. Oft |
| |
Prädiktoren werden generiert durch |
| |
Mehrfachverteilungen resultierend |
| |
bei der Clusterung im Prädiktor |
| |
Raum. Und ein K-nächste Nachbarn |
| |
Ein basierte Ansatz würde es ermöglichen |
| |
uns, die Extrapolation zu kontrollieren |
| |
zwischen Clustern. |
| |
Also vielen Dank an alle, die |
| |
eingeschaltet, um dies zu sehen und |
| |
hier sind unsere E-Mails, wenn Sie |
| |
weitere Fragen. |
