398679_de-DE

liliconcom

Betreff: Steuern der Extrapolation im Prediction Profiler in JMP Pro 16 (2021-US-45MP-838)

@MC17 Ich freue mich, dass Sie diese wichtige Frage gestellt haben.Ich habe dies im Gespräch einiges berührt, aber ich habe es wahrscheinlich nicht genug betont.

 

Sie fragen sich also, warum wir nur T2 und nicht DModX kontrollieren, wie es bei PCA/PLS-Modellen üblich ist.Das machen wir zum Beispiel im MDMCC ( https://www.jmp.com/support/help/en/16.1/index.shtml#page/jmp/model-driven-multivariate-control-charts.shtml ). Wenn wir einen ähnlichen Ansatz verfolgen würden, würden wir wahrscheinlich eine Kontrollgrenze für DModX festlegen, da die Trainingsdaten alle DModX > 0 haben. Der Trick besteht also darin, Vorhersagen von den Trainingsdaten abweichen zu lassen, ohne zu verrückt zu werden .Wenn Sie DModX = 0 wollen, können Sie den Ansatz von Isaac Himanga ( https://community.jmp.com/t5/Discovery-Summit-Americas-2021/Optimizing-Multivariate-Models-From-Data-Collection-to-Optimal/ta-p/398760 ).

 

Die kurze Antwort lautet, dass unser Regularized T2 auf den ursprünglichen Prädiktorvariablen berechnet wird und Sie Ihre Daten nicht in eine Modellkomponente und eine Fehlerkomponente aufteilen müssen.Für PCA/PLS-Modelle führt die Regularisierung zu einer Einschränkung, die der Kontrolle von T2 und DModX ähnelt, aber Sie können dies mit einer Metrik tun, die einfacher und leichter zu interpretieren ist.

 

In PCA/PLS-Modellen kennzeichnet T2 Vorhersagen mit großen Abweichungen von Ihren Trainingsdaten innerhalb der Modellebene, während DModX Vorhersagen mit großen Abweichungen von der Modellebene kennzeichnet, wie in Ihrem Szenario beschrieben. Dies ist sinnvoll, wenn Ihre Modellierungsmethode von einer niedrigdimensionalen linearen Projektion Ihrer Daten ausgeht.Die meisten unserer Modellierungsmethoden führen eine solche Projektion jedoch nicht durch. Wir wollen aus verschiedenen Gründen (Ensembling usw.) einen plattformübergreifenden Ansatz. Die Durchführung einer linearen Projektion ist möglicherweise nicht sinnvoll, wenn Sie nichtlineare Beziehungen zwischen Variablen, kategorialen Variablen usw. haben. Wie wählen Sie außerdem die Anzahl der Komponenten für diese Modelle aus? Wir haben bei unseren Bewertungen festgestellt, dass, wenn eine lineare Projektion nicht gut zu Ihren Daten passt, die Fehler Ihre DModX-Kontrollgrenze erhöhen und zu einem schlechten Schutz gegen Extrapolation führen. Wir fanden einen besseren allgemeinen Ansatz, Extrapolationsbeschränkungen unter Verwendung von T2 auf den ursprünglichen Prädiktorraum zu setzen, was vor einer Verletzung der Korrelationsstruktur in alle Richtungen der Daten schützt.

 

Die Regularisierung von T2 legt großen Wert auf stark korrelierte Variablen und geringe Bedeutung auf niedrig korrelierte Variablen bei der Kontrolle der Extrapolation und funktioniert, wenn p>n.Dies führt zu einer ähnlichen Einschränkung wie bei T2 und DModX in PCA- und PLS-Modellen. Im beigefügten Whitepaper habe ich einige Simulationsergebnisse, die zeigen, wie die Methode funktioniert.Ich hoffe, dies bald mit einem Vergleich zu einem T2- und DModX-Ansatz zu aktualisieren und weitere Diskussionen hinzuzufügen.Ich begann damit, einfach zu zeigen, dass unsere Methode funktioniert, dass Papier noch in Arbeit ist.

 

Macht das Sinn? Ich freue mich, mehr darüber zu diskutieren und Ihre Meinungen / Bedenken dazu zu hören.

Steuern der Extrapolation im Prediction Profiler in JMP Pro 16 (2021-US-45MP-838)

Niveau: Mittelstufe

 

Laura Lancaster, JMP Principal Research Statistician Developer, SAS
Jeremy Ash, JMP Analytics Software Tester, SAS
Christopher Gotwalt, JMP-Direktor für statistische Forschung und Entwicklung, SAS

 

Eine unkontrollierte Modellextrapolation führt zu zwei schwerwiegenden Fehlern: (1) Das Modell kann weit von den Daten entfernt völlig ungültig sein und (2) die Kombinationen von Variablenwerten sind möglicherweise physikalisch nicht realisierbar. Die Verwendung des Profilers zur Optimierung von Modellen, die an Beobachtungsdaten angepasst sind, kann ohne Vorwarnung zu extrapolierten Lösungen führen, die keinen praktischen Nutzen haben. JMP Pro 16 führt die Extrapolationskontrolle in viele prädiktive Modellierungsplattformen und die Profiler-Plattform selbst ein. Diese neue Funktion im Prediction Profiler warnt den Benutzer vor einer möglichen Extrapolation oder vermeidet das Zeichnen extrapolierter Punkte, an denen das Modell möglicherweise nicht gültig ist. Außerdem kann der Benutzer eine Optimierung über einen eingeschränkten Bereich durchführen, der eine Extrapolation vermeidet. In dieser Präsentation diskutieren wir die Motivation und Nützlichkeit der Extrapolationskontrolle, demonstrieren ihre einfache Anwendung in JMP und beschreiben Details unserer Methoden.

 

 

Automatisch generiertes Transkript...

 

Lautsprecher	Transkript
Tim Pierce	Gehen.
	Richtig, ich werde stumm schalten.
	Hallo, ich bin Chris Gottwalt. Meine Co-Moderatoren Laura Lancaster und Jeremy Ash und ich präsentieren eine nützliche neue JMP Pro-Funktion namens Extrapolation Control.
	Fast jedes Modell, mit dem Sie jemals vorhersagen möchten, hat eine Reihe von Anwendbarkeit,
	eine Region des Eingaberaums, in der ihre Vorhersagen als angesehen werden
	zuverlässig genug. Außerhalb dieser Region beginnen wir, das Modell um zwei Punkte zu extrapolieren, weit entfernt von den Daten, die zur Anpassung des Modells verwendet wurden. Die Verwendung der Vorhersagen aus diesem Modell an diesen Punkten könnte zu völlig unzuverlässigen Vorhersagen führen.
Es gibt zwei Hauptquellen für die Extrapolation	statistische Extrapolation und domänenbasierte Extrapolation. Beide Typen werden von der neuen Funktion abgedeckt.
	Statistische Extrapolation tritt auf, wenn versucht wird, mithilfe eines Modells mit einem X eine Vorhersage zu treffen, die nicht in der Nähe der Werte liegt, die zum Trainieren dieses Modells verwendet wurden.
	Eine domänenbasierte Extrapolation tritt auf, wenn Sie versuchen, bei einem X zu bewerten, das aus wissenschaftlichen Gründen nicht möglich ist.
	oder ingenieursbedingte Einschränkungen. Das Beispiel hier veranschaulicht beide Arten der Extrapolation in einem Beispiel. Hier sehen wir einen Profiler aus einem Modell eines metallurgischen Produktionsprozesses.
	Die Vorhersage wird bei -2,96 angezeigt, ohne dass darauf hingewiesen wird, dass wir bei einer Kombination von Temperatur und Druck bewerten, die unmöglich ist
	in einem Domänensinn für diese Maschine zu erreichen. Wir haben auch eine statistische Hochrechnung, da es sich um die verwendeten Daten handelt
	an das Modell anzupassen, wie im Streudiagramm der Trainingsdaten rechts zu sehen. In JMP Pro 16 haben Jeremy, Laura und ich gemeinsam eine neue Funktion hinzugefügt, die eine Warnung ausgeben kann, wenn der Profiler denkt, dass Sie möglicherweise extrapolieren.
	Wenn Sie die Extrapolationssteuerung aktivieren, wird der Satz von Punkten, die Sie sehen, auf die Punkte beschränkt, von denen er denkt, dass sie nicht extrapolieren.
	Wir haben zwei Arten der Extrapolationskontrolle.
	Einer basiert auf dem Konzept der Hebelwirkung und verwendet ein Modell der kleinsten Quadrate. Dieser erste Typ ist nur in der Pro-Version des Anpassungsmodells der kleinsten Quadrate verfügbar.
	Die andere Art, die wir als allgemeine Extrapolationssteuerung für maschinelles Lernen bezeichnen, ist in der Profiler-Plattform und einigen der gängigsten Plattformen für maschinelles Lernen in JMP Pro verfügbar.
	Auf Wunsch können wir es sogar zu mor hinzufügen. Die Steuerung der Extrapolation der kleinsten Quadrate verwendet das Konzept der Hebelwirkung, das wie eine skalierte Version der Vorhersagevarianz ist. Es ist modellbasiert und so
	es verwendet Informationen über die Hauptwirkungswechselwirkungen und Terme höherer Ordnung, um die Extrapolation zu bestimmen.
	Für den allgemeinen Fall der Extrapolation des maschinellen Lernens müssen wir einen eigenen Ansatz finden. Wir wollten eine Methode, die bei fehlenden Werten robust ist,
	lineare Abhängigkeiten, schnelleres Rechnen, können mit Mischungen aus kontinuierlichen und kategorialen Eingabevariablen umgehen, und wir wollten auch explizit das Extrapolationsmodell von dem Modell trennen, das zur Anpassung der Daten verwendet wird.
	Wenn wir also die allgemeine Extrapolationssteuerung aktiviert haben, gibt es nur ein überwachtes Modell, das die Eingabevariablen an die Antworten anpasst, die wir in den Profiler-Traces sehen.
	Das Profil, das ein unbeaufsichtigtes Quick-and-Dirty-Modell erstellt, um den Trainingssatz Xs zu beschreiben, und dieses unbeaufsichtigte Modell wird hinter den Kulissen vom Profiler verwendet, um die Extrapolationssteuerungsbeschränkung zu bestimmen.
	Ich muss also wechseln, weil meine Kamera aus irgendeinem Grund gerade nicht mit PowerPoint zurechtkommt.
	Wir wissen, dass jeden Tag riskante Extrapolationen von Mitarbeitern in der Datenwissenschaft vorgenommen werden und sind zuversichtlich, dass die Verwendung von Extrapolationen zu schlechten Vorhersagen und letztendlich zu schlechten Geschäftsergebnissen führt.
	Die Extrapolationskontrolle setzt den Modellvorhersagen Leitplanken und führt zu quantifizierbar besseren Entscheidungen von JMP Pro-Benutzern.
	Wenn Benutzer sehen, dass eine Extrapolation stattfindet, muss der Benutzer basierend auf seinem Domänenwissen und seiner Vertrautheit mit dem vorliegenden Problem entscheiden, ob die Vorhersage verwendet werden soll oder nicht.
	Wenn Sie beginnen, Warnungen zur Extrapolationssteuerung zu sehen, ist es ziemlich oft das Ende des Lebenszyklus für dieses Modell und die Zeit, es an neue Daten anzupassen, da sich die Verteilung der Eingaben von der der Trainingsdaten entfernt hat.
	Wir sind ehrlich gesagt ziemlich überrascht und alarmiert, dass die Notwendigkeit, Extrapolationen zu identifizieren, von der Data-Science-Community nicht besser erkannt wird
	und haben die Steuerung der Extrapolation so einfach und automatisch wie möglich gemacht. Laura, die es in JMP Pro entwickelt hat, wird die Option als nächstes demonstrieren. Dann wird Jeremy, der in unserem Team viel recherchiert hat, auf die mathematischen Details und die statistische Motivation für den Ansatz eingehen.
	Hallo. Mein Name ist Laura Lancaster und ich bin hier, um eine Demo der Extrapolationssteuerung zu machen, die zu JMP Pro 16 hinzugefügt wurde. Ich wollte mit einem ziemlich einfachen Beispiel beginnen, das die Plattform der kleinsten Quadrate des Anpassungsmodells verwendet.
	Ich werde einige Daten verwenden, die Ihnen vielleicht bekannt sind. Es sind die Fitnessdaten, die in Beispieldaten enthalten sind.
	Und ich werde die Sauerstoffaufnahme als meine Reaktions- und Laufzeit, den Laufpuls und den maximalen Puls als meine Prädiktoren verwenden. Und ich möchte wiederholen, dass bei der Anpassung der kleinsten Quadrate an das Modell die verwendete Extrapolationsmetrik Leverage ist. Beginnen wir also mit JMP.
	Jetzt habe ich die Fitnessdaten in JMP geöffnet und habe ein Skript zum Speichern in der Datentabelle, um automatisch mein Modell mit der Anpassung der kleinsten Quadrate zu starten.
	Also werde ich weitermachen und dieses Skript ausführen. Es startet die Plattform der kleinsten Quadrate.
	Und ich habe den Profiler automatisch geöffnet und wir können sehen, dass der Profiler aussieht wie immer in der Vergangenheit,
	wobei die Faktorgrenzen durch den Bereich jedes Faktors einzeln definiert werden, was uns rechteckige Randbedingungen ergibt.
	Und wenn ich die Faktoreinstellungen geändert habe, kann es aufgrund dieser gebundenen Einschränkungen wirklich schwer zu erkennen sein, ob Sie sich weit außerhalb der Korrelationsstruktur der Daten bewegen.
	Und deshalb wollten wir die Extrapolationskontrolle hinzufügen. Dies wurde zu mehreren Plattformen in JMPs Pro 16 hinzugefügt.
	einschließlich der Anpassung der kleinsten Quadrate. Und um zur Extrapolationssteuerung zu gelangen, gehen Sie in das Menü unter dem Profiler-Menü. Wenn ich also hier nachschaue, sehe ich, dass es eine neue Option namens Extrapolationskontrolle gibt.
	Es ist standardmäßig deaktiviert, aber ich kann es entweder aktivieren oder warnen, um die Extrapolationssteuerung zu aktivieren. Wenn ich es einschalte, beachten Sie, dass es meine Profilspuren so einschränkt, dass sie nur auf Werte gehen, bei denen ich nicht extrapoliere.
	Wenn ich die Warnung aktivieren würde, würde ich die vollständigen Profilspuren sehen, aber ich würde eine Warnung erhalten, wenn ich in eine Region gehe, in der dies als Extrapolation angesehen würde.
	Ich kann auch Extrapolationsdetails aktivieren, was ich sehr hilfreich finde,
	und das gibt mir viel mehr informationen. Zunächst einmal sagt es mir, dass meine Metrik, die ich zum Definieren der Extrapolation verwende, die Hebelwirkung ist, was auf der Plattform mit der Anpassung der kleinsten Quadrate zutrifft.
	und der Schwellenwert, der anfangs standardmäßig verwendet wird, ist die maximale Hebelwirkung, aber das kann ich ändern und ich werde Ihnen das in einer Minute zeigen.
	Außerdem kann ich sehen, was meine Extrapolationsmetrik für meine aktuellen Einstellungen ist. Das ist diese Zahl hier, die sich ändert, wenn ich meine Faktoreinstellungen ändere.
	Jedes Mal, wenn diese Zahl den Schwellenwert überschreitet, erhalte ich diese Warnung, dass ich möglicherweise extrapoliere. Wenn er darunter liegt, erhalte ich diese Warnung nicht mehr.
	Dieser Schwellenwert wird sich nicht ändern, es sei denn, ich ändere etwas im Menü, um meinen Schwellenwert anzupassen. Also lass mich weitermachen und das sofort tun. Ich gehe ins Menü,
	und ich gehe zum Schwellenwertkriterium. Bei der Anpassung der kleinsten Quadrate haben Sie also zwei Optionen für den Schwellenwert. Anfangs ist es auf maximale Hebelwirkung eingestellt, wodurch Sie innerhalb des konvexen Lochs der Daten bleiben.
	oder Sie können zu einem Multiplikator mal dem durchschnittlichen Leverage oder Modelltermen über Beobachtungen wechseln. Und ich möchte zu diesem Schwellenwert wechseln, also ist er auf drei eingestellt
	standardmäßig als Multiplikator, so dass dies das Dreifache des durchschnittlichen Hebels ist. Klicken Sie auf OK und beachten Sie, dass sich mein Schwellenwert ändern wird. Es wurde tatsächlich kleiner, daher ist dies eine konservativere Definition von Extrapolation.
	Und ich werde es wieder einschalten, um meine Profilspuren einzuschränken, und jetzt kann ich nur noch in Regionen gehen
	wo ich innerhalb des Dreifachen des durchschnittlichen Leverage bin.
	Jetzt haben wir auch eine Optimierung implementiert, die den Extrapolationsbeschränkungen gehorcht. Also, wenn ich die Erwünschtheit einschalte
	und ich mache die Optimierung,
	Ich erhalte einen optimalen Wert, der die Extrapolationsbedingung erfüllt. Beachten Sie, dass diese Metrik kleiner oder gleich dem Schwellenwert ist.
	Wenn ich nun zu meiner nächsten Folie gehe, die in einem Diagramm (einer Streudiagrammmatrix) verglichen wird, wird die Differenz zwischen dem optimalen Wert mit eingeschalteter und ausgeschalteter Extrapolationskontrolle angezeigt.
	Dies ist also die Streudiagrammmatrix, die ich mit JMP erstellt habe, und sie zeigt die ursprünglichen Daten der Prädiktorvariablen sowie die Werte der Prädiktorvariablen
	für die optimale Lösung ohne Extrapolationskontrolle in Blau und optimale Lösung mit Extrapolationskontrolle in Rot. Und beachten Sie, wie die uneingeschränkte Lösung hier in Blau, richtig
	verletzt hier die Korrelationsstruktur für die Originaldaten für Run-Puls und Max-Puls, wodurch die Unsicherheit dieser Vorhersage erhöht wird, während die optimale Lösung, die Extrapolationskontrolle verwendet, viel mehr mit den Originaldaten übereinstimmt.
	Schauen wir uns nun ein Beispiel an, bei dem die allgemeinere Extrapolationssteuerungsmethode verwendet wird, die wir als regularisierte T-Quadrat-Methode bezeichnen.
	Wie Chris bereits erwähnt hat, haben wir diese Methode für andere Modelle als Modelle der kleinsten Quadrate entwickelt. Wir werden uns ein neuronales Modell für die Diabetesdaten ansehen, die auch in den Beispieldaten enthalten sind.
	Das Ansprechen ist ein Maß für den Krankheitsverlauf und die Prädiktoren sind die Ausgangsvariablen. Die für dieses Beispiel verwendete Extrapolationsmetrik ist wiederum das regularisierte T-Quadrat, das Jeremy in einigen Minuten ausführlicher beschreiben wird.
	Ich habe also eine Diabetes-Daten in JMP geöffnet und ich habe ein Skript meiner neuralen Modellanpassungen gespeichert. Ich werde weitermachen und das Skript ausführen.
	Es startet die neuronale Plattform. Und beachten Sie, dass ich die zufällige Rückhaltemethode der Validierungsmethode verwende. Ich wollte nur anmerken, dass die Extrapolationskontrolle jedes Mal, wenn Sie eine Validierungsmethode verwenden, nur auf den Trainingsdaten basiert
	und nicht Ihre Validierungs- oder Testdaten.
	Also habe ich den Profiler geöffnet und Sie können sehen, dass er die vollständigen Spuren verwendet. Die Extrapolationssteuerung ist nicht eingeschaltet.
	Machen wir weiter und schalten Sie es ein.
	Und ich werde auch die Details einschalten.
	Sie können sehen, dass die Spuren eingeschränkt wurden und die Metrik das regularisierte T-Quadrat ist.
	Der Schwellenwert ist das Dreifache der Standardabweichung des normalisierten T-Quadrats der Stichprobe. Jeremy wird in ein paar Minuten mehr darüber sprechen, was das alles genau bedeutet.
	Und ich wollte nur erwähnen, dass es bei der regularisierten T-Quadrat-Methode nur eine Möglichkeit für den Schwellenwert gibt, aber Sie können den Multiplikator anpassen. Also wenn du gehst
	Extrapolationskontrollen, Schwellenwerte festlegen, Sie können diesen Multiplikator anpassen, aber ich belasse ihn bei drei. Und jetzt möchte ich die Optimierung ausführen mit
	Extrapolationskontrolle, also werde ich nur maximieren und mich erinnern. Jetzt habe ich eine optimale Lösung mit eingeschalteter Extrapolationssteuerung.
	Und so möchte ich jetzt unsere Scatterplot-Matrix betrachten, genau wie wir es zuvor mit den Originaldaten gesehen haben, sowie mit den optimalen Werten mit und ohne Extrapolationskontrolle.
	Dies ist also eine Streudiagrammmatrix der Diabetesdaten, die ich in JMP erstellt habe. Es hat die ursprünglichen Prädiktorwerte,
	sowie die optimale Lösung mit Extrapolationskontrolle in Rot und optimale Lösung ohne Extrapolationskontrolle in Blau. Und das sieht man
	die roten Punkte scheinen viel stärker innerhalb der Korrelationsstruktur der Originaldaten zu liegen als die blauen. Und das gilt insbesondere, wenn man sich dieses LDL im Vergleich zum Gesamtcholesterin ansieht.
	Schauen wir uns nun ein Beispiel mit dem Profiler an, der sich unter dem Diagrammmenü befindet, das ich als Diagrammprofiler bezeichnen werde.
	Es verwendet auch die regularisierte T-Quadrat-Methode und ermöglicht es uns, die Extrapolationskontrolle für jeden Modelltyp zu verwenden, der als JSL-Formel erstellt und gespeichert werden kann. Es ermöglicht uns auch, die Extrapolationskontrolle für mehr als ein Modell gleichzeitig zu haben.
	Schauen wir uns also ein Beispiel für ein Unternehmen an, das mittels Pulvermetallurgie-Technologie Antriebswellen aus Stahl für die Automobilindustrie herstellt.
	Sie möchten optimale Einstellungen für ihre Produktion finden, die die Schrumpfung minimieren und auch Ausfälle aufgrund schlechter Oberflächenbedingungen minimieren. Also haben wir zwei Antworten
	Schrumpfung, die kontinuierlich ist, und wir werden dafür das Modell der kleinsten Quadrate anpassen, und die Oberflächenbedingung, die bestanden/nicht bestanden ist, und wir werden dafür ein nominelles Logistikmodell anpassen.
	Und unsere Prädiktorvariablen sind nur einige der wichtigsten Prozessvariablen in der Produktion. Und wieder ist die Extrapolationsmetrik das regularisierte T-Quadrat.
	Ich habe also die Pulvermetallurgiedaten in JMP geöffnet und habe bereits ein Modell der kleinsten Quadrate für meine Schrumpfungsreaktion angepasst.
	und ich habe bereits ein nominelles Logistikmodell für die Pass/Fail-Reaktion der Oberflächenbedingung angepasst. Und ich habe die Vorhersageformeln in der Datentabelle gespeichert, damit sie im Diagrammprofiler verwendet werden können.
	Wenn ich also zum Diagrammmenü-Profiler gehe, kann ich die Vorhersageformel für die Schrumpfung laden, und meine Vorhersageformel gilt für den Oberflächenzustand.
	OK klicken.
	Und jetzt habe ich meine beiden Modelle im Graph-Profiler gestartet.
	Und bevor ich die Extrapolationssteuerung aktiviere, können Sie sehen, dass ich die vollständigen Profilspuren habe. Sobald ich die Extrapolationssteuerung aktiviere,
	Sie können sehen, dass die Spuren etwas schrumpfen. Und ich werde auch die Details einschalten
	nur um zu zeigen, dass ich hier in dieser Methode tatsächlich das regularisierte T-Quadrat verwende.
	Was ich also wirklich tun möchte, ist, die optimalen Bedingungen zu finden, unter denen ich Schrumpfung und Ausfälle minimieren kann
	mit aktivierter Extrapolationssteuerung. Ich möchte sichergehen, dass ich nicht extrapoliere. Ich möchte eine nützliche Lösung finden.
	Und bevor ich die Optimierung durchführen kann, muss ich tatsächlich meine Wünsche festlegen. Ich werde bestimmte Erwünschtheiten machen; es ist bereits richtig für die Schrumpfung, aber ich muss sie für den Oberflächenzustand einstellen.
	Ich werde versuchen, Pässe zu maximieren und Fehler zu minimieren.
	OK.
	Und jetzt sollte ich in der Lage sein, die Optimierung mit aktivierten Extrapolationssteuerungen durchzuführen, zu maximieren und sich zu erinnern.
	Jetzt habe ich meine optimale Lösung
	mit aktivierter Extrapolationssteuerung. Schauen wir uns nun noch einmal die Streudiagrammmatrix der Originaldaten an, zusammen mit der Lösung mit aktivierter Extrapolationskontrolle und der Lösung mit deaktivierter Extrapolationskontrolle.
	Dies ist also eine Scatter-Plot-Matrix der pulvermetallurgischen Daten, die ich in JMP erstellt habe und die auch die optimale Lösung hat
	mit Extrapolationskontrolle als roter Punkt und die optimale Lösung ohne Extrapolationskontrolle als blauer Punkt. Und Sie können noch einmal sehen, dass, wenn wir die Extrapolationskontrolle nicht durchführen,
	die optimale Lösung liegt ziemlich weit außerhalb der Korrelationsstruktur der Daten. Das sehen wir hier besonders beim Verhältnis versus Verdichtungsdruck.
	Nun möchte ich Jeremy die Präsentation übergeben, um unsere Methoden genauer zu erläutern.
	Hi. Hier sind also eine Reihe von Zielen für die Extrapolationskontrolle, die wir zu Beginn des Projekts festgelegt haben.
	Wir brauchten eine Extrapolationsmetrik, die schnell mit einer großen Anzahl von Beobachtungen und Variablen berechnet werden konnte, und wir brauchten eine schnelle Möglichkeit, um zu beurteilen, ob die Metrik eine Extrapolation anzeigte oder nicht. Dies diente dazu, die Interaktivität der Profiler-Traces aufrechtzuerhalten und
	Wir brauchten dies, um eine Optimierung durchzuführen.
	Wir möchten, dass es die verschiedenen im Profiler verfügbaren Variablentypen unterstützt. Diese sind im Wesentlichen stetig, kategorial und ordinal.
	Wir wollten Beobachtungen mit fehlenden Zellen verwenden, da einige Modellierungsmethoden diese Beobachtungen und ??? einbeziehen.
	Wir wollten eine Methode, die robust gegenüber linearen Abhängigkeiten in den Daten ist. Diese treten beispielsweise auf, wenn die Anzahl der Variablen größer ist als die Anzahl der Beobachtungen.
	Und wir wollten etwas, das einfach zu automatisieren ist, ohne dass viele Benutzereingaben erforderlich sind.
	Bei den Modellen der kleinsten Quadrate sind wir auf Leverage gelandet, die häufig verwendet wird, um Ausreißer in linearen Modellen zu identifizieren.
	Der Hebel für den neuen Vorhersagepunkt wird nach dieser Formel berechnet. Es gibt viele Interpretationen für Hebelwirkung. Eine Interpretation ist das
	es ist die multivariate Entfernung eines Vorhersagepunkts vom Zentrum der Trainingsdaten. Eine andere Interpretation ist, dass es sich um eine skalierte Vorhersagevarianz handelt, so dass sich die Vorhersageunsicherheit erhöht, wenn sich der Vorhersagepunkt weiter vom Zentrum der Daten entfernt.
	Und wir verwenden zwei gängige Schwellenwerte in der statistischen Literatur, um zu bestimmen, ob dieser Abstand zu groß ist.
	Die erste ist die maximale Hebelwirkung. Vorhersagepunkte jenseits dieser Schwelle liegen außerhalb des konvexen Lochs der Trainingsdaten.
	Und die zweite ist das Dreifache des Durchschnitts der Hebel. Es kann gezeigt werden, dass dies der dreifachen Anzahl der Modellterme dividiert durch die Anzahl der Beobachtungen entspricht.
	Und wie Laura zuvor beschrieben hat, können Sie den Multiplikator dieser Schwellenwerte ändern.
	Schließlich, wenn Erwünschtheiten optimiert werden, ist die Extrapolationsbeschränkung eine nichtlineare Beschränkung. Und zuvor erlaubte der Profiler eine eingeschränkte Optimierung mit linearen Einschränkungen,
	Diese Art der Optimierung ist jedoch schwieriger, daher implementierte Laura einen genetischen Algorithmus. Und wenn Sie damit nicht vertraut sind, nutzen genetische Algorithmen Prinzipien der molekularen Evolution, um komplizierte Kostenfunktionen zu optimieren.
	Als nächstes werde ich über den Ansatz sprechen, den wir verwenden, um die Extrapolationskontrolle zweier anderer Modelle als linearer Modelle zu verallgemeinern.
	Beim Erstellen eines Vorhersagemodells in JMP beginnen Sie mit einem Satz von Prädiktorvariablen und einem Satz von Antwortvariablen.
	Ein überwachtes Modell wird trainiert und dann kann ein Profiler verwendet werden, um die Modelloberfläche zu visualisieren.
	Es gibt zahlreiche Variationen des Profilers in JMP. Sie können den Profiler intern in Modellierungsplattformen verwenden, Vorhersageformeln ausgeben und erstellen
	Profiler für mehrere Modelle, wie Laura demonstrierte. Sie können Profiler für Ensemblemodelle erstellen. Wir wollten eine Extrapolationssteuerungsmethode, die auf all diese Szenarien verallgemeinert. Anstatt unsere Methode an ein bestimmtes Modell zu binden, werden wir einen unbeaufsichtigten Ansatz verwenden.
	Und wir werden einen Vorhersagepunkt nur dann als Extrapolation kennzeichnen, wenn er weit außerhalb der Konzentration der Daten im Prädiktorraum liegt. Und dies ermöglicht es uns, über alle Profiler hinweg konsistent zu sein, sodass unsere Extrapolationssteuerungsmethode in jeden Profiler integriert werden kann.
	Die multivariate Distanzinterpretation des Leverage schlug das T-Quadrat von Hotelling als Distanz für die allgemeine Extrapolationskontrolle vor. Tatsächlich werden einige algebraische Manipulationen zeigen, dass das T-Quadrat von Hotelling nur eine verschobene und skalierte Hebelwirkung ist.
	Diese Abbildung zeigt, wie das T-Quadrat von Hotelling misst, auf welcher Ellipse eine Beobachtung liegt, wobei die Ellipsen um den Mittelwert der Daten zentriert sind und die Form durch die Kovarianzmatrix definiert wird.
	Da wir uns nicht mehr in linearen Modellen befinden, hat diese Metrik nicht die gleiche Verbindung zur Vorhersagevarianz. Anstatt uns also auf Schwellenwerte zu verlassen, die in linearen Modellen verwendet wurden, werden wir einige Verteilungsannahmen treffen, um zu bestimmen, ob
	Das T-Quadrat für den Vorhersagepunkt sollte als Extrapolation betrachtet werden.
	Hier zeige ich die Formel für Hotellings T zum Quadrat. Die Mittelwert- und Kovarianzmatrix wird unter Verwendung der Trainingsdaten für das Modell geschätzt.
	Wenn P kleiner als N ist, wobei P die Anzahl der Prädiktoren und N die Anzahl der Beobachtungen ist,
	und wenn der Prädiktor multivariat normal ist, dann hat T zum Quadrat für einen Vorhersagepunkt eine F-Verteilung. Wir wollten jedoch eine Methode, um
	Verallgemeinern Sie die Datensätze mit komplizierten Datentypen, wie einer Mischung aus kontinuierlichen und kategorialen Datensätzen, wobei P größer als N ist;
	Datensätze mit fehlenden Werten. Anstatt die Verteilung jeweils analytisch zu berechnen, verwenden wir daher eine einfache konservative Kontrollgrenze, die sich in der Praxis bewährt hat.
	Dies ist eine Drei-Sigma-Kontrollgrenze unter Verwendung der empirischen Verteilung von T zum Quadrat aus den Trainingsdaten und, wie Laura erwähnte, können Sie diesen Multiplikator auch abstimmen.
	Eine Komplikation besteht darin, dass, wenn P größer als N ist, das T-Quadrat von Hotelling undefiniert ist. Die Kovarianzmatrix enthält zu viele Parameter, um sie mit den verfügbaren Daten zu schätzen.
	Und dies tritt häufig in typischen Anwendungsfällen für die Extrapolationssteuerung auf, wie bei partiellen kleinsten Quadraten. Also entschieden wir uns für einen neuartigen Ansatz zur Berechnung von Hotellings T-Quadrat, der diese Fälle behandelt, und wir nennen ihn ein regularisiertes T-Quadrat.
	Um die Kovarianzmatrix zu berechnen, verwenden wir einen regularisierten Schätzer, der ursprünglich von Schafer und Strimmer für hochdimensionale Genomdaten entwickelt wurde. Dies ist nur eine gewichtete Kombination der Kovarianzmatrix der vollständigen Stichprobe, die hier U ist, und einer Einschränkungszielmatrix, die D ist.
	Für den Lambda-Gewichtsparameter leiteten Schafer und Strimmer einen analytischen Ausdruck ab, der den MSE, den Schätzer, asymptotisch minimiert.
	Schafer und Strimmer schlugen mehrere mögliche Zielmatrizen vor. Die von uns gewählte Zielmatrix war eine Diagonalmatrix mit den Stichprobenvarianzen der Prädiktorvariablen auf der Diagonalen. Diese Zielmatrix hat eine Reihe von Vorteilen für die Extrapolationssteuerung.
	Erstens nehmen wir keine Korrelationsstruktur zwischen den Variablen an, bevor wir die Daten sehen, was als allgemeine Vorstufe gut funktioniert.
	Auch wenn nur wenige Daten zur Schätzung der Kovarianzmatrix vorhanden sind, entweder aufgrund eines kleinen N oder eines fehlenden großen Bruchs,
	die elliptische Einschränkung wird durch ein großes Gewicht auf der Diagonalmatrix erweitert, und dies führt zu einem konservativeren Test für die Extrapolationskontrolle. Wir fanden, dass dies notwendig ist, um eine vernünftige Kontrolle der Falsch-Positiv-Rate zu erhalten.
	Einfacher ausgedrückt: Wenn nur begrenzte Trainingsdaten vorliegen, ist es weniger wahrscheinlich, dass das regularisierte T-Quadrat Vorhersagen als Extrapolation bezeichnet, was Sie möchten, da Sie Kovarianzen eher zufällig beobachten.
	Wir haben einige Simulationsergebnisse, die diese Details demonstrieren, aber ich habe keine Zeit, auf all das einzugehen. Stattdessen haben wir auf der Community-Webseite einen Link zu einem Artikel im Archiv eingestellt und planen, diesen beim Journal of Computational Graphical Statistics einzureichen.
	Diese nächste Folie zeigt einige andere wichtige Details, die wir berücksichtigen mussten. Wir mussten herausfinden, wie man mit kategorialen Variablen umgeht.
	Wir wandeln sie nur in Indikator-codierte Dummy-Variablen um. Dies ist vergleichbar mit einer multiplen Korrespondenzanalyse.
	Eine weitere Schwierigkeit besteht darin, das T-Quadrat von Hotelling zu berechnen, wenn Daten fehlen. Mehrere prädiktive Modellierungsplattformen von JMP verwenden Beobachtungen mit fehlenden Daten, um die Modelle zu trainieren.
	Dazu gehören Naive Bayes und Bootstrap Forest, und diese Formeln zeigen die paarweise Löschmethode, die wir verwenden, um die Kovarianzmatrix zu schätzen.
	Es ist üblicher, zeilenweises Löschen zu verwenden. Dies bedeutet, dass alle Beobachtungen mit fehlenden Werten gelöscht werden, bevor die Kovarianzmatrix berechnet wird. Dies ist am einfachsten, kann jedoch dazu führen, dass nützliche Daten verworfen werden, wenn die Stichprobengröße der Trainingsdaten klein ist.
	Beim paarweisen Löschen werden Beobachtungen nur dann gelöscht, wenn in dem Variablenpaar, das zur Berechnung eines entsprechenden Eintrags verwendet wird, Werte fehlen.
	Und das zeigen diese Formeln. Es scheint eine einfache Sache zu sein, Sie verwenden nur alle verfügbaren Daten, aber es kann tatsächlich zu einer Vielzahl von Problemen führen, da unterschiedliche Beobachtungen verwendet werden, um jeden Eintrag zu berechnen.
	Dies kann dazu führen, dass seltsame Dinge passieren, wie zum Beispiel Kovarianzmatrizen mit negativen Eigenwerten, mit denen wir uns auseinandersetzen mussten.
	Hier sind einige Vorteile des regularisierten T-Quadrats, die wir im Vergleich zu anderen Methoden in unseren Bewertungen gefunden haben.
	Einer ist, dass die Regularisierung so funktioniert, wie die Regularisierung normalerweise funktioniert. Es schafft das Gleichgewicht zwischen einer Überanpassung der Trainingsdaten und einer Überbeeinflussung des Schätzers. Dies macht den Schätzer robuster gegenüber Rauschen und Modellfehlspezifikationen.
	Als nächstes zeigten Schafer und Strimmer in ihrer Arbeit, dass die Regularisierung zu einem genaueren Schätzer in hochdimensionalen Einstellungen führt. Dies hilft bei dem Fluch der Dimensionalität, der die meisten entfernungsbasierten Methoden zur Extrapolationskontrolle plagt.
	Und dann, in den Bereichen, die die Methodik für die Extrapolationskontrolle entwickelt haben,
	oft haben sie sowohl hochdimensionale Daten als auch hochkorrelierte Prädiktoren. Beispielsweise in der Chemieinformatik und Chemometrik sind die chemischen Merkmale oft stark korreliert.
	Die Extrapolationssteuerung wird häufig in Kombination mit PCA- und PLS-Modellen verwendet, bei denen T-Quadrat und DModX verwendet werden, um Verletzungen der Korrelationsstruktur zu erkennen. Dies ist vergleichbar mit dem, was wir in der modellgesteuerten multivariaten Regelkarte tun.
	Da dies ein häufiger Anwendungsfall ist, wollten wir eine Option haben, die nicht zu weit von diesen Methoden abweicht.
	Unser regularisiertes T-Quadrat bietet
	dieselbe Art von Extrapolationskontrolle, aber es erfordert keinen Projektionsschritt, was einige Vorteile hat.
	Wir haben festgestellt, dass dies uns eine bessere Verallgemeinerung auf andere Arten von Vorhersagemodellen ermöglicht.
	Außerdem haben wir bei unseren Auswertungen festgestellt, dass, wenn eine lineare Projektion für Ihre Daten nicht gut funktioniert, z. B. nichtlineare Beziehungen zwischen Prädiktoren vorliegen,
	die Fehler können die Kontrollgrenzen projektionsbasierter Methoden aufblähen, was zu einem schlechten Schutz gegen Extrapolation führt, und unser Ansatz ist robuster als dieser.
	Und dann ist ein weiterer wichtiger Punkt, dass wir die gefunden haben
	einzelne Extrapolationsmetrik war viel einfacher zu verwenden und zu interpretieren.
	Und hier ist eine kurze Zusammenfassung der Funktionen der Extrapolationskontrolle. Die Methode bietet eine bessere Visualisierung möglicher Regionen in
	hochdimensionale Modelle im Profiler. Für eine flexible eingeschränkte Optimierung wurde ein neuer genetischer Algorithmus implementiert.
	Und unser regularisiertes T-Quadrat verarbeitet unordentliche Beobachtungsdaten in Fällen wie P größer als N und stetigen und kategorialen Variablen.
	Die Methode ist in den meisten Vorhersagemodellen in JMP 16 Pro verfügbar und unterstützt viele ihrer Eigenheiten. Es ist auch im Profiler im Diagramm verfügbar, was seinen Nutzen wirklich erweitert, da es mit jeder Vorhersageformel arbeiten kann.
	Und dann erwägen wir als zukünftige Richtung die Implementierung einer auf K-nächsten Nachbarn basierenden Einschränkung, die über die aktuelle Einschränkung der Korrelationsstruktur hinausgehen würde.
	Prädiktoren werden oft durch mehrere Verteilungen erzeugt, was zu einer Clusterbildung im Prädiktorenraum führt, und ein Ansatz auf der Grundlage von K-nächsten Nachbarn würde es uns ermöglichen, die Extrapolation zwischen Clustern zu steuern.
	Vielen Dank an alle, die sich das angeschaut haben, und hier sind E-Mails, wenn Sie weitere Fragen haben.
Jeremy Ash, JMP	Ihr seid immer noch da.
Chris Gottwalt	ja bin ich.
Laura Lancaster	Gerade.

Das Beste vom GipfelAusbrechenDatenvisualisierungStatistik und ModellierungBetreff: Steuern der Extrapolation im Prediction Profiler in JMP Pro 16 (2021-US-45MP-838)

Ich habe die Frage, warum strikt ein Hotelling-T2-Wert die Vorhersageintegrität sicherstellen würde?Wir müssen zustimmen, dass Hotelling T2 wirklich den Designraum der Daten definiert, die wir im Modell verwendet haben.Dies bedeutet nicht, dass die Datenstruktur selbst eine korrekte Korrelationsstruktur aufweist.Ich sehe oft Fälle, in denen ich Vorhersagewerte innerhalb der Hotelling T2-Designregion habe, aber die Datenstruktur, die zur Vorhersage der Werte verwendet wird, stimmt nicht mit der Datenstruktur des ursprünglichen Modells überein.Daher ist die Vorhersage höchst fragwürdig.Ein einfaches Beispiel hierfür wäre ein einfaches Modell, das Orangensäfte basierend auf den ankommenden Orangen vorhersagt.Wenn jedoch jemand versehentlich Zitronen in die Reihe legt, sagt das Modell immer noch Orangensaft voraus.Die Saftmenge dürfte noch im Bereich der Hotelling T2-Region liegen.Wir alle wissen jedoch, dass es kein Orangensaft ist, den wir bekommen.Die Datenstruktur hat sich bei uns geändert.Aus diesem Grund müssen wir in einem PLS-Modell DmodX = 0 beibehalten, um sicherzustellen, dass alle zukünftigen Optimierungswerte innerhalb der ursprünglichen verwendeten Modelldatenstruktur bleiben.

 

Wenn Sie mir erklären können, wie das regularisierte T2 die verwendete Modelldatenstruktur und nicht die Modelldatenregion erfüllt, dann wäre ich bei der Verwendung dieses neuen Tools sicherer.