Lautsprecher | Transkript |
| Hallo, ich bin Chris Gotwalt. Mein Co |
| Moderatoren, Laura Lancaster und |
| Jeremy Ash und ich präsentieren |
| ein nützlicher neuer JMP Pro |
| Fähigkeit namens Extrapolation |
| Kontrolle. Fast jedes Modell, das |
| Sie würden jemals vorhersagen wollen |
| mit hat eine Reihe von |
| Anwendbarkeit, ein Bereich der |
| Eingaberaum, wo die |
| Vorhersagen gelten als |
| zuverlässig genug. Außerhalb davon |
| Region beginnen wir zu extrapolieren |
| das Modell auf Punkte weit entfernt von der |
| Daten, die zur Anpassung des Modells verwendet werden. Benutzen |
| die Vorhersagen dieses Modells |
| an diesen Punkten könnte dazu führen |
| völlig unzuverlässig |
| Vorhersagen. Es gibt zwei |
| Hauptquellen von |
| Extrapolation | statistisch |
| Extrapolation und domänenbasiert |
| Extrapolation. Beide Typen sind |
| abgedeckt durch die neue Funktion. |
| Es erfolgt eine statistische Extrapolation |
| wenn man es versucht |
| Vorhersagen mithilfe eines Modells bei einem x |
| das kommt den Werten nicht nahe |
| verwendet, um dieses Modell zu trainieren. |
| Domänenbasierte Extrapolation |
| passiert, wenn man versucht zu bewerten |
| bei einem x ist das unmöglich, weil |
| zu Naturwissenschaften oder Technik |
| basierende Einschränkungen. Das Beispiel |
| Hier werden beide Arten veranschaulicht |
| Extrapolation in einem Beispiel. |
| Hier sehen wir einen Profiler von a |
| Modell einer metallurgischen Produktion |
| Verfahren. Die Vorhersage lautet |
| out sagt -2,96 mit nein |
| Hinweis darauf, dass wir evaluieren |
| bei einer Temperaturkombination |
| und Druck, der unmöglich ist |
| im Sinne einer Domäne zu erreichen |
| diese Maschine. Wir haben auch |
| statistische Extrapolation wie es |
| ist weit von den Daten entfernt, die zur Anpassung verwendet wurden |
| das Modell, wie es in der Streuung zu sehen ist |
| Diagramm der Trainingsdaten auf dem |
| Rechts. In JMP Pro 16, Jeremy, |
| Laura und ich haben zusammengearbeitet |
| Fügen Sie eine neue Funktion hinzu, die dies kann |
| Geben Sie eine Warnung aus, wenn der Profiler |
| denkt, dass du es sein könntest |
| extrapolieren. Oder wenn du dich umdrehst |
| Extrapolationskontrolle auf, es |
| schränkt die Menge der Punkte ein |
| dass du dich nur um diejenigen kümmerst, die das tun |
| es glaubt nicht, dass es so ist |
| extrapolieren. Wir haben zwei Typen |
| der Extrapolationskontrolle. Einer ist |
| basierend auf dem Konzept der Hebelwirkung |
| und verwendet ein Modell der kleinsten Quadrate. |
| Dieser erste Typ ist nur |
| verfügbar in der Pro-Version von |
| Modell der kleinsten Quadrate anpassen. Der |
| andere Typen nennen wir allgemein |
| Extrapolation des maschinellen Lernens |
| Steuerung und ist in der erhältlich |
| Profiler-Plattform und mehrere davon |
| das am weitesten verbreitete maschinelle Lernen |
| Plattformen in JMP Pro. Auf |
| Auf Wunsch könnten wir es sogar ergänzen |
| mehr. Kleinsten Quadrate |
| Die Extrapolationssteuerung verwendet die |
| Konzept der Hebelwirkung, das heißt |
| wie eine skalierte Version des |
| Vorhersagevarianz. Es ist Modell- |
| basiert und nutzt daher Informationen |
| über die Haupteffekte |
| Interaktionen in höherer Ordnung |
| Begriffe zur Bestimmung der |
| Extrapolation. Für den General |
| Extrapolation des maschinellen Lernens |
| Kontrollfall, wir mussten hochkommen |
| mit unserem eigenen Ansatz. Wir |
| wollte eine Methode, die wäre |
| robust gegenüber fehlenden Werten, linear |
| Abhängigkeiten, schnellere Berechnung, |
| könnte mit Mischungen aus umgehen |
| kontinuierlicher und kategorischer Input |
| Variablen, und wir auch |
| Ich wollte mich ausdrücklich trennen |
| das Extrapolationsmodell aus dem |
| Modell, das zur Anpassung der Daten verwendet wird. Also |
| wenn wir allgemeines haben |
| Extrapolationskontrolle eingeschaltet, |
| Es gibt nur einen, der beaufsichtigt wird |
| Modell das ist...das passt zum |
| Eingabevariablen für die Antworten |
| das sehen wir im Profiler |
| Spuren. Der Profiler kommt |
| oben mit einem schnellen und schmutzigen |
| unbeaufsichtigtes Modell zu beschreiben |
| die Trainingssatzachsen, und das |
| Es wird ein unbeaufsichtigtes Modell verwendet |
| hinter den Kulissen von |
| Profiler zur Bestimmung der |
| Extrapolationskontrolle |
| Zwang. Also muss ich |
| wechseln, weil PowerPoint und meine |
| Kamera kommt nicht zurecht |
| gerade jetzt aus irgendeinem Grund. Wir |
| wissen, dass riskante Hochrechnungen |
| werden jeden Tag gemacht von |
| Menschen, die in der Datenwissenschaft arbeiten |
| und sind zuversichtlich, dass die Verwendung |
| der Extrapolationen führt zu schlechten Ergebnissen |
| Vorhersagen und letztlich zu |
| schlechte Geschäftsergebnisse. |
| Extrapolationskontrollorte |
| Leitplanken für Modellvorhersagen |
| und wird quantifizierbar führen |
| Bessere Entscheidungen durch JMP Pro |
| Benutzer. Wenn Benutzer eine Extrapolation sehen |
| auftritt, muss der Benutzer a |
| Entscheidung darüber, ob die |
| Vorhersage verwendet werden soll oder nicht |
| basierend auf ihrer Domäne verwendet |
| Wissen und Vertrautheit mit |
| das vorliegende Problem. Wenn du |
| Beginnen Sie mit der Extrapolation |
| Kontrollwarnungen kommen durchaus vor |
| Oft ist es wahrscheinlich das Ende von |
| den Lebenszyklus für dieses Modell in |
| Zeit, es an neue Daten anzupassen |
| weil die Verteilung der |
| Die Eingaben haben sich verschoben |
| die der Trainingsdaten. Wir |
| sind ehrlich gesagt ziemlich überrascht und |
| alarmiert, dass die Notwendigkeit besteht |
| Identifizierende Extrapolation ist es nicht |
| durch die Daten besser gewürdigt werden |
| Wissenschaftsgemeinschaft und haben gemacht |
| Kontrolle der Extrapolation als |
| möglichst einfach und automatisch erfolgen. |
| Laura, die es in JMP entwickelt hat |
| Pro, wird das demonstrieren |
| Option als nächstes. Dann Jeremy, wer |
| habe viel über unsere recherchiert |
| Team, werde auf die Mathematik eingehen |
| Details und Statistiken |
| Motivation für den Ansatz. |
| Hallo mein Name ist Laura |
| Lancaster und ich sind hier, um einen zu machen |
| Demo der Extrapolation |
| Steuerelement, das zu JMP hinzugefügt wurde |
| Pro 16. Ich wollte anfangen |
| mit einem ziemlich einfachen Beispiel |
| am wenigsten das Fit-Modell verwenden |
| Quadratische Plattform. Ich werde |
| Verwenden Sie möglicherweise einige Daten |
| vertraut; Es sind die Fitnessdaten |
| Das ist in Beispieldaten und ich bin |
| Ich werde Oxygen Uptake als verwenden |
| meine Antwort und Run Time, Run |
| Pulse und Max Pulse als meine |
| Prädiktoren. Und ich wollte |
| Wiederholen Sie, dass im Fit-Modell |
| Passen Sie die kleinsten Quadrate an |
| Extrapolationsmetrik das ist |
| Verwendet wird Hebelwirkung. So lass uns gehen |
| vorwärts und starte JMP. |
| Jetzt habe ich also die Fitnessdaten |
| in JMP öffnen und ich habe ein Skript |
| in der Datentabelle gespeichert |
| automatisch meine Passform starten |
| Modell der kleinsten Quadrate. Also bin ich |
| Ich werde weitermachen und das ausführen |
| Skript, es startet am wenigsten |
| Quadratische Plattform. Und ich habe das |
| Profiler automatisch geöffnet. Und |
| Wir können sehen, dass der Profiler |
| sieht so aus, als hätte es das schon immer getan |
| Vergangenheit, wo der Faktor Grenzen hat |
| werden durch den jeweiligen Bereich definiert |
| Faktor individuell, geben uns |
| rechteckige Randbedingungen. |
| Und wenn ich den Faktor ändere |
| Einstellungen, da diese gebunden sind |
| Einschränkungen kann es wirklich sein |
| Schwer zu sagen, ob du umziehst |
| weit außerhalb der Korrelation |
| Struktur der Daten. |
| Und deshalb wollten wir hinzufügen |
| die Extrapolationskontrolle. Also |
| Dies wurde zu mehreren hinzugefügt |
| der Plattformen in JMP Pro |
| 16, einschließlich Anpassung der kleinsten Quadrate. |
| Und um zur Extrapolation zu kommen |
| Steuerung, gehen Sie zum Menü unten |
| Das Profiler-Menü. Also wenn ich schaue |
| Hier sehe ich, dass es eine neue Option gibt |
| namens Extrapolationskontrolle. |
| Es ist standardmäßig deaktiviert. |
| aber ich kann es in beides umwandeln |
| Einschalten oder Warnung einschalten |
| Extrapolationskontrolle. Wenn ich |
| Schalten Sie es ein, bemerken Sie das |
| Es schränkt mein Profil ein |
| Spuren gehen nur zu Werten |
| wo ich nicht extrapoliere. |
| Wenn ich daraus eine Warnung machen würde |
| an, ich würde das vollständige Profil sehen |
| Spuren, aber ich würde eine bekommen |
| Warnung, wenn ich in eine Region gehe |
| wo es in Betracht gezogen werden würde |
| Extrapolation sein. |
| Ich kann auch die Extrapolation aktivieren |
| Details, die ich wirklich finde |
| hilfreich, und das gibt mir eine |
| viele weitere Informationen. Erstens |
| Alles, es sagt mir, dass mein |
| Metrik, die ich verwende |
| Definieren Sie die Extrapolation |
| Hebelwirkung, was in der Fall ist |
| Passen Sie die Plattform der kleinsten Quadrate an. |
| Und die Schwelle, die da ist |
| anfangs standardmäßig verwendet wird |
| wird die maximale Hebelwirkung sein, |
| aber das ist etwas, was ich kann |
| ändern und das werde ich dir zeigen |
| in einer Minute. Außerdem kann ich sehen |
| Was ist meine Extrapolationsmetrik? |
| ist für meine aktuellen Einstellungen. |
| Es ist diese Nummer hier, |
| was sich ändern wird, wenn ich mich verändere |
| meine Faktoreinstellungen. |
| Immer wenn diese Zahl größer ist |
| als die Schwelle, werde ich tun |
| Ich bekomme diese Warnung, dass ich es sein könnte |
| extrapolieren. Wenn es nach unten geht, |
| Das werde ich nicht mehr bekommen |
| Warnung. Dieser Schwellenwert ist nicht gegeben |
| Ich werde mich ändern, es sei denn, ich ändere mich |
| etwas im Menü anpassen |
| meine Schwelle. Also lasst mich weitermachen |
| und das sofort tun. Also gehe ich |
| um zum Menü zu gelangen |
| und ich werde zum Set gehen |
| Schwellenwertkriterium. Also |
| Bei der Anpassung der kleinsten Quadrate hat man zwei |
| Optionen für den Schwellenwert |
| Anfangs ist es auf Maximum eingestellt |
| Hebelwirkung, die auch weiterhin bestehen bleibt |
| Sie innerhalb der konvexen Hülle von |
| die Daten, oder Sie können zu a wechseln |
| Multiplikator mal Durchschnitt |
| Hebelwirkung oder Modellbedingungen über |
| Beobachtungen. Und ich will |
| Wechseln Sie zu diesem Schwellenwert. So ist es |
| als Multiplikator auf 3 gesetzt |
| standardmäßig. Das wird also passieren |
| das Dreifache der durchschnittlichen Hebelwirkung betragen |
| und ich klicke auf OK und bemerke das |
| Meine Schwelle wird sich ändern. |
| Es ist tatsächlich kleiner geworden, also das hier |
| ist konservativer |
| Definition von Extrapolation. |
| Und ich werde es wieder umdrehen |
| um meine Profilspuren einzuschränken. |
| Und jetzt kann ich nur noch gehen |
| Regionen, in denen ich innerhalb von 3 bin |
| mal die durchschnittliche Hebelwirkung. |
| Jetzt haben wir auch |
| Optimierung umgesetzt |
| das gehorcht dem |
| Extrapolation |
| Einschränkungen. Also wenn ich jetzt |
| Aktivieren Sie die festgelegte Erwünschtheit |
| und ich mache die Optimierung, |
| Ich werde einen optimalen Wert erhalten |
| erfüllt die Extrapolation |
| Zwang. Beachten Sie, dass dies |
| Die Metrik ist kleiner oder gleich |
| der Grenzbereich. Also, wenn ich jetzt gehe |
| zu meiner nächsten Folie, die im Gange ist |
| zum Vergleich in einem Diagramm, einem Streudiagramm |
| Matrix, der Unterschied |
| zwischen dem optimalen Wert mit |
| Extrapolationskontrolle eingeschaltet |
| und zwar ausgeschaltet. |
| Das ist also das Streudiagramm |
| Matrix, die ich mit JMP erstellt habe, |
| und es zeigt das Original |
| auch Prädiktorvariablendaten |
| als Prädiktorvariablenwerte |
| für die optimale Lösung mit |
| keine Extrapolationskontrolle, in |
| blau und die optimale Lösung mit |
| Extrapolationskontrolle in Rot. |
| Und beachten Sie, wie das Uneingeschränkte |
| Lösung hier in blau, |
| genau hier verstößt gegen die |
| Korrelationsstruktur für die |
| Originaldaten für Laufpuls und |
| Maximaler Puls und damit Erhöhung der |
| Unsicherheit dieser Vorhersage. |
| Wobei die optimale Lösung |
| das hat Extrapolation verwendet |
| Die Kontrolle ist viel besser im Einklang |
| mit den Originaldaten. |
| Schauen wir uns nun ein Beispiel an |
| Verwendung des allgemeineren |
| Extrapolationskontrollmethode, |
| was wir als a bezeichnen |
| Regularisierte T-Quadrat-Methode. Als |
| Chris hat bereits erwähnt, wir |
| hat diese Methode für Modelle entwickelt |
| außer den Modellen der kleinsten Quadrate. |
| Also schauen wir uns a an |
| neuronales Modell für den Diabetes |
| Daten, die auch in der Probe enthalten sind |
| Daten. Die Antwort ist ein Maß |
| des Krankheitsverlaufs und der |
| Prädiktoren sind die Basis |
| Variablen. Noch einmal, die |
| Extrapolationsmetrik, die für verwendet wird |
| Dieses Beispiel ist das |
| reguliertes T quadrieren das |
| Jeremy wird in beschreiben |
| Weitere Einzelheiten in ein paar Minuten. |
| Ich habe also die Diabetes-Daten geöffnet |
| JMP und ich haben ein Skript gespeichert |
| meines neuronalen Modells passt. Ich bin |
| Ich werde weitermachen und das ausführen |
| Skript. Es startet das Neuron |
| Plattform, und merke, dass ich es bin |
| unter Verwendung der Validierungsmethode, zufällig |
| halte zurück. Ich wollte es nur anmerken |
| dass jedes Mal, wenn Sie a verwenden |
| Validierungsmethode, die |
| Hochrechnungskontrolle basiert |
| nur auf den Trainingsdaten |
| und nicht Ihre Bestätigung |
| oder Testdaten. |
| Also habe ich den Profiler geöffnet und |
| Sie können sehen, dass es das verwendet |
| vollständige Spuren. Extrapolation |
| Steuerung ist nicht eingeschaltet. Lasst uns |
| Machen Sie weiter und schalten Sie es ein. |
| Und das werde ich auch tun |
| Schalten Sie die Details ein. |
| Sie können sehen, dass die Spuren vorhanden sind |
| eingeschränkt und die Metrik |
| ist das regulierte T-Quadrat. Der |
| Der Schwellenwert beträgt das Dreifache |
| Standardabweichung der Stichprobe |
| reguliertes T-Quadrat. Jeremy ist |
| Ich werde mehr darüber reden |
| das alles bedeutet genau in ein paar |
| Protokoll. Und ich wollte es einfach |
| Erwähnen Sie das, wenn wir es verwenden |
| das regulierte T-Quadrat |
| Methode gibt es nur eine Wahl |
| für Schwelle, aber Sie können |
| Passen Sie den Multiplikator an. Also wenn du |
| Gehe zur Extrapolationskontrolle, setze |
| Schwellenwert festlegen, können Sie diesen anpassen |
| Multiplikator, aber ich werde es tun |
| lass es bei 3. Und jetzt ich |
| Ich möchte die Optimierung mit ausführen |
| Extrapolationskontrolle. Also bin ich |
| Ich werde einfach maximieren und |
| erinnern. Jetzt habe ich eine |
| optimale Lösung mit |
| Extrapolationssteuerung eingeschaltet |
| An. Und jetzt möchte ich nachsehen |
| bei unserer Streudiagrammmatrix, einfach |
| wie wir es uns vorher angeschaut haben, mit |
| die Originaldaten, sowie |
| mit den optimalen Werten mit |
| und ohne Extrapolation |
| Kontrolle. |
| Das ist also eine Streudiagrammmatrix |
| der Diabetes-Daten, die ich |
| erstellt in JMP. Es hat das |
| ursprüngliche Prädiktorwerte, wie |
| sowie die optimale Lösung |
| Verwendung der Extrapolationskontrolle in |
| rot und optimale Lösung ohne |
| Extrapolationskontrolle in Blau. |
| Und das sieht man rot |
| Punkte scheinen viel mehr zu sein |
| innerhalb der Korrelationsstruktur |
| der Originaldaten als die |
| blau, und das ist besonders |
| stimmt, wenn man sich dieses LDL ansieht |
| im Vergleich zum Gesamtcholesterin. |
| Schauen wir uns nun ein Beispiel an |
| Verwenden Sie den unten aufgeführten Profiler |
| das Grafikmenü, das ich aufrufen werde |
| der Graph-Profiler. Es nutzt auch |
| die regulierte T-Quadrat-Methode |
| und es ermöglicht uns, es zu nutzen |
| Extrapolationskontrolle auf beliebige |
| Art des Modells, das sein kann |
| erstellt und als JSL gespeichert |
| Formel. Es ermöglicht uns auch |
| haben Sie die Extrapolationskontrolle aktiviert |
| mehr als ein Modell gleichzeitig. |
| Schauen wir uns also ein Beispiel an |
| für ein Unternehmen, das Pulver verwendet |
| Metallurgietechnik zu |
| produzieren Antriebswellen aus Stahl für |
| der Automobilindustrie. |
| Sie wollen finden können |
| optimale Einstellungen für ihre |
| Produktion, die minimiert wird |
| Schrumpfung und minimieren auch... |
| Fehler aufgrund von Fehlern minimieren |
| Dienstleistungskonditionen. Also haben wir |
| zwei | Schrumpfung der Antworten (d. h |
| kontinuierlich und wir werden es tun |
| Passen Sie ein Modell der kleinsten Quadrate an |
| das) und Oberflächenzustand (welcher |
| ist bestanden/nicht bestanden und wir werden es tun |
| Passen Sie ein nominales Logistikmodell an |
| Das hier). Und unser Prädiktor |
| Variablen sind nur einige Schlüssel |
| Prozessvariablen in der Produktion. |
| Und noch einmal die Hochrechnung |
| Metrik ist das regulierte T-Quadrat. |
| Also ich habe das Pulver |
| Metallurgiedaten in JMP öffnen |
| und ich habe zumindest schon gepasst |
| Quadratmodell für meine Schrumpfung |
| Antwort, und ich habe bereits eine gepasst |
| nominales Logistikmodell für die |
| Oberflächenzustand bestanden/nicht bestanden |
| Antwort, und ich habe die gespeichert |
| Vorhersageformeln für die Daten |
| Tisch, damit sie bereit sind |
| im Graphprofiler verwendet werden. |
| Wenn ich also zum Grafikmenü gehe |
| Profiler, ich kann das laden |
| Vorhersageformel für Schrumpfung |
| und meine Vorhersageformel lautet für |
| der Oberflächenzustand. |
| OK klicken. Und jetzt habe ich es |
| Beide meiner Modelle wurden gestartet |
| der Graph-Profiler. |
| Und bevor ich mich einschalte |
| Extrapolationskontrolle, Sie |
| Ich kann sehen, dass ich das volle habe |
| Profilspuren. Sobald ich einschalte |
| Extrapolationskontrolle |
| Das sieht man an den Spuren |
| etwas schrumpfen, und ich gehe auch |
| um die Details einzuschalten, |
| nur um zu zeigen, dass ich es tatsächlich bin |
| unter Verwendung des regulierten T-Quadrats |
| hier in dieser Methode. |
| Was ich also wirklich tun möchte, ist, dass ich |
| das Optimum finden wollen |
| Bedingungen, unter denen ich minimiere |
| Schrumpfung und ich minimieren |
| Fehler bei der Extrapolation |
| Kontrolle und ich möchte sichergehen |
| Ich extrapoliere nicht. Ich möchte |
| eine sinnvolle Lösung finden. Und |
| bevor ich die Optimierung durchführen kann, |
| Ich muss tatsächlich meine einstellen |
| Wünsche. Also werde ich es tun |
| Wünsche festlegen. Es ist bereits |
| korrekt für Schrumpfung, aber ich |
| Sie müssen sie für den Dienst festlegen |
| Zustand. Ich werde versuchen, das Maximum zu erreichen |
| Durchläufe und minimieren Ausfälle. |
| K. |
| Und jetzt sollte ich dazu in der Lage sein |
| die Optimierung mit |
| Extrapolationssteuerung aktiviert. |
| Maximieren Sie und erinnern Sie sich. |
| Und jetzt habe ich mein Optimum |
| Lösung mit Extrapolation |
| Steuerung eingeschaltet. Also schauen wir uns das jetzt an |
| noch einmal am |
| Streudiagrammmatrix der |
| Originaldaten, zusammen mit der |
| Lösung mit Extrapolation |
| Kontrolle in der Lösung, |
| mit der Extrapolationssteuerung |
| aus. |
| Das ist also eine Streudiagrammmatrix |
| der pulvermetallurgischen Daten |
| die ich in JMP erstellt habe. Und es |
| hat auch die optimale Lösung |
| mit Extrapolationskontrolle als |
| red dot und das Optimum |
| Lösung ohne Extrapolation |
| Steuerung als blauer Punkt. Und einmal |
| Das sieht man wieder, wenn wir |
| Führen Sie die Extrapolation nicht durch |
| Kontrolle, die optimale Lösung |
| liegt ziemlich weit außerhalb |
| Korrelationsstruktur der |
| Daten. Wir können besonders sehen |
| das hier mit Verhältnis versus |
| Verdichtungsdruck. |
| Nun möchte ich also übergeben |
| die Präsentation vor Jeremy |
| um auf noch viel mehr einzugehen |
| Einzelheiten zu unseren Methoden. |
| Hallo, hier sind einige davon |
| Ziele für die Extrapolationskontrolle |
| das haben wir am angelegt |
| Beginn des Projekts. Wir |
| benötigte eine Extrapolationsmetrik |
| das ließe sich schnell berechnen |
| mit einer großen Anzahl von |
| Beobachtungen und Variablen und |
| Wir brauchten eine schnelle Möglichkeit zur Beurteilung |
| ob die Metrik angegeben |
| Extrapolation oder nicht. Das war |
| um die Interaktivität von aufrechtzuerhalten |
| die Profiler-Spuren und |
| Wir brauchten das |
| Optimierung durchführen. |
| Wir wollten es können |
| unterstützen die verschiedenen Variablen |
| Typen verfügbar in der |
| Profiler. Diese sind |
| im Wesentlichen kontinuierlich, |
| kategorial und ordinal. |
| Wir wollten nutzen |
| Beobachtungen mit fehlenden Zellen, |
| weil einige Modellierungsmethoden |
| wird diese Beobachtungen einbeziehen |
| In ???. |
| Wir wollten eine Methode, die das ist |
| robust gegenüber linearen Abhängigkeiten in |
| die Daten. Diese treten auf, wenn die |
| Anzahl der Variablen ist größer |
| als die Anzahl der Beobachtungen, |
| Zum Beispiel. Und wir wollten |
| etwas, das leicht zu machen war |
| automatisieren, ohne dass ein |
| viel Benutzereingabe. |
| Für Modelle der kleinsten Quadrate haben wir |
| landete auf Hebelwirkung, das heißt |
| Wird häufig zur Identifizierung von Ausreißern verwendet |
| in linearen Modellen. Der Hebel |
| für neuen Vorhersagepunkt ist |
| danach berechnet |
| Formel. Da sind viele |
| Interpretationen zur Hebelwirkung. |
| Eine Interpretation ist, dass es so ist |
| der multivariate Abstand von a |
| Vorhersagepunkt aus der Mitte |
| der Trainingsdaten. Ein anderer |
| Interpretation ist, dass es ein |
| skalierte Vorhersagevarianz. Also |
| wenn sich der Vorhersagepunkt bewegt |
| weiter vom Zentrum entfernt |
| der Daten, die Unsicherheit |
| der Vorhersage nimmt zu. Und wir |
| Verwenden Sie zwei gemeinsame Schwellenwerte |
| die statistische Literatur für |
| Bestimmen, ob dieser Abstand |
| es ist zu groß. Das erste ist |
| maximale Hebelwirkung, Vorhersage |
| Punkte jenseits dieser Schwelle |
| oder außerhalb der konvexen Hülle von |
| die Trainingsdaten. |
| Und der zweite ist dreimal so hoch |
| Durchschnitt der Hebelwirkungen. Es |
| kann gezeigt werden, dass dies der Fall ist |
| entspricht dem Dreifachen |
| Anzahl der Modellbegriffe geteilt |
| nach der Anzahl der Beobachtungen. |
| Und wie Laura es beschrieben hat |
| früher können Sie das ändern |
| Multiplikator davon |
| Schwellenwerte. |
| Schließlich, wenn Wünsche |
| werden optimiert, die |
| Die Extrapolationsbeschränkung ist a |
| nichtlineare Einschränkung und |
| zuvor vom Profiler zugelassen |
| eingeschränkte Optimierung mit |
| lineare Einschränkungen. Diese Art von |
| Optimierung ist mehr |
| herausfordernd, also hat Laura es umgesetzt |
| ein genetischer Algorithmus. Und wenn Du |
| sind damit nicht vertraut, |
| Genetische Algorithmen nutzen die |
| Prinzipien der molekularen |
| Evolution zur Optimierung |
| komplizierte Kostenfunktionen. |
| Als nächstes werde ich darüber sprechen |
| Ansatz, mit dem wir verallgemeinert haben |
| Extrapolationskontrolle auf Modelle |
| andere als lineare Modelle. Wann |
| Sie erstellen eine Vorhersage |
| Modell in JMP, Sie beginnen mit a |
| Satz von Prädiktorvariablen und a |
| Satz von Antwortvariablen. Manche |
| Das überwachte Modell wird trainiert und |
| Dann kann ein Profiler verwendet werden |
| Visualisieren Sie die Modelloberfläche. |
| Es gibt zahlreiche Variationen |
| der Profiler in JMP. Du kannst |
| Verwenden Sie den Profiler intern in |
| Modellierungsplattformen. Du kannst |
| Ausgabevorhersageformeln und |
| Erstellen Sie einen Profiler für mehrere |
| Modelle. Wie Laura demonstrierte, |
| Sie können Profiler für erstellen |
| Ensemblemodelle. Wir wollten ein |
| Methode zur Extrapolationskontrolle |
| das würde das alles verallgemeinern |
| Szenarien, also statt |
| Bindung unserer Methode an a |
| spezifisches Modell, wir gehen |
| einen unbeaufsichtigten Gebrauch machen |
| Ansatz. |
| Und wir werden nur a markieren |
| Vorhersagepunkt als |
| Extrapolation, wenn es weit ist |
| außerhalb, wo die Daten sind |
| konzentriert sich auf den Prädiktor |
| Raum. Und das ermöglicht es uns |
| konsistent sein |
| Profiler damit unsere |
| Methode zur Extrapolationskontrolle |
| Lässt sich in jeden Profiler einbinden. |
| Die multivariate Distanz |
| Interpretation der Hebelwirkung |
| schlug Hotellings T im Quadrat vor |
| eine Distanz für Allgemeines |
| Extrapolationskontrolle. Tatsächlich, |
| Einige algebraische Manipulationen werden es tun |
| Zeigen Sie, dass das T-Quadrat von Hotelling ist |
| einfach die Hebelwirkung verschoben und |
| skaliert. Diese Abbildung zeigt wie |
| Hotellings T-Quadrat-Maße |
| die eine Beobachtung ellipsen |
| liegt dort, wo die Ellipsen sind |
| zentriert auf den Mittelwert der |
| Daten und die Form ist definiert |
| durch die Kovarianzmatrix. |
| Da wir nicht mehr da sind |
| lineare Modelle, diese Metrik |
| hat nicht das Gleiche |
| Verbindung zur Vorhersage |
| Varianz. Also statt |
| basierend auf den verwendeten Schwellenwerten |
| Zurück in linearen Modellen sind wir |
| werde welche machen |
| Verteilungsannahmen |
| um zu bestimmen, ob T im Quadrat ist |
| für Vorhersagepunkt sollte |
| als Extrapolation betrachtet werden. |
| Hier zeige ich die Formel für |
| Hotellings T im Quadrat. Der Mittelwert und |
| Kovarianzmatrix wird geschätzt |
| Verwenden der Trainingsdaten für die |
| Modell. Wenn P kleiner als N ist, |
| wobei P die Anzahl von ist |
| Prädiktoren, N ist die Zahl |
| von Beobachtungen und wenn die |
| Prädiktoren multivariater Prädiktoren |
| normal, dann T im Quadrat für |
| Suchtpunkt hat ein F |
| Verteilung. Allerdings wollten wir |
| eine Methode zur Verallgemeinerung der |
| Datensätze mit komplizierten Daten |
| Typen, wie eine Mischung aus kontinuierlichen |
| und kategoriale Datensätze, wobei P |
| ist größer als N, Datensätze mit |
| fehlende Werte. Also statt |
| Ausarbeitung der Verteilungen |
| analytisch jeweils wir |
| verwendete einen einfachen Konservativen |
| Kontrollgrenze, die wir gefunden haben |
| Funktioniert in der Praxis gut. Das ist |
| eine Drei-Sigma-Kontrollgrenze |
| unter Verwendung der empirischen Verteilung |
| von T im Quadrat aus dem Training |
| Daten und, wie Laura erwähnte, Sie |
| Sie können diesen Multiplikator auch anpassen. |
| Eine Komplikation besteht darin, dass, wenn P |
| ist größer als N, Hotellings T |
| quadriert ist undefiniert. Es gibt |
| Zu viele Parameter im |
| Kovarianzmatrix zur Schätzung |
| mit den verfügbaren Daten und |
| Dies kommt bei typischer Verwendung häufig vor |
| Fälle zur Extrapolationskontrolle |
| wie in partiellen kleinsten Quadraten. |
| Also entschieden wir uns für einen Roman |
| Ansatz zur Berechnung von Hotellings T |
| quadriert, das sich mit diesen beschäftigt |
| Fälle, und wir nennen es a |
| reguliertes T-Quadrat. |
| Um die Kovarianz zu berechnen |
| Matrix verwenden wir eine regulierte |
| Schätzer ursprünglich |
| entwickelt von Schafer und |
| Rasentrimmer für High |
| dimensionale Genomdaten. |
| Es ist nur ein Gewicht |
| Kombination des Vollen |
| Stichproben-Kovarianzmatrix, |
| Das ist U hier und a |
| Einschränkungszielmatrix |
| Das ist D. |
| Für das Lambda-Gewicht |
| Parameter, Schafer und Strimmer |
| eine analytische abgeleitet |
| Ausdruck, der die minimiert |
| MSE, der Schätzer |
| asymptotisch. |
| Schafer und Strimmer schlugen vor |
| mehrere mögliche Ziele |
| Matrizen. Die Zielmatrix wir |
| Gewählt wurde eine Diagonalmatrix mit |
| die Stichprobenvarianzen der |
| Prädiktorvariablen auf der |
| Diagonale. Diese Zielmatrix hat |
| eine Reihe von Vorteilen für |
| Extrapolationskontrolle. Als erstes werden wir |
| Gehen Sie nicht von einer Korrelation aus |
| Struktur zwischen den Variablen |
| bevor Sie die Daten sehen, die |
| Funktioniert gut als allgemeiner Prior. |
| Auch wenn nur wenige Daten vorliegen |
| um die Kovarianz abzuschätzen |
| Matrix, entweder aufgrund von kleinem N oder |
| ein großer Teil fehlt, der |
| elliptische Einschränkung ist |
| um ein großes Gewicht erweitert |
| die Diagonalmatrix, und das |
| führt zu einem konservativeren Ergebnis |
| Test zur Extrapolationskontrolle. |
| Wir fanden, dass dies notwendig war |
| eine angemessene Kontrolle darüber erlangen |
| Falsch-Positiv-Rate. Um es auszudrücken |
| einfacher gesagt, wenn es gibt |
| begrenzte Trainingsdaten, die |
| Das regulierte T-Quadrat ist kleiner |
| Vorhersagen werden wahrscheinlich als etikettiert |
| Extrapolation, das ist, was Sie |
| wollen, weil du mehr bist |
| wahrscheinlich Kovarianzen beobachten |
| zufällig. Wir haben einige |
| Simulationsergebnisse |
| diese Details demonstrieren, |
| aber ich habe keine Zeit zu gehen |
| in all das hinein. Anstatt |
| Auf der Community-Webseite haben wir eine |
| Link zu einem Artikel über Archiv und |
| Wir planen, dies dem vorzulegen |
| Journal of Computational |
| Grafische Statistik. |
| Diese nächste Folie zeigt etwas anderes |
| wichtige Details, die wir brauchten |
| halten. Wir mussten es herausfinden |
| Erfahren Sie, wie Sie mit Kategorialen umgehen |
| Variablen. Wir sind nur |
| Umwandlung in Indikator- |
| codierte Dummy-Variablen. Das ist |
| vergleichbar mit einem Vielfachen |
| Korrespondenzanalyse. Ein anderer |
| Komplikation ist, wie man berechnet |
| Hotellings T im Quadrat wann |
| Es fehlen Daten. Mehrere |
| JMP-Vorhersagemodellierung |
| Plattformen nutzen Beobachtungen mit |
| Es fehlen Daten, um sie zu trainieren |
| Modelle. Dazu gehört naiv |
| Bayes- und Bootstrap-Wald. Und |
| Diese Formeln zeigen das |
| Paarweise Löschmethode wir |
| wird zur Schätzung der Kovarianz verwendet |
| Matrix. Es wird häufiger verwendet |
| Zeilenweises Löschen. Das heisst |
| Alle Beobachtungen fehlen |
| Werte werden vorher gelöscht |
| Berechnen der Kovarianzmatrix. |
| Und das ist am einfachsten, aber es kann |
| Dies führt dazu, dass nützliche Dinge weggeworfen werden |
| Daten, wenn die Stichprobengröße der |
| Die Trainingsdaten sind klein. Mit |
| paarweise Löschungsbeobachtungen |
| und nur dann gelöscht, wenn welche vorhanden sind |
| fehlende Werte im Paar von |
| Variablen, die zur Berechnung der verwendet werden |
| entsprechenden Eintrag und das ist |
| was diese Formeln zeigen. |
| Scheint eine einfache Sache zu sein. |
| Sie nutzen einfach alle Daten |
| das ist verfügbar, aber es |
| kann tatsächlich zu einer Vielzahl von führen |
| Probleme, weil es sie gibt |
| unterschiedliche Beobachtungen gewohnt |
| Berechnen Sie jeden Eintrag. Das kann |
| dass seltsame Dinge passieren, |
| wie Kovarianzmatrizen mit |
| negative Eigenwerte, das heißt |
| etwas, mit dem wir uns auseinandersetzen mussten. |
| Hier sind einige Vorteile von |
| das regulierte T zum Quadrat wir |
| gefunden beim Vergleich mit anderen |
| Methoden in unseren Auswertungen. Eins |
| ist das die Regularisierung |
| Funktioniert wie die Regularisierung |
| funktioniert normalerweise. Es fällt ein |
| Gleichgewicht zwischen Überanpassung der |
| Trainingsdaten und übermäßige Voreingenommenheit |
| der Schätzer. Das macht das |
| Schätzer robuster gegenüber Rauschen |
| und Modellfehlspezifikationen. |
| Als nächstes Schäfer und Strimmer |
| haben das in ihrer Arbeit gezeigt |
| Die Regularisierung führt zu a |
| genauerer Schätzer in |
| hohe Dimensionseinstellungen. |
| Das hilft bei der Schreibschrift |
| Dimensionalität, die plagt |
| Die meisten distanzbasierten Methoden |
| zur Extrapolationskontrolle. |
| Dann in den Feldern, die haben |
| entwickelte die Methodik für |
| Extrapolationskontrolle, |
| oft haben sie beide high |
| Dimensionsdaten und hoch |
| korrelierte Prädiktoren. Für |
| Beispiel in Chemieinformatik und |
| Chemometrie, die Chemikalie |
| Funktionen sind oft hoch |
| korreliert. Extrapolationskontrolle |
| wird oft in Kombination verwendet |
| mit PCA- und PLS-Modellen, wo |
| T zum Quadrat DModX werden verwendet |
| Korrelationsverletzungen erkennen |
| Struktur. Das ist ähnlich |
| was wir im Bereich Model Driven machen |
| Multivariate Kontrollkarte. |
| Da dies ein häufiger Anwendungsfall ist, |
| Wir wollten eine Option dafür haben |
| nicht allzu weit abgewichen |
| diese Methoden. Unser reguliertes T |
| quadriert liefert den gleichen Typ |
| der Extrapolationskontrolle, aber es |
| erfordert keinen Projektionsschritt |
| was einige Vorteile hat. |
| Wir haben festgestellt, dass dies uns ermöglicht |
| andere Typen besser verallgemeinern |
| von Vorhersagemodellen. Auch in |
| Bei unseren Auswertungen haben wir das festgestellt |
| wenn eine lineare Projektion dies nicht tut |
| funktionieren gut für Ihre Daten, z |
| Sie haben nichtlineare Beziehungen |
| zwischen Prädiktoren, den Fehlern |
| kann die Kontrollgrenzen erhöhen |
| von projektionsbasierten Methoden, |
| was zu Armut führen wird |
| Schutz gegen |
| Extrapolation und unser Ansatz |
| ist robuster als dieses. |
| Und dann noch ein wichtiger Punkt |
| ist, dass wir das gefunden haben |
| einzelne Extrapolationsmetrik |
| war viel einfacher zu bedienen und |
| interpretieren. |
| Und hier ist eine kurze Zusammenfassung davon |
| die Merkmale der Extrapolation |
| Kontrolle. Die Methode liefert bessere Ergebnisse |
| Visualisierung des Machbaren |
| Regionen in hoher Dimension |
| Modelle im Profiler. |
| Ein neuer genetischer Algorithmus hat |
| wurden flexibel umgesetzt |
| Optimierungsprobleme. |
| Unser reguliertes T-Quadrat |
| geht mit chaotischen Beobachtungen um |
| Daten, Fälle wie P größer |
| als N und kontinuierlich und |
| kategorische Variablen. |
| Die Methode ist in den meisten Fällen verfügbar |
| der Vorhersagemodelle in JMP |
| 16 Pro und unterstützt viele davon |
| ihre Eigenheiten. Es ist auch |
| im Profiler verfügbar |
| Grafik, die es wirklich öffnet |
| Dienstprogramm, weil Sie es bedienen können |
| auf jeder Vorhersageformel. |
| Und dann als zukünftige Richtung, |
| Wir denken über die Umsetzung nach |
| ein K-nächster Nachbar basierend |
| Einschränkung, die darüber hinausgehen würde |
| der aktuelle Zusammenhang |
| Strukturbeschränkung. Oft |
| Prädiktoren werden generiert von |
| es ergeben sich mehrere Verteilungen |
| beim Clustering im Prädiktor |
| Raum. Und ein K-nächster Nachbar |
| basierte Ansatz würde es ermöglichen |
| uns, die Extrapolation zu kontrollieren |
| zwischen Clustern. |
| Also vielen Dank an alle, die |
| schaltete ein, um dies zu sehen und |
| Hier sind unsere E-Mails, falls Sie welche haben |
| gibt es noch Fragen. |
