Die Optimierung von Hyperparametern ist entscheidend für die Verbesserung von Modellen des maschinellen Lernens, kann aber rechenintensiv und komplex sein. Traditionelle Methoden wie Gittersuche, Zufallssuche oder auch Bayes'sche Optimierung erfassen oft nicht alle kritischen Bereiche des Hyperparameterraums, was zu suboptimalen Modellen führt.
In diesem Vortrag stellen wir ein von uns entwickeltes JMP-Add-in vor, das mithilfe von raumfüllender Versuchsplanung (DOE) die Hyperparameteroptimierung effizienter gestaltet. Durch die Verwendung von raumfüllender DOE werden Hyperparameterkombinationen gleichmäßiger über den gesamten Parameterraum verteilt, wodurch die Anzahl der erforderlichen Auswertungen reduziert und gleichzeitig die Wahrscheinlichkeit erhöht wird, optimale Einstellungen zu finden.
Dieser Vortrag beleuchtet die verbesserte Python-Integration in JMP 18 und zeigt, wie Data Scientists von Funktionen wie DOE in JMP profitieren können. Er kombiniert fortgeschrittene statistische Verfahren mit praktischen, leicht zugänglichen Werkzeugen zur Optimierung der Modellleistung in verschiedenen Anwendungsbereichen.
Hallo. Vielen Dank für Ihr Kommen zu unserem Vortrag. In diesem Vortrag geht es um die Verbesserung von maschinellem Lernen durch die Optimierung von Hyperparametern mithilfe von Space-Filling-Designs. Mein Name ist Peter Hirsch, und mein Co-Referent ist Scott Allen. Bevor wir unseren Ansatz zur Verbesserung von maschinellem Lernen erläutern, möchte ich Ihnen einige Ergebnisse vorstellen.
Hier sehen wir zwei Kandidaten, die die Aufgabe hatten, zehn Vorhersagemodelle zu erstellen. Jedes dieser Modelle basierte auf einer kategorischen Antwort. Betrachtet man den Hintergrund der beiden Kandidaten, so steht auf der einen Seite der weltbekannte Datenwissenschaftler Russ Wolfinger, auf der anderen Seite jemand, der nicht weltbekannt ist. Das ist, als würde ich gegen Michael Jordan Basketball spielen. Man könnte ein sehr einseitiges Ergebnis erwarten.
Wie Sie sehen, lagen die Ergebnisse sehr nah beieinander, wobei die weniger bekannten Datenwissenschaftler sogar bessere Resultate erzielten. Wie ist das möglich? Das Torch Companion Add-in war meine Geheimwaffe. Dieses Add-in hilft uns allen, unsere Modellierungsergebnisse zu verbessern – es ist, als hätte man LeBron James als Mitspieler in einem Eins-gegen-Eins-Basketballspiel.
Ich möchte mit einem ganz einfachen Quiz beginnen. Sehen wir auf diesem Bild eine Katze oder einen Hund? Und auf diesem anderen Bild? Sehen wir dort auch eine Katze oder einen Hund? Ganz einfach: Wir erkennen, dass der Hund links und die Katze rechts ist. Aber woher wissen wir, ob das Bild einen Hund oder eine Katze zeigt? Was sind die entscheidenden Merkmale? Wenn wir ein Modell erstellen wollten, wie würden wir es trainieren, um Katze oder Hund zu erkennen? Hier ist ein Diagramm, das den Aufbau eines neuronalen Netzes veranschaulicht. In diesem Fall zeigt das Bild eine handgeschriebene Vier, die in drei Schichten mit jeweils vier Knoten unterteilt ist.
Jeder Knoten repräsentiert die ursprüngliche Eingabe auf unterschiedliche Weise. Diese Knoten und Schichten werden kombiniert, um eine Vorhersage zu treffen. Jeder Datensatz kann einen unterschiedlichen Komplexitätsgrad aufweisen. Im oberen Beispiel, wo lediglich die Farbe eines Punktes (grün oder rot) bestimmt wird, ist das Modell deutlich einfacher als im unteren Beispiel, wo ein Bild eines Hundes oder einer Katze analysiert wird. Letzteres erfordert unter Umständen ein wesentlich komplexeres Modell. Die Anzahl der Schichten und deren Größe bzw. die Anzahl der Knoten pro Schicht werden als Hyperparameter bezeichnet und müssen für jedes Modell optimiert werden.
Wie passen wir das Modell an, um verschiedene Probleme zu lösen? Hier sehen wir das Startfenster für das Torch-Tuning-Add-in in JMP. Es gibt viele verschiedene Optionen. Wir können Dinge wie Epochen, Lernrate, Schichtgröße und Aktivierungsfunktion anpassen. Mit all diesen Optionen ergeben sich Millionen von Kombinationsmöglichkeiten. Wo fangen wir an?
Es gibt verschiedene Möglichkeiten, den Hyperparameterraum zu erkunden. Die erste ist die Gittersuche, die wohl am häufigsten angewendet wird und einem vollständigen faktoriellen Versuchsplan am ähnlichsten ist. Dabei würden wir jede mögliche Kombination aller Faktoren untersuchen, was zu über zweieinhalb Millionen verschiedenen Modellen führen würde. Das ist in den meisten Fällen zu viel. Alternativ könnten wir eine Zufallssuche durchführen, bei der wir bestimmte Faktorkombinationen zufällig auswählen und testen.
Wir könnten auch einen Bayes'schen Optimierungsansatz verfolgen oder Russ Wolfinger fragen. Es wäre natürlich ideal, wenn man Russ direkt erreichen könnte oder einen anderen Data Scientist mit ähnlichen Fähigkeiten kennt, aber das ist nicht immer möglich. Wie könnten ich, Scott oder ein normaler Experimentator dieses Problem lösen? Wir behandeln es wie ein Experiment. Wie führt man Experimente in JMP durch? Geht man dabei Faktor für Faktor vor? Nein, Drake hält das für keine gute Idee. Wir sollten wohl ein Experiment entwerfen. Wir werden kurz darüber sprechen, wie dieser Ansatz funktioniert, und dann übergebe ich an Scott.
Danke, Peter. Wir werden uns jetzt die Inhalte des Torch Companion ansehen, einige Beispiele zeigen und dann ein wenig mit dem Add-in arbeiten. Zuvor möchte ich aber kurz erläutern, was dieses Add-in beinhaltet.
Dieses Add-in vereint verschiedene JMP-Funktionen, darunter Tabellenfunktionen, die DOE-Plattform, das von Russ und seinem Team entwickelte Torch Deep Learning Add-in sowie Graph Builder-Ausgaben. Natürlich ließen sich all diese Funktionen auch einzeln nutzen, aber dieses Add-in optimiert den Workflow. Die Interaktion mit dem Add-in funktioniert wie bei vielen JMP-Plattformen: Der Benutzer definiert Spalten für die Zielgröße, Faktoren und Validierung. Anschließend werden Torch-Parameter, in diesem Fall ein Parameterbereich oder verschiedene Optionen, festgelegt und an das Torch Add-in übergeben. Wir möchten uns einige dieser Schnittstellen kurz ansehen.
Der Spaltendialog ähnelt stark dem Standarddialog von JMP. Hier laden Sie Ihre Antwort, Ihre Faktoren und Ihre Validierungsspalten. Die Faktoren können numerisch, vom Typ Zeichenkette oder, wie in diesem Fall, ein Bildmodell sein. Die Möglichkeit, Bildmodelle zu analysieren, ist ein Alleinstellungsmerkmal des Torch-Add-ins für JMP. Daher haben wir diese Funktion auch in das Add-in integriert. Nach einem Klick auf „OK“ gelangen Sie zum Spezifikationsfenster. Wir haben uns hierbei mit Russ ausgetauscht, um herauszufinden, welche Parameter wir hier berücksichtigen sollten, um ein optimales Modell zu erstellen.
Ziel ist es, den Torch Companion in Verbindung mit dem Torch Deep Learning Add-in zu verwenden. Wir haben nicht alle Parameter aufgeführt, die Sie möglicherweise anpassen möchten, aber damit erreichen Sie ein optimales Modell möglichst effizient. Sie können beispielsweise das Modell selbst, den tabellarischen oder den Bildmodelltyp sowie einige der zugehörigen Parameter optimieren. Außerdem können Sie verschiedene Optionen für die Modellstruktur betrachten, insbesondere die Anzahl der DOE-Versuche. Anstatt also jedes Modell einzeln auszuführen und jeweils nur einen Faktor zu testen, können Sie mit einem Klick einen Parameterbereich festlegen und 200 oder 300 Modelle analysieren.
Sie werden feststellen, dass einige Optionen hier ausgegraut sind. Wir wollten dieses Add-in auch für Einsteiger in Torch oder maschinelles Lernen im Allgemeinen zugänglich machen und haben daher einige Schutzmechanismen eingebaut. Ich weiß, dass Peter diese Schutzmechanismen während der Entwicklung sehr geschätzt hat.
Ja, das war definitiv nötig, um mich auf Kurs zu halten. Es war hilfreich.
Falls Sie mit diesen verschiedenen Modelltypen nicht vertraut sind, haben wir einige der gängigsten und gute Ausgangspunkte vorausgewählt. Um mit diesem Add-in Parameter zu filtern, aktivieren Sie das entsprechende Kontrollkästchen und betrachten Sie anschließend verschiedene Parameter. Wir blenden einige Optionen aus, die aufgrund Ihrer Datentabelle möglicherweise nicht optimal sind. Außerdem haben wir einige gängige Aktivierungsfunktionen ausgewählt und die Skalierung einiger Parameter auf einen Faktor von 1 oder eine Zweierpotenz eingestellt. Dies erleichtert die effiziente Filterung einer Vielzahl von beispielsweise Schichtgrößen.
Wir möchten Ihnen hier auch einige erweiterte Optionen anbieten. Wenn Sie diese auswählen, haben Sie Zugriff auf alle im Torch-Add-in verfügbaren Modelltypen, einschließlich der verschiedenen Tabellenmodelle und Aktivierungsfunktionen. Je nach Ihren Vorkenntnissen im Bereich Deep Learning mit Torch können Sie den einfachen oder den fortgeschrittenen Ansatz wählen. Sehen wir uns ein Beispiel an. In diesem Fall habe ich verschiedene Optionen voreingestellt: eine Reihe von Epochen und Lernraten, einige Schichtgrößen und den Wert 100. Sie können beliebig viele Versuche durchführen.
Nachdem Sie alle Parameterbereiche festgelegt haben, klicken Sie auf „Ausführen“. Nun sehen wir uns die Funktionsweise des Add-ins genauer an. Nach einigen Tabellenmanipulationen wird das raumfüllende Diagramm erstellt und anschließend jede Zeile dieser Tabelle an Torch Deep Learning übergeben. Bevor wir mit dem Vortrag begannen, habe ich ein Modell gestartet. Wie Sie sehen, habe ich es so konfiguriert, dass es 500 Torch-Modelle ausführt. Während des Vortrags läuft es fleißig und durchläuft dabei jede Zeile des raumfüllenden Diagramms. So erhalten wir einen Hinweis darauf, wie sich unsere Verlustfunktion im Laufe der Epochen entwickelt und ob wir die richtigen Parameter gewählt haben. Wir fahren jetzt mit dem Vortrag fort und kommen in wenigen Minuten darauf zurück.
Sobald das Torch Deep Learning Add-in ausgeführt wird und alle von Ihnen angegebenen Hunderte, Dutzende oder Dutzende von Modellen berechnet hat, fasst es die Ergebnisse mithilfe zusätzlicher Tabellenfunktionen und eines Diagrammgenerators zusammen und zeigt Ihnen anschließend ein Ausgabefenster zur Interpretation der Ergebnisse an. Basierend auf dieser Interpretation gibt es zwei verschiedene Wege. Sie können den einen Weg wählen, der Sie zurück zur Parameterspezifikation führt. Vielleicht haben Sie keine zufriedenstellenden Modelle erhalten. Vielleicht glauben Sie, dass es Verbesserungspotenzial gibt.
Sie können neue Parameterbereiche festlegen, andere Funktionen auswählen und den Zyklus dann erneut starten. Die neuen Ergebnisse werden dann einfach an Ihre ursprünglichen Ergebnisse angehängt. Vielleicht haben Sie aber auch schon sehr gute Modelle gefunden, denen Sie vertrauen und die Sie nicht weiter verbessern müssen. Diese können Sie nun direkt an das Torch Deep Learning Add-in übergeben, um sie weiter zu verfeinern, zu vergleichen, zu speichern und bereitzustellen oder Parameter anzupassen, die Sie im Companion nicht anpassen können. Dies ist der von uns entwickelte Workflow, und es hat Spaß gemacht, ihn zusammenzustellen. Peter hat jedoch den größten Teil der Arbeit beim Modellbau geleistet. Peter, vielleicht kannst du uns von deinen Erfahrungen damit berichten.
Falls hier Softwareentwickler anwesend sind: Scott war der Entwickler des Add-ins, und ich war der Tester. Mir sind dabei ein paar Dinge aufgefallen. Es handelt sich um ein Versuchsdesign (DOE), und DOE ist oft ein iterativer Prozess. Wir führen ein einzelnes DOE durch, lernen daraus und entwickeln dann gegebenenfalls ein optimales DOE darauf aufbauend. Wenn wir uns die Ergebnisse einiger Modelle ansehen, fällt auf, dass ich meistens mehrere DOEs gleichzeitig laufen lasse. Oftmals liefen diese Modelle sehr schnell, innerhalb weniger Sekunden, sodass man eine große Anzahl von Modellen erstellen konnte. Manchmal dauerte es deutlich länger, und man musste mehrere DOEs durchführen. Man möchte ja nicht gleich mit 100 anfangen. Das oberste Modell beispielsweise war ein Bildmodell, und jedes Modell benötigte etwa 10 Minuten zur Ausführung.
Wenn man mit 200 Modellen beginnt, müsste man ein ganzes Wochenende warten, bis es soweit ist. Vergleicht man die Ergebnisse mit anderen Methoden, ist es vielleicht etwas besser, 200 Modelle zu verwenden, wenn jedes nur 4 Sekunden benötigt. Dazu noch ein paar Hinweise: Ich verwende gerne zunächst einen separaten Validierungsdatensatz, da dies deutlich schneller ist als die K-fache Kreuzvalidierung. Wenn man später die K-fache Kreuzvalidierung verwendet und sie einem zusagt, kann man am Ende beim Start in Torch die Validierungsspalte ändern. Für die Optimierung bevorzuge ich jedoch die Verwendung eines einzelnen Validierungsdatensatzes.
Ich finde die von Scott integrierte Zeitprüfung auch super. Wenn man befürchtet, dass ein Modell, wie beispielsweise ein Bildmodell, lange dauern könnte, kann man die Zeitprüfung automatisch durchführen lassen.
Gut. Danke, Peter. Ich würde behaupten, dass du – abgesehen von Rust – bei JMP wahrscheinlich die meisten Fackelmodelle von allen gebaut hast.
Definitiv die leistungsschwächsten.
Kommen wir nun zum Add-in und zeigen wir Ihnen einige dieser Berichte sowie die Möglichkeiten zur Filterung und Optimierung dieser Modelle. Schauen wir uns unser Modell noch einmal an. Wir sind noch nicht ganz fertig. Von den 500 spezifizierten Modellen haben wir etwa 270 erreicht.
Eine weitere integrierte Funktion ist die Möglichkeit zum Abbrechen. Wenn Sie den Vorgang abbrechen, kann dies aus verschiedenen Gründen geschehen. Vielleicht dauert die Verarbeitung länger als erwartet oder Sie haben nicht genug Zeit. In jedem Fall können Sie abbrechen. Wenn Sie den Torch-Fehler akzeptieren, haben Sie die Option, mit dem nächsten Durchlauf fortzufahren. Angenommen, Sie verwenden ein Bildmodell, und alle Durchläufe verlaufen recht schnell, aber dann kommt ein Durchlauf, der sehr lange dauert.
Sie können die DOE-Analyse einfach fortsetzen und sie quasi überspringen, um zur nächsten zu gelangen, oder Sie können die DOE-Analyse komplett abbrechen. Genau das werden wir hier tun. Die Analyse wird gestoppt, der Bericht erstellt, und das Berichtsfenster befindet sich jetzt hier unten. Hier ist das Berichtsfenster. Wir hatten 500 Datenpunkte in unserer DOE-Analyse, aber Sie sehen, dass wir für 270 davon Ergebnisse haben.
Wir sehen uns nun die Ergebnistabelle an. Ich möchte Ihnen die wichtigsten Punkte für den Einstieg erläutern. Zunächst die zusammenfassenden Statistiken. Die Tabelle ist nach dem Validierungs-R² sortiert. Je höher das Validierungs-R², desto niedriger die Zeilennummer. Anschließend finden Sie alle Parametereinstellungen, die verschiedenen Eingaben sowie einige Ausgaben, wie beispielsweise die Laufzeit der Modelle und die Anzahl der bisher durchgeführten Versuchsreihen.
Das erste Diagnosewerkzeug, das Sie sich ansehen können, ist die R²-Heatmap. Diese stellt einfach das R² der Validierungsdaten dem R² der Trainingsdaten gegenüber. Idealerweise bevorzugen Sie Modelle mit hohen R²-Werten sowohl für die Validierung als auch für das Training. Sie sehen hier jedoch, dass die R²-Werte stark variieren. Dies ist besonders wichtig, wenn Sie neu in Torch oder im Bereich Machine Learning sind: Wenn Sie bei der Parameterwahl unsicher sind, erhalten Sie möglicherweise Modelle mit sehr niedrigen Werten. Sie könnten dann denken: „So kann ich kein gutes Modell erstellen.“
Dann passen Sie einige Parameter an, und vielleicht verschlechtert sich das Ergebnis. Wir können jedoch feststellen, dass die Überprüfung einer Reihe von Parametern einen besseren Überblick über die Möglichkeiten des Modells bietet. In diesem Fall sehen wir einige Modelle, die mit hohen R²-Werten für Validierung und Training sehr gut abschneiden. Es gibt einige integrierte Datenfilter, die sich alle im Graph Builder befinden. Sie können diese Daten also nach Belieben grafisch darstellen. Zwei Registerkarten ermöglichen die Betrachtung einzelner Parameter: Modelloptimierungsparameter wie Lernrate und Epochen sowie deren Entwicklung im Zeitverlauf oder im Modellraum, Aktivierungsfunktionen und andere Parameter der Schichtstruktur.
Eine Möglichkeit wäre hier, verschiedene Arten von Aktivierungsfunktionen zu untersuchen. Ich weiß, Peter, du bist bei der Analyse dieser Modelle auf einige interessante Ergebnisse gestoßen.
Absolut. Als wir mit der Entwicklung dieses Add-ins begannen, empfahl Russ, zunächst eine einzige Aktivierungsfunktion zu betrachten und ReLU zu verwenden. ReLU ist die gängigste Funktion. Sie wird von allen verwendet und ist ein guter Ausgangspunkt. In manchen Fällen schnitt ReLU gut ab, aber in den meisten Fällen stellten wir fest, dass eine der anderen Aktivierungsfunktionen tatsächlich etwas besser funktionierte. Nicht, dass Russ' Ansatz schlecht wäre, aber es war hilfreich, all diese Aktivierungsfunktionen vergleichen und prüfen zu können, ob sich durch Anpassung der jeweiligen Funktion ein etwas besseres Ergebnis erzielen lässt.
Nein. Ich denke, genau das ist eine der Absichten: Wenn Sie sich mit diesen Aktivierungsfunktionen nicht auskennen – oder wenn Sie vielleicht wissen, welche für einen Datensatz oder einen Modelltyp geeignet sein könnten, basierend auf Ihrer Erfahrung –, dann hilft Ihnen diese Übersicht, alle verfügbaren Funktionen zu durchsuchen. In diesem Fall haben wir sechs dieser Funktionen untersucht, aber es stehen 20 zur Verfügung, die Sie sich ebenfalls ansehen können.
Wir bieten auch eine Ausgabe zur Parameterwichtigkeit an. Diese zeigt anhand eines schnell erstellten Bootstrap-Forest-Modells, welche Hyperparameter bzw. Tuning-Parameter den größten Einfluss auf die Zielgröße haben – in diesem Fall das R² der Validierung. Zusätzlich werden Details zu den einzelnen Modellen angezeigt. In der Ergebnistabelle finden Sie eine Spalte mit einer eindeutigen Modell-ID. So können Sie bei Bedarf detailliertere Informationen zu einem der Modelle abrufen. Diese Ausgabe wurde während der Laufzeit von Torch exportiert, sodass Sie weiterhin Zugriff darauf haben, obwohl wir alle Ergebnisse anhand des R² des Validierungsdatensatzes zusammenfassen. Alle zusammenfassenden Statistiken für alle Modelle sind verfügbar.
Ich denke, das deckt im Wesentlichen alles ab, was ich zum Berichtsfenster zeigen wollte. Abschließend möchte ich noch kurz die Möglichkeiten des Add-Ins und einige verschiedene Workflow-Optionen vorstellen. Die erste Option ist das erneute Ausführen. In diesem Fall sind wir vielleicht mit einigen Modellen zufrieden, können aber die verwendeten Aktivierungsfunktionen überprüfen und gegebenenfalls die Anzahl oder Größe der Ebenen anpassen. Dazu können wir zu den Spezifikationen zurückkehren und bestimmte Funktionen auswählen.
Vielleicht möchten wir uns nur diese drei ansehen, vielleicht aber auch größere Layergrößen. Dann könnten wir beispielsweise 50 Layergrößen festlegen, auf „Ausführen“ klicken, um die ausgewählten Parameterreihen zu berechnen, und anschließend weitere 50 Layergrößen berechnen und die Ergebnisse der Tabelle hinzufügen. Das wäre eine mögliche Workflow-Option. Alternativ könnten Sie die Optionen im roten Dreieck nutzen. Vielleicht sind Sie mit diesem oder diesen beiden Modellen zufrieden und möchten sie direkt im Torch-Add-in ausführen.
Sie müssen nicht mehr zwischen den einzelnen Parametereinstellungen hin- und herwechseln und sie im Torch-Add-in eingeben. Klicken Sie einfach auf das rote Dreieck und wählen Sie „Ausgewählte ausführen“. Nach dem Klick werden die Parameter an das Torch-Add-in übergeben, ausgeführt und ein Bericht im nativen Torch-Add-in erstellt. So können Sie die Modelle vergleichen. Sie sehen, dass alle relevanten Parameter übergeben wurden und Sie nun die am besten passenden Modelle direkter vergleichen und die zusammenfassenden Statistiken besser verstehen können.
Schließlich gibt es vielleicht Modelle, deren Berechnung lange dauert. In diesem Fall können Sie Ihre Optimierungen möglicherweise nicht an einem Tag abschließen. Wenn Sie die Ergebnisse speichern und später darauf zurückgreifen möchten, klicken Sie auf das rote Dreieck. Wir speichern dann die Ergebnistabelle. Beim Speichern können Sie den Speicherort frei wählen und die Daten später wieder laden. Wir zeigen Ihnen nun, wie das funktioniert.
Ich schließe das Fenster, klicke auf OK und gehe nun, um eine gespeicherte Datentabelle neu zu laden, zurück zu meiner ursprünglichen Datentabelle. Diese habe ich für die Modellierung verwendet. Ich starte das Add-in, die Begleitsoftware, und klicke auf „Abrufen“. Achten Sie darauf, die richtigen Spalten auszuwählen – dieselben, die Sie beim Tuning angegeben haben – und klicken Sie auf OK. Anstatt nun alle Parameter einzeln anzugeben, klicke ich einfach auf die Schaltfläche „Laden“. Diese war vorher nicht geöffnet.
Gehen wir hierher, rufen wir unsere Optimierungsergebnisse auf und klicken auf „Öffnen“. Es erscheint ein Dialogfenster mit der Bestätigung, dass die x- und y-Variablen sowie die Validierungsspalte identisch sind. Sollten diese Werte nicht mit Ihren ursprünglichen Einstellungen übereinstimmen, werden sie nicht geladen. Nach dem Klicken auf „OK“ sehen wir unsere vorherigen Optimierungsläufe und alle Diagramme werden neu generiert. Sie können nun zu den Spezifikationen zurückkehren und die Optimierung erneut durchführen.
Ich glaube, das war alles, was ich zeigen wollte. Es gibt noch ein paar weitere Optionen im Torch-Add-in, und ich möchte wirklich, dass man es zusammen mit dem Torch Deep Learning Add-in verwendet, das Russ und sein Team entwickelt haben. Ich bin sicher, Sie werden dort noch einige weitere nützliche Funktionen entdecken, sobald Sie damit arbeiten. Vielleicht übergebe ich jetzt wieder an Peter, damit er ein wenig über einige der Ergebnisse oder die Endergebnisse sprechen kann.
Klingt gut. Danke, Scott. Die rot dargestellten Ergebnisse sind die Validierungs-R²-Werte meiner Modelle, die blau dargestellten die von Russ. Das soll keine Kritik an Russ sein. Er ist ein hervorragender Data Scientist, aber ich denke, es unterstreicht eher die Stärke der Versuchsplanung (DOE) im Vergleich zur Betrachtung einzelner Faktoren.
Dies zeigt, dass ein Chemiker im Vergleich zu einem Data Scientist bei der Modellierung mittels Versuchsplanung (DOE) ähnliche oder sogar bessere Ergebnisse erzielen kann als ein sehr guter Data Scientist. Das Tuning-Add-in ermöglicht dies jedem. Wie Scott bereits erwähnte, soll es das Torch-Add-in nicht ersetzen, sondern ergänzen und wird im Marketplace erhältlich sein. Sie können beide Add-ins erwerben.
Ich habe mir selbst eine olympische Medaille verliehen, weil ich Russ geschlagen habe. Ich finde, das ist ein ziemlich gutes Ergebnis, nicht nur für jemanden ohne Data-Science-Hintergrund. Wir haben angefangen, über die Identifizierung von Katzen und Hunden zu sprechen, aber wenn wir das in Ihrem Arbeitsumfeld betrachten, können Sie sich vorstellen, dass es unzählige Bildmodelle oder sogar tabellarische Modelle gibt, mit denen Sie diesen Ansatz des Deep Learning mit neuronalen Netzen nutzen könnten. Durch die Optimierung der Hyperparameter lassen sich bessere Ergebnisse erzielen.
Diese Bilder stammen aus verschiedenen Beispielen im Storybook zum Torch-Add-in. Ich denke, jeder verfügt über solche Daten, auf die sich dieser Ansatz anwenden lässt. Wir möchten uns natürlich bei Russ bedanken. Ich weiß, wir haben ihn manchmal etwas geärgert, aber er hat uns auch enorm bei der Entwicklung dieses Add-ins geholfen und wichtige Leitlinien eingeführt, damit ich nicht den Überblick verliere. Und natürlich danken wir dem JMP-Lenkungsausschuss für die Auswahl dieses Vortrags. Wie bereits erwähnt, sind sowohl das Torch-Add-in als auch das Tuning-Add-in im Marketplace erhältlich. Hier finden Sie einen QR-Code zum Herunterladen oder Sie besuchen einfach marketplace.jmp.com. Vielen Dank.
Danke schön.
