Interne Diskussion und Feedback zu Torch Deep LearningDies ist das offizielle interne Chat-Board für das Torch Deep Learning Add-In für JMP Pro. Das Add-In stellt eine Schlüsselkomponente in JMPs Roadmap für prädiktive Modellierung, maschinelles Lernen und künstliche Intelligenz inmitten des modernen Hypes dar. Bitte posten Sie jederzeit Fragen, Kommentare oder Probleme.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningKlingt großartig, @russ_wolfinger .
Ich werde meinem Kunden und Ihnen bezüglich der manuellen Codeänderungen eine E-Mail schreiben.
Nochmals vielen Dank, ich melde mich bald.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningHallo @DaeYun_Kim. Derzeit nicht, obwohl in der Add-In-Installationsdatei eine Pfadvariable definiert ist, die den Webspeicherort angibt, von dem aus alle Downloads erfolgen. Ein Kunde könnte dies problemlos in eine lokale Adresse ändern und dann dieselbe Ordnerstruktur nachahmen, die wir online zum Speichern aller Zip-Dateien haben. Gerne arbeite ich mit Ihnen und dem Kunden zusammen, um dies genauer zu erklären und beim Ändern des Codes zu helfen.
Eine andere Möglichkeit besteht darin, das erste Add-In zu installieren und dann jeden Benutzer alle dynamischen Bibliotheksdateien manuell von einem intern freigegebenen Speicherort in den lokalen Add-In-Ordner kopieren zu lassen. Wir tun dies häufig intern zu Testzwecken und es funktioniert gut.
Betreff: Interne Diskussion und Feedback zu Torch Deep Learning@russ_wolfinger Kann das Torch Deep Learning-Add-In in einer geschlossenen Umgebung (ohne Internetverbindung oder mit Firewall) installiert werden? Wenn nicht, gibt es eine alternative Methode, dieses Add-In in einer solchen Umgebung zu installieren? Vielen Dank im Voraus.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningHallo zusammen,
Wir haben großartiges Feedback zur Bereitstellung von Torch-Modellen erhalten, was ein großartiges Zeichen dafür ist, dass Kunden ernsthaft daran interessiert sind, Torch-Modelle in ihren Pipelines zu verwenden. Das Add-In bietet derzeit nur einige Beispiel-Jupyter-Notebooks, die in Bezug auf den tatsächlichen Bereitstellungscode einiges zu wünschen übrig lassen.
Wir haben kürzlich eine wesentliche Verbesserung mit der Implementierung einer brandneuen Option „Python-Code generieren“ aus dem roten Dreieck des Modells erzielt und möchten diese mit 18.1 und 19 Early Adopter ausliefern. Die Option erstellt Python-Code, der eine neue Python-Klasse namens JMPTorch aufruft, die in zukünftigen Versionen des Add-Ins enthalten sein wird. Die Vorhersagemethode dieser Klasse verarbeitet alle in einem Torch-Verzeichnis gespeicherten Modelle und erstellt eine durchschnittliche Ensemblevorhersage, wobei alle Zwischenschritte und Einbettungen berücksichtigt werden. Die angehängte ZIP-Datei enthält die aktuelle Datei jmptorch.py mit dieser Klasse sowie Beispielaufrufcode und 10 Beispielbilder.
Dieser Code besteht vollständig aus Python und kann nach der Installation der erforderlichen Pakete in JMPs Python oder in externem Python ausgeführt werden. Informationen dazu, welche Pakete zu installieren sind, finden Sie in den kommentierten Anweisungen oben in „Modell 1.py“, darunter natürlich auch Torch selbst.
Würde mich über Ihr Feedback und Ihre Verbesserungsvorschläge freuen. Wir haben es gestern Lumentum gezeigt und sie waren begeistert.
Anmerkungen:
– Die JMPTorch-Klasse ist für Text und komplexere Modelle noch unvollständig, sollte aber für grundlegende Bild- und tabellarische Klassifizierungsmodelle funktionieren.
- Derzeit besteht ein Konflikt zwischen den dynamischen Torch-Bibliotheken des Add-Ins und ähnlichen, die in JMPs Python installiert sind, sodass Sie in einer einzelnen JMP-Sitzung nur die eine oder die andere ausführen können. Ich habe die Dinge erfolgreich in zwei separaten JMP-Instanzen ausgeführt.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningDanke , @nick_shelton , dass du das überprüft hast. Die Option „CAMs speichern“ funktioniert derzeit nicht richtig, aber wir planen, das in einer kommenden Version zu beheben. Stimme voll und ganz zu, dass dies eine großartige Möglichkeit ist, die Funktionsweise der Convolutional Neural Nets zu visualisieren und zu interpretieren.
Betreff: Interne Diskussion und Feedback zu Torch Deep Learning@russ_wolfinger Ich habe die Option „CAMs speichern“ untersucht. Angesichts der Stärke von JMP bei Visualisierungen denke ich, dass dies ein guter Gesprächsauftakt wäre, um JMP zur Erklärung von ML-Modellen zu verwenden. Das Problem ist, dass ich die Option nicht zum Laufen bringen konnte. Jedes Mal, wenn ich ein Modell erstellt und diese Option verwendet habe, erscheinen meine Bilder völlig dunkel. Gibt es einen Schritt, den ich übersehen habe?
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningHallo zusammen,
Sie möchten eine richtig schnelle NVIDIA-GPU ausprobieren? Freiwillige gesucht! Lassen Sie sich dadurch bitte nicht von Ihren Vertriebsaufgaben ablenken, aber vielleicht können Sie dies für wichtige Verkaufsgelegenheiten oder in Ihrer Freizeit nutzen.
Sie haben vielleicht gehört, dass SAS derzeit in vielen seiner Analyseabteilungen sehr aktiv an der NVIDIA-spezifischen GPU-Entwicklung mittels CUDA-Codierung arbeitet. Sie erwerben eine Menge neuer NVIDIA-Ausrüstung, angefangen bei den neuesten H100s, die über 25.000 US-Dollar kosten können.
Sie müssen einige Benchmarking-Tests durchführen und ich habe sie darauf hingewiesen, wie einfach und schnell es ist, JMP Pro mit dem Torch-Add-In und Pegging-GPUs zum Laufen zu bringen, indem wir alle neuen Beispiele verwenden, die wir für die Bild- und Textklassifizierung und -regression haben.
Sie haben gerade einen neuen Windows 2022-Server für uns eingerichtet, mit vier separaten L40-GPUs mit jeweils 48 GB Speicher! Die L40s sind drei Generationen moderner als die P100s auf TDL.
Bitte senden Sie mir direkt eine Nachricht, wenn Sie diesen neuen Server ausprobieren möchten, und ich werde Ihnen Anmeldeinformationen und Anweisungen senden. Wir bitten Sie lediglich, uns ein paar Laufzeiten der Modelle zurückzusenden, die Sie ausprobieren (Ihre Wahl oder ich kann Ihnen einige empfehlen), die im JMP-Protokoll nach jedem von Ihnen installierten Torch-Modell gedruckt werden.
Ich habe für einige erste Fälle verschiedene Beispiele aus dem Torch Storybook ausprobiert und sehe eine etwa zwei- bis dreimal höhere Geschwindigkeit im Vergleich zum P100.
Ich liebe dieses Zeug,
Russ
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningVielen Dank~!
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningDanke, Kim!
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningDanke @lkimhui . Damit es allen klar ist: Es gibt einen Unterschied zwischen „Trennen“ und „Abmelden“. Das Trennen oder einfache Schließen der Remotedesktopverbindungsanwendung beendet die Sitzung nicht, JMP und alle anderen von Ihnen geöffneten Apps laufen weiterhin auf dem Server. Um die Sitzung zu beenden und alle verwendeten Ressourcen freizugeben, müssen Sie sich „abmelden“. Die Option „Abmelden“ ist im Windows-Menü verfügbar. Klicken Sie auf Ihren Anmeldenamen und wählen Sie dann „Abmelden“.
Betreff: Interne Diskussion und Feedback zu Torch Deep Learning
Dem stimme ich zu. Bitte melden Sie sich nach der Verwendung von Instanzen ab, da inaktive Benutzer weiterhin RAM verbrauchen.
Anbei die Ansammlung von 5 inaktiven Benutzern, die bereits ~23 % des 128 GB RAM verbraucht haben.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningHallo @Ben_Ingham , wir arbeiten noch daran, den Prozess zu optimieren, aber im Moment gibt es einige Beispiele für die Bereitstellung der gespeicherten .pt-Dateien in Python-Notebooks. Klicken Sie auf Ansicht > Add-Ins, wählen Sie TorchDeepLearning, klicken Sie auf den Link „Home-Ordner“ und suchen Sie dann im Unterordner „Notebooks“.
Jedes Modell wird in 2-3 separaten .pt-Dateien gespeichert, um die Ausgabe von Zwischeneinbettungen zu ermöglichen. In Python müssen genau dieselben Architekturen angegeben werden, und dann werden die Modellgewichte aus den .pt-Dateien geladen. Wenn Sie K-fold verwenden, werden mehrere Modelle gespeichert, die für stabilere und genauere Vorhersagen gemittelt/zusammengefasst werden können.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningHallo alle,
Ich bin gespannt auf Vorschläge, wie ein Kunde sein Modell nach der Modellerstellung im Torch-Add-In außerhalb von JMP bereitstellen würde. Was wäre das beste Verfahren, da es „außerhalb“ der Formeln liegt, die Sie im Formeldepot ausgeben können?
Danke,
Ben
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningHallo zusammen,
Ich habe einige Anfragen erhalten, die Folie freizugeben, die für die Präsentation des On-Demand-Webinars zum Torch-Add-in verwendet wurde.
Bitte schön!
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningIch habe es heute Morgen gesehen , @russ_wolfinger
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningHallo @Florian_Vogt, ich habe die Anleitung gerade am Anfang mit mehr Details zu Remote Desktop aktualisiert. Bitte lassen Sie mich wissen, wenn es bei Ihnen nicht funktioniert. Ich bin nicht vertraut damit, wie die Dinge international funktionieren, und möglicherweise sind zusätzliche Schritte erforderlich.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningHallo Florian,
Suchen Sie auf Ihrem Laptop nach einer Microsoft-Remotedesktop-App. Wenn Sie sie nicht sehen, müssen Sie sie möglicherweise vom Managed Software Center installieren. Wenn Sie die Remotedesktop-App starten, müssen Sie den Anweisungen von Russ folgen, um eine Verbindung herzustellen.
Malcolm
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningDanke, Russ, jetzt funktioniert alles.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningDanke @Chris_Kirchberg, ich habe gerade die Anleitung aktualisiert, wobei der erste Schritt ein VPN ist. Für den Computer selbst hat die IT gestern Nachmittag vermutlich alle Beschränkungen hinsichtlich der Anzahl gleichzeitiger Benutzer aufgehoben. Haben Sie diese Einschränkung heute bemerkt? Wenn ja, kann ich sie noch einmal fragen.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningDanke @malcolm_moore1. Ich habe gerade die Berechtigungen für C:\Public zurückgesetzt, sodass jeder Lese-/Schreibrechte hat. Ich hatte sie vorher festgelegt und irgendwie wurden sie wieder geändert. Hoffentlich bleiben sie dieses Mal erhalten.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningHallo Russ,
das ist großartig, danke.
Was genau meinst du mit „ Remotedesktopzugang“? Wie mache ich das?
Danke
Florian
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningZwei Dinge, die dieser Anleitung hinzuzufügen sind:
- Sie müssen Ihren Computer über VPN verbunden haben, um auf den Server zugreifen zu können, sonst können Sie keine Verbindung herstellen
- Wenn Sie fertig sind, melden Sie sich bitte vom Server ab. Die Anzahl der Verbindungen ist begrenzt. Ich sehe, dass zwei Personen online sind, als ich mich vor ein paar Sekunden verbunden habe. Einer wurde als abwesend aufgeführt und der andere war 1 Stunde und 30 Minuten lang inaktiv.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningDanke, Russ. Könnten Sie die Zugriffsberechtigungen für C:\Public überprüfen, da mir beim Versuch, das Add-In zu installieren, der Zugriff verweigert wird?
Am besten,
Malcolm
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningWir freuen uns, bekannt zu geben, dass Windows Server tdl.na.sas.com für alle in JMP erstellt wurde, die per Remote-Desktop darauf zugreifen und es nutzen möchten, insbesondere für diejenigen unter Ihnen, die über langsamere lokale Rechenkapazitäten verfügen. Es ist gut ausgestattet mit zwei NVIDIA P100-GPUs, jede mit 12 GB GPU-Speicher und 128 GB CPU-RAM. 2-4 von uns sollten in der Lage sein, Torch gleichzeitig auszuführen. Anweisungen:
1. Stellen Sie eine VPN-Verbindung her. Ich verwende Cisco Secure Client AnyConnect VPN, bin mir aber nicht sicher, was alle international tun.
2. Starten Sie die Remotedesktopanwendung unter Windows. Ich glaube, diese ist auch für den Mac von Microsoft verfügbar (bitte korrigieren Sie mich, wenn dies auf einem Mac nicht funktioniert oder wenn es eine bessere Alternative gibt). Geben Sie für den Computer tdl.na.sas.com ein und geben Sie dann Ihre Windows-Anmeldeinformationen wie aufgefordert ein. Dadurch sollten Sie eine virtuelle Sitzung auf dem Server starten.
3. Suchen und starten Sie nach der Remote-Desktop-Anmeldung entweder JMP Pro 19 (die aktuellste Version, wird durch 18.0.1 ersetzt, sobald diese verfügbar ist) oder JMP Pro 18 (sollte einwandfrei funktionieren, aber in 19 wurden einige Probleme behoben).
2. Installieren Sie Ihre eigene Kopie des Torch-Add-Ins, indem Sie C:\Public\TorchDeepLearning.jmpaddin auf JMP Pro ziehen. Sie können das Add-In alternativ von https://community.jmp.com/t5/JMP-Add-Ins/Torch-Deep-Learning-Add-In-for-JMP-Pro/ta-p/733478 herunterladen.
3. Klicken Sie auf Add-Ins > Torch Deep Learning > Torch Deep Learning und wählen Sie NVIDIA-GPU.
Warten Sie einige Minuten, bis alle Dateien erfolgreich heruntergeladen und entpackt wurden. Dann können Sie loslegen.
4. Dies ist eine gemeinsam genutzte Ressource und wir müssen uns manchmal abwechseln. Um die aktuelle Nutzung zu überprüfen, öffnen Sie zuerst den Task-Manager, überprüfen Sie CPU und Speicher und klicken Sie dann auf die Registerkarte „Benutzer“, um zu sehen, wer angemeldet ist. Öffnen Sie dann eine Eingabeaufforderung und geben Sie „nvidia-smi“ ein, um die aktuelle GPU-Nutzung anzuzeigen.
Wenn mindestens eine der GPUs bei 0 % ist, können Sie loslegen. Wenn beide GPUs verwendet werden, kommen Sie bitte später noch einmal vorbei. Wenn Sie derjenige sind, der Modelle ausführt und die GPUs verwendet, ist es in Ordnung, mehrere Stunden weiterzumachen. Wenn Sie fertig sind, speichern Sie jedoch unbedingt Ihre Arbeit und schließen Sie JMP, um den gesamten GPU-Speicher zu löschen. Um die zweite GPU im Torch-Add-In zu verwenden, wählen Sie unter Erweiterte Optionen das Gerät „cuda:1“ aus, wenn Sie das Add-In zum ersten Mal ausführen.
5. Viel Spaß beim Ausführen von Torch-Modellen mit NVIDIA GPU-Geschwindigkeit! Wählen Sie aus Beispieldaten, dem Torch Storybook oder Ihren eigenen Daten. Der Ordner C:\Public wird mit allen geteilt und sollte für die Übertragung von Dateien praktisch sein. Sie können auch gerne Ordner in C:\ erstellen, um Daten und Ergebnisse zu speichern.
6. Bitte melden Sie alle Probleme, Feedback, Fragen oder Vorschläge hier oder senden Sie mir eine Direktnachricht.
Wir verstehen, dass Schritt 2 eine Verschwendung von Speicherplatz ist, da jeder von uns seinen eigenen Satz großer DLLs hat. Das Laufwerk C: hat 1 TB Speicherplatz, also sollte es für eine Weile ausreichen. Wenn jemand von Ihnen Erfahrung mit der Einrichtung eines Add-Ins mit gemeinsam genutzten Dateien auf einem Server wie diesem hat, kontaktieren Sie mich bitte und wir können es hier versuchen. Ich bin nicht sicher, ob die DLLs reentrant sind – das wäre gut für Kunden, die sich für ein solches Setup entscheiden. Procter & Gamble spricht bereits darüber.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningFür 18.0.1 ist ein Fix geplant, bei dem die Mitte langer Nachrichten für die Fensteranzeige weggeschnitten wird und die vollständige Nachricht trotzdem an das Protokoll gesendet wird.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningCross-Post vom Teams-Chat „Neu im JMP 18-Training“:
Hallo zusammen, ein aktualisiertes Torch Storybook mit sechs neuen Beispielen ist beigefügt:
Ich möchte „Love Your Smile“ Ian widmen, dessen warmes und neugieriges Lächeln unzählige fruchtbare Interaktionen ausgelöst hat und im Mittelpunkt dessen steht, was unsere JMP-Kultur und -Software so stark macht. Ganz zu schweigen von seinem großartigen Add-In zum Anzeigen chemischer Strukturen aus SMILES-Strings . Und stellen Sie sich vor: Ähnlich wie beim Beispiel der Flüssigchromatographie-Retentionszeit von @Chunwei_Ma bei Peptiden können wir chemische Aktivitäten wie IGC50 mithilfe eines Transformer-Sprachmodells wie BertTiny mit SMILES-Strings als Eingaben genau vorhersagen. Wirklich beeindruckend und inspiriert von Ian :cara_que_sonríe_con_ojos_sonrientes:
Hut ab vor @lkimhui für die SEM-Bilder, @Byron_JMP für die M&M-Bilder (dieselben Daten wie in Manchester), @jiancao für die Daten der Casino-Umfrage in Toronto und @Chunwei_Ma für Yeast_RPLC. Ich freue mich wirklich über das tolle Feedback und das Interesse, und wir fangen gerade erst an! In 18.0.1 stehen eine ganze Reihe von Korrekturen und Verbesserungen an.
@lkimhui und Amanda Loh haben mit ihrem Torch-Webinar für Asien/Ozeanien großartige Arbeit geleistet:
Torch Add-in JMP Pro 18.–20. März 2024.mp4
Und schließlich arbeiten wir für diejenigen unter Ihnen, deren Hardware langsam ist, mit der IT zusammen, um einen internen Windows-Server mit NVIDIA GPU-Passthrough einzurichten, auf den Sie per Remotedesktop zugreifen und JMP Pro mit Torch ausführen können. Einzelheiten folgen in Kürze.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningDanke @russ_wolfinger , nach einer erholsamen Nacht konnte ich JMP erneut installieren:)
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningHallo @Florian_Vogt, es muss eine Datei oder ein Prozess geöffnet sein, der vom vorherigen Ausführen des Add-Ins oder möglicherweise von einer zweiten JMP-Instanz stammt. Stellen Sie sicher, dass alle JMP-Sitzungen geschlossen sind, überprüfen Sie nichts im Task-Manager und versuchen Sie es dann erneut. Wenn das immer noch nicht funktioniert, können Sie den Ordner com.jmp.torchdeeplearning vollständig löschen und von vorne beginnen. Wenn Ihre Internetgeschwindigkeit in Ordnung ist, sollte die gesamte Installationszeit von Grund auf mit den Downloads nicht mehr als ein oder zwei Minuten betragen.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningHallo zusammen,
Ich wollte das Add-In auf die neuste Version aktualisieren. Ich habe die neue Datei heruntergeladen und wollte sie installieren, aber dann kam folgende Meldung:
Nach einem Neustart von JMP war das Add-In aus dem Menü verschwunden, aber ich kann es immer noch nicht installieren.
Irgendwelche Ideen, was ich vermasselt habe?
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningIch habe vor einiger Zeit ein Jira-Ticket zu diesem Problem erstellt. Es wurde geschlossen.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningBei Verwendung einer Teilmenge des NIST-Datensatzes führten die im Fenster angezeigten Einstellungen zu einer so langen Fehlermeldung, dass sie über die Seite hinausrollte, sodass ich sie nicht schließen konnte. Daher musste ich JMP manuell beenden. Läuft auf einem MacBook Pro M3/Max.
Betreff: Interne Diskussion und Feedback zu Torch Deep Learning@russ_wolfinger , danke, es war ein Problem mit der Bildgröße. Als ich die Bildgröße auf 112 erhöhte, funktionierte das Modell ohne Probleme. Wäre es möglich, eine Prüfung hinzuzufügen oder die Standardbildgröße so einzustellen, dass sie mit dem ausgewählten Bildmodell kompatibel ist?
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningDanke @Peter_Hersh, ich habe gerade Folgendes im Chat der SE Training Teams gepostet und werde es hier noch einmal posten, damit es die Leute auch sehen. Insbesondere interessiert mich, ob Sie CUDA installiert haben und ob das einen Unterschied macht, da ich denke, dass Ihr RTX A3000 in vielen Fällen ziemlich gut funktionieren sollte. Beachten Sie auch, dass AlexNet und mehrere andere Modelle eine Bildgröße von mehr als 28 benötigen. 224 ist oft sehr gut, verlangsamt aber die Laufzeiten. Bildgrößen von 56 und 112 können in vielen Fällen auch gut funktionieren und schneller als 224 sein.
Benutzer von Windows-Laptops: Vielleicht haben Sie mit einer NVIDIA-Karte noch Glück und können zumindest kleinere Bild- und Textmodelle schneller bearbeiten. Versuchen Sie bitte die folgenden Schritte:
1. Überprüfen Sie, welche NVIDIA-Karte Sie haben, indem Sie den Task-Manager öffnen, auf die Registerkarte Leistung klicken und dann unten nachsehen. Mein ThinkPad hat eine Quadro RTX 3000 mit 6 GB RAM, was für eine Karte keine schlechte ist
2. Wenn Ihre NVIDIA-Karte in Ordnung zu sein scheint, öffnen Sie eine Eingabeaufforderung und geben Sie den Befehl „nvidia-smi“ ein. Die Ausgabe sollte etwa wie folgt aussehen und Ihre CUDA-Version, den Kartennamen sowie die aktuelle Speicher- und Rechenleistung anzeigen.
3. Wenn nvidia-smi nicht gefunden wird, installieren Sie CUDA-Treiber, indem Sie die Anweisungen hier befolgen: CUDA-Installationshandbuch für Microsoft Windows (nvidia.com). Ich weiß, dass dies lang aussieht, aber es handelt sich hauptsächlich um Überprüfungen und dies sollte nur ca. 10 Minuten dauern. Überprüfen Sie, ob CUDA ordnungsgemäß installiert ist, indem Sie Schritt 2 wiederholen.
4. Installieren Sie das Torch-Add-In von myjmp.com, Early Adopter-Seite. Wenn Sie die Plattform zum ersten Mal starten, werden 7 große Dateien heruntergeladen. Bitte haben Sie Geduld und warten Sie, bis diese vollständig heruntergeladen und entpackt sind. Wenn die Installation aus irgendeinem Grund unterbrochen wird oder nur teilweise abgeschlossen wird, löschen Sie den gesamten Add-In-Ordner com.jmp.torchdeeplearning (klicken Sie auf Ansicht > Add-Ins, Torch Deep Learning, Home-Ordner) und versuchen Sie es erneut.
5. Probieren Sie das vollständige MNIST-Beispiel aus, indem Sie auf Add-Ins > Torch Deep Learning > Beispieldaten > MNIST klicken. Klicken Sie auf den grünen Pfeil des eingebetteten Torch-Skripts in der oberen linken Ecke und dann auf „Los“. Während es ausgeführt wird, versuchen Sie nvidia-smi in Ihrer Befehlsshell mehrmals, um die GPU-Auslastung zu überprüfen. Meins zeigt etwa 1 GB Speicher und 40 % Rechenleistung beim Ausführen von MNIST. Die Gesamtlaufzeit beträgt auf meinem ThinkPad 50 Sekunden – nicht allzu übel. Zum Vergleich: Derselbe Job dauert auf meinem Desktop mit einer größeren Quadro RTX 6000, die ich gestern verwendet habe, tatsächlich etwa 2 Minuten.
6. Verringern Sie bei größeren Bild- und Textmodellen die Batchgröße, um weniger GPU-Speicher zu verwenden. Batchgröße 8 oder sogar 4 oder 2 können erforderlich sein. Sie können beim Verringern der Batchgröße normalerweise auch weniger Epochen verwenden, da das Modell häufiger Schritte ausführt und schneller konvergiert.
7. Die NVIDIA C++ API bietet derzeit keine gute Möglichkeit, den GPU-Speicher zu löschen, und dieser neigt dazu, sich nach dem Ausführen mehrerer Modelle anzusammeln. Wenn Sie eine Fehlermeldung wegen unzureichendem Arbeitsspeicher erhalten und/oder Ihre NVIDIA-SMI-Ausgabe einen fast vollen Speicher anzeigt, besteht die einzige Möglichkeit darin, JMP Pro vollständig herunterzufahren und neu zu starten. Speichern Sie die Modelle, bevor Sie dies über das rote Dreieck tun, und Sie können dort weitermachen, wo Sie aufgehört haben. Außerdem ist Strg-J praktisch, um Schnappschüsse der aktuellen Ausgabe zu machen und sie als JMP-Journal zu speichern – das habe ich für die Journale im Storybook getan.
Betreff: Interne Diskussion und Feedback zu Torch Deep Learning@russ_wolfinger , ja, machen Sie weiter und verwenden Sie den Datensatz. Es handelt sich um eine Teilmenge eines größeren Datensatzes, den ich von Kaggle erhalten habe. Ich habe einen mittelgroßen Datensatz mit ~3000 Bildern ausgeführt und es hat mit den Standardeinstellungen unter Verwendung des LeNet5-Bildmodells gut funktioniert. Irgendetwas an diesen drei Modelltypen hat mir Probleme bereitet.
Ich habe eine NVIDIA RTX A3000 GPU mit 6 GB dediziertem Speicher. Ich habe eine 64 GB CPU.
Betreff: Interne Diskussion und Feedback zu Torch Deep Learning@Peter_Hersh Danke für die Meldung. Das eingebettete Skript mit 8 verschiedenen Bildmodellen läuft auf meinem Computer mit GPU in etwa 10 Minuten vollständig und die endgültige GPU-Speichernutzung beträgt 4 GB. Die Fehlermeldung, die Sie erhalten haben, scheint echt zu sein – Ihr Computer hat nicht genügend Speicher. Darf ich fragen, auf welcher Art von Hardware Sie arbeiten?
AlexNet und DenseNet121 erfordern größere Werte für die Bildgröße, beispielsweise 112 oder 224. Wir arbeiten an einer besseren Fehlermeldung diesbezüglich.
Das sind schöne Daten mit Röntgenaufnahmen der Brust. Wäre es in Ordnung, sie dem Märchenbuch hinzuzufügen? Woher stammen die Daten?
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningEinige der Bildmodelle, die ich mit diesem Datensatz ausprobiert habe, geben mir eine Fehlermeldung. AlexNet, EfficientNetB0 und DenseNet121 gaben alle die folgende Fehlermeldung aus.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningHallo @russ_wolfinger
Ein Interessent hat mich gerade gefragt, ob es möglich ist, seine eigene Modellarchitektur zu implementieren. Ist das möglich? Und wie gehe ich dabei vor?
Danke für deine Antwort
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningHallo @Steph_Georges ,
Ich glaube, es wurde in der Hilfedokumentation zum Add-In erwähnt. Ich persönlich habe noch nicht versucht, mein eigenes Modell zu erstellen, aber ich habe einen Interessenten, der genau dieselbe Frage stellt.
Hoffe das hilft:)
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningVielen Dank @lkimhui für das nette Zitat und die Erklärung.
Hallo @Steph_Georges , wie @lkimhui erwähnt, haben wir das Add-In so eingerichtet, dass es automatisch alle JIT-verfolgten .pt-Dateien in den angegebenen Ordnern für die Bild- oder Textmodellierung liest. Benutzer können diese Modelle in PyTorch erstellen und vortrainieren, sie per JIT-Skript oder Trace speichern, sie dann in diese Ordner kopieren und sie werden beim nächsten Start des Add-Ins im Menü angezeigt. Wir sind auch sehr offen für Vorschläge für Modelle, die offiziell zum Add-In hinzugefügt werden sollen.
Lassen Sie mich auch erwähnen, dass die Schnittstelle selbst für tabellarische und Bilddaten ziemlich flexibel ist, um benutzerdefinierte Architekturen mit erweiterten Optionen wie Layergrößen, Aktivierung, Dropout und Norm zu entwerfen. Diese sind für die Arbeit mit MLP (tabular), CustomConv1d (Zeitreihen/funktional) und CustomConv2d (Bild) konzipiert.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningHallo zusammen, habe gerade ein neues Einführungsvideo zusammengestellt: jmp.com/support/downloads/TorchDeepLearning18/videos/Torch_Intro2.mp4
Ich versuche, mit Camtasia besser zu werden, aber wow, ich habe eine ganz neue Wertschätzung für wirklich gut gemachte Videos. Ich würde mich aufrichtig über jedes Feedback freuen, das Sie zu Inhalt, Stil oder Ähnlichem geben können; je kritischer, desto besser!
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningVielen Dank, dass du das gemacht hast, Russ. Zusammen mit deinem Geschichtenbuch wird es den SEs eine große Hilfe sein.
Was Ihre Feedback-Anfrage betrifft, hängt es von Ihrer Zielgruppe ab. Für SEs werden wir wahrscheinlich mehr technische Details benötigen, wenn wir tiefer in die Methoden eintauchen.
Für Benutzer wäre mein Ratschlag, mit der Geschichte (in Ihrem Storybook) zu beginnen – was ein typischer Benutzer heute tut, um das Problem zu lösen, die Probleme, wenn man es so lässt, wie es ist, die Möglichkeit, die das Torch-Add-In bietet, um das zu verbessern, dann nur das Endergebnis zu zeigen (den Aha-Moment, ohne zu wissen, wie man zum Endergebnis kommt), dann die Vorteile für den Benutzer und die daraus resultierenden geschäftlichen Vorteile zu beschreiben. Das Publikum sollte motiviert sein, sich weiter damit zu befassen.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningHallo Torchers, ich stelle ein neues 2-minütiges Einführungsvideo zusammen. Ich bitte um Feedback zum ersten Schnitt – im Anhang. Danke!
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningDas ist ein toller und funktionsreicher Trailer, Russ, der wahrscheinlich potenzielle Benutzer ansprechen wird, die die Methoden bereits bis zu einem gewissen Grad anwenden, aber Zeit sparen und möglicherweise zu einer fundierteren Entscheidung gelangen möchten. Wenn Ihre Zielbenutzer hingegen diejenigen sind, die das Problem oder den Bedarf haben (z. B. die manuelle Bildklassifizierung durch eine „automatische“ Bildklassifizierung ersetzen möchten, um Langeweile und Fehler zu vermeiden und Zeit zu sparen), die jedoch mit keiner der Methoden vertraut sind, möchten Sie vielleicht stattdessen mit dem Schmerz/Problem beginnen (z. B. ist es zeitaufwändig, fehleranfällig und mühsam, Bilder manuell zu klassifizieren) und eine Vision der Lösung zeichnen, die das Ergebnis der Analyse zeigt, wobei der Schwerpunkt weniger auf dem „Wie geht das?“-Teil liegt – mehr darauf, dass der Benutzer gewinnt.
Am besten,
Malcolm
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningIn diesem Zusammenhang sind Einführungsvideos für XGBoost und Venn-Diagramme angehängt. Ich werde diese für den Marketplace bereitstellen – Feedback ist willkommen!
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningDie neueste Dokumentation ist besonders hilfreich, wenn es darum geht, zu erklären, wie man neue Daten bewertet. Zwei Funktionen würden es meiner Meinung nach noch einfacher machen. Erstens eine einfache Möglichkeit, alte Modelle zu löschen. Vielleicht habe ich übersehen, wo das gemacht wird, aber ich bin zu dem Ordner auf der Festplatte gegangen, in dem die Modelle gespeichert sind, und habe sie über das Betriebssystem gelöscht. Zweitens eine einfache Möglichkeit, wiederherzustellen, was für die Validierungsspalte(n) verwendet wurde. Ich gehe davon aus, dass beim Bewerten neuer Daten die genaue Anzahl der Validierungsspalten, Modellierungstypen und Ebenen erforderlich ist. Ich finde, dass es schwierig ist, diesen Detaillierungsgrad im Auge zu behalten, insbesondere wenn eine große Anzahl von Modellen erstellt wird.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningRuss, ich habe einen Fehler beim Speichern eines Modells. Ich habe versucht, es lokal im Standard-AppData-Ordner auf einem Laufwerk, meinem Desktop, zu speichern, erhalte aber immer wieder die Meldung, dass der Ordner nicht existiert. Was meint ihr dazu?
Betreff: Interne Diskussion und Feedback zu Torch Deep Learning@Peter_Polito Danke für die Meldung. So wie der Code aktuell eingerichtet ist, muss das Feld „Ordner“ unter „Erweiterte Optionen“ vor dem Ausführen des Modells angegeben werden. Sobald das Modell das Training abgeschlossen hat, wird unter diesem Hauptordner ein Unterordner mit dem Standardnamen „Modell 1“ erstellt. Die rote Dreieckoption „Modell speichern“ benennt diesen Unterordner dann einfach um.
Wenn alles andere fehlschlägt, können Sie die Unterordner auch manuell im Windows Explorer oder Mac Finder umbenennen oder verschieben. Dies führt zu @DonMcCormacks Vorschlag, die Verwaltung dieser Ordner zu vereinfachen – dazu gibt es noch nichts, aber es ist eine gute Idee.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningEs ist schon eine Weile her, seit ich auf dem Server war. Ich wollte das Torch-Add-In neu installieren und erhielt die folgende Meldung („Die Installation konnte nicht abgeschlossen werden. Das Zielverzeichnis oder die Datei im Zielverzeichnis ist gesperrt.“). Vorschläge?
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningIch habe ein paar verschiedene Fehler erhalten, als ich versucht habe, einen neuen Datensatz mit einem Modell zu bewerten.
Ich habe versucht, etwas nachzubilden, was ich in der Vergangenheit getan habe, aber aus irgendeinem Grund funktioniert es nicht mehr.
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningIch hätte erwähnen sollen, dass dies in JMP Pro 19.0.0 gemacht wurde. (In JMP Pro 18 funktioniert alles einwandfrei)
Betreff: Interne Diskussion und Feedback zu Torch Deep LearningGibt es Neuigkeiten zum ordnungsgemäßen Speichern der CAMs? Ein Kunde hat danach gefragt und hat das Problem mit den „schwarzen Bildern“.
Betreff: Interne Diskussion und Feedback zum Deep Learning bei TorchIch habe von einem unserer Kunden eine Frage erhalten, die sinngemäß wie folgt lautet:
„Ich denke, viele Nutzer von Torch Deep Learning beherrschen bereits Python. Welchen Nutzen hat es in diesem Zusammenhang, Deep Learning auf JMP durchzuführen, und gibt es Beispiele für die praktische Anwendung?“
Als Reaktion darauf habe ich meine Gedanken wie folgt geordnet.
Zunächst bietet JMP in der Proof-of-Concept- und Explorationsphase einen klaren Vorteil hinsichtlich Geschwindigkeit und Experimentierfreundlichkeit. Bild- und textbasierte Deep-Learning-Modelle lassen sich schnell und ohne Programmierung testen, was eine rasche Machbarkeitsbewertung ermöglicht.
Zweitens ist JMP Pro nicht als Ersatz für Python gedacht. In der Praxis können Python-fähige Nutzer, die für fortgeschrittene Modellierungen unerlässlich sind, schnell zu Engpässen führen. Indem man auch Nutzern ohne Python-Kenntnisse ermöglicht, Machbarkeitsstudien und Validierungsarbeiten in JMP Pro durchzuführen, trägt man zu einer besseren Verteilung der Verantwortlichkeiten bei und beschleunigt die Analyseprozesse im gesamten Unternehmen.
Auf dieser Grundlage würde ich mich über Ihre Einschätzungen zu weiteren Vorteilen sowie über Beispiele aus der Praxis freuen – insbesondere über typische Anwendungsfälle und Beispiele, die vom Proof of Concept bis zur Produktion weiterentwickelt wurden.
Danke.
Betreff: Interne Diskussion und Feedback zum Deep Learning bei Torch@YusukeKoizumi Gute Gedanken und Antworten.
Drittens bietet JMP Pro eine dynamisch interaktive Umgebung mit einer Vielzahl numerischer und grafischer Ausgaben sowohl während des Trainings als auch der Inferenz. So können Sie beispielsweise ein Rechteck über falsch klassifizierte Validierungspunkte ziehen, um diese in der JMP-Tabelle auszuwählen und eine visuelle Fehleranalyse durchzuführen, oder Sie fügen Ihrer binären Zielgröße eine Profitmatrix hinzu und optimieren interaktiv die Entscheidungsschwellen.
