Fragen und Ressourcen zum Deep LearningHallo zusammen,
Ich habe mich gefragt, ob jemand Papier- oder Buchempfehlungen zu einigen der erweiterten Einstellungen des Torch-Add-Ins hat?
Was ist beispielsweise X- und Y-Sigma? Wie wählt man den L1-Wert aus? usw.
Wir sind auch für alle empfohlenen Ressourcen zur Kombination von Bild- und Tabellenmodellen sehr dankbar.
Am besten,
Clovis
Betreff: Fragen und Ressourcen zum Deep LearningDanke für die Frage, @cweisbart . Das Add-In ist eine Kombination aus mehreren Hauptkomponenten und es gibt derzeit wahrscheinlich keine einzige wirkliche Referenz, obwohl wir planen, die Schulungsmaterialien im Laufe der Zeit weiter auszubauen. Einige Ideen für jetzt:
- Wenn Sie mit der Maus direkt über die Bezeichnung eines Parameters fahren, sollte eine kurze Popup-Beschreibung angezeigt werden. Beispiel: für X Slide Sigma: „Standardabweichung der zufälligen Gaußschen Verschiebung entlang der X-Achse“.
- Im Allgemeinen dienen alle erweiterten Optionen in der dritten Spalte der dynamischen Bilderweiterung während des Trainings. Erweiterung ist eine leistungsstarke Deep-Learning-Methode zum Erstellen von Pseudodaten für jeden Stapel. Beispielsweise kann das horizontale Spiegeln eines Bildes eines Hundes oder einer Katze immer noch als Hund oder Katze gekennzeichnet werden, und das Modell kann eine größere Bandbreite möglicher Bilder sehen. Gleiches gilt für andere Bildmanipulationen wie Verschieben, Drehen und Unschärfe. Mit Erweiterung trainierte Modelle neigen zu einer besseren Generalisierung.
- Die L1-Strafe ist analog zur Lasso-Strafe in GenReg und neigt dazu, die Lösung zu verdünnen. Gute Werte zum Ausprobieren sind 1e-6 und 1e-5. Ebenso ist Weight Decay wie eine Ridge-Strafe, und dieselben beiden Werte funktionieren oft gut.
- Die Kombination von Bild- und Tabellenmodellen ist für dieses Add-In einzigartig. Wir haben es so gemacht, um eine flexiblere Möglichkeit zum Mischen und Anpassen zu bieten. Das Tabellenmodell wird immer nach dem Bildmodell ausgeführt und verwendet Einbettungen aus dem Bildmodell als Eingabe.
– Das Dokument (klicken Sie auf Add-Ins > Torch Deep Learning > Hilfe) enthält auf den Seiten 28–31 einige zusätzliche Einzelheiten.
- Wir haben versucht, durchgängig eine ziemlich standardisierte Terminologie zu verwenden, sodass die Websuche nach einem bestimmten Begriff wahrscheinlich hilfreiche Ergebnisse, Hintergrundinformationen und sogar Beispiele liefert. Alle Treffer aus dem PyTorch-Dokument selbst sollten sehr zuverlässig sein.
Bitte senden Sie uns jederzeit weiteres Feedback oder Fragen und vergessen Sie nicht, dass wir die TDL- und neuen Campfire-Server zur Verfügung haben, wenn Sie schnellere GPUs ausprobieren möchten.
Betreff: Fragen und Ressourcen zum Deep LearningDanke für die Antwort, sehr hilfreich! Ich habe das Hilfe-PDF zu den gespeicherten .pt-Dateien durchgesehen. Ich sehe, dass die „inet“s die Bild-Backbones, die „tnet“s die Einbettungsebenen und die „linp“s die Endebenen sind. Ich habe auch einige „_optim.pt“-Dateien. Was stellen diese dar? Vielen Dank im Voraus!
Betreff: Fragen und Ressourcen zum Deep Learning@russ_wolfinger, Feedback zu den „_optim.pt“-Dateien wäre super! Vielen Dank im Voraus für die Hilfe!
