Questions et ressources d'apprentissage profondSalut tout le monde,
Je me demandais si quelqu'un avait des recommandations d'articles ou de livres concernant certains des paramètres avancés du complément Torch ?
Par exemple, qu'est-ce que le sigma des diapositives X et Y ? Comment choisir la valeur L1 ? etc.
Toutes les ressources recommandées traitant de la combinaison des modèles image et tabulaire seraient également grandement appréciées.
Meilleur,
Clovis
Re : Questions et ressources sur l'apprentissage profondMerci pour la question @cweisbart . Le complément est une combinaison de plusieurs composants majeurs et il n’existe probablement pas une seule référence définitive de grande qualité actuellement, même si nous prévoyons de continuer à développer le matériel de formation au fil du temps. Quelques idées pour l'instant :
- Passer la souris directement sur l'étiquette d'un paramètre devrait donner une brève description contextuelle. par exemple pour X Slide Sigma : "Écart type du décalage aléatoire gaussien le long de l'axe X".
- En général, toutes les options avancées de la troisième colonne concernent l'augmentation dynamique de l'image pendant l'entraînement. L'augmentation est une puissante méthode d'apprentissage en profondeur permettant de créer des pseudo-données pour chaque lot. Par exemple, retourner horizontalement une photo d'un chien ou d'un chat peut toujours être étiqueté comme un chien ou un chat, et le modèle est capable de voir un plus large éventail d'images possibles. De même pour d'autres manipulations d'images comme le déplacement, la rotation, le flou. Les modèles formés avec augmentation ont tendance à mieux généraliser.
- La pénalité L1 est analogue à la pénalité au lasso dans GenReg et tend à rationaliser la solution. Les bonnes valeurs à essayer sont 1e-6 et 1e-5. De même, la perte de poids est comme une pénalité de crête, et les deux mêmes valeurs fonctionnent souvent bien.
- La combinaison des modèles Image et Tabulaire est quelque peu unique à ce complément. Nous l'avons fait de cette façon pour offrir la possibilité de mélanger et assortir de manière plus flexible. Le modèle tabulaire est toujours exécuté après le modèle d'image et prend les intégrations du modèle d'image en entrée.
- La documentation (cliquez sur Compléments > Torch Deep Learning > Aide) contient des détails supplémentaires aux pages 28 à 31.
- Nous avons essayé d'utiliser une terminologie assez standard afin que la recherche sur le Web d'un terme particulier fournisse probablement des résultats utiles, un contexte et même des exemples. Tous les hits du document PyTorch lui-même devraient être très solides.
N'hésitez pas à envoyer d'autres commentaires ou questions à tout moment, et n'oubliez pas que nous avons le TDL et les nouveaux serveurs Campfire disponibles si vous souhaitez essayer des GPU plus rapides.
Re : Questions et ressources sur l'apprentissage profondMerci pour la réponse, très utile! Je scannais le pdf d'aide sur les fichiers .pt stockés. Je vois que les "inet" sont les bases de l'image, les "tnet" sont les couches d'intégration et les "linp" les couches finales. J'ai aussi quelques fichiers "_optim.pt". Que représentent-ils ? Merci d'avance!
Re : Questions et ressources sur l'apprentissage profond@russ_wolfinger, tout commentaire sur les fichiers "_optim.pt" serait très apprécié ! Merci d'avance pour l'aide!
