Questions et ressources sur l'apprentissage en profondeurSalut tout le monde,
Je me demandais si quelqu'un avait des recommandations d'articles ou de livres concernant certains des paramètres avancés du module complémentaire Torch ?
Par exemple, qu'est-ce que le sigma des diapositives X et Y ? Comment choisir la valeur L1 ? etc.
Toute ressource recommandée traitant de la combinaison des modèles d'image et de tableau serait également grandement appréciée.
Meilleur,
Clovis
Ré: Questions et ressources sur l'apprentissage profond@cweisbart Merci pour le rappel : les fichiers « _optim.pt » sont les plus volumineux car ils contiennent tout le reste ainsi que des informations sur la formation elle-même afin qu'elle puisse être reprise. Ils sont utilisés lors de la spécification de « Restaurer à partir de » dans la boîte de dialogue Torch, mais ne sont pas nécessaires pour le déploiement puisque nous enregistrons les principaux composants du modèle séparément.
Ré: Questions et ressources sur l'apprentissage profond@russ_wolfinger tout commentaire sur les fichiers "_optim.pt" serait très apprécié ! Merci d'avance pour votre aide !
Ré: Questions et ressources sur l'apprentissage profondMerci pour la réponse, très utile ! J'ai parcouru le PDF d'aide sur les fichiers .pt stockés. Je vois que les « inet » sont les backbones d'image, les « tnet » sont les couches d'intégration et les « linp » les couches finales. J'ai également des fichiers « _optim.pt ». Que représentent-ils ? Merci d'avance !
Ré: Questions et ressources sur l'apprentissage profondMerci pour la question @cweisbart . Le module complémentaire est une combinaison de plusieurs composants majeurs et il n'existe probablement pas actuellement de référence unique et définitive, même si nous prévoyons de continuer à développer les supports de formation au fil du temps. Quelques idées pour l'instant :
- Passer la souris directement sur l'étiquette de n'importe quel paramètre devrait donner une brève description contextuelle. Par exemple, pour X Slide Sigma : « Écart type du décalage aléatoire gaussien le long de l'axe X ».
- En général, toutes les options avancées de la troisième colonne concernent l'augmentation dynamique de l'image pendant la formation. L'augmentation est une méthode d'apprentissage profond puissante pour créer des pseudo-données pour chaque lot. Par exemple, retourner une photo d'un chien ou d'un chat horizontalement peut toujours être étiqueté comme un chien ou un chat, et le modèle est capable de voir une gamme plus large d'images possibles. De même pour d'autres manipulations d'images comme le décalage, la rotation, le flou. Les modèles formés avec l'augmentation ont tendance à mieux se généraliser.
- La pénalité L1 est analogue à la pénalité de lasso dans GenReg et tend à raréfier la solution. Les bonnes valeurs à essayer sont 1e-6 et 1e-5. De même, la perte de poids est comme une pénalité de crête, et les deux mêmes valeurs fonctionnent souvent bien.
- La combinaison des modèles Image et Tabulaire est quelque peu unique à ce module complémentaire. Nous l'avons fait de cette façon pour offrir la possibilité de combiner et d'associer plus facilement. Le modèle Tabulaire est toujours exécuté après le modèle Image et prend les incorporations du modèle Image en entrée.
- Le document (cliquez sur Compléments > Torch Deep Learning > Aide) contient quelques détails supplémentaires aux pages 28 à 31.
- Nous avons essayé d'utiliser une terminologie assez standard tout au long de ce document, de sorte que la recherche sur le Web d'un terme particulier fournira probablement des résultats utiles, des informations générales et même des exemples. Tous les résultats provenant de la documentation PyTorch elle-même devraient être très solides.
N'hésitez pas à envoyer plus de commentaires ou de questions à tout moment, et n'oubliez pas que nous avons les serveurs TDL et les nouveaux serveurs Campfire disponibles si vous souhaitez essayer des GPU plus rapides
