724360_fr-FR

liliconcom

Discussions et commentaires internes sur Torch Deep Learning

Salut tout le monde. Une question s'est posée aujourd'hui sur la façon dont les membres des ventes techniques sur le terrain peuvent fournir des commentaires sur le complément Torch Deep Learning (TDLA). J'aimerais que nous utilisions ce fil pour les discussions internes et les rapports de bogues. Si vous trouvez un bug, veuillez fournir une description des étapes qui ont conduit au problème ainsi que l'ensemble de données utilisé (ou au moins une description de l'ensemble de données).

De plus, comme je l'ai mentionné dans la formation sur TDLA d'aujourd'hui, n'envoyez pas de bugs ou de rapports d'erreur au support technique pour cette extension de JMP.

Objet : Discussion et commentaires internes sur Torch Deep Learning

@russ_wolfinger , merci, c'était un problème de taille d'image. Lorsque j'ai augmenté la taille de l'image à 112, le modèle a fonctionné sans problème. Serait-il possible d'ajouter une coche ou de définir la taille de l'image par défaut pour qu'elle soit compatible avec le modèle d'image sélectionné ?

Objet : Discussion et commentaires internes sur Torch Deep Learning

Merci @Peter_Hersh , je viens de publier ce qui suit sur le chat des équipes de formation SE et permettez-moi de le republier ici pour m'assurer que les gens le voient. Plus précisément, je suis intéressé de savoir si CUDA est installé et si cela fait une différence, car je pense que votre RTX A3000 devrait fonctionner plutôt bien dans de nombreux cas. Notez également qu'AlexNet et plusieurs autres modèles auront besoin que la taille de l'image soit supérieure à 28. 224 est souvent très bon mais ralentira les temps d'exécution. Les tailles d'image de 56 et 112 peuvent également bien fonctionner dans de nombreux cas et être plus rapides que 224.

Utilisateurs d'ordinateurs portables Windows : vous aurez peut-être encore de la chance grâce aux accélérations avec une carte NVIDIA, du moins pour les modèles d'image et de texte plus petits. Veuillez essayer les étapes suivantes :

1. Vérifiez quelle carte NVIDIA vous possédez en ouvrant le Gestionnaire des tâches, cliquez sur l'onglet Performances, puis regardez vers le bas. Mon ThinkPad a une Quadro RTX 3000 avec 6 Go de RAM, ce qui n'est pas une trop mauvaise carte

2. Si votre carte NVIDIA semble correcte, ouvrez une invite de commande et tapez la commande « nvidia-smi ». Le résultat devrait ressembler à ce qui suit, indiquant votre version de CUDA, le nom de votre carte, ainsi que son utilisation actuelle de la mémoire et du calcul.

3. Si nvidia-smi n'est pas trouvé, installez les pilotes CUDA en suivant les instructions ici : Guide d'installation CUDA pour Microsoft Windows (nvidia.com) Je sais que cela semble long, mais il ne s'agit principalement que de vérifications et cela ne devrait prendre que 10 minutes environ. Vérifiez que CUDA est correctement installé en répétant l'étape 2.

4. Installez le complément Torch depuis myjmp.com, page Early Adopter. La première fois que vous lancerez la plateforme, 7 gros fichiers seront téléchargés. S'il vous plaît soyez patient et laissez-les télécharger à 100 % et décompresser complètement. Si, pour une raison quelconque, l'installation est interrompue ou ne se termine que partiellement, supprimez l'intégralité du dossier du complément com.jmp.torchdeeplearning (cliquez sur Affichage > Compléments, Torch Deep Learning, Dossier personnel) et réessayez.

5. Essayez l'exemple MNIST complet en cliquant sur Compléments > Torch Deep Learning > Exemples de données > MNIST. Cliquez sur la flèche verte du script Torch intégré près du coin supérieur gauche, puis sur Go. Pendant son exécution, essayez nvidia-smi dans votre shell de commande plusieurs fois pour vérifier l'utilisation du GPU. Le mien affiche environ 1 Go de mémoire et 40 % de calcul lors de l'exécution de MNIST. La durée totale d'exécution est de 50 secondes sur mon ThinkPad - pas trop mal. À titre de comparaison, le même travail prend en réalité environ 2 minutes sur mon bureau avec une Quadro RTX 6000 plus grande que j'ai utilisée hier.

6. Pour les modèles d'image et de texte plus grands, réduisez la taille du lot pour utiliser moins de mémoire GPU. Un lot de 8 ou même de 4 ou 2 peut être nécessaire. Vous pouvez généralement également utiliser moins d'époques lorsque vous diminuez la taille du lot, car le modèle effectue des étapes plus fréquemment et converge plus rapidement.

7. L'API NVIDIA C++ n'offre actuellement pas un excellent moyen d'effacer la mémoire GPU et elle a tendance à s'accumuler après l'exécution de plusieurs modèles. Si vous recevez un message d'erreur de mémoire insuffisante et/ou si votre sortie nvidia-smi affiche une mémoire presque pleine, le seul recours est d'arrêter complètement et de redémarrer JMP Pro. Enregistrez les modèles avant de le faire à partir du triangle rouge et vous pourrez reprendre là où vous vous étiez arrêté. De plus, Ctrl-J est pratique pour prendre des instantanés de la sortie actuelle et les enregistrer en tant que journal JMP. C'est ce que j'ai fait pour les journaux du livre d'histoires.

Objet : Discussion et commentaires internes sur Torch Deep Learning

@russ_wolfinger , Oui, allez-y et utilisez l'ensemble de données, il s'agit d'un sous-ensemble d'un ensemble de données plus vaste que j'ai obtenu de Kaggle. J'ai exécuté un ensemble de données de taille moyenne avec environ 3 000 images et cela a bien fonctionné pour les paramètres par défaut en utilisant le modèle d'image LeNet5. Quelque chose dans ces trois types de modèles me posait des problèmes.

J'ai un GPU NVIDIA RTX A3000 avec 6 Go de mémoire dédiée. J'ai un processeur de 64 Go.

Objet : Discussion et commentaires internes sur Torch Deep Learning

@Peter_Hersh Merci pour le rapport. Le script intégré avec 8 modèles d'image différents s'exécute proprement sur ma machine avec un GPU en 10 minutes environ et l'utilisation finale de la mémoire GPU est de 4 Go. Le message d'erreur que vous avez reçu semble être légitime : votre ordinateur n'a plus de mémoire. Puis-je vous demander sur quel type de matériel vous utilisez ?

AlexNet et DenseNet121 nécessitent des valeurs plus grandes pour la taille de l'image, comme 112 ou 224. Nous travaillons sur une meilleure messagerie d'erreur à ce sujet.

Ce sont de belles données avec des radiographies pulmonaires. Serait-il acceptable de l'ajouter au livre d'histoires ? Quelle est la source des données ?

Objet : Discussion et commentaires internes sur Torch Deep Learning

Quelques modèles d'images que j'ai essayés avec cet ensemble de données me donnent un message d'erreur. AlexNet, EfficientNetB0, DenseNet121 ont tous donné le message d'erreur ci-dessous.

Objet : Discussion et commentaires internes sur Torch Deep Learning

En utilisant un sous-ensemble de l'ensemble de données NIST, les paramètres affichés dans la fenêtre ont créé un message d'erreur si long qu'il défilait hors de la page afin que je ne puisse pas la fermer, j'ai donc dû tuer manuellement JMP. Fonctionnant sur un MacBook Pro M3/Max.

 

Objet : Discussion et commentaires internes sur Torch Deep Learning

Si vous pouvez l'envoyer au nouvel e-mail de support pour le complément, JMPLSAddins@JMP.com , cela peut faire l'objet d'une enquête. J'ai vu le même problème et c'est cependant un problème connu.

Objet : Discussion et commentaires internes sur Torch Deep Learning

J'ai créé un ticket Jira pour ce problème il y a quelque temps. C'était fermé.

Objet : Discussion et commentaires internes sur Torch Deep Learning

Merci @malcolm_moore1, je viens de réinitialiser les autorisations sur C:\Public pour que tout le monde ait accès à la lecture/écriture. Je les avais réglés auparavant et d'une manière ou d'une autre, ils ont changé. J'espère qu'ils tiendront cette fois-ci.

Objet : Discussion et commentaires internes sur Torch Deep Learning

Salut tout le monde,

J'ai reçu des demandes pour partager la diapositive utilisée pour présenter le webinaire à la demande du complément Torch.

Voici!

Objet : Discussion et commentaires internes sur Torch Deep Learning

Deux choses à ajouter à ces instructions :

1. Vous devez avoir votre ordinateur connecté via VPN pour accéder au serveur, sinon vous ne pourrez pas vous connecter
2. Lorsque vous avez terminé, veuillez vous déconnecter du serveur, le nombre de connexions est limité. Je vois que deux personnes sont allumées lorsque je me suis connecté il y a quelques secondes. L’un était répertorié comme Absent et l’autre était inactif pendant 1 h 30.

Objet : Discussion et commentaires internes sur Torch Deep Learning

Merci @Chris_Kirchberg, je viens de mettre à jour les instructions, la première étape étant un VPN. Pour l'ordinateur lui-même, le service informatique a probablement supprimé hier après-midi toutes les restrictions concernant le nombre d'utilisateurs simultanés. Avez-vous vu cette restriction aujourd'hui ? Si c'est le cas, je peux leur demander à nouveau.

Objet : Discussion et commentaires internes sur Torch Deep Learning

Merci Russ, tout fonctionne maintenant.

Objet : Discussion et commentaires internes sur Torch Deep Learning

Je l'ai vu ce matin @russ_wolfinger

Objet : Discussion et commentaires internes sur Torch Deep Learning

Bonjour à tous,

Je suis curieux de voir des suggestions sur la manière dont un client déploierait son modèle en dehors de JMP après la création du modèle dans le complément Torch - car il se situe « en dehors » des formules que vous pouvez distribuer dans Formula Depot, quel serait le meilleur processus. ?

Merci,

Ben

Objet : Discussion et commentaires internes sur Torch Deep Learning

Bonjour @Ben_Ingham , Nous travaillons toujours à rationaliser le processus, mais pour l'instant, il existe quelques exemples de déploiement des fichiers .pt enregistrés dans des blocs-notes Python. Cliquez sur Affichage > Compléments, sélectionnez TorchDeepLearning, cliquez sur le lien Dossier personnel, puis recherchez dans le sous-dossier des blocs-notes.

Chaque modèle est enregistré dans 2 à 3 fichiers .pt distincts pour permettre la sortie d'intégrations intermédiaires. En Python, les mêmes architectures doivent être spécifiées, puis les poids du modèle sont chargés à partir des fichiers .pt. Si vous effectuez un pli K, plusieurs modèles sont enregistrés qui peuvent être moyennés/groupés pour des prédictions plus stables et plus précises.

Objet : Discussion et commentaires internes sur Torch Deep Learning

Salut Russ,

c'est super nouveau merci.

Qu'entendez-vous exactement par « ordinateur de bureau à distance » ? Comment je fais ça?

Merci

Florian

Objet : Discussion et commentaires internes sur Torch Deep Learning

Bonjour Florian,

Recherchez une application de bureau à distance Microsoft à partir de votre ordinateur portable. Si vous ne le voyez pas, vous devrez peut-être l'installer à partir du centre logiciel géré. Lorsque vous démarrez l'application de bureau à distance, vous devrez suivre les instructions de Russ pour établir une connexion.

Malcolm

Objet : Discussion et commentaires internes sur Torch Deep Learning

Salut @Florian_Vogt Je viens de mettre à jour les instructions avec plus de détails sur Remote Desktop au début. S'il vous plaît laissez-moi savoir si cela ne fonctionne pas pour vous. Je ne connais pas la façon dont les choses fonctionnent à l'échelle internationale et des étapes supplémentaires peuvent être nécessaires.

Objet : Discussion et commentaires internes sur Torch Deep Learning

En second lieu, veuillez vous déconnecter des instances après utilisation, les utilisateurs inactifs consomment toujours la RAM.

Ci-joint l'accumulation de 5 utilisateurs inactifs et déjà consommé environ 23 % des 128 Go de RAM.

Objet : Discussion et commentaires internes sur Torch Deep Learning

Merci @lkimhui . Pour que tout le monde soit clair, il y a une différence entre « déconnexion » et « déconnexion ». La déconnexion ou la simple fermeture de l'application de connexion au bureau à distance ne met pas fin à la session, JMP et toutes les autres applications que vous avez ouvertes sont toujours en cours d'exécution sur le serveur. Pour mettre fin à la session et libérer toutes les ressources utilisées, vous devez vous "déconnecter". L'option « Déconnexion » est disponible dans le menu Windows, cliquez sur votre nom de connexion puis sélectionnez « Déconnexion ».

Objet : Discussion et commentaires internes sur Torch Deep Learning

Merci Kim!

Objet : Discussion et commentaires internes sur Torch Deep Learning

Merci~!

Objet : Discussion et commentaires internes sur Torch Deep Learning

Salut tout le monde,

Vous voulez essayer un GPU NVIDIA très rapide ? Recherche de bénévoles ! Ne laissez pas cela vous distraire de vos tâches de vente, mais c'est quelque chose que vous pourrez peut-être utiliser pour des opportunités de vente importantes ou pendant votre temps libre.

Vous avez peut-être entendu dire que SAS est actuellement très actif dans le développement de GPU spécifiques à NVIDIA via le codage CUDA dans plusieurs de ses divisions analytiques. Ils acquièrent un tas de nouveaux équipements NVIDIA allant jusqu'aux derniers H100 qui peuvent coûter plus de 25 000 $.

Ils ont besoin d'une analyse comparative et j'ai été en contact pour leur indiquer à quel point il est facile et rapide de faire fonctionner JMP Pro avec le complément Torch et l'ancrage des GPU en utilisant tous les nouveaux exemples dont nous disposons pour la classification d'images et de texte et régression.

Ils viennent de mettre en place pour nous un nouveau serveur Windows 2022 avec quatre GPU L40 distincts, chacun avec 48 Go de mémoire ! Les L40 sont trois générations plus modernes que les P100 sur TDL.

Veuillez m'envoyer un message directement si vous souhaitez essayer ce nouveau serveur et je vous enverrai les informations de connexion et les instructions. Tout ce que nous vous demandons, c'est de renvoyer quelques temps d'exécution des modèles que vous essayez (de votre choix ou je peux en recommander quelques-uns), qui sont imprimés dans le journal JMP après chaque modèle Torch que vous installez.

J'ai essayé plusieurs exemples différents du Torch Storybook pour quelques cas initiaux et je constate des accélérations d'environ 2 à 3 fois par rapport aux P100.

J'adore ce truc,

Russe