Comentarios y debates internos sobre aprendizaje profundo de TorchHola a todos. Hoy surgió una pregunta sobre cómo pueden los miembros de ventas técnicas de campo proporcionar comentarios sobre el complemento de aprendizaje profundo de Torch (TDLA). Me gustaría que usáramos este hilo para discusiones internas e informes de errores. Si encuentra un error, proporcione una descripción de los pasos que llevaron al problema y también el conjunto de datos utilizado (o al menos una descripción del conjunto de datos).
Además, como mencioné hoy en la capacitación sobre TDLA, no envíe informes de errores o fallas al soporte técnico para esta extensión de JMP.
Re: Comentarios y debates internos sobre aprendizaje profundo de TorchUn par de modelos de imágenes que probé con este conjunto de datos me dan un mensaje de error. AlexNet, EfficientNetB0 y DenseNet121 dieron el siguiente mensaje de error.
Re: Comentarios y debates internos sobre aprendizaje profundo de Torch@Peter_Hersh Gracias por informar. El script integrado con 8 modelos de imágenes diferentes se ejecuta limpiamente en mi máquina con una GPU en aproximadamente 10 minutos y el uso final de memoria de la GPU es de 4 GB. El mensaje de error que recibió parece ser legítimo: su máquina se quedó sin memoria. ¿Puedo preguntar en qué tipo de hardware está ejecutando?
AlexNet y DenseNet121 requieren valores mayores para el tamaño de imagen, como 112 o 224. Estamos trabajando para mejorar los mensajes de error en torno a esto.
Estos son buenos datos con radiografías de tórax. ¿Estaría bien agregarlo al libro de cuentos? ¿Cuál es la fuente de los datos?
Re: Comentarios y debates internos sobre aprendizaje profundo de Torch@russ_wolfinger , sí, continúa y usa el conjunto de datos; es un subconjunto de un conjunto de datos más grande que obtuve de Kaggle. Ejecuté un conjunto de datos de tamaño mediano con ~3000 imágenes y funcionó bien para la configuración predeterminada usando el modelo de imagen LeNet5. Algo en esos tres tipos de modelos me estaba causando problemas.
Tengo una GPU NVIDIA RTX A3000 con 6 GB de memoria dedicada. Tengo una CPU de 64 GB.
Re: Comentarios y debates internos sobre aprendizaje profundo de TorchGracias @Peter_Hersh. Acabo de publicar lo siguiente en el chat de SE Training Teams y déjame volver a publicarlo aquí para asegurarme de que la gente lo vea. Específicamente, me interesa saber si tiene CUDA instalado y si eso marca la diferencia, ya que creo que su RTX A3000 debería funcionar bastante bien en muchos casos. Tenga en cuenta también que AlexNet y varios otros modelos necesitarán que el Tamaño de imagen sea mayor que 28. 224 suele ser muy bueno, pero ralentizará los tiempos de ejecución. Los tamaños de imagen de 56 y 112 también pueden funcionar bien en muchos casos y ser más rápidos que 224.
Usuarios de portátiles con Windows: es posible que aún tengas suerte con las aceleraciones con una tarjeta NVIDIA, al menos para modelos de imágenes y texto más pequeños. Intente los siguientes pasos:
1. Verifique qué tarjeta NVIDIA tiene abriendo el Administrador de tareas, haga clic en la pestaña Rendimiento y luego mire cerca de la parte inferior. Mi ThinkPad tiene una Quadro RTX 3000 con 6 GB de RAM, que no es una tarjeta tan mala
2. Si su tarjeta NVIDIA se ve bien, abra un símbolo del sistema y escriba el comando "nvidia-smi". El resultado debería ser algo como lo siguiente, mostrando su versión de CUDA, el nombre de la tarjeta y su memoria actual y uso de computación.
3. Si no encuentra nvidia-smi, instale los controladores CUDA siguiendo las instrucciones aquí: Guía de instalación de CUDA para Microsoft Windows (nvidia.com) Sé que parecen largos, pero en su mayoría son solo comprobaciones y esto debería tomar solo ~10 minutos. Verifique que CUDA esté instalado correctamente repitiendo el Paso 2.
4. Instale el complemento Torch desde myjmp.com, página de primeros usuarios. La primera vez que inicie la plataforma, se descargarán 7 archivos grandes. Tenga paciencia y deje que se descarguen al 100% y descomprímalos por completo. Si por alguna razón la instalación se interrumpe o se completa solo parcialmente, elimine toda la carpeta del complemento com.jmp.torchdeeplearning (haga clic en Ver > Complementos, Torch Deep Learning, Carpeta de inicio) e inténtelo nuevamente.
5. Pruebe el ejemplo completo de MNIST haciendo clic en Complementos > Aprendizaje profundo de Torch > Datos de ejemplo > MNIST. Haga clic en la flecha verde del script Torch incrustada cerca de la esquina superior izquierda y luego en Ir. Mientras se está ejecutando, pruebe nvidia-smi en su shell de comandos varias veces para verificar el uso de la GPU. El mío muestra alrededor de 1 GB de memoria y un 40% de cálculo cuando ejecuta MNIST. El tiempo total de ejecución es de 50 segundos en mi ThinkPad, lo cual no está nada mal. En comparación, el mismo trabajo en realidad toma ~2 minutos en mi escritorio con una Quadro RTX 6000 más grande que usé ayer.
6. Para modelos de texto e imágenes más grandes, reduzca el tamaño del lote para utilizar menos memoria de la GPU. Puede ser necesario un tamaño de lote 8 o incluso 4 o 2. Normalmente, también puede utilizar menos épocas al reducir el tamaño del lote, porque el modelo realiza pasos con más frecuencia y converge más rápido.
7. La API NVIDIA C++ actualmente no ofrece una excelente manera de borrar la memoria de la GPU y tiende a acumularse después de ejecutar varios modelos. Si recibe un mensaje de error de falta de memoria y/o la salida de su nvidia-smi muestra la memoria casi llena, el único recurso es apagar completamente y reiniciar JMP Pro. Guarda los modelos antes de hacerlo desde el triángulo rojo y podrás continuar donde lo dejaste. Además, Ctrl-J es útil para tomar instantáneas de la salida actual y guardarlas como un diario JMP; esto es lo que hice para los diarios del libro de cuentos.
Re: Discusión interna y retroalimentación de Aprendizaje profundo de antorchas@RUSS_WOLFINGER , gracias fue un problema de tamaño de imagen. Cuando subí el tamaño de la imagen a 112, el modelo funcionó sin problemas. ¿Sería posible agregar una verificación o establecer el tamaño de imagen predeterminado para que sea compatible con el modelo de imagen seleccionado?
Re: Comentarios y debates internos sobre aprendizaje profundo de TorchUsando un subconjunto del conjunto de datos NIST, la configuración que se muestra en la ventana creó un mensaje de error mientras se desplazaba fuera de la página y no podía cerrarla, por lo que tuve que eliminar JMP manualmente. Ejecutándose en una MacBook Pro M3/Max.
Re: Comentarios y debates internos sobre aprendizaje profundo de TorchSi puede enviar esto al nuevo correo electrónico de soporte para el complemento, JMPLSAddins@JMP.com , se puede investigar. He visto el mismo problema y, sin embargo, es un problema conocido.
Re: Comentarios y debates internos sobre aprendizaje profundo de TorchCreé un ticket de Jira para este problema hace un tiempo. Estaba cerrado.
Re: Comentarios y debates internos sobre aprendizaje profundo de TorchGracias @malcolm_moore1. Acabo de restablecer los permisos en C:\Public para que todos tengan lectura/escritura. Los había configurado antes y de alguna manera volvieron a cambiar. Ojalá se queden esta vez.
Re: Comentarios y debates internos sobre aprendizaje profundo de TorchHola a todos,
Recibí algunas solicitudes para compartir la diapositiva utilizada para presentar el seminario web a pedido del complemento Torch.
¡Aquí tienes!
Re: Comentarios y debates internos sobre aprendizaje profundo de TorchDos cosas para agregar a estas instrucciones:
- Debe tener su computadora conectada a través de VPN para poder acceder al servidor; de lo contrario, no podrá conectarse
- Cuando haya terminado, cierre sesión en el servidor, hay un número limitado de conexiones. Veo que hay dos personas conectadas cuando me conecté hace unos segundos. Uno figuraba como Ausente y el otro estaba Inactivo durante 1 hora y 30 minutos.
Re: Comentarios y debates internos sobre aprendizaje profundo de TorchGracias @Chris_Kirchberg. Acabo de actualizar las instrucciones y el primer paso es una VPN. En el caso del ordenador, supuestamente ayer por la tarde se eliminaron todas las restricciones en cuanto al número de usuarios simultáneos. ¿Has visto esta restricción hoy? Si es así puedo volver a preguntarles.
Re: Comentarios y debates internos sobre aprendizaje profundo de TorchGracias Russ, todo está funcionando ahora.
Re: Comentarios y debates internos sobre aprendizaje profundo de TorchLo vi esta mañana @russ_wolfinger
Re: Comentarios y debates internos sobre aprendizaje profundo de TorchHola a todos,
Tengo curiosidad por ver sugerencias sobre cómo un cliente implementaría su modelo fuera de JMP luego de la creación del modelo en el complemento Torch; como se encuentra "fuera" de las fórmulas, puede dispensar en Formula Depot cuál sería el mejor proceso. ?
Gracias,
ben
Re: Comentarios y debates internos sobre aprendizaje profundo de TorchHola @Ben_Ingham . Todavía estamos trabajando para optimizar el proceso, pero por ahora hay algunos ejemplos de implementación de archivos .pt guardados en cuadernos de Python. Haga clic en Ver > Complementos, seleccione TorchDeepLearning, haga clic en el enlace Carpeta de inicio y luego busque en la subcarpeta de cuadernos.
Cada modelo se guarda en 2 o 3 archivos .pt separados para permitir la salida de incrustaciones intermedias. En Python se deben especificar exactamente las mismas arquitecturas y luego los pesos del modelo se cargan desde los archivos .pt. Si realiza K-fold, se guardarán varios modelos que se pueden promediar/ensamblar para obtener predicciones más estables y precisas.
Re: Comentarios y debates internos sobre aprendizaje profundo de TorchHola Russ,
Eso es genial, gracias.
¿Qué quieres decir exactamente con " escritorio remoto en"? ¿Cómo puedo hacer eso?
Gracias
florián
Re: Comentarios y debates internos sobre aprendizaje profundo de TorchHola florián,
Busque una aplicación de escritorio remoto de Microsoft desde su computadora portátil. Si no lo ve, es posible que deba instalarlo desde el centro de software administrado. Cuando inicie la aplicación de escritorio remoto, deberá seguir las instrucciones de Russ para establecer una conexión.
malcolm
Re: Comentarios y debates internos sobre aprendizaje profundo de TorchHola @Florian_Vogt. Acabo de actualizar las instrucciones con más detalles sobre Escritorio remoto al principio. Por favor, avíseme si no funciona para usted. No estoy familiarizado con cómo funcionan las cosas a nivel internacional y es posible que se requieran pasos adicionales.
Re: Comentarios y debates internos sobre aprendizaje profundo de Torch
En segundo lugar, cierre sesión en las instancias después de su uso, los usuarios inactivos todavía consumen RAM.
Se adjunta la acumulación de 5 usuarios inactivos y ya consumieron ~23% de los 128 GB de RAM.
Re: Comentarios y debates internos sobre aprendizaje profundo de TorchGracias @lkimhui . Para que todos queden claros, existe una diferencia entre "desconectar" y "cerrar sesión". Desconectar o simplemente cerrar la aplicación de conexión a escritorio remoto no finaliza la sesión, JMP y cualquier otra aplicación que haya abierto todavía se ejecutan en el servidor. Para finalizar la sesión y liberar los recursos utilizados, debe "cerrar sesión". La opción "cerrar sesión" está disponible en el menú de Windows, haga clic en su nombre de inicio de sesión y luego seleccione "cerrar sesión".
Re: Comentarios y debates internos sobre aprendizaje profundo de Torch¡Gracias kim!
Re: Comentarios y debates internos sobre aprendizaje profundo de Torch¡Gracias~!
Re: Comentarios y debates internos sobre aprendizaje profundo de TorchHola a todos,
¿Quieres probar una GPU NVIDIA realmente rápida? ¡Buscamos voluntarios! No permita que esto lo distraiga de sus deberes de ventas, pero es algo que puede utilizar para importantes oportunidades de ventas o en su tiempo libre.
Es posible que haya escuchado que SAS está muy activo actualmente con el desarrollo de GPU específicas de NVIDIA a través de codificación CUDA en muchas de sus divisiones analíticas. Están adquiriendo un montón de equipos NVIDIA nuevos que van hasta los últimos H100 que pueden costar más de 25.000 dólares.
Necesitan una evaluación comparativa y me he puesto en contacto para indicar lo fácil y rápido que es poner en marcha JMP Pro con el complemento Torch y vincular GPU utilizando todos los nuevos ejemplos que tenemos para clasificación de imágenes y texto. regresión.
Acaban de configurarnos un nuevo servidor Windows 2022 con cuatro GPU L40 independientes, cada una con 48 GB de memoria. Los L40 son tres generaciones más modernos que los P100 en TDL.
Envíeme un mensaje directamente si desea probar este nuevo servidor y le enviaré instrucciones y credenciales de inicio de sesión. Todo lo que le pedimos es que envíe algunos tiempos de ejecución de los modelos que pruebe (su elección o yo puedo recomendar algunos), que se imprimen en el registro de JMP después de cada modelo de Torch que ajuste.
He estado probando varios ejemplos diferentes del Torch Storybook para algunos casos iniciales y veo aceleraciones de ~2-3x con respecto a los P100.
Me encantan estas cosas
ruso
