Discussione interna e feedback sul deep learningCiao a tutti. Oggi è sorta una domanda su come i membri tecnici delle vendite sul campo possono fornire feedback sul componente aggiuntivo Torch Deep Learning (TDLA). Mi piacerebbe che utilizzassimo questo thread per discussioni interne e segnalazioni di bug. Se trovi un bug, fornisci una descrizione di quali passaggi hanno portato al problema e anche il set di dati utilizzato (o almeno una descrizione del set di dati).
Inoltre, come ho menzionato oggi nella formazione su TDLA, non inviare segnalazioni di bug o arresti anomali al supporto tecnico per questa estensione di JMP.
Oggetto: Discussione interna e feedback sul deep learning su TorchUn paio di modelli di immagine che ho provato con questo set di dati mi danno un messaggio di errore. AlexNet, EfficientNetB0 e DenseNet121 hanno tutti fornito il seguente messaggio di errore.
Oggetto: Discussione interna e feedback sul deep learning su Torch@Peter_Hersh Grazie per la segnalazione. Lo script incorporato con 8 diversi modelli di immagine viene eseguito in modo pulito sul mio computer con una GPU in circa 10 minuti e l'utilizzo finale della memoria della GPU è di 4 GB. Il messaggio di errore che hai ricevuto sembra essere legittimo: la memoria del tuo computer è esaurita. Posso chiederti che tipo di hardware utilizzi?
AlexNet e DenseNet121 richiedono valori più grandi per la dimensione dell'immagine come 112 o 224. Stiamo lavorando su un migliore messaggio di errore a riguardo.
Questi sono dati interessanti con le radiografie del torace. Sarebbe giusto aggiungerlo al libro di fiabe? Qual è la fonte dei dati?
Oggetto: Discussione interna e feedback sul deep learning su Torch@russ_wolfinger , Sì, vai avanti e usa il set di dati, è un sottoinsieme di un set di dati più ampio che ho ricevuto da Kaggle. Ho eseguito un set di dati di medie dimensioni con circa 3000 immagini e ha funzionato bene con le impostazioni predefinite utilizzando il modello di immagine LeNet5. Qualcosa in questi tre tipi di modelli mi stava causando problemi.
Ho una GPU NVIDIA RTX A3000 con 6 GB di memoria dedicata. Ho una CPU da 64 GB.
Oggetto: Discussione interna e feedback sul deep learning su TorchGrazie @Peter_Hersh, ho appena pubblicato quanto segue nella chat di SE Training Teams e permettimi di ripubblicarlo qui per assicurarmi che la gente lo veda. Nello specifico, sono interessato a sapere se hai installato CUDA e se questo fa la differenza, poiché penso che la tua RTX A3000 dovrebbe funzionare abbastanza bene in molti casi. Nota anche che AlexNet e molti altri modelli avranno bisogno che la dimensione dell'immagine sia maggiore di 28. 224 è spesso molto buono ma rallenterà i tempi di esecuzione. Anche le dimensioni delle immagini 56 e 112 possono funzionare bene in molti casi ed essere più veloci di 224.
Utenti di laptop Windows: potresti essere ancora fortunato per l'aumento di velocità con una scheda NVIDIA, almeno per modelli di immagini e testo più piccoli. Prova i seguenti passaggi:
1. Controlla quale scheda NVIDIA possiedi aprendo Task Manager, fai clic sulla scheda Prestazioni, quindi guarda nella parte inferiore. Il mio ThinkPad ha una Quadro RTX 3000 con 6 GB di RAM, che non è poi così male come scheda
2. Se la tua scheda NVIDIA sembra a posto, apri un prompt dei comandi e digita il comando "nvidia-smi". L'output dovrebbe essere simile al seguente, mostrando la versione CUDA, il nome della scheda e l'utilizzo attuale della memoria e del calcolo.
3. Se nvidia-smi non viene trovato, installa i driver CUDA seguendo le istruzioni qui: Guida all'installazione di CUDA per Microsoft Windows (nvidia.com) So che sembrano lunghi ma si tratta principalmente di controlli e dovrebbero richiedere solo circa 10 minuti. Verificare che CUDA sia installato correttamente ripetendo il passaggio 2.
4. Installare il componente aggiuntivo Torch da myjmp.com, pagina Early Adopter. La prima volta che avvii la piattaforma verranno scaricati 7 file di grandi dimensioni. Sii paziente e lascia che questi vengano scaricati al 100% e decompressi completamente. Se per qualche motivo l'installazione viene interrotta o viene completata solo parzialmente, elimina l'intera cartella del componente aggiuntivo com.jmp.torchdeeplearning (fai clic su Visualizza > Componenti aggiuntivi, Torch Deep Learning, Cartella Home) e riprova.
5. Prova l'esempio MNIST completo facendo clic su Componenti aggiuntivi > Torch Deep Learning > Dati di esempio > MNIST. Fai clic sulla freccia verde dello script Torch incorporato vicino all'angolo in alto a sinistra, quindi su Vai. Mentre è in esecuzione, prova più volte nvidia-smi nella shell dei comandi per verificare l'utilizzo della GPU. Il mio mostra circa 1 GB di memoria e il 40% di calcolo durante l'esecuzione di MNIST. Il tempo di esecuzione totale è di 50 secondi sul mio ThinkPad: non troppo male. Per fare un confronto, lo stesso lavoro richiede in realtà circa 2 minuti sul mio desktop con una Quadro RTX 6000 più grande che ho usato ieri.
6. Per modelli con immagini e testo più grandi, diminuire la dimensione batch per utilizzare meno memoria GPU. Potrebbe essere necessaria la dimensione lotto 8 o anche 4 o 2. In genere è anche possibile utilizzare meno epoche quando si riduce la dimensione batch, poiché il modello esegue i passaggi più frequentemente e converge più rapidamente.
7. L'API NVIDIA C++ attualmente non offre un ottimo modo per cancellare la memoria della GPU e tende ad accumularsi dopo aver eseguito diversi modelli. Se ricevi un messaggio di errore di memoria esaurita e/o l'output di nvidia-smi mostra una memoria quasi piena, l'unica soluzione è spegnere e riavviare completamente JMP Pro. Salva i modelli prima di farlo dal triangolo rosso e potrai riprendere da dove avevi interrotto. Inoltre, Ctrl-J è utile per scattare istantanee dei risultati correnti e salvarle come diario JMP: questo è quello che ho fatto per i diari nel libro di fiabe
Oggetto: Discussione interna e feedback sul deep learning su Torch@russ_wolfinger , grazie, era un problema di dimensioni dell'immagine. Quando ho aumentato la dimensione dell'immagine a 112, il modello ha funzionato senza problemi. Sarebbe possibile aggiungere un segno di spunta o impostare la dimensione dell'immagine predefinita per essere compatibile con il modello di immagine selezionato?
Oggetto: Discussione interna e feedback sul deep learning su TorchUtilizzando un sottoinsieme del set di dati NIST, le impostazioni mostrate nella finestra hanno creato un messaggio di errore così lungo da scorrere fuori dalla pagina in modo da non poterlo chiudere, quindi ho dovuto terminare manualmente JMP. Funziona su un MacBook Pro M3/Max.
Oggetto: Discussione interna e feedback sul deep learning su TorchSe è possibile inviarlo al nuovo indirizzo e-mail di supporto per il componente aggiuntivo, JMPLSAddins@JMP.com , sarà possibile esaminarlo. Ho riscontrato lo stesso problema ed è un problema noto, tuttavia.
Oggetto: Discussione interna e feedback sul deep learning su TorchHo creato un ticket Jira per questo problema qualche tempo fa. Era chiuso.
Oggetto: Discussione interna e feedback sul deep learning su TorchGrazie @malcolm_moore1 Ho appena reimpostato le autorizzazioni su C:\Public in modo che tutti possano leggere/scrivere. Li avevo impostati prima e in qualche modo sono cambiati di nuovo. Speriamo che resistano questa volta.
Oggetto: Discussione interna e feedback sul deep learning su TorchCiao a tutti,
Ho ricevuto alcune richieste di condivisione della diapositiva utilizzata per la presentazione del webinar on-demand del componente aggiuntivo Torch.
Ecco qui!
Oggetto: Discussione interna e feedback sul deep learning su TorchDue cose da aggiungere a queste istruzioni:
- Devi avere il tuo computer connesso tramite VPN per accedere al server, altrimenti non sarai in grado di connetterti
- Una volta terminato, disconnettersi dal server, esiste un numero limitato di connessioni. Vedo che due persone sono accese quando mi sono connesso pochi secondi fa. Uno era indicato come Assente e l'altro era Inattivo per 1 ora e 30 minuti.
Oggetto: Discussione interna e feedback sul deep learning su TorchGrazie @Chris_Kirchberg, ho appena aggiornato le istruzioni specificando che il primo passaggio è una VPN. Per quanto riguarda il computer stesso, ieri pomeriggio l'IT ha presumibilmente rimosso tutte le restrizioni relative al numero di utenti simultanei. Hai visto questa restrizione oggi? Se è così posso chiederglielo di nuovo.
Oggetto: Discussione interna e feedback sul deep learning su TorchGrazie Russ, ora funziona tutto.
Oggetto: Discussione interna e feedback sul deep learning su TorchL'ho visto stamattina @russ_wolfinger
Oggetto: Discussione interna e feedback sul deep learning su TorchCiao a tutti,
Sono curioso di vedere suggerimenti su come un cliente distribuirebbe il proprio modello al di fuori di JMP dopo la creazione del modello nel componente aggiuntivo Torch: poiché si trova "al di fuori" delle formule che puoi distribuire nel Formula Depot, quale sarebbe il processo migliore ?
Grazie,
Ben
Oggetto: Discussione interna e feedback sul deep learning su TorchCiao @Ben_Ingham , stiamo ancora lavorando per semplificare il processo, ma per ora ci sono alcuni esempi di distribuzione dei file .pt salvati nei notebook Python. Fare clic su Visualizza > Componenti aggiuntivi, selezionare TorchDeepLearning, fare clic sul collegamento Cartella Home, quindi cercare nella sottocartella dei notebook.
Ogni modello viene salvato in 2-3 file .pt separati per consentire l'output di incorporamenti intermedi. In Python è necessario specificare esattamente le stesse architetture e quindi i pesi del modello vengono caricati dai file .pt. Se esegui K-fold, vengono salvati più modelli di cui è possibile calcolare la media/raggruppare per previsioni più stabili e accurate.
Oggetto: Discussione interna e feedback sul deep learning su TorchCiao Russ,
è una novità fantastica, grazie.
Cosa intendi esattamente con " desktop remoto in"? Come lo faccio?
Grazie
Floriano
Oggetto: Discussione interna e feedback sul deep learning su TorchCiao Floriano,
Cerca un'app desktop remoto Microsoft dal tuo laptop. Se non lo vedi potrebbe essere necessario installarlo dal centro software gestito. Quando avvii l'app desktop remoto dovrai seguire le istruzioni di Russ per stabilire una connessione.
Malcolm
Oggetto: Discussione interna e feedback sul deep learning su TorchCiao @Florian_Vogt, all'inizio ho appena aggiornato le istruzioni con maggiori dettagli su Desktop remoto. Per favore fatemi sapere se non funziona per voi. Non ho familiarità con come funzionano le cose a livello internazionale e potrebbero essere necessari ulteriori passaggi.
Oggetto: Discussione interna e feedback sul deep learning su Torch
Successivamente, disconnettersi dopo l'uso, gli utenti inattivi stanno ancora consumando la RAM.
In allegato è riportato l'accumulo di 5 utenti inattivi e già consumati circa il 23% della RAM da 128 GB.
Oggetto: Discussione interna e feedback sul deep learning su TorchGrazie @lkimhui . Per far capire a tutti che c'è differenza tra "disconnettersi" e "disconnettersi". La disconnessione o la semplice chiusura dell'applicazione di connessione desktop remoto non termina la sessione, JMP e qualsiasi altra app aperta sono ancora in esecuzione sul server. Per terminare la sessione e liberare le risorse utilizzate è necessario "disconnettersi". L'opzione "esci" è disponibile dal menu di Windows, fai clic sul tuo nome di accesso e quindi seleziona "esci".
Oggetto: Discussione interna e feedback sul deep learning su TorchGrazie Kim!
Oggetto: Discussione interna e feedback sul deep learning su TorchGrazie~!
Oggetto: Discussione interna e feedback sul deep learning su TorchCiao a tutti,
Vuoi provare una GPU NVIDIA davvero veloce? Cerco volontari! Per favore, non lasciare che questo ti distragga dai tuoi compiti di vendita, ma è qualcosa che potresti utilizzare per importanti opportunità di vendita o nel tuo tempo libero.
Potresti aver sentito che SAS è attualmente molto attivo con lo sviluppo di GPU specifiche per NVIDIA tramite codifica CUDA in molte delle sue divisioni analitiche. Stanno acquisendo un sacco di nuovi dispositivi NVIDIA che vanno fino agli ultimi H100 che possono costare più di $ 25.000.
Hanno bisogno di alcuni benchmark e li ho contattati indicando quanto sia facile e veloce far funzionare JMP Pro con il componente aggiuntivo Torch e le GPU di ancoraggio utilizzando tutti i nuovi esempi che abbiamo per la classificazione di immagini e testo e regressione.
Hanno appena configurato per noi un nuovo server Windows 2022 con quattro GPU L40 separate, ciascuna con 48 GB di memoria! Gli L40 sono tre generazioni più moderni dei P100 su TDL.
Per favore mandami un messaggio direttamente se vuoi provare questo nuovo server e ti invierò credenziali di accesso e istruzioni. Tutto quello che ti chiediamo è di inviarci alcuni tempi di esecuzione dei modelli che provi (a tua scelta oppure posso consigliarne alcuni), che vengono stampati nel registro JMP dopo ciascun modello Torch che adatti.
Ho provato diversi esempi diversi dal Torch Storybook per alcuni casi iniziali e sto riscontrando un aumento di velocità di circa 2-3 volte rispetto ai P100.
Adoro questa roba,
Russo
