トーチディープラーニングの社内ディスカッションとフィードバックこんにちは、みんな。今日、フィールド テクニカル セールス メンバーが、Torch Deep Learning Add-In (TDLA) に関するフィードバックをどのように提供できるかという質問がありました。このスレッドは内部の議論やバグ報告に使用したいと考えています。バグを見つけた場合は、問題が発生した手順と、使用したデータセット (または少なくともデータセットの説明) の説明を提供してください。
また、今日の TDLA に関するトレーニングで述べたように、JMP のこの拡張機能については、バグやクラッシュ レポートをテクニカル サポートに送信しないでください。
Re: トーチディープラーニングの社内ディスカッションとフィードバックこのデータ セットで試したいくつかの画像モデルでは、エラー メッセージが表示されます。 AlexNet、EfficientNetB0、DenseNet121 はすべて、以下のエラー メッセージを表示しました。
Re: トーチディープラーニングの社内ディスカッションとフィードバック@Peter_Hershご報告いただきありがとうございます。 8 つの異なるイメージ モデルを含む埋め込みスクリプトは、GPU を搭載した私のマシンで約 10 分で最後まできれいに実行され、最終的な GPU メモリ使用量は 4 GB です。受け取ったエラー メッセージは正当なもののようです。マシンのメモリが不足しています。どのようなハードウェアで実行されているかお聞きしてもよろしいでしょうか?
AlexNet と DenseNet121 では、112 や 224 など、より大きな画像サイズの値が必要です。私たちは、これに関するエラー メッセージの改善に取り組んでいます。
これは胸部X線写真による素晴らしいデータです。小説集に加えてもよろしいでしょうか？データの出所は何ですか?
Re: トーチディープラーニングの社内ディスカッションとフィードバック@russ_wolfinger 、はい、Kaggle から取得したより大きなデータ セットのサブセットであるデータ セットを使用してください。約 3000 枚の画像を含む中規模のデータ セットを実行しましたが、LeNet5 画像モデルを使用したデフォルト設定でうまく機能しました。これら 3 つのモデル タイプに関する何かが問題を引き起こしていました。
6 GB の専用メモリを搭載した NVIDIA RTX A3000 GPU を持っています。 64GBのCPUを搭載しています。
Re: トーチディープラーニングの社内ディスカッションとフィードバック@Peter_Hershに感謝します。SE トレーニング チームのチャットに次の内容を投稿しました。皆さんに見ていただけるよう、ここに再投稿させていただきます。具体的には、CUDA がインストールされているかどうか、また、RTX A3000 は多くの場合でうまく機能するはずだと思うので、それによって違いが生じるかどうかを知りたいです。 AlexNet および他のいくつかのモデルでは、画像サイズを 28 より大きくする必要があることにも注意してください。224 は多くの場合非常に優れていますが、実行時間が遅くなります。多くの場合、画像サイズ 56 と 112 も適切に機能し、224 より高速です。
Windows ラップトップ ユーザー:少なくとも小さい画像およびテキスト モデルの場合は、NVIDIA カードを使用すると高速化できる可能性があります。次の手順をお試しください。
1. タスク マネージャーを開き、[パフォーマンス] タブをクリックして、下部付近を確認して、どの NVIDIA カードを使用しているかを確認します。私の ThinkPad には 6 GB RAM を搭載した Quadro RTX 3000 が搭載されており、それほど悪くないカードです。
2. NVIDIA カードに問題がない場合は、コマンド プロンプトを開き、コマンド「nvidia-smi」を入力します。出力は次のようになり、CUDA のバージョン、カード名、現在のメモリとコンピューティングの使用状況が表示されます。
3. nvidia-smi が見つからない場合は、次の手順に従って CUDA ドライバーをインストールします: Microsoft Windows 用 CUDA インストール ガイド (nvidia.com)これらは長く見えるかもしれませんが、ほとんどは単なるチェックであり、所要時間は 10 分程度です。手順 2 を繰り返して、CUDA が正しくインストールされていることを確認します。
4. myjmp.com の早期導入者ページから、Torch アドインをインストールします。プラットフォームを初めて起動すると、7 つの大きなファイルがダウンロードされます。しばらくお待ちください。これらが 100% までダウンロードされ、完全に解凍されます。何らかの理由でインストールが中断されたり、部分的にしか完了しなかった場合は、com.jmp.torchdeeplearning アドイン フォルダー全体を削除して ([表示] > [アドイン]、[Torch Deep Learning]、[ホーム フォルダー] をクリック)、再試行してください。
5. [アドイン] > [Torch Deep Learning] > [サンプル データ] > [MNIST] をクリックして、完全な MNIST サンプルを試してください。左上隅近くに埋め込まれたTorchスクリプトの緑色の矢印をクリックして、「Go」をクリックします。実行中に、コマンド シェルで nvidia-smi を数回試して、GPU の使用状況を確認します。私の場合、MNIST を実行するとメモリは約 1 GB、コンピューティングは 40% になります。合計実行時間は、私の ThinkPad では 50 秒です。それほど粗末ではありません。比較のために、昨日使用したより大型の Quadro RTX 6000 を搭載したデスクトップでは、同じ作業に実際には約 2 分かかります。
6. より大きな画像およびテキスト モデルの場合は、バッチ サイズを減らして、使用する GPU メモリを減らします。バッチ サイズ 8 または 4 または 2 が必要な場合もあります。モデルはより頻繁にステップを実行し、より速く収束するため、通常はバッチ サイズを減らすときに使用するエポックを少なくすることもできます。
7. NVIDIA C++ API は現在、GPU メモリをクリアする優れた方法を提供しておらず、複数のモデルを実行するとメモリが蓄積する傾向があります。メモリ不足のエラー メッセージが表示されたり、nvidia-smi 出力でメモリがほぼいっぱいであることが示された場合、唯一の手段は完全にシャットダウンして JMP Pro を再起動することです。赤い三角形から実行する前にモデルを保存すると、中断したところから再開できます。また、Ctrl-J は、現在の出力のスナップショットを取得し、JMP ジャーナルとして保存するのに便利です。これは、ストーリーブック内のジャーナルに対して私が行ったことです。
Re: トーチディープラーニングの社内ディスカッションとフィードバック@russ_wolfinger 、ありがとうございます、画像サイズの問題でした。画像サイズを 112 に上げたところ、モデルは問題なく動作しました。チェックを追加したり、選択した画像モデルと互換性のあるデフォルトの画像サイズを設定したりすることは可能でしょうか?
Re: トーチディープラーニングの社内ディスカッションとフィードバックNIST データ セットのサブセットを使用すると、ウィンドウに表示される設定によりエラー メッセージが表示され、ページがスクロールして消えてしまうため、ウィンドウを閉じることができなくなり、手動で JMP を強制終了する必要がありました。 MacBook Pro M3/Maxで実行しています。
Re: トーチディープラーニングの社内ディスカッションとフィードバックこれをアドインの新しいサポート電子メールJMPLSAddins@JMP.comに送信していただければ、調査することができます。ただし、同じ問題を確認しましたが、これは既知の問題です。
Re: トーチディープラーニングの社内ディスカッションとフィードバック私は少し前にこの問題の Jira チケットを作成しました。閉店してしまいました。
Re: Torch Deep Learning 内部ディスカッションとフィードバック@malcolm_moore1 さん、ありがとうございます。C:\Public の権限をリセットして、Everyone に読み取り/書き込み権限を与えました。以前も設定していたのですが、どういうわけか元に戻ってしまいました。今回は元に戻ることを願っています。
Re: Torch Deep Learning 内部ディスカッションとフィードバックこんにちは、みんな、
Torch アドインのオンデマンド ウェビナーでプレゼンテーションに使用したスライドを共有してほしいというリクエストをいくつか受け取りました。
どうぞ！
Re: Torch Deep Learning 内部ディスカッションとフィードバックこれらの手順に追加する 2 つの事項:
- サーバーにアクセスするには、コンピュータをVPN経由で接続する必要があります。そうしないと接続できません。
- 完了したら、サーバーからログオフしてください。接続数は限られています。数秒前に接続したときに、2 人のユーザーがオンラインになっているのがわかりました。1 人は「離席中」と表示され、もう 1 人は 1 時間 30 分間アイドル状態でした。
Re: Torch Deep Learning 内部ディスカッションとフィードバック@Chris_Kirchberg さん、ありがとうございます。手順を更新しました。最初のステップは VPN です。コンピューター自体については、おそらく IT 部門が昨日の午後に同時ユーザー数に関するすべての制限を解除したようです。今日この制限を確認しましたか? もし確認したら、もう一度問い合わせます。
Re: Torch Deep Learning 内部ディスカッションとフィードバックありがとう、ラス。今はすべてうまくいっています。
Re: Torch Deep Learning 内部ディスカッションとフィードバック今朝見ました@russ_wolfinger
Re: Torch Deep Learning 内部ディスカッションとフィードバックこんにちは皆さん、
Torch アドインでモデルを作成した後、顧客が JMP の外部にモデルを展開する方法について提案を聞きたいのですが、Formula Depot で分配できる数式の「外部」にあるため、最適なプロセスは何でしょうか?
ありがとう、
ベン
Re: Torch Deep Learning 内部ディスカッションとフィードバックこんにちは@Ben_Ingham 。プロセスの合理化にまだ取り組んでいますが、現時点では、保存した .pt ファイルを Python ノートブックに展開する例がいくつかあります。[表示] > [アドイン] をクリックし、[TorchDeepLearning] を選択して、[ホーム フォルダー] リンクをクリックし、ノートブックのサブフォルダーを確認します。
各モデルは、中間埋め込みの出力を可能にするために、2～3 個の個別の .pt ファイルに保存されます。Python では、まったく同じアーキテクチャを指定する必要があり、その後、モデルの重みが .pt ファイルから読み込まれます。K フォールドを実行すると、より安定した正確な予測のために平均化/アンサンブルできる複数のモデルが保存されます。
Re: Torch Deep Learning 内部ディスカッションとフィードバックこんにちは、ラスさん
それは素晴らしいですね。ありがとうございます。
「リモート デスクトップ」とは具体的にどういう意味ですか? どうすればいいですか?
ありがとう
フロリアン
Re: Torch Deep Learning 内部ディスカッションとフィードバックこんにちは、フロリアン。
ノート PC から Microsoft リモート デスクトップ アプリを検索します。見つからない場合は、管理ソフトウェア センターからインストールする必要があります。リモート デスクトップ アプリを起動したら、Russ の指示に従って接続を確立する必要があります。
マルコム
Re: Torch Deep Learning 内部ディスカッションとフィードバックこんにちは@Florian_Vogt手順を、冒頭のリモート デスクトップについての詳細を追加して更新しました。うまくいかない場合はお知らせください。国際的な仕組みについてはよくわからないので、追加の手順が必要になる場合があります。
Re: Torch Deep Learning 内部ディスカッションとフィードバック
これに賛成します。使用後はインスタンスをログオフしてください。アイドル状態のユーザーは引き続き RAM を消費します。
5 人のアイドル ユーザーが蓄積されており、すでに 128 GB の RAM の約 23% が消費されています。
Re: Torch Deep Learning 内部ディスカッションとフィードバック@lkimhui さん、ありがとうございます。皆さんに明確にしていただきたいのですが、「切断」と「サインアウト」には違いがあります。リモート デスクトップ接続アプリケーションを切断したり、単に閉じたりしてもセッションは終了しません。JMP や開いた他のアプリケーションはサーバー上で引き続き実行されています。セッションを終了して使用済みのリソースを解放するには、「サインアウト」する必要があります。「サインアウト」オプションは Windows メニューから使用できます。ログイン名をクリックして、「サインアウト」を選択します。
Re: Torch Deep Learning 内部ディスカッションとフィードバックキムさん、ありがとう！
Re: Torch Deep Learning 内部ディスカッションとフィードバックありがとう〜！
Re: Torch Deep Learning 内部ディスカッションとフィードバックこんにちは、みんな、
超高速の NVIDIA GPU を試してみませんか? ボランティアを募集しています! 営業業務の妨げにならないように注意してください。これは、重要な営業機会や空き時間に活用できる可能性があります。
SAS が現在、多くの分析部門で CUDA コーディングによる NVIDIA 固有の GPU 開発に積極的に取り組んでいることをご存知かもしれません。同社は、最新の H100 に至るまで、25,000 ドルを超える価格の NVIDIA の新製品を多数導入しています。
彼らはベンチマークを必要としており、私は連絡を取り、Torch アドインを使用して JMP Pro を起動して実行し、画像とテキストの分類と回帰に関する新しい例をすべて使用して GPU をペグすることがいかに簡単かつ迅速であるかを示してきました。
彼らは、それぞれ 48 GB のメモリを搭載した 4 つの独立した L40 GPU を備えた新しい Windows 2022 サーバーをセットアップしました。L40 は、TDL の P100 よりも 3 世代新しいものです。
この新しいサーバーを試してみたい場合は、直接私にメッセージを送ってください。ログイン認証情報と手順をお送りします。お願いしたいのは、試したモデル (自分で選んだもの、または私が推奨するもの) の実行時間をいくつか送り返していただくことだけです。これは、Torch モデルをフィットするたびに JMP ログに出力されます。
私は、いくつかの初期ケースで Torch Storybook のさまざまな例を試してきましたが、P100 に比べて約 2 ～ 3 倍の速度向上が見られました。
これが大好きです、
ラス
