ディープラーニングに関する質問とリソースこんにちは、みんな、
Torch アドインの詳細設定で使用できる紙や本のおすすめはありますか?
たとえば、X スライド シグマと Y スライド シグマとは何ですか? L1 値を選択するにはどうすればいいですか? など。
画像モデルと表形式モデルの組み合わせに関する推奨リソースがあれば、ぜひ教えてください。
最高、
クローヴィス
Re: ディープラーニングに関する質問とリソース@cweisbart さん、ご質問ありがとうございます。アドインは複数の主要コンポーネントの組み合わせであり、現時点では優れた決定的なリファレンスは 1 つもないと思われますが、トレーニング マテリアルは今後も拡張していく予定です。現時点でのアイデアをいくつかご紹介します。
- パラメータのラベルの上にマウスを直接移動すると、簡単なポップアップ説明が表示されます。たとえば、X スライド シグマの場合は、「X 軸に沿ったガウス ランダム シフトの標準偏差」です。
- 一般的に、3 列目の詳細オプションはすべて、トレーニング中の動的な画像拡張用です。拡張は、バッチごとに疑似データを作成するための強力なディープラーニング手法です。たとえば、犬や猫の写真を水平に反転しても、犬や猫としてラベル付けすることができ、モデルはより広範囲の可能性のある画像を見ることができます。シフト、回転、ぼかしなどの他の画像操作についても同様です。拡張を使用してトレーニングされたモデルは、より一般化される傾向があります。
- L1 ペナルティは GenReg の lasso ペナルティに類似しており、ソリューションをスパース化する傾向があります。試してみるのに適した値は 1e-6 と 1e-5 です。同様に、Weight Decay はリッジ ペナルティに似ており、同じ 2 つの値がうまく機能することがよくあります。
- 画像モデルと表形式モデルの組み合わせは、このアドインに特有のものです。より柔軟に組み合わせられるように、この方法を採用しました。表形式モデルは常に画像モデルの後に実行され、画像モデルからの埋め込みを入力として受け取ります。
- ドキュメント ([アドイン] > [Torch Deep Learning] > [ヘルプ] をクリック) の 28 ～ 31 ページに追加の詳細が記載されています。
- 全体的に標準的な用語を使用するように努めたので、特定の用語を Web で検索すると、役立つ結果、背景、例などが見つかる可能性があります。PyTorch ドキュメント自体からのヒットは非常に確かなものになるはずです。
いつでもお気軽にフィードバックやご質問をお送りください。また、より高速なGPUを試してみたい場合は、TDLと新しいキャンプファイヤーサーバーをご利用ください。
Re: ディープラーニングに関する質問とリソース回答ありがとうございます。とても役に立ちました。保存されている .pt ファイルに関するヘルプ PDF をざっと読んでいました。「inet」はイメージ バックボーン、「tnet」は埋め込みレイヤー、「linp」は最終レイヤーであることがわかりました。また、「_optim.pt」ファイルもいくつかあります。これらは何を表していますか? よろしくお願いします。
Re: ディープラーニングに関する質問とリソース@russ_wolfinger 「_optim.pt」ファイルに関するフィードバックをいただければ幸いです。ご協力ありがとうございます。
Re: ディープラーニングに関する質問とリソース@cweisbartリマインダーをありがとう。「_optim.pt」ファイルは、トレーニング自体の情報だけでなく、他のすべての情報も含まれているため、最も大きく、再開できます。これらは、Torch ダイアログで「復元元」を指定するときに使用されますが、メインのモデル コンポーネントは個別に保存されるため、展開には必要ありません。
