Torch 深度学习内部讨论和反馈大家好。今天出现了一个问题，现场技术销售成员如何提供有关 Torch 深度学习插件 (TDLA) 的反馈。我希望我们使用此线程进行内部讨论和错误报告。如果您发现错误，请提供导致该问题的步骤以及所使用的数据集的描述（或至少提供数据集的描述）。
另外，正如我在今天的 TDLA 培训中提到的，不要向 JMP 扩展的技术支持发送错误或崩溃报告。
回复：Torch 深度学习内部讨论和反馈我用这个数据集尝试过的几个图像模型给了我一条错误消息。 AlexNet、EfficientNetB0、DenseNet121 都给出了以下错误消息。
回复：Torch 深度学习内部讨论和反馈@Peter_Hersh感谢您的报告。具有 8 个不同图像模型的嵌入式脚本在我的带有 GPU 的机器上全程干净利落地运行，大约需要 10 分钟，最终 GPU 内存使用量为 4 GB。您收到的错误消息似乎是合法的——您的机器内存不足。请问您运行在什么硬件上？
AlexNet 和 DenseNet121 需要更大的图像大小值，例如 112 或 224。我们正在围绕此研究更好的错误消息传递。
这是胸部 X 光检查得出的很好的数据。把它添加到故事书里可以吗？数据来源是什么？
回复：Torch 深度学习内部讨论和反馈@russ_wolfinger ，是的，继续使用该数据集，它是我从 Kaggle 获得的更大数据集的子集。我运行了一个包含约 3000 张图像的中型数据集，它在使用 LeNet5 图像模型的默认设置下运行良好。这三种模型类型给我带来了问题。
我有一个带有 6GB 专用内存的 NVIDIA RTX A3000 GPU。我有一个 64GB 的 CPU。
回复：Torch 深度学习内部讨论和反馈谢谢@Peter_Hersh ，我刚刚在 SE 培训团队聊天中发布了以下内容，让我在此处重新发布以确保人们看到它。具体来说，有兴趣了解您是否安装了 CUDA，以及这是否会产生影响，因为我认为您的 RTX A3000 在很多情况下应该都能很好地工作。另请注意，AlexNet 和其他几个模型需要图像大小大于 28。224 通常非常好，但会减慢运行时间。 56 和 112 的图像大小在许多情况下也可以很好地工作，并且比 224 更快。
Windows 笔记本电脑用户：您可能仍然幸运地使用 NVIDIA 卡获得加速，至少对于较小的图像和文本模型而言。请尝试以下步骤：
1. 打开任务管理器，单击性能选项卡，然后查看底部附近，检查您拥有的 NVIDIA 卡。我的 ThinkPad 有一个带有 6 GB RAM 的 Quadro RTX 3000，这块卡还不错
2. 如果您的 NVIDIA 卡看起来没问题，请打开命令提示符并键入命令“nvidia-smi”。输出应类似于以下内容，显示您的 CUDA 版本、卡名称及其当前内存和计算使用情况。
3. 如果未找到 nvidia-smi，请按照此处的说明安装 CUDA 驱动程序： Microsoft Windows 的 CUDA 安装指南 (nvidia.com)我知道这些看起来很长，但主要只是检查，这应该只需要大约 10 分钟。重复步骤 2，验证 CUDA 是否已正确安装。
4. 从 myjmp.com 的早期采用者页面安装 Torch 插件。第一次启动平台时，将会下载 7 个大文件。请耐心等待，让这些文件下载到 100% 并完全解压。如果由于某种原因安装被中断或仅部分完成，请删除整个 com.jmp.torchdeeplearning 插件文件夹（单击视图 > 插件、Torch Deep Learning、主文件夹），然后重试。
5. 单击加载项 > Torch Deep Learning > 示例数据 > MNIST 尝试完整的 MNIST 示例。单击左上角附近嵌入的 Torch 脚本绿色箭头，然后单击“Go”。当它运行时，在命令 shell 中尝试 nvidia-smi 几次以检查 GPU 使用情况。我的在运行 MNIST 时显示大约 1 GB 内存和 40% 的计算量。在我的 ThinkPad 上，总运行时间为 50 秒——不算太差。相比之下，在我昨天使用的更大的 Quadro RTX 6000 桌面上，同样的工作实际上只需要大约 2 分钟。
6. 对于较大的图像和文本模型，减小批量大小以使用更少的 GPU 内存。批量大小可能需要 8 甚至 4 或 2。减少 Batch Size 时，您通常还可以使用更少的 Epoch，因为模型会更频繁地执行步骤并且收敛得更快。
7. NVIDIA C++ API 目前没有提供清除 GPU 内存的好方法，并且在运行多个模型后往往会累积。如果您收到内存不足错误消息和/或 nvidia-smi 输出显示内存几乎已满，唯一的办法是完全关闭并重新启动 JMP Pro。在执行此操作之前从红色三角形保存模型，您可以从上次停下的地方继续。此外，Ctrl-J 可以方便地拍摄当前输出的快照并将它们保存为 JMP 日志 - 这就是我对故事书中的日志所做的操作
回复：Torch 深度学习内部讨论和反馈@russ_wolfinger ，谢谢，这是图像大小问题。当我将图像大小提高到 112 时，模型可以正常工作。是否可以添加检查或设置默认图像尺寸以与所选图像模型兼容？
回复：Torch 深度学习内部讨论和反馈使用 NIST 数据集的子集，窗口中显示的设置创建了一条错误消息，时间过长，它就会滚出页面，因此我无法关闭它，因此我必须手动终止 JMP。在 MacBook Pro M3/Max 上运行。
回复：Torch 深度学习内部讨论和反馈如果您可以将其发送到该插件的新支持电子邮件JMPLSAddins@JMP.com ，则可以对其进行调查。我见过同样的问题，但这是一个已知问题。
回复：Torch 深度学习内部讨论和反馈我不久前为此问题创建了一个 Jira 票证。它已经关门了。
回复：Torch 深度学习内部讨论和反馈谢谢@malcolm_moore1我刚刚重置了 C:\Public 的权限，这样每个人都可以读/写。我之前设置过这些权限，但不知怎么的它们又变回来了。希望这次能保留这些权限。
回复：Torch 深度学习内部讨论和反馈大家好，
我收到了一些请求，要求分享用于Torch 插件点播网络研讨会的幻灯片。
干得好！
回复：Torch 深度学习内部讨论和反馈这些说明中需要添加两点：
- 您必须通过 VPN 连接您的计算机才能访问服务器，否则您将无法连接
- 完成后，请注销服务器，连接数有限。几秒钟前我连接时看到有两个人在线。一个被列为离开，另一个闲置了 1 小时 30 分钟。
回复：Torch 深度学习内部讨论和反馈谢谢@Chris_Kirchberg我刚刚更新了说明，第一步是使用 VPN。对于计算机本身，IT 大概在昨天下午删除了所有关于并发用户数量的限制。你今天看到这个限制了吗？如果是的话我可以再问他们。
回复：Torch 深度学习内部讨论和反馈谢谢 Russ，现在一切正常。
回复：Torch 深度学习内部讨论和反馈我今天早上确实看到了@russ_wolfinger
回复：Torch 深度学习内部讨论和反馈大家好，
我很好奇，关于客户如何在 Torch 插件中创建模型之后在 JMP 之外部署他们的模型的建议 - 因为它位于您可以在公式仓库中分配的公式“之外”，最好的流程是什么？
谢谢，
本
回复：Torch 深度学习内部讨论和反馈嗨@Ben_Ingham ，我们仍在努力简化流程，但目前有一些在 Python 笔记本中部署已保存的 .pt 文件的示例。单击“视图”>“加载项”，选择 TorchDeepLearning，单击“主文件夹”链接，然后查看笔记本子文件夹。
每个模型都保存在 2-3 个单独的 .pt 文件中，以便输出中间嵌入。在 Python 中，需要指定完全相同的架构，然后从 .pt 文件中加载模型权重。如果进行 K-fold，则会保存多个模型，可以对这些模型进行平均/集成，以获得更稳定和准确的预测。
回复：Torch 深度学习内部讨论和反馈嗨，拉斯，
非常好，谢谢。
“远程桌面进入”到底是什么意思？我该怎么做？
谢谢
弗洛里安
回复：Torch 深度学习内部讨论和反馈你好，Florian，
从您的笔记本电脑搜索 Microsoft 远程桌面应用程序。如果您没有看到它，您可能需要从托管软件中心安装它。当您启动远程桌面应用程序时，您需要按照 Russ 的说明建立连接。
马尔科姆
回复：Torch 深度学习内部讨论和反馈嗨@Florian_Vogt我刚刚更新了说明，在开头添加了有关远程桌面的更多详细信息。如果它不适合您，请告诉我。我不熟悉国际上的运作方式，可能需要其他步骤。
回复：Torch 深度学习内部讨论和反馈
赞同，请在使用后注销实例，空闲用户仍在消耗 RAM。
附件是 5 个空闲用户的累积数据，已消耗了 128GB RAM 的约 23%。
回复：Torch 深度学习内部讨论和反馈谢谢@lkimhui 。为了让每个人都清楚，“断开连接”和“退出”之间是有区别的。断开连接或简单地关闭远程桌面连接应用程序不会终止会话，JMP 和您打开的任何其他应用程序仍在服务器上运行。要终止会话并释放任何使用的资源，您需要“退出”。Windows 菜单中提供了“退出”选项，单击您的登录名，然后选择“退出”。
回复：Torch 深度学习内部讨论和反馈谢谢你，金！
回复：Torch 深度学习内部讨论和反馈谢谢〜！
回复：Torch 深度学习内部讨论和反馈大家好，
想要尝试真正快速的 NVIDIA GPU 吗？寻找志愿者！请不要让这分散您对销售职责的注意力，但您可以在重要的销售机会或空闲时间使用它。
您可能已经听说 SAS 目前在其许多分析部门中非常积极地通过 CUDA 编码进行 NVIDIA 专用 GPU 开发。他们正在购买大量新的 NVIDIA 设备，包括最新的 H100，价格可能超过 25,000 美元。
他们需要一些基准测试，我已经与他们联系，告诉他们使用 Torch 插件和固定 GPU 来启动和运行 JMP Pro 是多么简单和快速，这些 GPU 使用了我们用于图像和文本分类和回归的所有新示例。
他们刚刚为我们设置了一台新的 Windows 2022 服务器，该服务器配备四个独立的 L40 GPU，每个 GPU 都有 48 GB 内存！L40 比 TDL 上的 P100 先进三代。
如果您想尝试这个新服务器，请直接给我发消息，我会向您发送登录凭据和说明。我们只要求您发回您尝试的几个模型的运行时间（您可以选择或我可以推荐一些），这些时间会在您拟合的每个 Torch 模型之后打印在 JMP 日志中。
对于一些初始案例，我尝试了 Torch Storybook 中的几个不同示例，发现速度比 P100 提高了约 2-3 倍。
喜欢这个东西，
拉斯
