回复：神经网络调优嗨斯科特，
非常方便的插件。 之前我必须手动生成空间填充设计来尝试探索 NN 平台。 将对其进行试运行！ 有计划扩大 NN 平台的层数吗？ 另外，任何机会调整也可以在流派平台上实施吗？
谢谢，
文斯
回复：神经网络调优你好， @文斯！.
只是想插话一下。 GenReg 已经可以调整，只需将 alpha 超参数设置为“。” JMP 会对其进行优化。 在 NN 的更多层上，这更多地掌握在 JMP Development 手中，而不是 Scott。 您应该将请求放在JMP 愿望清单这样他们就知道您希望看到更深入的神经网络。
最好的，
中号
回复：神经网络调优@文斯-
目前，该插件仅将参数传递到 JMP NN 平台，该平台可构建最多两层的神经网络。 如果平台发生变化（更多层、激活功能等）并且有足够的兴趣，我可以更新插件。 我想第二@迈克D_安德森的建议，如果您希望在未来的 JMP 版本中看到某些功能，请前往愿望清单。
让我知道您的测试运行情况如何！
-斯科特
回复：神经网络调优这很棒。 我一直想知道 JMP Pro 中何时会出现这样的功能，但让这个插件实现这一目标是一项伟大的举措。格兰芬多+50分！
回复：神经网络调优很棒的工具，非常感谢。 我刚刚在各种数据集上测试了它，它节省了我很多时间，并找到了我不必为了时间而测试的条件（参数）。 谢谢斯科特！
回复：神经网络调优做得好@斯科特艾伦关于这个插件的良好设置和功能！
两个问题/警告：
1. 神经平台在执行模型拟合时会查看验证数据，因此验证结果存在泄漏且过于乐观。因此，我认为它们没有提供对泛化性能的良好估计，也没有提供在调优设计中比较不同模型的好方法。我知道的解决这个问题的唯一方法是使用三级验证列（训练、验证和测试，可通过分析 > 预测建模 > 创建验证列创建），然后仅使用测试结果来比较模型。我刚刚检查了该加载项是否可以处理这种情况，并为了验证一般观点，绘制了验证 R2 与测试 R2 的关系图。
2. 在单个测试保留集上投入大量模型很可能会导致该测试集过度拟合。XGBoost 中的自动调谐功能（使用相同的快速灵活设计方法）发生了这种情况，促使更改为在自动调谐时仅输出整体模型，并在每个折叠内使用嵌套以避免泄漏。
@文斯新的 Torch 深度学习插件提供任意深度的神经网络；请注册并尝试JMP 18 早期采用者它还没有自动调整功能，但将来可能会。
回复：神经网络调优@russ_wolfinger
很棒的观点。 我同意这两点，并希望继续开发此插件来解决这些问题。
我的第一个目标是自动化当前的模型生成工作流程，现在我想开始考虑包括“护栏”或帮助找到包括其他验证方法的方法。
我也喜欢集成模型的想法。 我正在考虑添加一种简单的方法，让用户将模型传递到比较模型平台。 但最好基于某些模型拟合统计数据来自动执行此操作。 值得深思！
回复：神经网络调优@斯科特艾伦我已将更多层添加到 NN 的愿望清单中。
@russ_wolfinger ，我已经在 EA5 中使用了 Torch 深度学习插件进行了多次测试运行。 我确实得到了比 xgboost 插件更好的模型，不过我总是回到你的 xgboost 插件，我保存了一个包含“增益”、“分割”、“覆盖”、每个变量分数的表格。 通过此表，我仅选择具有非 0 值的变量，并使用较小的预测变量集重新运行 xgboost。 通常在 2-3 轮之后，我不会得到非零预测变量。 通过这种方式，我可以过滤掉不重要的变量，并且可以让分析器可视化较小的模型。 我的预测值通常是 60-300K。 我想看到一个选项Torch 深度学习插件，我可以在其中访问包含值的表，我可以用它来剔除不重要的变量。
xgboost 中是否会有扩展的快速灵活设计，其中还包括其他约 30 个包含分类参数的高级选项？最后@russ_wolfinger ，下一个采用者 EA 版本是否会有 Torch 深度学习插件的调整表？等不及了，模型明显更好了！
回复：神经网络调优@文斯非常感谢您的反馈。我认为 XGBoost 中的变量减少方法是合理的（我自己也做了同样的事情），因为那些重要性为 0 的变量没有在任何模型中使用。变量重要性和自动调整都在 Torch 的“待办事项”列表中。
XGBoost 对所有高级选项的自动调整将需要更大、更混乱的界面，我们可以考虑一下。同时，还有一个“调整设计表”选项，您可以在其中指定带有设计点的辅助 JMP 表，例如通过直接在要调整的参数上调用 DOE FFF 来创建。
我们现在也更多地关注贝叶斯优化方法。有一个加入。
回复：神经网络调优更新
神经网络调整插件已更新。版本 1.1 现已可供下载，版本 1 已被删除。 该版本修复了许多错误，并根据用户的反馈进行了整体改进：
Bug修复
- 信息缺失的作品。
- 当列规范或参数规范步骤遇到问题时，会抛出各种警告以避免 JMP 错误消息。
- 现在支持多级名义和序数响应。
改进
- 一般界面更新
- KFold 验证现已可用
- 单击“帮助”按钮可以启动帮助窗口。 “帮助”窗口提供有关如何在版本 1.1 中处理模型验证、比较模型和保存模型的附加信息。
- 现在总是使用色谱柱进行模型验证，以帮助提高模型的重现性。
- 现在使用比较模型平台在重复（和隐藏）数据表中进行模型比较。
- 使用“保存模型”按钮直接从调整结果窗口保存模型。
- 加载以前保存的数据表时，如果保存的数据表中的 X 变量与加载项启动时指定的 X 变量不同，加载项将向您发出警告。
- 图形生成器输出现在具有列切换器切换器，可以查看训练、验证或测试 R2 值与每个参数的关系。
- 另外两个模型可视化图将作为选项卡添加到结果窗口中。 这些还与数据表交互，以帮助识别最佳模型。
- 模型进度窗口有一些更新：
- 显示总体建模时间
- 显示每个模型的平均时间
- 如果总体建模时间比预期时间长，模型进度窗口中可以使用“取消”按钮。 在建模步骤中完成的任何模型都将保存到结果窗口中。 请注意，当建模时间较长时，此按钮可能会“滞后”，并且可能需要单击几下才能注册命令。
- 保存到数据表的模型具有更新的注释部分，其中包含用于生成模型的所有参数。
回复：神经网络调优更新
1.2 版本现已推出。 该版本根据用户的反馈修复了许多错误并进行了其他改进：
Bug修复
- Compare Models 只会将最近准备的 NN 模型引入 Compare Models 平台，而不是所有先前生成的模型
- 现在可以使用标称和序数 Y 值进行模型比较
- 其他小修复
改进
- 您现在可以调用调整参数
- 添加了不同的模型保存选项
- 显示调整表会生成该表的副本
- 数据表现在保存为结果窗口中的选项卡
- 添加了唯一的模型 ID，以便于比较具有不同随机种子的模型
- 使用多个随机种子时可以使用新图
神经网络调优更新
2023 年 11 月 27 日- 版本 1.1 - 改进和错误修复，详细信息在下面的帖子中
2023 年 11 月 28 日- 版本 1.11 - 小错误修复
2023 年 12 月 15 日- 版本 1.2 - 改进和错误修复，详细信息在下面的帖子中
目的
神经网络调整插件是另一种神经网络平台，它提供了一种生成大量神经网络的简单方法，以确定隐藏层结构、增强和拟合选项的最佳参数集。
怎么运行的
用户指定将运行的神经网络模型的数量，并设置参数和拟合选项的范围。 使用调整参数作为因子以及训练、验证和测试 R 生成快速灵活空间填充 DOE 2值作为响应。
DOE 中的每个试验都会传递到神经网络平台和 R 2值记录在输出 DOE 表中。 所有模型运行后，表格按 Validation R 排序2并显示一系列图表来帮助用户识别最大化验证 R 的最重要效果2价值观。
通过调整调整参数并重新运行 DOE 可以生成其他模型。 新的运行将附加到原始表中。
可以保存数据表并将其重新加载到平台中，以保存进度并重新开始附加分析。 这是一种调整神经网络的方法，可能需要大量的计算时间。
视频指南
回复：神经网络调优嗨@Marco2024
要分析两个或多个变量，您需要为每个变量创建一个模型，然后在探查器中加载预测表达式：
- 为您的第一个输出 (Y) 构建一个 NN 模型，并通过单击“保存模型”按钮保存预测表达式。 “分析器公式”选项会将单个公式列保存到数据表中。
- 对您想要比较的所有 Y 变量重复此操作。
- 启动探查器（图形 > 探查器）并加载预测表达式。
这将为每个堆叠在一起的 Y 变量提供一个分析器，以帮助您比较和共同优化您的系统。
回复：神经网络调优嗨斯科特，
我很高兴向您问好......我无法用我的用户名进入博客来回复您......，我感谢您对我的查询的回复！！！.....下面我注意到下列：
1. 观察结果：
- 该插件不适用于西班牙语
- 该插件不会保存所选模型或表中的模型
2. 查询：
- 插件是否可以选择根据用户指定的参数范围一步搜索 1 层和 2 层神经网络？
问候，
马可
回复：神经网络调优嗨斯科特，
观察 2（补集不保存模型）使其没有效果，补集确实保存了模型。
问候，
马可
回复：神经网络调优嗨斯科特，
一个问题：该插件是否可以选择生成从输入（增量学习）实时学习的神经网络，也就是说，不是静态神经网络？
问候，
马可
