我们很高兴对最近的事情产生了如此浓厚的兴趣从技术上讲具有模型筛选功能,这是JMP Pro 16中的强大新功能。 在构建模型时,您永远不会知道哪种方法对任何给定的数据集都将是最佳方法。
使用“模型筛选”,您可以一次尝试多种方法,评估模型性能并选择性能最佳的模型,包括根据需要自定义决策阈值。 这项功能强大的新功能产生了很多问题,我们无法全部回答。 因此,我们将在此博客文章中解决这些问题。 您可以在中查看模型筛选的速度和力量这集技术上讲。
凯末尔·奥弗鲁斯(Kemal Oflus)搭建了展示模型筛选平台的舞台。
一般的问题
当我们尝试拟合非参数模型时,我们可能会实现较高的可预测性,但会失去模型的可解释性。 我们如何在现实世界中的制造问题中实现可预测性和可解释性之间的平衡?
在这个分析性插曲,加利特·斯穆利(Galit Shmueli)她的引文深入探讨了这个主题的细节,解释或预测。 我们有类似RSquare的指标,它根据基本模型可以解释多少差异来总结模型性能。 RSquare较高的模型在技术上优于较低的模型。 模型的可解释性提供了对输入和输出之间关系的洞察力。 解释的模型可以回答有关独立特征为何预测依赖属性的问题。 之所以会出现这个问题,是因为随着模型精度的提高,模型的复杂性也随之增加,却以可解释性为代价。 对于这种情况,JMP Profiler帮助我们可视化了基础模型,因此我们可以使用主题专业知识来验证模型的合理性和可行性。 参数较少的模型更易于解释。 这很直观。 线性回归模型具有每个输入要素的系数和一个截距项。 例如,您可以查看每个术语并了解它们如何对输出作出贡献。 转向逻辑回归可提供更多潜在功能,这些潜在关系可以通过对输出进行函数转换而建模,而现在必须将输出与系数一起理解。 决策树(大小适中)可能是可以理解的,装袋的决策树需要不同的视角来解释为什么预计会发生事件。 进一步推动,将多个模型的优化融合到单个预测中可能超出有意义或及时的解释范围。 同样,JMP Profiler是可视化和解释我们构建的模型的理想工具。
在评估回归模型时,是否有一个好的RSquare度量标准范围可以表示一个好的模型,或者它取决于上下文?
这将取决于具体情况;如果要预测股票市场,则相对于您要预测心脏瓣膜是否会衰竭的情况,RSquare的55%绰绰有余。
训练集和验证集有什么区别? 您能否详细介绍这些数据集中的数据场景类型?
训练集是我们用来从数据中学习(并建立模型)的工具;验证集是对我们从训练集中学到的知识进行验证。 如果有足够的数据,则最好还有一个测试数据集来进一步调整模型,然后使用验证集来验证结果。
有没有不使用PLS的理由?
没什么特别的原因,只是它很难解释并且不适合我们在网络研讨会期间查看的数据集。
一些测定法具有较大的误差。 有没有办法在模型中输入预期的误差?
如果这是有关使用分类器的问题,则默认情况下,分类阈值设置为50%,但是根据您的情况,您可以修改此阈值。
关于咖啡上的样本,为什么神经强化方法的样本量比所有其他模型(彼此相同)的样本量小? 通过选择更合适的数据,神经刺激的RSquare值是否获得了优势?
这是因为一些选定的输入因子缺少值;一些算法可以处理缺失值,因此可以使用给定观察值中的其余信息。 但是,由于神经网络无法实现,因此样本中包含的观测值数量较少。
一个人将如何调整和比较几种型号的参数设置?
模型筛选和比较平台提供了一种对多个模型进行平均/组合/汇总的方法,因此您可以创建一个集成模型,然后将其用于优化参数设置。
似乎此过程可能容易过拟合。 您如何将其与AIC进行比较?
在模型筛选平台的单个模型摘要部分中提供了适用模型的AIC值。 详细内容网上帮助在“模型比较报告”中涵盖了这一点以及更多内容。
数据科学家不会扮演JMP不能扮演的关键角色吗? 例如,在分类问题中,数据科学家可以在有更多FP风险的情况下获得更多的真实阳性(TP)之间取得平衡。 JMP如何处理这种折衷并将其传达给建模者?
软件不能替代主题专家(在本例中为数据科学家)的角色,后者是数据与适用用例之间的桥梁。 但是,JMP提供的工具和报告提供了模型评估指标(RSquare,调整后的RSquare,错误分类率,混淆矩阵,最重要的是,探查器),使与组织不同层次的发现交流变得非常容易。
JMP功能问题
我们可以在JMP中进行剂量反应逻辑模型吗?
是的,这个邮政在社区和这个一来自JMP合作伙伴Pega Analytics的内容涵盖了有关如何在JMP中执行此操作的更多信息。
我们可以在JMP中运行基于代理的建模吗?
目前不行。
用户可以指定模型参数的值还是默认值?
模型筛选平台旨在查找最佳参数设置(例如,树的数量,增强的图层等)。 您可以包括线性模型的交互项。 找到最佳模型(或一组模型)后,可以进一步自定义每个模型。
您的工作表中是否有一个验证列? 这会自动填充吗?
如果您有一个验证列,则可以利用它。 如果没有,JMP提供了多种创建验证列的方法。 看选项如何做到这一点。
如果我将数据和预测放在JMP中,是否可以通过任何方法获取使用Python创建的模型的模型分析(例如Prediction Profiler)?
Excel JMP加载项中有一个Excel分析器,该分析器只能用于在Excel中创建的模型。 但是,只要您有权使用该软件,JMP即可执行您的Python,R或MATLAB脚本和/或来回交换数据。
如何创建在从原始数据创建的模型中可能最有效的自定义变量? 这个平台会处理这个问题吗?还是有必要先创建它们以将其作为输入?
模型筛选平台按原样使用数据;如果您认为应该有一些复合变量(例如Principal Components),则必须分别创建它们。 可以通过对话框中的复选框选择简单的交互变量,例如a * b或二次方。 而且,神经网络中的每个节点还对应于一个复合变量,该复合变量可能具有物理意义(但同样,我们对这些变量没有任何控制权)。
JMP可以合并用R或Python创建的模型吗?
如果您拥有使用模型来预测结果的R或Python脚本,则可以在需要时让JMP运行R / Python脚本并将结果用作新的列变量。 这个白皮书,“ JMP协同作用:将JMP和JMP Pro与Python和R结合使用”是一个很好的资源。
您是否对文本数据完全使用过JMP?
JMP具有内置的Text Explorer平台。 这个JMP探索峰会演讲有一些很好的例子,网上帮助给出了很好的概述。
在Prediction Profiler中,当我们看到y相对于我们的x的行为时,是否确定了它的存在(考虑到它是唯一的x),还是假设知道模型中还有其他x的行为也假设了该行为?

Profiler提供了一种调查和优化多个输入变量与所需输出变量之间的关系的方法。 输入变量可以设置为彼此独立或可以相互交互。 这个视频显示了如何使用事件探查器。 我们自己的杰出研究研究员Bradley Jones撰写了这篇文章JMP前言文章为了庆祝Profiler 30周年,这是我们最受欢迎的交互式可视化工具之一。