预测刻画器和意愿函数大家好,
JMP 专业版 16.1.0。
我正在使用 Prediction Profiler 对模型调整进行一些验证,并且想知道是否有一种方法可以“欺骗”合意性函数来做一些他们并非真正设计要做的事情。 通过合意性的标准设置,您可以选择最大化、匹配目标、最小化或无。
在模型调优过程中,我记录了训练和验证的 R^2 值,以及两者之间的差异。 当模型调整时,我尝试寻找的一件事是参数设置,不仅可以最大化 R^2 用于训练和验证,而且可以最小化两者之间的差异。 例如,如果我有一个 R^2 训练为 0.4 且 R^2 验证为 0.35 的模型,比它的 R^2 训练为 0.7 且 R^2 验证为 0.25 更好。 即,训练集和验证集彼此越接近,即使较小的集往往在我的情况下表现更好。

问题在于,使用 Prediction Profiler,如果您将训练和验证 R^2 都设置为最大化和最小化差异,则分析器建议的设置会导致训练 R^2 为 0.6,验证 R^2 为 0.2 左右。 不是我所追求的。
我真正希望 Profiler 做的是尝试收敛训练和验证 R^2,这些 R^2 彼此尽可能接近,同时也尽可能大,以便在保持大 R 的同时最小化差异^2 值。 不幸的是,改变诸如重要性(0 到 1)或目标之类的东西并不能真正实现我所追求的。
如果有人知道如何让 Profiler 执行此类操作的技巧,那将是很高兴知道的。 或者,如果不可能,它可能是一个非常好的新功能,能够指导 Profiler 尝试收敛两个响应,同时最大化(或最小化)它们。
谢谢!,
DS
分析回复:预测刻画器和意愿函数您正在正确使用 Profiler 和 Desirability Functions。 使用 desiriability = (0,1) 并没有错,但您可以尝试使用 1 来最大化,使用 2 来表示差异,看看这是否能让您更接近您想要的。 函数的定义(限制、重要性)是告诉分析器你在追求什么的关键。
也就是说,不能保证你会得到你想要的!
回复:预测刻画器和意愿函数我猜你并不关心 R2 的差异是 0.01 还是 0.1,但随着它超过某个阈值,你会逐渐关心它。 您可以尝试将 R2 差异设为一个公式,该公式在低于某个值时是平坦的,然后随着超出该限制而逐渐减小,或者您可以设置意愿函数来描述这一点。我经常在多元模型中使用 T2 度量来做后者。您可以在下面链接的视频中跳到大约 16:30 看到一个例子。
优化多元模型:从数据收集到最佳条件和评分模型 (2021-US-45MP-927)
回复:预测刻画器和意愿函数您还可以更改合意性图形的形状,以表明更大的差异是更大的惩罚。 它不必与中心的中间值成线性关系。
注意:您可以在函数图的图中控制单击(Windows)或命令单击(macOS),并在尝试不同方案时快速更改值。 我建议不要更改合意性,而仅更改响应级别 将中心值移向一端以使其成为非线性。
回复:预测刻画器和意愿函数你好@markbailey和@ih ,
@markbailey ,您的第一个回复是“让它工作”。 不幸的是,这不是一个自动优化过程,因此它不会迭代地找到最佳条件。 尽管如此,手动更改每个响应的相对重要性当然很容易。
综合利用您的建议和@ih事实证明,他的建议更符合我认为最终我希望它做的事情。 对意愿函数只有很多手动调整——要么手动更改数字,要么移动图表中的小方框。 如果能有一种更自动化且主观性稍差的方法来实现我的最终目标,那就太好了。
@ih你是部分正确的,我不在乎 R2 Diff 是 0.01 还是 0.1,但是,如果我的 R2 Diff 为 0.1,我的训练 R2 是 0.8,我的验证 R2 是 0.7,我更喜欢 R2如果我的训练为 0.31,而我的验证为 0.3,则差异为 0.01。 在实践中,我的数据集往往更像后者而不是前者——我希望我的两个 R2 分别高达 0.8 和 0.7!
混合这两个建议给了我很多玩,只是希望是少一点主观。
感谢您的反馈!,
DS