分类树早上好,
我有一个小文件(见附件),以便更好地了解 JMP 的计算方式。
这棵树很小,我将节点的最小大小设置为 1,我逐个执行了划分,并要求显示概率。
现在,我关注的是节点“X1>=14”,如果我理解正确的话:
- G²(3.82) 表征了该纽结的纯度,并且与它下面的“最佳”划分无关。
- Logworth (1.05) 是使用旁边显示的 G^2 计算得出的。
- Logworth 取决于“最佳”划分,如下所示;它是根据从所有可能的划分中获得的调整后的 p 值计算得出的。
第 2 点和第 3 点似乎不相容。
JMP 的学习机器人这次却卡住了,它看到了 2 种可能但相互矛盾的解释。
那么,这个 1.05 是从哪里来的,我们又该如何解释它呢?
感谢您的回复。
让-吕克
预测建模和机器学习回复:分类树你好@rugolf ,
我认为人们对 G2 和 Logworth 这两个指标的定义和使用存在混淆。
正如JMP 帮助文档中所述,JMP 中的决策树使用 Logworth 值作为决策标准来确定分割点的位置(目标是最大化 Logworth 值),这对应于 -log10(p 值)。该 p 值经过调整计算,具体调整方法在帮助文档中未详细说明,以确保在具有多个或较少水平的因子之间进行公平公正的计算。
G2 值仅针对分类响应变量显示,G2 值越低表示拟合效果越好。对于连续响应变量,每个节点都会显示标准差以及候选 SS 值(最佳分割的平方和)。
我希望这个回答能让大家更好地了解这个平台是如何运作的。
回复:分类树谢谢,
如果我理解正确,对于包含 A 和 B 两个类别的分类响应:
- G² 值衡量节点的纯度(也称为偏差):如果只有 A 或只有 B,则 G² 值为 0,类别不平衡,但该节点不再进行进一步划分。
- 如果班级数量相等(A 班和 B 班人数相等),则 G^2 的最大值(我认为等于 n * 2ln(2))
- G^2 随着每次除法而减小,而 R^2 增大;这是朝着正确的方向发展,也是我们所希望的。
- 我们可以计算除法后的改进(增益)G^2(父)-(G^2(左)+G^2(右))
- 最佳切割方案是能够带来最大改进的方案,即能够最显著地降低先前 G^2 值的方案。
- logworth = -log(p值),其中p值与检验相关并已调整(我将省略计算,没什么大不了的)。
- G^2 旁边显示的对数值指的是它下面显示的最佳划分。
- 检验的假设是 H_0:左侧和右侧 A 的比例相同 vs. 不相同
- 极端情况:当子节点中 A(和 B)的比例相同时,p 值 = 1,因此对数效用 = 0,检验结束时保留原假设 H_0。
- 在极端情况下:当子节点中 A 的比例差异很大时,p 值等于 0,因此对数效用等于无穷大,检验结束时保留备择假设 H_1。
- p 值 <0.01,因此对数效度 >2,因此 A(或 B)的比例存在显著差异,具有显著的鉴别力。
- 因此,最佳切割方式也是木材利用价值最高的切割方式。
- 当 G^2 为零、达到最小尺寸或 R^2 不再显著增加时,树停止生长。
感谢您的帮助。
橄榄球或让-吕克
回复:分类树你好,Jean-Luc,
关于各个部分:
希望这个回答能解释清楚分区平台的工作原理。
回复:分类树你好,维克多,
非常感谢您的慷慨回应。
看来我是“对的”。
否则,选择小文件是有意为之:我这样做是为了清楚地看到软件的计算结果,例如,对于简单的线性回归。我还有其他更大、更贴近实际情况的文件。
再次感谢。
最好的祝愿。
让-吕克