为什么我的决策树在同一个分支中有重复的属性?大家好。我想知道是否有人知道为什么决策树(在下面的情况下)选择喷嘴气压 >42.09,然后在下一个节点中再次选择和拆分喷嘴气压,这似乎与自身相矛盾?我的理解是,一旦属性被拆分,它就不应该再在后续分支中被考虑。我使用 10 倍交叉验证,保留率为 30%。我假设,由于我既有连续数据,也有名义数据,因此 JMP 使用 CART 算法?

预测模型和机器学习回复:为什么我的决策树在同一个分支中有重复的属性?@Dan_Obermiller值得庆幸的是,我不必在这方面给出实际指导,但它让我思考如果我看到这种连续的“双重分裂”,我会做些什么。
@ DiedrichSchmidt 我现在开始理解它了:如果压力在 42 到 45 之间,那么发生窒息的可能性很高。 如果压力大于 45,则发生阻塞的可能性为 38%。 我挂断了 > 42 和 > 45,这在现实世界中毫无意义。 这一切都取决于您如何读取同一参数的拆分。 在这种情况下无需使用 ANN,因为我不打算创建模型——而只是识别重要变量、它们各自的分裂点以及对响应变量的潜在影响(通过小树深度和最小过度拟合)。
谢谢大家的意见!回复:为什么我的决策树在同一个分支中有重复的属性?你好@科姆,
对于某些值 >=42 和 >=45 的决定,仍然具有逻辑意义。 如果响应 Y >=45,它仍然同时 >=42 并满足逻辑决策拆分。 我认为更有目的性的问题是这种额外的分裂是否有意义。 如果您使用的是保留(验证部分)或在 Y 输出上分层的验证列,您应该能够自动拆分决策树,并且应该将树减少到所需的最小拆分数为验证数据取最高的 R2。 话虽这么说,但您仍想根据您正在使用的科学确定这种拆分对于数据是否合理。
您是否正在使用决策树来寻找预测模型? 如果是这样,您可能想使用其他平台(如 NN 等)来执行此操作,以查看哪个模型实际上使用测试数据集预测得最好。
祝你好运!,
DS
回复:为什么我的决策树在同一个分支中有重复的属性?预测变量是一个连续变量。 如果与响应存在线性关系,则可能需要对该预测变量进行多次拆分才能近似该关系。
回复:为什么我的决策树在同一个分支中有重复的属性?哦,如果是二次关系呢? 你认为在那种情况下树的分裂会是什么样子?
回复:为什么我的决策树在同一个分支中有重复的属性?我认为只有您才能确定 42 到 45 的拆分是否具有实际意义。 但是要理解同一变量的多次拆分,假设您遇到 Y 和 X 之间的关系是线性的情况。 因此,例如,我们知道 Y=10+20*X。 在现实世界中,我们不知道这个真实模型,因此如果您将树拟合到具有这种关系的数据,您将获得 X 的多个拆分。 这是树可以尝试模仿连续线性关系的唯一方法。
回复:为什么我的决策树在同一个分支中有重复的属性?嗨,迪德里希。 非常感谢您抽出时间回复。 首先,你是对的——以我写邮件的速度,我错误地写了 k-fold AND holdback。 我确实尝试了两者,并得到了一些相似的结果。
决策树遵循 IF x AND y THEN z 逻辑对数据进行分类。 我明白我t 在气压 >=42 时进行第一次拆分,我可以接受 >=42 AND <45 现在有意义(事实上,这是我第一次看到决策树将相同的属性指定为 2值)。 话虽如此,>=42 AND >=45 根本没有任何实际意义。 你同意?
基兰
回复:为什么我的决策树在同一个分支中有重复的属性?你好@科姆,
我不知道 JMP 在拆分决策树时使用的确切算法,但是,从概念上讲,它按预期工作并且没有自相矛盾。 如果查看决策树的其他部分,您会发现其他属性也被多次使用。 没有多次使用的是相同的值。
在您的示例中,在气压 >=42 的节点处,JMP 只是将其用作分离数据的决策点。 在下一个节点,JMP 表示对于气压 >=42 的所有这些实例,它会在气压仍然 >=42 但为(>=42 且还 <45)或它是( >=42 和 >45)。
您如何同时使用 10 折交叉验证和 30% 的保留率。 通常,您只会使用一种类型的验证方法。
DS