决策树问题你好,
我创建了一个简单的 DOE 表格(如附件所示),并尝试进行决策树分析,但 JMP 没有产生预期的结果。
任何意见都欢迎提出。
谢谢,
长的
基础数据分析与建模回复:决策树问题嗨@LGH ,
欢迎加入社区!
我建议您在论坛发帖前先阅读@jthi的帖子“快速获得正确问题的正确答案” ,因为您没有解释您期望的结果以及您从决策树中获得的结果。
如果您的数据集来自设计实验(DoE),为什么不使用 JMP 中默认提供的最小二乘模型回归呢?
您的问题是否源于样本量过小,导致决策树无法分割数据(因此,在使用决策树“默认”功能时,既没有结果也无法进行分割)?如果是,请点击决策树旁边的红色三角形打开选项,并将“最小分割大小”(默认值为 5)更改为其他值,以使决策树能够适应您的情况(例如,2 也可以,您可以进行一次分割)。

JMP 中此决策树参数的默认设置旨在避免过拟合:它创建的决策树会根据变量完美地分割样本,从而生成一个叶节点样本量很小的完美模型,但实际上,当用于预测新的未见样本(测试数据集)时,该模型几乎毫无用处且鲁棒性差。实际上,要使用此类机器学习模型,您需要一个验证策略,使用训练集、验证集和测试集。有一些方法可以避免过度分割数据集,从而避免将其用于模型训练(例如交叉验证、留一法等),但最终您仍然需要一个测试集来确保测试集的预测性能与训练集/验证集的预测性能一致。您可以在论坛“交叉验证 - 验证列方法/ 如何在机器学习模型(例如神经网络和随机森林)上执行 k 折交叉验证并检查模型在固定测试数据上的性能?”中阅读一些关于此主题的讨论。
请注意,在本例中,由于数据集较小且结果与因子 C 之间存在线性关系,因此使用线性回归模型或平台 Fit Y by X 得到的结果相同:

希望这个回答能给你一些启发。
回复:决策树问题嗨,维克多,
非常感谢您的回复。是的,我的问题是由于样本量太小而无法进行分组。您的指导有效。
问候,
长岛