在提升树上使用验证数据我开发了一个带有提升树的预测模型。 我有 30,000 行训练数据。 我有 10,000 条“验证”数据。 我如何通过模型运行验证数据集(我的模型中有超过 800 个变量,因此获得“公式”不切实际)。 请提供交互式解决方案(不是脚本)。实验设计回复:在提升树上使用验证数据我的偏好是附加测试数据(使用连接 - 保存预测公式列并选中复选框以评估公式后)。您不想将测试数据设为验证集,因为它将用于开发模型。JMP 将自动区分训练数据、验证数据和测试数据之间的模型性能。
我仍然对您反复提及模型的复杂性感到担忧。通常,JMP 可以处理相当复杂的公式列。如果它足够复杂,导致 JMP 评估它时出现问题,那么我担心您是否应该使用该模型。如果您有数百万行,则可能是硬件限制 - 但如果有 30,000 行,则应该不会有问题,除非您的模型中有太多变量。正如您所建议的,您的模型中可能有大约 800 个变量,我怀疑这可能会导致某些预测模型出现问题。然而,我最初的反应是,您真的不想要一个包含 800 个因子和只有 30,000 个数据点的模型(如果您使用验证和测试数据集,则数据点会更少)。当然,您可以使用更少的因素获得具有几乎相同性能的模型。因此,我认为第一步是建立一个更易于管理的模型。
回复:在提升树上使用验证数据这是我现阶段的想法。 如果您想要评估 JMP 数据表中的模型,则只需将新的“测试”预测变量集和响应附加到包含该模型的数据表即可。 我会给新的行集一个独特的绘图符号,这样在您生成的任何图中您都会知道这些是“新”行。 “预测”列将填充“测试”预测变量的值,然后我只需使用图形生成器来获取实际值与预测值,然后看看您看到了什么。 也许为“训练”和“测试”中使用的行放置一个本地数据过滤器?
回复:在提升树上使用验证数据这听起来有点令人困惑,但我会在下周重新上线时尝试。
谢谢。
回复:在提升树上使用验证数据啊哈!
回复:在提升树上使用验证数据快速问 - 我有一个完全独立的测试数据集。 我是否将它与
原始数据集(即附加它)-然后通过我的模型运行它?
如果我这样做 - 我是否需要硬编码/创建一个带有 1 秒的验证列进行测试
和 0 进行训练(或验证)以使模型运行? 我也不太
热衷于创造“公式”——因为它对于
程序来管理。 这种想法有道理吗?
我真的只是希望能够从模型运行测试集,而不是
很知道怎么做。 (另外,我将在下周(不是本周,
不幸的是) - 因为我有探望家人。
我的感谢
回复:在提升树上使用验证数据需要补充的一点进一步说明@dale_lehman的第二个回复。 他正确地指出,当您创建用于行验证类别规范的列(即验证列)时,所有操作都将在您运行平台时由分析平台自动处理。 结果将包含在用于训练、验证和测试数据子集的各种平台报告元素中。 Dale 遗漏的部分是,当您创建“验证”列时,您必须在对话框中阐明要创建所有三个类别(训练、验证和测试)以及分配每行的方法。 听起来您有相当多的观察结果,因此纯粹的随机分配可能是一个不错的起点。
回复:在提升树上使用验证数据你的回复没有帮助,但还是谢谢你。
回复:在提升树上使用验证数据预测因子筛选是了解哪些变量很重要的良好第一步。 请参阅脚本索引中的脚本,了解其工作原理。
我首先会对原始表进行采样以减少行数(主菜单:表->子集...)
有了这个子集,您可以在短时间内尝试多项事情,保存有前途的想法的脚本,并稍后将它们应用到大型数据集。
Names Default To Here( 1 );
dt = Open( "$SAMPLE_DATA/Boston Housing.jmp" );
obj = dt << Predictor Screening( Y( :chas ), X( :crim, :indus, :nox, :rooms, :age, :distance, :radial ) );
回复:在提升树上使用验证数据如果您使用预测建模平台中的工具创建验证列,则 JMP 会自动在训练、验证和测试数据上运行您的模型。因此,您无需进一步执行任何操作。现在,您对模型运行问题的评论是另一回事 - 听起来模型存在问题,我怀疑模型中有 800 个变量反映了需要纠正的问题。我会寻找减少功能数量的方法。
回复:在提升树上使用验证数据我会尝试一下。
然而,由于模型太大,预测公式似乎根本无法运行——它似乎使程序停滞了。 最后,当我确实想运行测试数据时 - 我该如何运行它? 非常感谢 - ksfire1
回复:在提升树上使用验证数据我不明白你的问题。如果您有验证列并将其放入“验证”框中,则会报告验证数据的模型结果。我同意你可能想要一个更简单的模型并且你应该尝试不同的模型的观点。我想补充一点,您可能需要留出 10% 的数据作为测试数据,因为验证数据用于构建模型,并且存在过度拟合的危险,尤其是模型中有 800 个变量时。因此,我建议将数据分解为训练、验证和测试数据集,运行各种模型,并使用模型比较功能来查看模型在测试数据上的表现。一旦您保存了所有模型的预测公式,这种比较就应该自动进行。
回复:在提升树上使用验证数据有了公式,一切就变得容易了。 你试过了吗? 发生了什么事?
我假设您使用 JMP Pro。
您是否尝试过构建一个不太复杂的模型? 您是否尝试过预测筛选或其他变量减少技术? 或者其他建模技术?
为了获得最好的模型,应该比较不同的技术/变量集。