分区平台是否要求方差相等?我的数据高度右偏(见附件 Leaks/mi Yr 分布),在约 4,000,000 个管道段上只有大约 400 个泄漏。我使用分区平台来识别我们的模型中泄漏率不同的因素。但我的数据表明方差不等(附件 RefService2023wLeaks - FitY by X,未通过 5 个方差检验中的 4 个)。分区平台是否要求方差相等?根据中心值定理,我可以假设这个大数据集将为均值显著差异提供准确的结果(见附件分区示例)?
谢谢
基础数据分析与建模回复:分区平台是否要求方差相等?首先,这看起来是一个非常有趣的数据集。
分区使用的建模方法几乎没有任何假设。它是一种非常好的入门级数据挖掘工具,特别是当您有大量数据需要处理时。
另请查看分析 > 筛选 > 预测筛选。只需输入您的响应变量和任意数量的“X”变量。也许将树的数量调整为 500,只是为了好玩。
它会构建一堆树,每棵树的列和行都是随机选择的,因此它对不良数据和异常值以及与您的响应高度相关的 X 具有超强的鲁棒性。同样,几乎没有假设。
回复:分区平台是否要求方差相等?为了扩展@Byron_JMP的出色回复,决策树是一种非常简单但功能强大的算法。它具有多种优势,使其成为数据挖掘的有效选择:易于理解和解释,处理分类和数字输入和输出,可以处理缺失值,对异常值具有鲁棒性,可以检测非线性关系,并能够进行特征/预测器选择和排名。
它不假设传统的参数假设,但有几点你应该关心:
- 检查预测因子之间的多重共线性和相关性:当决策树使用所有预测因子对数据进行分割并选择在 Y 值中提供最佳分割的预测因子时,相关预测因子和多重共线性可能是一个问题,因为一些预测因子可能会被遗漏并且永远不会被考虑,因为它们共享一些共同信息。
- 谨防过度拟合:决策树容易出现过度拟合,因为您可以将树扩展得很深,以便完美地对数值数据进行分类或回归。建议采用验证策略(K 折交叉验证、留一法或验证集,因为数据量似乎不是您的问题),并确保创建的模型对于手头的任务来说不会太复杂:设置最大深度(分割数)和最小分割大小可以降低过度拟合的风险。
- 训练数据样本和代表性:由于决策树是贪婪算法(它们分割数据以最大化信息增益或降低熵),因此它们对所使用的训练数据非常敏感。数据的微小变化可能会导致决策树提供的规则发生变化。应考虑数据代表性和噪声,以确保避免过度拟合并确保结果的泛化。
正如@Byron_JMP所建议的,使用随机森林(可通过 JMP Pro 的Bootstrap Forest平台或 JMP 的预测器筛选获得)通常很有趣,因为这种技术通过各种机制/技术减少了决策树的一些缺点:创建几个独立的树,在引导样本上并行训练(以降低对训练集的敏感性,确保泛化并通过“Out-Of-Bag”样本结果进行检查/验证),每次分割只考虑预测因子的一个子集(以使每个预测因子,甚至一些与其他预测因子相关的预测因子,都有相同的机会被选中进行分割,从而可以拥有更多样化的树和具有良好泛化性能的树集合)。
希望这个补充答案能帮助你,