缺少标称数据你好。 我正在做一个班级项目,我需要根据住房数据集的许多预测变量来预测价格。 我已经清理了所有数字行,消除了异常值,现在我的问题涉及两列:parking_options 和洗衣房选项。 在这两列中,大约有 218,000 个行缺失值。 我的问题是如何处理丢失的名义数据。 它是数据集的很大一部分(共 384,000 个),我不想完全删除这些行。 我知道有时数据会被故意留空,但我认为这不是我的情况。 有一些大型住宅在洗衣选项和停车选项中具有空值,因此我认为我不应该假设这些空值意味着没有停车位和没有洗衣房。
数据探索和可视化视窗回复:缺少标称数据我认为你有两个基本选择。 第一个是采用/调用 JMP 中的“信息缺失”功能。 以下是 JMP 文档中功能说明的链接: JMP 中信息缺失。 但这意味着您认为或至少愿意假设在观察缺失的事实中存在一些“信息”。 比如说,出于隐私问题或其他一些原因,人们不愿意对某些事情做出回应,这在缺失的观察结果中很常见。 本质上,JMP 将“缺失”视为名义预测变量的附加水平。 第二种选择是硬着头皮,只使用具有预测变量所有值的观测值。 您仍有大约 166,000 个观察结果需要处理。 最后,我会尝试这两种途径并比较每种途径得出的实际结论。 如果几乎没有实际结论表明不同,那么“缺失”不会影响最终决定。
回复:缺少标称数据使用时信息缺失,这是否意味着所有行丢失的数据属于同一个“组” - 从以下角度来看信息:信息丢失的“原因”总是相同的?
即不是:
- 失踪是因为其中一半既没有洗衣房也没有停车场,并且不想说,而其中一半是超级富豪,有 5 个停车场和 3 个洗衣店,但不想说。
回复:缺少标称数据有点儿。 即使在第二种情况下,也有一个共同点,即无论出于何种原因都不愿意做出回应。 这就是为什么使用信息缺失是一种信仰的飞跃。 以及为什么我建议在有或没有信息缺失的情况下拟合模型,以查看每次分析之间的实际结论是否不同。
回复:缺少标称数据作为教授这些东西的人,除了 P_Bartell 的合理建议之外,我还有一些评论。无论是否有信息缺失,您都应该尝试。同样,您应该以图形方式研究具有缺失数据的房屋与具有有关您尝试预测的因变量(大概是价格?)的完整数据的房屋的比较情况。换句话说,如果缺少洗衣选项的房屋的价格表现与具有这些选项的房屋相似(表现意味着与平方英尺等因素的关系),那么也许这些选项并不那么重要,你可以像 P_Bartell 那样“咬紧牙关”说。然而,硬着头皮可能意味着忽略该变量,而不是忽略缺失数据的观察结果。洗衣选项可能并不那么重要,并且该变量缺失的原因可能是随机的(这就是“信息缺失”将调查的内容,但我会通过额外的图形调查来补充它。
我注意到的另一件事是你的评论“消除了异常值”。我意识到有些人教人们这样做,有些文本甚至指导人们这样做。我不。我认为摆脱数据是一个坏习惯。除非异常值看起来是错误,否则它们是您数据的一部分,我认为您不应该在没有进一步理由的情况下删除它们。使用相对于异常值不变的度量(例如中位数而不是平均值,您可以使用分位数回归来研究平均值)比消除异常值要好得多。
回复:缺少标称数据从历史上看,所有伟大的发现都是从异常值开始的。 结果出乎意料。 扔掉它们意味着你无法发现新的东西。 该模型可以解释这些异常结果。
回复:缺少标称数据优秀积分添加者@dale_lehman关于异常值。
并添加到评论中@马克贝利,在存在异常值的情况下,您可以选择受异常值影响较小的模型,例如基于树的方法(提升树、决策树、随机森林等)或向线性模型添加正则化(例如 LASSO 回归)。
您还可以使用不同的参数或替代解决方案,例如称重以减少异常值对模型的影响。