探索大型数据集中的相关性<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />我正在使用 JMP pro 并处理工厂过程变量的大型数据集,我想探索它们如何影响工厂中的生产或其他一些性能参数。 有没有关于如何开始此操作的指南或资源? 我一直在 YouTube 上浏览 JMP 视频,但它们并没有深入分析。 S哦,远方,我只是发现我应该“筛选预测因素”以减少我正在考虑的因素的数量。 不确定下一步是否适合回归模型或进一步使用 PCA、成对相关性等探索数据,或者我是否需要小心在选择正确的分析之前,如果我的数据不是正常数据或有很多零。
此外,我还看到了一些使用规范对应分析 (CCA) 来探索与 R 中的数据(例如我的数据)的相关性的漂亮图。 JMP 中有类似/更好的东西吗?
我对这种分析很陌生,所以有什么想法你有关于如何开始会有所帮助。 谢谢。
回复:探索大型数据集中的相关性https://community.jmp.com/docs/DOC-9923
上面的插件是查看 x-by-y 相关性的另一个选项。 我最近在一个过程数据项目中使用了它。
回复:探索大型数据集中的相关性有一个很棒的 JMP 插件,名为 Scagnostics。我经常使用它来帮助查看大型数据集中的相关性结构。
回复:探索大型数据集中的相关性我假设您从某种数据仓库/历史记录系统继承了这些数据,并且您有很多列,或者可能有很多行。 您花了多少时间从以下角度审视数据质量:
1. 异常值? 查看此问题的一个好地方是在 Cols -> Modeling Utilities -> Explore Outliers 路径中。
2. 缺失值? 查看此问题的一个好地方是在 Cols -> Modeling Utilities -> Explore Missing Values 路径中。
3. 如果您有无意义的值,例如“9999”代码...请考虑使用 JMP 的 Cols -> Utilities -> Recode 路径来修复/修复这些值。
4. 作为最后的数据质量操作,如果您认为要继续构建预测模型,请确保使用 JMP Pro 的列 -> 建模实用程序 -> 创建验证列平台来创建验证列,其中包含(如果适用):训练、验证和测试构造。
数据质量/清理完成后,您可能会发现几个有用的 JMP Pro 平台。 每个人在阳光下都有自己的位置。使用聚类进行主成分分析,拟合模型 -> 偏最小二乘,拟合模型 -> 广义回归(然后根据每种情况的具体情况选择您的子人格),如果构建和评估模型,请确保调用缺失值插补(如果需要且适当)并利用您创建的验证列。 其他 JMP 建模平台也可能很有价值...我在这篇文章中只关注 JMP Pro 的想法。
回复:探索大型数据集中的相关性1. 数据的转换需要逐列处理。当对转换后的数据进行分析时,统计数据能够正确计算参数。不使用转换后的值来报告数据。
2.我发现确定正确转换的最佳方法是使用JMP中的分布平台,并在红色三角形下请求,
连续拟合==>全部
它将为您提供数据分布的结果,然后您将能够以转换后的状态保存数据。如果它发现最能描述数据的分布没有可用的转换,那么您可能想看看 GLog(广义对数)转换是否可以帮助您。
3. 如果您有目标响应变量,我已使用 Bootstrap Forrest 和 Boosted Tree 来查找用于配对数据的列。 它们不需要正态分布的数据。
回复:探索大型数据集中的相关性感谢大家提供的宝贵信息。 我有一些关于转换数据的后续问题:
1.据我了解,你们改造了一些列,但没有改造其他列? 难道所有数据不都应该以相同的方式进行转换以进行下游分析吗?
2. 我有一些列有很多零。 对数转换似乎标准化了一些数据,但将零转换为缺失数据。 不确定是否有简单的方法可以做到这一点,或者有一些关于如何在 JMP 中处理此问题的指南。
3. 如果标准化数据不可能或不必要,是否有首选方法或应避免的方法(PCA?)来进一步分析此类数据?
我猜测转换和筛选之后的步骤将是使用“拟合模型”平台中最强的贡献者并比较模型?
回复:探索大型数据集中的相关性你好凯伦@boulderstats 。
领域(过程专家)+方法(分析专家)是一个很好的合作伙伴。
我很喜欢你,并从你身上学到了很多东西分析性演讲片段上星期 !
我还从 JMP 社区专家那里学到了很多东西,他们非常善于提供指导。
非常感激。
- Randy,JMP 新手
回复:探索大型数据集中的相关性吉姆提供了一些好的步骤供您考虑。 您还可以使用控制图生成器(对于此类数据,我将使用列切换器,以便您可以逐步浏览变量)。 查看控制图的原因是过程数据具有时间元素。处理数据很有趣,但并不总是那么容易(考虑到时间滞后、丢失数据等,数据本身很复杂)。 我发现,当您作为一个至少包括一名分析专家(即具有统计背景的人)和一名流程专家(真正了解流程的人)的团队合作时,这些数据就会创造价值。
回复:探索大型数据集中的相关性我通常采用以下方法来筛选大数据:
1. 我对所有数据运行分发平台,以查找有多少数据存在高度偏差。如果我有大量行,我会倾向于删除异常值以尝试标准化数据。其他时候或者除此之外,我会改造那些麻烦的栏目。我使用脚本来减轻这方面的麻烦。
2.下一步是筛选掉多余的列。我通常为此使用 3 个不同的平台。
A。如果数据已经或已经转换为非常粗糙的范式,PCA 就非常有用。
b.响应筛选提供了一个很棒的输出数据表,真正让我感受到了数据
C。 Bootstrap Forrest 分区显示哪些列是我将要进行的详细分析的最强潜在贡献者。