我应该使用主成分分析还是 k-means 聚类分析?嗨 - 我正在尝试确定用于以下情况的最佳聚类分析方法(例如主成分分析、k-means 等)。我有一个包含 12,928 条记录的映射数据集,每条记录对应一个带有样本结果的孔。每行数据(我地图上的每个位置)都有一个井名、纬度、经度,以及化合物 A、化合物 B、化合物 C、化合物 D、化合物 E 等(总共 8 个化合物)的结果。这些井已被以下三个来源之一污染:1) 空气沉积,2) 工艺废物,或 3) 两者的结合(混合)。每个源都与一个独特的源特征相关联(例如,空气沉积源往往具有高化合物 X 和低化合物 Y,而工艺用水往往具有高化合物 Y 和 Z 以及低化合物 X。)。因此,我的数据集的每一行(即井位)都与三个污染源之一相关联。 我的目标是确定数据集中每个记录(即井位)最有可能的来源。
重要的是,已知我的数据集中约 800 条记录的子集与空气沉积源特征相关联。因此,该数据子集可用作空气沉积特征的训练集。我还可以提出约 50 条记录的子集,这些记录代表过程废物源签名。
JMP 或 JMP Pro 中的任何建议方法将不胜感激。提前致谢!
高级统计建模基础数据分析与建模数据探索和可视化预测建模和机器学习回复:我应该使用主成分分析还是 k-means 聚类分析?有关数据示例,请参阅随附的 Excel 电子表格。
回复:我应该使用主成分分析还是 k-means 聚类分析?我没有看过 Excel 电子表格,但我不确定探索性数据分析方法(例如聚类)或降维方法(例如 PCA)是否最适合您的实际问题应用程序。 我对您的原始帖子的解释主要基于您第一段的最后一句话。 “我的目标是确定每条记录最有可能的来源……”。 对我来说,这听起来像是一个分类建模问题,其中污染源是因变量,而化合物是您的预测变量。 如果我走对了路,JMP 和 JMP Pro 中有许多适用于分类问题的建模方法。 您可以从名义逻辑回归开始,尝试任意数量的树方法,或者 JMP Pro 中的 PLS 判别分析平台等等。 如果您有 JMP Pro 并且您的数据支持交叉验证方法,我建议您也将这些方法包括在您的工作流程中……您是在用其中一个来源暗示它,所以听起来您也可以接受这些方法?
回复:我应该使用主成分分析还是 k-means 聚类分析?您好 P_Bartell - 非常感谢您的回复。我会尽力阐明我的目标。每条记录代表一个映射的井样本,显示许多不同 PFAS 化合物的结果(浓度)(每种化合物是一个不同的字段)。我的研究区域可能存在三种污染源:(1) 空气沉积源,可能主要与化合物“PMPA”有关,(2) 工艺废物源,可能与“PFMOAA”有关,以及 ( 3) 空气沉积和工艺废物的混合物。当然,世界并不是那么干净整洁,因此这两种化合物(PMPA 和 PFMOAA)将出现在几乎所有的井中,无论它们与任何一个来源的距离如何,当然还有其他化合物。这是相对浓度有助于确定油井是否受到一种来源或其他来源影响的化合物。而且,其他化合物可能是更好的替代物或指示剂?....待定。
我的目标是确定哪些区域(即水井)受到哪个来源的污染。(我附上的电子表格只是数据的一个样本,但可以让您了解我的数据格式。)重要的是,离源越远的井自然会降低构成该井的不同化合物的浓度,但相对比率与该来源相关的化合物应继续保留。所以一口井的位置是故事的一部分(即一口井的位置会影响它的复合构成)。
因此,鉴于上述情况,如果您仍然认为例如判别分析 (DA) 是一个不错的方法,我有几个问题。(1) 我的样本(良好结果)不应该是独立的吗?根据我上面的描述,会他们是?似乎它们并不是真正独立的,因为靠近一种源类型的那些更像是靠近不同源的那些。想法? (2) 我的每种 PFAS 化合物(自变量)的浓度应该服从正态分布。鉴于这些是环境污染物数据,通常不满足此假设,有时甚至使用对数归一化也是如此。这是个问题吗? (3) 似乎我的预测变量(PFAS 化合物)自然是共线的。换句话说,一个给定的源将与一些一起上升和下降的化合物相关联,这取决于与该源的接近程度。这是个问题吗?提前致谢!
回复:我应该使用主成分分析还是 k-means 聚类分析?我会尽力回答你的每一个问题。 (1) 不一定。 “独立性”是那些伟大的城市需求响应神话之一,例如,不需要使用多种建模方法的常态(请参阅我即将发表的评论)。 (2) 说谁? 现实生活中的数据通常不是正态分布的自变量……谁在乎呢? (3) 这就是诸如 PLS - 判别分析之类的方法的用武之地。 冒着过度简化的风险......在所有基于 PLS 的方法(与共线预测变量一起闪耀)的背景中发生的事情是通过一些非常优雅的数学,这些共线预测变量被转化为所谓的“潜在变量”它有一些非常好的特性……这非常类似于在建模之前对预测变量进行主成分分析。 很久以前,当我还是一名 JMP 高级系统工程师(我现在已经退休)时,我组织了一个仍然可用的掌握 JMP 网络研讨会。 它的标题是“使用偏最小二乘法。 当普通最小二乘法回归不起作用时。” 你可能想看吗? 这是一个链接: P. 巴特尔-PLS实际上,在活动结束时,我讨论了一个与您的问题不太相似的分类类型问题。 它使用人类基因组数据(不以任何方式正常分布)对女性的雌激素受体状态进行分类(二元反应……但可以使用 3 种可能的分类器轻松扩展到您的情况)。 最后,如果您有 JMP Pro,我还会认真研究各种树方法。 然后将所有模型保存在 Formula Depot 中并比较它们的性能。 我认为我的网络研讨会是使用 JMP Pro v 13 完成的? 因此,对于我展示的能力和功能,事情可能发生了一些变化……因为看起来您可能正在运行 v 17,但基本思想仍然有效。 祝你好运!
回复:我应该使用主成分分析还是 k-means 聚类分析?谢谢 P_Bartell!我会查看您的链接并做一些功课。感谢您的详细回复!
回复:我应该使用主成分分析还是 k-means 聚类分析?我看了你的视频 - 非常有帮助!假设我在 JMP 中使用判别分析,我的 Y 协变量显然是我所有的众多 PFAS 化合物字段。 但不清楚我的 X,类别/类字段 - “源” - 应该如何工作。我这样说是因为我不知道绝大多数数据集的来源是什么(这就是我进行此分析的原因)。
回想一下,我的数据集如下所示:

由于我的研究区域的独特属性,我可以向我的数据集添加一个源字段,并为大约 10% 的行(约 1300 行)填充它。但是,我只能为“空气沉积”来源填充它。其他两个来源(“过程浪费”和“混合”)不容易辨别……因此我需要分析我的数据集(例如 PLS)。如果按下,我可能也可以填充“过程浪费”源,但只能填充大约 30 行,而不是更多。其他 11,000 行的源字段未知。
我误读了这里的工作流程吗?
回复:我应该使用主成分分析还是 k-means 聚类分析?不,你没有误读工作流程……如果你不能用该变量的三个可能水平填充 Loc 列中的数据表,那么你就不能建立模型、PLS 或任何其他方法。 所以我建议你回到你最初关于多元探索性数据分析工具的想法,比如复合变量的聚类或主成分分析......最好是出现一些聚类或出现相对较少数量的主成分你'您将能够在复合变量中看到它们。
回复:我应该使用主成分分析还是 k-means 聚类分析?我要向我的老朋友倾诉@P_Bartell的回答。仅在我看来,集群听起来像是满足您的分析需求的好起点。K-Means 或层次聚类应该运行良好,并且由于您有 3 个可能的污染源,您应该将 K-Means 或层次聚类限制为 3 个聚类。当您对结果感到满意时,将聚类保存回数据表,然后可以将此列用作您进行的任何进一步建模的一部分。您还可以将聚类公式保存回数据表,当您将任何新数据输入表中时,您将立即得到污染聚类(来源)的预测。
回复:我应该使用主成分分析还是 k-means 聚类分析?一个额外的想法,也许是古怪的想法......如果这是你正在处理的现实世界问题,而不是一些虚构的学术练习,一旦你确定了一些集群,以及与每个井相关的地理位置,请使用 Graph Builder 映射工具来生成井的密度图。 然后我敢打赌,稍加窥探,您就可以对这些化合物的来源途径做出合理的猜测。 幸运的是,请注意,我远未获得环境地质工程师的资格/培训/教育,我刚刚读完一本关于爱运河(纽约尼亚加拉大瀑布)事件的书。 我敢打赌,那里的任何水井或附近的任何羽状物都会有一些类似的污染概况……而且来源非常明显……加工废物被掩埋并渗透多年。 啊,再次成为 JMP 系统工程师......我一直喜欢与客户一起解决这些“混乱”的问题。
回复:我应该使用主成分分析还是 k-means 聚类分析?谢谢你们俩。我将从那里开始(聚类分析),看看它会走向何方。我感谢输入!