具有相关输入的 K 均值聚类大家好，
我正在使用一个系统，需要同时进行变量减少和聚类。我正在研究鱼类行为。我有三种行为处理，当我查看 PCA 双标图时，很明显我的数据聚类为两组，它们大致对应于我的最低和最高处理类别。我有一个介于两者之间的中间类别。我想使用 K-means 将我的处理变量合并为两种处理而不是三种，以便在以后的分析中使用。
两个问题：
1：如果我使用多个非常相似且高度相关的输入（几种不同的测量身体曲率的方法），这会干扰聚类算法吗？我应该在聚类之前进行变量减少吗？
2：我收到审阅者的评论，说“这些聚类没有任何意义，当然聚类算法会发现差异”，有没有办法参考 K 均值聚类的工作方式来解决这些评论。
谢谢，
史蒂芬
高级统计建模消费者和市场研究数据混合和清理回复：具有相关输入的K均值聚类嗨，Stephen2020-从所显示的图片中，您可以获得非常出色的PCA结果。这是您对两组的统计支持。K均值使用PCA结果，因此您在进行K均值时已进行了变量约简。
在Principal Components平台中，对您的特征值的重要性进行Bartlett测试。当您执行K均值时，您会在双图下看到这些特征值。如果在Bartlett检验中没有什么意义重大，那么您将不会在K-means中获得很好的分组。同样，如果您没有能解释大部分变化的特征值，那么您实际上就没有太多的相关结构，并且变量约简也没做太多（因此，K均值不会神奇地产生清晰的分组）。
您可以使用CCC来测试其他数量的集群，如果获得2个集群，这将是另外的支持，因为2个集群数量不错。CCC是三次聚类标准，请尝试一系列聚类，例如2到5。文档中有此方法的参考。如果您没有得到2，则不使用2个小组的理由不充分（因为您的专业知识正在指导您选择2个小组）。CCC仅是指导和支持证据。
最后，使用在K均值中为您的组报告的均值和标准差。群集之间的标准偏差是否重叠（一个重叠的高点与另一个重叠的低点-您必须计算出来）？如果没有，那么您也可以对此发表声明。
一个警告提示是，您以后无法将放入PCA和K-means的任何内容提取出来，并用作Y变量进行进一步分析。
回复：具有相关输入的K均值聚类感谢您的帮助，这给了我很多帮助。您能否进一步说明您的注意事项？我有一组（9）输入和（9）输出变量。目前，我将所有这些都放入K-means集群中。使用K均值识别集群有效地将我的治疗次数从3减少到2。然后，我将使用“集群变量”工具来识别代表性的输入和输出变量（作为变量归约的一种形式），然后使用那些代表性的变量来构建我的模型。我将为每个数据集群构建一个单独的模型。如果我简化它并说我只有一个输入和一个输出，同时使用它们来标识集群，然后对每个集群内的输入和输出进行回归，那我是否会不正确地使用数据？
回复：具有相关输入的K均值聚类我对您正在做的事情和您的最终目标有些迷茫。请记住以下几点。
您说有9个输入（Xs）和9个输出（Ys）。您还需要更改某种治疗方法-这18个变量之一吗？我不明白最终的模型将代表什么-Xs与Ys，或者18个变量与诸如治疗之类的东西？
您可以确定地使用K-means之类的聚类技术对数据进行细分（以便将哪些行放在一起）并从数据的每个子集构建模型。通常，如果您要进行细分，那么人们不会使用实际模型中的聚类结果，而是将行分开。您可以单独对每个细分进行进一步的降维-这意味着您已决定独立对待数据的每个细分。
与K-means相比，使用变量聚类为模型识别主导变量是一种相关但不同的聚类方法。因此，您正在执行两种不同的聚类方法，还不清楚如何一起使用它们。您当然肯定不会在未来的Y变量上使用变量聚类。他们需要不进行分析，直到您建模为止。同样，如果您对所有18个变量（X和Y）进行K均值，则将数据基于此拆分为2，然后在每个部分上运行模型，只是意识到您由于允许Xs之间的关系而对结果产生了偏见和Ys在制作另一个模型之前要考虑。如果要在模型中而不是Ys上使用它们，请在Xs上进行聚类。
总的来说，当对一组变量使用降维技术时，如果要在其他模型中将它们用作X，则不要在其中放置将来的Y变量。运行模型的目的是让一些X解释感兴趣的Y变量的情况。如果您将PC或将这些X和Y聚在一起，那么您就很困惑为什么首先要进行建模。
根据您的目标，还有其他一些想法。
有一种使用X上的Y进行变量选择的方法-使用分区或其他树方法（如Bootstrap Forest）。这将为您提供相对于Y排名最高的变量，并且您可以忽略其他X值很小甚至没有影响的X。然后使用这些X并在Fit Model中建立模型。
您还可以对某些变量进行降维-例如所有身体的曲率。您需要进行PCA，并在模型中使用顶部的PCA组件（例如，可以在3个PCA组件中解释9个曲率测量值）。然后将PCA组件用作模型中的X。同样，不要在PCA中包括将来的Y。这很好，因为PCA是正交的，这是线性建模的假设。
如果您拥有JMP Pro，则可以在GenReg中使用LASSO来进行变量约简和同时拟合模型。该模型的复杂性存在局限性。您可以先使用树方法来减少变量的数量。
另外，由于您说有行为数据，因此您可能会考虑使用GenReg拟合模型，因为它具有一些针对小型数据集的重采样方法。
如果您正在查看9X和9Y，则可能需要PLS。
最后，也许您实际上想做的是“区分分析”。如果您尝试建立一个描述所有18个变量的“治疗”的模型，则“判别分析”是具有变量约简的分类回归，非常适合此操作。您可以对DA进行2或3种治疗，然后比较拟合度以决定是否有2或3组。
有 Masting JMP主题我上面提到的所有项目。
你看过吗多元分析视频 ？还有一个日志与视频一起。
