具有相關輸入的 K 均值聚類大家好，
我正在使用一個需要進行變數縮減和聚類的系統。我正在研究魚類的行為。我有三種行為治療方法，當我查看 PCA 雙圖時，很明顯我的數據分為兩組，它們大致對應於我的最低和最高治療類別。我有一個介於兩者之間的中間類別。我想使用 K 均值將我的治療變數合併為兩種治療，而不是三種治療，以便在以後的分析中使用。
兩個問題：
1：如果我使用多個非常相似的高度相關的輸入（幾種不同的方法來測量身體曲率），這會擾亂聚類演算法嗎？我應該在聚類之前進行變數縮減嗎？
2：我收到審查者評論說「這些集群沒有任何意義，當然集群演算法會發現差異」是否有辦法解決這些引用 K 均值集群工作方式的評論。
謝謝，
史蒂芬
進階統計建模消費者與市場研究資料混合與清理回复：具有相關輸入的K均值聚類嗨，Stephen2020-從所顯示的圖片中，您可以獲得非常出色的PCA結果。這是您對兩組的統計支持。K均值使用PCA結果，因此您在進行K均值時已進行了變量約簡。
在Principal Components平台中，對您的特徵值的重要性進行Bartlett測試。當您執行K均值時，您會在雙圖下看到這些特徵值。如果在Bartlett檢驗中沒有什麼意義重大，那麼您將不會在K-means中獲得很好的分組。同樣，如果您沒有能解釋大部分變化的特徵值，那麼您實際上就沒有太多的相關結構，並且變量約簡也沒做太多（因此，K均值不會神奇地產生清晰的分組）。
您可以使用CCC來測試其他數量的集群，如果獲得2個集群，這將是另外的支持，因為2個集群數量不錯。CCC是三次聚類標準，請嘗試一系列聚類，例如2到5。文檔中有此方法的參考。如果您沒有得到2，則不使用2個小組的理由不充分（因為您的專業知識正在指導您選擇2個小組）。CCC僅是指導和支持證據。
最後，使用在K均值中為您的組報告的均值和標準差。群集之間的標準偏差是否重疊（一個重疊的高點與另一個重疊的低點-您必須計算出來）？如果沒有，那麼您也可以對此發表聲明。
一個警告提示是，您以後無法將放入PCA和K-means的任何內容提取出來，並用作Y變量進行進一步分析。
回复：具有相關輸入的K均值聚類感謝您的幫助，這給了我很多幫助。您能否進一步說明您的注意事項？我有一組（9）輸入和（9）輸出變量。目前，我將所有這些都放入K-means集群中。使用K均值識別集群有效地將我的治療次數從3減少到2。然後，我將使用“集群變量”工具來識別代表性的輸入和輸出變量（作為變量歸約的一種形式），然後使用那些代表性的變量來構建我的模型。我將為每個數據集群構建一個單獨的模型。如果我簡化它並說我只有一個輸入和一個輸出，同時使用它們來標識集群，然後對每個集群內的輸入和輸出進行回歸，那我是否會不正確地使用數據？
回复：具有相關輸入的K均值聚類我對您正在做的事情和您的最終目標有些迷茫。請記住以下幾點。
您說有9個輸入（Xs）和9個輸出（Ys）。您還需要更改某種治療方法-這18個變量之一嗎？我不明白最終的模型將代表什麼-Xs與Ys，或者18個變量與諸如治療之類的東西？
您可以確定地使用K-means之類的聚類技術對數據進行細分（以便將哪些行放在一起）並從數據的每個子集構建模型。通常，如果您要進行細分，那麼人們不會使用實際模型中的聚類結果，而是將行分開。您可以單獨對每個細分進行進一步的降維-這意味著您已決定獨立對待數據的每個細分。
與K-means相比，使用變量聚類為模型識別主導變量是一種相關但不同的聚類方法。因此，您正在執行兩種不同的聚類方法，還不清楚如何一起使用它們。您當然肯定不會在未來的Y變量上使用變量聚類。他們需要不進行分析，直到您建模為止。同樣，如果您對所有18個變量（X和Y）進行K均值，則將數據基於此拆分為2，然後在每個部分上運行模型，只是意識到您由於允許Xs之間的關係而對結果產生了偏見和Ys在製作另一個模型之前要考慮。如果要在模型中而不是Ys上使用它們，請在Xs上進行聚類。
總的來說，當對一組變量使用降維技術時，如果要在其他模型中將它們用作X，則不要在其中放置將來的Y變量。運行模型的目的是讓一些X解釋感興趣的Y變量的情況。如果您將PC或將這些X和Y聚在一起，那麼您就很困惑為什麼首先要進行建模。
根據您的目標，還有其他一些想法。
有一種使用X上的Y進行變量選擇的方法-使用分區或其他樹方法（如Bootstrap Forest）。這將為您提供相對於Y排名最高的變量，並且您可以忽略其他X值很小甚至沒有影響的X。然後使用這些X並在Fit Model中建立模型。
您還可以對某些變量進行降維-例如所有身體的曲率。您需要進行PCA，並在模型中使用頂部的PCA組件（例如，可以在3個PCA組件中解釋9個曲率測量值）。然後將PCA組件用作模型中的X。同樣，不要在PCA中包括將來的Y。這很好，因為PCA是正交的，這是線性建模的假設。
如果您擁有JMP Pro，則可以在GenReg中使用LASSO來進行變量約簡和同時擬合模型。該模型的複雜性存在局限性。您可以先使用樹方法來減少變量的數量。
另外，由於您說有行為數據，因此您可能會考慮使用GenReg擬合模型，因為它具有一些針對小型數據集的重採樣方法。
如果您正在查看9X和9Y，則可能需要PLS。
最後，也許您實際上想做的是“區分分析”。如果您嘗試建立一個描述所有18個變量的“治療”的模型，則“判別分析”是具有變量約簡的分類回歸，非常適合此操作。您可以對DA進行2或3種治療，然後比較擬合度以決定是否有2或3組。
有 Masting JMP主題我上面提到的所有項目。
你看過嗎多元分析視頻 ？還有一個日誌與視頻一起。
