Ciao a tutti,
Sto lavorando con un sistema in cui devo fare sia la riduzione delle variabili che il clustering. Sto studiando il comportamento dei pesci. Ho tre trattamenti comportamentali e quando guardo un biplot PCA è ovvio che i miei dati si raggruppano in due gruppi e corrispondono approssimativamente alle mie categorie di trattamento più basse e più alte. Ho una categoria intermedia che è divisa tra le due. Voglio usare K-means per consolidare la mia variabile di trattamento in due trattamenti invece di tre da usare in analisi successive.
Due domande:
1: Se utilizzo più input molto simili e altamente correlati (diversi modi per misurare la curvatura del corpo), ciò interferisce con l'algoritmo di clustering? Dovrei effettuare la riduzione delle variabili prima del clustering?
2: Ho ricevuto commenti da revisori che dicevano "questi cluster non significano nulla, ovviamente un algoritmo di clustering troverà delle differenze". Esiste un modo per rispondere a questi commenti facendo riferimento al funzionamento dei cluster K-means?
Grazie,
Stefano
Ciao Stephen2020 - Hai risultati PCA molto forti guardando l'immagine inclusa. Questo è il tuo supporto statistico per due gruppi. K-means usa i risultati di PCA, quindi hai fatto una riduzione variabile come parte del K-mean.
Nella piattaforma Componenti principali, esegui un test Bartlett per il significato degli autovalori. Quando fai K-significa, vedi questi autovalori sotto il bi-grafico. Se nulla è significativo con il test Bartlett, non otterrai ottimi gruppi in K-medie. Allo stesso modo, se non hai autovalori che spiegano gran parte della variazione, non hai davvero molta struttura di correlazione e la riduzione delle variabili non sta facendo molto (e quindi i mezzi K non produrranno magicamente raggruppamenti chiari).
È possibile utilizzare il CCC per verificare altri numeri di cluster, e se si ottengono 2 questo sarebbe supporto aggiuntivo che 2 è un buon numero di cluster. Il CCC è il Cubic Clustering Criteria e prova una serie di cluster, come da 2 a 5. La documentazione ha un riferimento per questo metodo. Se non ottieni 2, non è una valida giustificazione per NON usare 2 gruppi (perché la tua esperienza sta guidando la tua scelta di 2 gruppi). CCC è una guida e solo prove a sostegno.
Infine, usa le medie e le deviazioni standard riportate per i tuoi gruppi in K-medie. Le deviazioni standard si sovrappongono tra i cluster (il massimo di una si sovrappone al minimo dell'altra - dovrai calcolarlo)? Altrimenti, puoi anche fare una dichiarazione al riguardo.
L'unica avvertenza è che tutto ciò che si inserisce in PCA e K-significati non può essere successivamente estratto e utilizzato come variabile Y per ulteriori analisi.
Grazie per il tuo aiuto, questo mi dà molto su cui lavorare. Puoi spiegare ulteriormente la tua nota di cautela? Ho un set di (9) input e (9) variabili di output. Attualmente li sto lanciando tutti nel cluster K-mean. Identificare i cluster usando K-significa riduce efficacemente il mio numero di trattamenti da 3 a 2. Quindi utilizzerei lo strumento "variabili cluster" per identificare variabili rappresentative di input e output (come forma di riduzione delle variabili) e quindi utilizzare quelle variabili rappresentative per costruire il mio modello. Costruirò un modello separato per ciascun cluster di dati. Se lo semplificassi e dicessi che avevo un input e un output, li usavo entrambi per identificare i cluster e poi regredivo l'input e l'output all'interno di ciascun cluster, avrei usato i dati in modo errato?
Sono un po 'perso in quello che stai facendo e il tuo obiettivo finale. Che in mente, ecco alcune cose da considerare.
Dici che hai 9 ingressi (Xs) e 9 uscite (Ys). Stai anche cambiando qualcosa per un trattamento - questa è una di queste 18 variabili ?. Non capisco quale sia il modello definitivo che rappresenterà: le X contro le Y o 18 variabili rispetto a qualcos'altro come il trattamento?
Puoi sicuramente utilizzare tecniche di clustering, come K-mean, per segmentare i tuoi dati (in modo che le righe si uniscano) e costruire un modello da ciascun sottoinsieme dei tuoi dati. In genere le persone non usano i risultati del clustering nel modello reale se si sta segmentando, oltre a dividere le righe. Puoi ridurre ulteriormente le dimensioni su ogni segmento in modo indipendente, il che significa che hai deciso di trattare ogni segmento dei tuoi dati in modo indipendente.
L'utilizzo del Clustering variabile per identificare le variabili principali per il modello è un modo correlato, ma diverso per raggruppare rispetto ai K-medie. Quindi stai facendo due diversi metodi di clustering e non è chiaro come li hai usati insieme. Sicuramente non usi il Clustering delle variabili sulle future variabili Y. Devono rimanere fuori dall'analisi fino a quando non si modella. Allo stesso modo, se fai K-medie con tutte e 18 le variabili (X e Y), dividi i dati in 2 in base a questo, quindi esegui un modello su ogni sezione, renditi conto che hai distorto il tuo risultato a causa del consentire le relazioni tra Xs e Y da considerare prima di fare un altro modello. Cluster su Xs, se li userai in un modello, non su Ys.
Nel complesso, quando si utilizzano tecniche di riduzione dimensionale su un gruppo di variabili, se si intende utilizzarle come X in un ulteriore modello, non inserire la variabile Y futura. Il punto di eseguire un modello è che alcune X spieghino cosa sta succedendo per una o più variabili Y di interesse. Se PCA o raggruppa queste X e Y insieme, stai confondendo il motivo per cui dovresti fare un modello in primo luogo.
Ecco alcune altre idee, a seconda dei tuoi obiettivi.
C'è un modo per fare la selezione delle variabili con una Y su X: usare la partizione o un altro metodo ad albero come Bootstrap Forest. Questo ti darebbe le variabili che si posizionano più in alto rispetto a una Y, e puoi ignorare altre X di piccolo o nessun effetto. Quindi prendi queste X e costruisci un modello in Modello Adatta.
Puoi anche ridurre le dimensioni su alcune di esse variabili, come tutta la curvatura del corpo. Dovresti fare PCA e utilizzare i migliori componenti PCA nel modello (diciamo che 9 misure di curvatura potrebbero essere spiegate in 3 componenti PCA). Quindi utilizzare i componenti PCA come X nel modello. Ancora una volta non includere le Y future nel PCA. Questo è bello perché i PCA sono ortogonali, il che è un presupposto della modellazione lineare.
Se si dispone di JMP Pro, è possibile utilizzare LASSO in GenReg per eseguire sia la riduzione variabile che un modello allo stesso tempo. Esistono limiti alla complessità di questo modello. È possibile utilizzare prima un metodo ad albero per ridurre il numero di variabili.
Inoltre, poiché hai affermato di disporre di dati comportamentali, potresti prendere in considerazione l'utilizzo di GenReg per adattarlo a un modello perché ha alcuni metodi di ricampionamento per piccoli set di dati.
Se stai guardando 9X e 9Y, potresti voler PLS.
Infine, forse quello che stai cercando di fare è in realtà un'analisi discriminatoria. Se stai cercando di costruire un modello che descriva il trattamento con tutte e 18 le variabili, l'analisi discriminante è una regressione categorica con riduzione delle variabili e abbastanza appropriata per questo. Puoi eseguire DA con 2 o 3 trattamenti e confrontare gli accoppiamenti per decidere se hai 2 o 3 gruppi.
Ci sono Argomentazione di argomenti JMP su tutti gli articoli che ho menzionato sopra.
Hai visto questo video sull'analisi multivariata ? C'è anche un rivista che va con il video.
