Hola a todos,
Estoy trabajando con un sistema en el que necesito hacer tanto reducción de variables como agrupamiento. Estoy estudiando el comportamiento de los peces. Tengo tres tratamientos de comportamiento y cuando miro un diagrama de dispersión de PCA es obvio que mis datos se agrupan en dos grupos y que corresponden aproximadamente a mis categorías de tratamiento más bajas y más altas. Tengo una categoría intermedia que se divide entre las dos. Quiero usar K-means para consolidar mi variable de tratamiento en dos tratamientos en lugar de tres para usarlos en análisis posteriores.
Dos preguntas:
1: Si utilizo varias entradas muy similares y altamente correlacionadas (varias formas diferentes de medir la curvatura del cuerpo), ¿eso afecta el algoritmo de agrupamiento? ¿Debería realizar la reducción de variables antes de realizar el agrupamiento?
2: Recibí comentarios de revisores que decían "estos grupos no significan nada, por supuesto que un algoritmo de agrupamiento encontrará diferencias". ¿Hay alguna manera de abordar estos comentarios que hacen referencia a la forma en que funcionan los grupos K-means?
Gracias,
Esteban
Hola Stephen2020: tienes resultados de PCA muy sólidos al ver la imagen incluida. Este es su apoyo estadístico para dos grupos. K-means utiliza los resultados de PCA, por lo que ha realizado una reducción variable como parte de K-means.
En la plataforma Componentes principales, realice una prueba de Bartlett para determinar la importancia de sus valores propios. Cuando haces K-means, ves estos Eigenvalores debajo del bi-plot. Si nada es significativo con la prueba de Bartlett, no obtendrá muy buenos grupos en K-means. Del mismo modo, si no tiene valores propios que expliquen gran parte de la variación, realmente no tiene mucha estructura de correlación y la reducción de variables no está haciendo mucho (y, por lo tanto, K-means no producirá mágicamente agrupaciones claras).
Puede usar el CCC para probar otros números de grupos, y si obtiene 2, esto sería un soporte adicional de que 2 es un buen número de grupos. El CCC es el criterio de agrupación cúbica y prueba una variedad de agrupaciones, como 2 a 5. La documentación tiene una referencia para este método. Si no obtiene 2, no es una justificación sólida para NO usar 2 grupos (porque su experiencia está guiando su elección de 2 grupos). CCC es una guía y evidencia de apoyo solamente.
Finalmente, use los medios y las desviaciones estándar reportadas para sus grupos en K-means. ¿Las desviaciones estándar se superponen entre los grupos (alto de un solapamiento con bajo del otro, tendrá que calcular esto)? Si no, también puede hacer una declaración al respecto.
La única nota de advertencia es que cualquier cosa que coloque en PCA y K-means no se puede extraer más tarde y usar como una variable Y para un análisis más detallado.
Gracias por su ayuda, esto me da mucho para trabajar. ¿Puede explicar más su nota de precaución? Tengo un conjunto de (9) variables de entrada y (9) de salida. Actualmente los estoy arrojando a todos en el grupo K-means. La identificación de grupos con K-means reduce efectivamente mi número de tratamientos de 3 a 2. Luego usaría la herramienta "variables de clúster" para identificar variables representativas de entrada y salida (como una forma de reducción de variables) y luego usaría esas variables representativas para construir mi modelo. Estaría construyendo un modelo separado para cada grupo de datos. Si lo simplificara y dijera que tenía una entrada y una salida, las usé para identificar grupos y luego retrocedí la entrada y la salida dentro de cada grupo, ¿estaría usando los datos incorrectamente?
Estoy un poco perdido en lo que estás haciendo y en tu objetivo final. Lo que en mente, aquí hay algunas cosas a tener en cuenta.
Dices que tienes 9 entradas (Xs) y 9 salidas (Ys). También está cambiando algo por un tratamiento: ¿es esta una de estas 18 variables? No entiendo lo que representará el modelo definitivo: ¿Xs frente a Ys, o 18 variables versus algo más como el tratamiento?
Definitivamente puede usar técnicas de agrupación, como K-means, para segmentar sus datos (de modo que las filas van juntas) y construir un modelo a partir de cada subconjunto de sus datos. Por lo general, las personas no usan los resultados de la agrupación en el modelo real si está segmentando, aparte de dividir filas. Puede realizar una mayor reducción de dimensión en cada segmento de forma independiente, lo que significa que ha decidido tratar cada segmento de sus datos de forma independiente.
El uso de la Agrupación de variables para identificar las variables principales para su modelo es una forma relacionada pero diferente de agrupar en comparación con K-means. Entonces estás haciendo dos métodos de agrupación diferentes y no está claro cómo los usaste juntos. Seguramente no use el agrupamiento de variables en futuras variables Y. Deben mantenerse fuera del análisis hasta que modele. Del mismo modo, si hace K-medias con las 18 variables (X e Y), divida los datos en 2 en función de esto, luego ejecute un modelo en cada sección, solo tenga en cuenta que ha sesgado su resultado debido a permitir las relaciones entre X e Ys a considerar antes de hacer otro modelo. Agrupe en Xs, si va a usarlos en un modelo, no en Ys.
En general, al usar técnicas de reducción de dimensiones en un grupo de variables, si va a usarlas como X en un modelo adicional, no colocará su futura variable Y allí. El objetivo de ejecutar un modelo es hacer que algunas X expliquen qué está sucediendo para una (s) variable (s) de interés. Si PCA o agrupa estas X e Y juntas, está confundiendo por qué haría un modelo en primer lugar.
Aquí hay algunas otras ideas, dependiendo de tus objetivos.
Hay una manera de hacer una selección de variables con una Y en una X: use Partición u otro método de árbol como Bootstrap Forest. Esto le daría las variables que tienen el rango más alto con respecto a una Y, y puede ignorar otras X de pequeño o nulo efecto. Luego tome estas X y construya un modelo en Fit Model.
También puede hacer una reducción de dimensión en algunas de sus variables, como toda la curvatura del cuerpo. Haría PCA y usaría los principales componentes de PCA en el modelo (por ejemplo, 9 mediciones de curvatura podrían explicarse en 3 componentes de PCA). Luego use los componentes de PCA como X en el modelo. Nuevamente, no incluya los futuros Y en el PCA. Esto es bueno porque los PCA son ortogonales, lo cual es una suposición de modelado lineal.
Si tiene JMP Pro, puede usar LASSO en GenReg para hacer una reducción variable y ajustar un modelo al mismo tiempo. Hay límites sobre cuán complejo puede ser este modelo. Puede usar un método de árbol primero para reducir el número de variables.
Además, debido a que dijo que tiene datos de comportamiento, podría considerar usar GenReg para ajustar un modelo porque tiene algunos métodos de remuestreo para pequeños conjuntos de datos.
Si está viendo 9X y 9Ys, es posible que desee PLS.
Finalmente, quizás lo que está tratando de hacer es en realidad un análisis discriminatorio. Si está tratando de construir un modelo que describa el Tratamiento con las 18 variables, entonces el Análisis discriminatorio es una regresión categórica con reducción de variables y bastante apropiada para esto. Puede ejecutar DA con 2 o 3 tratamientos y comparar los ajustes para decidir si tiene 2 o 3 grupos.
Existen Masificación de temas JMP en todos los artículos que he mencionado anteriormente.
Has visto esto video sobre análisis multivariante ? También hay una diario eso va con el video.
