Cuando se le presenta un gran número de variables para predecir un resultado, es posible que desee reducir el número de variables de alguna manera para que el problema de predicción sea más fácil de abordar. Una técnica de reducción de dimensión posible es el método conocido de análisis de componentes principales (PCA). Las variables resultantes de PCA, sin embargo, pueden ser difíciles de interpretar. Una estrategia alternativa es utilizar agrupamiento de variables , un método disponible en JMP Pro .
Creado por SAS / STAT Director de Desarrollo Warren Sarle para el Procedimiento VARCLUS , el agrupamiento de variables reduce el número de variables agrupando variables similares. Esto le permite utilizar el resultado componentes del cluster , el primer componente principal de las variables dentro de cada cluster, como nuevas variables. Estas nuevas variables comparten una similitud en que solo están compuestas de variables dentro de cada grupo. Para mejorar aún más la interpretación y reducir la colinealidad, también puede usar solo la variable más representativa de cada grupo en lugar de cada componente del grupo.
Cómo funciona la agrupación variable
El algoritmo de agrupamiento de variables es un algoritmo iterativo que comienza con todas las variables en un solo agrupamiento y continúa dividiendo y asignando variables de forma iterativa a nuevos agrupamientos hasta que no sean posibles nuevas divisiones o asignaciones. Más específicamente, los grupos se dividen de forma iterativa en grupos más pequeños de acuerdo con los componentes principales de los grupos. En cada iteración del algoritmo, el clúster con el segundo valor propio más grande se elige para dividirlo en dos nuevos clústeres. Los miembros del clúster que se dividen se asignan a los nuevos clústeres en función de su correlación con los dos primeros componentes principales rotados ortoblique del clúster que se está dividiendo. Una vez divididas, todas las demás variables se examinan y se reasignan a un grupo diferente si se encuentra que tienen una mayor correlación con un grupo diferente. La agrupación de variables finaliza una vez que el segundo valor propio de todos los agrupamientos es menor que uno.
Ejemplo: Predecir la calidad del vino
Para demostrar la agrupación de variables, vamos a predecir la calidad del vino utilizando conjunto de datos de calidad del vino proporcionado en el Repositorio de aprendizaje automático de la UCI . Separado por los vinos tintos y blancos, este conjunto de datos consta de las siguientes 11 variables que describen el contenido de cada vino: acidez fija, acidez volátil, ácido cítrico, azúcar residual, cloruros, dióxido de azufre libre, dióxido de azufre total, densidad, pH, sulfatos y el alcohol.
Para reducir la dimensión de estas variables con la agrupación de variables, primero iniciamos el Componentes principales Plataforma desde el menú Analizar. A continuación, seleccionamos las variables como Y, columnas y haga clic en Aceptar.
Esto lanza la plataforma de Componentes Principales para los datos de calidad del vino. Desde aquí, seleccione la opción Variables de clúster en el menú del triángulo rojo de Componentes principales. Debería ver el resumen del clúster de agrupación variable. Como muestra este resumen, las 11 variables se han resumido en cuatro grupos, y cada grupo tiene 4, 3, 2 y 2 miembros, respectivamente. los Variable mas representativa La columna muestra la variable que mejor representa cada grupo de variables. La proporción de variación explicada dentro de cada grupo se enumera en la columna Proporción de la variación explicada mientras que la proporción general de variación explicada, 0.558, se encuentra en la parte inferior del resumen.
Podemos solicitar una tabla de miembros del clúster utilizando el menú del triángulo rojo de agrupación variable. Estos miembros del clúster dan una idea de la similitud entre las variables. Por ejemplo, esta tabla muestra que los cuatro miembros del grupo número 1 son similares: acidez fija, cloruros, densidad y sulfatos.
La RSquare entre cada variable y el clúster del que es miembro se muestra en la columna RSquare con clúster propio . los RSquare con el siguiente más cercano columna es el RSquare entre cada variable y el siguiente grupo más similar. los Proporción 1-RSquare La columna es una medida de proximidad relativa entre el clúster del que una variable es miembro y el siguiente clúster más similar. Por ejemplo, la relación 1-RSQuare para la acidez fija se calcula con (1-0.527) / (1-0.106) = 0.473 / 0.894 = 0.529. Esto ilustra cómo esta cantidad mide la proximidad relativa. Un valor de 1-RSquare Ratio mayor que 1 significaría que el siguiente clúster más cercano es en realidad más similar al clúster del que la variable es actualmente miembro, y como resultado, todos los ratios de 1-RSquare deben ser menores que 1.
Comparación de reducción de calidad del vino
Para comparar cómo estas diversas técnicas de reducción predicen la calidad del vino, ajustamos una regresión lineal utilizando tres conjuntos diferentes de variables predictoras:
- Los primeros cuatro componentes principales (PC).
- Los cuatro componentes del cluster (CCs).
- Las cuatro variables más representativas de cada cluster (MRVs).
Estos modelos se ajustan a un conjunto de datos de entrenamiento de dos tercios, y usamos el Comparación de modelos Plataforma para comparar los modelos.
La muestra de entrenamiento RSQuare y la muestra de validación RSquare cuentan una historia similar: el modelo con componentes principales supera ligeramente al modelo con componentes de grupo, mientras que el modelo que utiliza las variables más representativas supera a ambos. Esta es una solución ideal, ya que no solo hemos encontrado un modelo más parco, sino que también hemos encontrado uno que proporciona una interpretación más fácil de los resultados.
Considere agregar una agrupación variable desde JMP Pro a su kit de herramientas de reducción de variables hoy!
Referencias
P. Cortez, A. Cerdeira, F. Almeida, T. Matos y J. Reis. Modelado de preferencias de vino por minería de datos a partir de propiedades fisicoquímicas. In Decision Support Systems, Elsevier, 47 (4): 547-553, 2009.
La función de agrupamiento de variables ha sido realmente útil para mi trabajo.
¿Puede decirme cómo se controla el número final de grupos? ¿Qué criterios se utilizan para tomar esta decisión, es decir, el valor propio?
Para JMP 14, ¿está considerando incluir una opción para elegir el número de agrupaciones?
Además, sería bueno tener un dendrograma o algún tipo de visual para mostrar la relación
Lene
Ryan Parker escribió:
Hola José, esta no es actualmente una opción en JMP 11 Pro. ¡Planearemos agregar este futuro en una versión futura de JMP Pro!
Ryan
Jose guerrero escribió:
Hola,
¿Tenemos una opción para elegir la cantidad de clusters que tenemos en VARCLUS para JMP 11 pro PC?
Gracias
