Al examinar las relaciones en datos multivariados, se utiliza el análisis de componentes principales (PCA) para reducir las dimensiones a aproximadamente dos o tres dimensiones y examinar las relaciones entre los datos.) se utiliza a menudo.
Sin embargo, en los últimos años, métodos como UMAP y t-SNE han atraído la atención como métodos para la reducción de dimensionalidad. Estos son métodos de reducción de dimensiones no lineales y se dice que son efectivos incluso cuando la estructura de datos no se puede expresar bien mediante el análisis de componentes principales, que es un método de reducción de dimensiones lineales.
Estos métodos también son métodos de reducción de dimensionalidad, por lo que puede reducir datos multidimensionales a dos o tres dimensiones y examinar visualmente patrones en los datos.
En el campo del aprendizaje automático, UMAP y t-SNE también se utilizan ampliamente con fines de reducción de dimensionalidad. Por ejemplo, es útil en una variedad de aplicaciones como reconocimiento de imágenes, clasificación de texto y análisis genético.
JMP Pro cuenta con una plataforma llamada "Multivariate Embedding", que incluye técnicas UMAP y t-SNE.
Ejemplo de agrupación de muestras utilizando t-SNE
En este blog, utilizamos datos espectrales para reducir la dimensionalidad y visualizar las relaciones de los datos utilizando técnicas de análisis de componentes principales, UMAP y t-SNE. En ese momento, comprobaremos si los datos que tienen etiquetas se pueden separar correctamente.
Datos espectrales utilizados
Lo que usaremos esta vez son datos del espectro infrarrojo medio del aceite de oliva. *
Mediante muestreo se han recogido los espectros de 60 tipos de aceite de oliva. A cada muestra se le añade información sobre el país de origen. Examinaremos si el país de origen (Grecia, Italia, Portugal, España) puede clasificarse a partir de estos datos del espectro multivariado.
En el aprendizaje automático, la información del país de origen equivale a una "etiqueta" y son datos supervisados. El análisis que sigue se centrará en si se puede clasificar según la etiqueta.
Utilicé "Graph Builder" para graficar los espectros por país de origen. Muestra la intensidad de cada número de onda y permite comprobar visualmente las características del espectro de cada país y las diferencias con otros países, como picos en números de onda específicos y aquellos con grandes o pequeñas fluctuaciones de intensidad.
*Fuente de datos:
Datos para: Clasificación de datos de espectros con Kernel Extreme Learning - Mendeley Data
Reducción de dimensionalidad mediante análisis de componentes principales.
Primero, realizamos un análisis de componentes principales (PCA) en estos datos espectrales y visualizamos los dos primeros componentes en un gráfico de puntuación.
Como estamos midiendo la intensidad en un número de onda de 570, hemos reducido la dimensión 570 a 2 dimensiones.
Al observar el gráfico de puntuación, se puede ver que los diferentes puntos del gráfico se superponen mucho, lo que indica que el país de origen del aceite de oliva no está bien separado. La reducción de dimensionalidad realizada mediante el análisis de componentes principales se basa en una transformación lineal, por lo que si los datos se distribuyen de forma no lineal, es posible que no se pueda capturar bien la estructura de los datos.
Reducción de dimensionalidad usando UMAP, t-SNE.
A continuación, realizaremos UMAP y t-SNE en los datos del aceite de oliva.
En JMP Pro, seleccione Analizar > Multivariante > Incrustar multivariante .
- En el cuadro de diálogo de inicio, especifique la columna de escala continua (en este ejemplo, la columna 570 que representa la intensidad en números de onda) como [Y, Columna].
- Opcionalmente, puede seleccionar el método, las dimensiones después de la reducción de dimensiones, etc.
- Puede seleccionar [UMAP] o [t-SNE] en "Método". El valor predeterminado es [UMAP].
- Puede seleccionar Dimensión después de la reducción de dimensión. El valor predeterminado es "2" (dos dimensiones).
Se muestran los gráficos cuando se ejecutan tanto UMAP como t-SNE con estas operaciones (abajo a la izquierda: UMAP, abajo a la derecha: t-SNE).
Una comparación con el gráfico de puntuación del análisis de componentes principales muestra que los países de origen del aceite de oliva pueden separarse hasta cierto punto. En particular, el color naranja de España se puede distinguir casi claramente de otros países de origen.
A continuación, establezcamos la "dimensión después de la reducción de dimensión" en 3 y visualicémosla en 3D. Los informes de incrustación multivariados muestran gráficos tridimensionales. Este gráfico se puede mover arrastrando el cursor y está bien clasificado, incluida la tercera dimensión.Puedes considerar lo que se está haciendo.
En el gráfico bidimensional de t-SNE no fue posible clasificar todos los colores excepto el naranja (España), pero en el gráfico tridimensional sí fue posible clasificar el verde (Italia), el rojo (Grecia), y azul (Portugal) en cierta medida.
Tanto UMAP como t-SNE son métodos de reducción de dimensiones no lineales que reducen la dimensionalidad de modo que las relaciones entre puntos de datos cercanos en un espacio de alta dimensión se puedan mantener incluso en dimensiones bajas. Esto lo convierte en una excelente manera de agrupar datos visualmente.
Sin embargo, mientras que el análisis de componentes principales interpreta ejes de informes como gráficos de carga, los métodos UMAP y t-SNE se centran en encontrar relaciones entre datos (muestras), dividirlos en grupos y encontrar patrones. Por lo tanto, puede resultar difícil interpretar el significado. de los ejes.
Por ejemplo, en el gráfico UMAP anterior, gran parte de los datos naranjas de España están trazados en la parte inferior derecha, pero es difícil especificar qué indica el hecho de estar ubicado en la parte inferior derecha de las coordenadas bidimensionales.
Comparación de UMAP y t-SNE
Se dice que UMAP tiene una velocidad de cálculo más rápida que t-SNE. También se dice que ajustar los parámetros es más fácil con UMAP.
De hecho, en este ejemplo de datos espectrales, cuando se ejecutó t-SNE con la configuración de parámetros predeterminada, se mostró una advertencia sobre el cálculo de convergencia. Como se menciona en el mensaje, se resolvió relajando el criterio de convergencia (1e-8⇒1e-4) y aumentando el número máximo de iteraciones (1000⇒10000).
Al comparar UMAP y t-SNE, se dice que UMAP es generalmente mejor, pero en la práctica es mejor probar tanto UMAP como t-SNE y comparar los resultados. Sin embargo, en el caso de t-SNE, cuando se trata de datos a gran escala, los cálculos pueden llevar tiempo y, en algunos casos, es posible que sea necesario ajustar los parámetros.
por Naoyu Masukawa (JMP Japón)
Naohiro Masukawa - Comunidad de usuarios de JMP
