Ha pasado un tiempo, pero es el final de la tercera serie. Parte 1 Analicemos las emociones de las letras de "The Beatles" Parte 2 Luego, traté de analizar las emociones de la letra de "Queen". En la Parte 3 de esta vez, usaremos una función llamada Selección de términos para crear un modelo que prediga qué canción de la banda es a partir de las palabras contenidas en las letras de las dos bandas y caracteriza a cada banda. Busquemos una palabra (palabra clave) .
¿Qué es la selección de términos?
En JMP, la plataforma "Text Explorer" permite el análisis de texto, pero en JMP Pro, puede seleccionar "Selección de términos" como una opción para esta plataforma.
En el "análisis de selección de palabras", cuando existe una variable de respuesta (Y), es posible modelar la relación entre la palabra extraída por análisis de texto y la variable de respuesta. ¿Cuál es la palabra que describe la variable de respuesta? Puedes averiguar esas cosas.
En este ejemplo, crearemos una tabla de datos que combine los títulos de las canciones y las letras de "The Beatles" y "Queen", como se muestra a continuación.
En este momento, la variable de respuesta (Y) y la variable predictora (X) son las siguientes.
Variable de respuesta (Y): "Banda" (variable que distingue si la canción es de los Beatles o de Queen)
Variable predictiva (X): Palabras extraídas de "Lyrics"
Si se debe considerar abstenerse
Echemos un vistazo más de cerca a la variable predictora (X).
Al extraer una palabra del texto Documento -- Matriz de términos (DTM) Puede juntar las palabras en un formato de matriz.
Por ejemplo, el Método A. La letra de la canción de los Beatles "You Like Me Too Much" en la línea 166 de la canción contiene las palabras "know", "time", "just" (al menos uno), por lo que la variable "know Binary", "Time Binary ", "solo binario" tiene un valor de "1" y no contiene palabras como "amor", "oh", "sí", por lo que "amor binario", "oh binario", "Sí binario" recibe un valor de "0".
Método A. Matriz de palabra de documento binario (1/0)
Extraer palabras de esta manera crea una matriz de "fila de datos x número de palabras" (en este ejemplo, el valor es 1 o 0), y el predictor real es el grupo de palabras en esta matriz de palabras del documento.
Lo anterior construyó una matriz de palabras de documento con valores 1/0, pero el siguiente método B. También es posible configurarlo por "frecuencia", como cuántas veces aparece una palabra específica en el documento.
Método B. Matriz de palabras del documento de frecuencia de aparición de palabras
En artículos anteriores, mencioné que las letras están fuertemente influenciadas por el estribillo (usar la misma palabra una y otra vez) en el análisis del texto. Por lo tanto, considerando la frecuencia de aparición de palabras como en el método B anterior, se ve muy afectada por el estribillo.
Por lo tanto, al modelar, intente modelar con el método A o el método B y compare qué modelo es mejor.
Método A. Matriz de palabra de documento binario (1/0) ⇒ No afectado por estribillo
Método B. Documentar secuencia de palabras de frecuencia de aparición de palabras ⇒ Afectado por estribillo
Informe de análisis de selección de palabras
Con base en los puntos anteriores, usemos "análisis de selección de palabras". Si selecciona la opción Selección de términos, verá un esquema de configuración similar al siguiente:
Detalles de cada ajuste
"Elegir columna de respuesta" : Especifique la variable de respuesta (Y). En este ejemplo es "Band" (Beatles/Queen).
"Nivel objetivo" : Especifica el nivel de evento en la variable de respuesta. Aquí, especifique "Queen" y considere Queen como el estándar. Dado que Y toma solo dos valores, Beatles y Queen, aplicamos un modelo de regresión logística asumiendo una distribución binomial para Y.
"Configuración del modelo" : especifica el método de modelado y el método de validación. De forma predeterminada, Elastic Net se especifica como el método de estimación y AICc se especifica como el método de verificación, por lo que se utiliza la configuración predeterminada en este ejemplo.
"Configuración de plazo" : especifica qué método usar para la matriz de palabras del documento que se muestra en la sección anterior. El valor predeterminado es Binario (1/0). También puede especificar el número máximo de palabras para usar en la matriz de palabras del documento, que por defecto es 400. Es decir, solo las 400 palabras extraídas con mayor frecuencia se utilizan como predictores.
Haga clic en el botón Ejecutar en la esquina superior derecha para ver un informe de modelado para la configuración especificada.
Veremos los resultados en el Informe 1 a continuación.
Reportaje 1 "A Hard Days Night" (Beatles): Correctamente predecible
Se muestra el resultado de la selección de variables del modelo de regresión logística utilizando Elastic Net. En este ejemplo, se seleccionan 49 de los 400 predictores para ayudar a predecir, y la esquina superior derecha del informe muestra el Coeficiente para la variable seleccionada (Término).
Si el coeficiente es positivo, se muestra una barra naranja, si es negativo, se muestra una barra azul, pero dado que la reina se especifica aquí como el nivel del evento, cuanto mayor sea el valor positivo, mayor será el nivel de la reina. eso contribuye en gran medida a predecir el nivel de los Beatles, y cuanto mayor sea el valor negativo, más contribuye a predecir el nivel de los Beatles.
En la parte inferior izquierda del informe, la letra de "A Hard Days Night" (canción de los Beatles) está pintada de naranja para las palabras que ayudan a predecir a los Beatles y de azul para las palabras que ayudan a predecir a Queen. Puedes ver que las letras a menudo usan palabras que contribuyen a los Beatles, como "solo", "dar" y "días". Por lo tanto, incluso si no sabes de qué banda es la canción de la letra, puedes predecir que es una canción de los Beatles porque solo se usan "," dar "," días ", etc.
Más precisamente, a partir de esta letra, se calcula y juzga la probabilidad de predecir Queen y la probabilidad de predecir Beatles. La probabilidad de predicción de Queen se calcula mediante la siguiente fórmula utilizando la función Logist (Logist (x) = 1 / (1 + Exp (x))) a partir del coeficiente de regresión de la regresión logística obtenido anteriormente.
Cuando vuelvo a publicar el informe de modelado, la columna "Probabilidad de Queen" a continuación muestra la probabilidad de que se espere que una canción sea Queen para cada canción, que es del 32,7% para "A Hard Days Night".
Entonces, por el contrario, la probabilidad de ser predicho como los Beatles es del 67,3 % al restarlo del 100 %. Que esto,
De las palabras en la letra de A Hard Days Night
Probabilidad de predecir la canción de Queen: 32,7%
Probabilidad de predecir la canción de los Beatles: 67,3%
Por lo tanto, predigo que es una canción de los Beatles con una alta probabilidad.
Será. En otras palabras, el valor real (valor medido) y el valor previsto (valor previsto) coinciden.
Echemos un vistazo a los informes sobre las otras dos canciones (Informe 2, Informe 3).
Reportaje 2 "Bohemian Rhapsody" (Queen): Correctamente predecible
Se puede predecir que la canción representativa de Queen, "Bohemian Rhapsody", será la canción de Queen con una alta probabilidad del 88,9 %.
Informe 3 "Hey Jude" (Beatles): Predice falsamente "Queen"
Se predice que la canción representativa de los Beatles, "Hey Jude", será reina con una probabilidad del 56,3%, por lo que la predicción es incorrecta.
Algunas canciones son predecibles así, mientras que otras no. Al crear un modelo predictivo, la Tasa de clasificación errónea, que indica la tasa en la que difieren la medición real y la predicción, se utiliza como índice para indicar la capacidad predictiva, y cuanto menor es este valor, mayor es la capacidad predictiva.
Comparación de modelos
En la sección anterior, modelamos usando valores binarios (1/0) como la matriz de palabras del documento, pero ¿cómo se compara con el caso de modelar usando la frecuencia de palabras de la misma manera?
En el análisis de selección de palabras, como un informe de "Resumen", cuando se ajustan varios modelos, se muestra un informe que compara el poder predictivo de los modelos de la siguiente manera. El modelo 1 es para binario y el modelo 2 es para frecuencia de palabras.
AICc utilizado como índice de verificación, RSquare generalizado (R-cuadrado generalizado, el valor más grande es mejor), AUC (área debajo de la superficie curva, el valor más grande es mejor), Tasa de clasificación errónea (tasa de discriminación errónea, el valor más pequeño es mejor) Si observa, se puede ver que los 2 valores del Modelo 1 son buenos para cualquier índice.
A partir de este resultado, se puede ver que el modelo con la ocurrencia (= 1) / no aparición (= 0) de la palabra como variable explicativa tiene mayor poder predictivo que la frecuencia de la palabra como variable explicativa. ..
resumen
Resumiré los resultados del "análisis de selección de palabras" explicado hasta ahora.
-A partir de las palabras contenidas en la letra de la canción, creamos un modelo que predice si la canción es de los Beatles o de Queen.
-Como matriz de palabras de documento utilizada para variables explicativas, modelamos los siguientes dos tipos de métodos y comparamos el poder predictivo de los modelos.
Método A. Indica si se incluye o no la palabra correspondiente a la letra: Valor binario
Método B.Indica cuantas veces aparece la palabra correspondiente a la letra: Frecuencia
⇒ Se encontró que la capacidad de predicción del Método A (valor binario) sin considerar el estribillo es alta. Por lo tanto, los resultados modelados por el Método A se utilizan posteriormente.
・ Se extrajeron cuarenta y nueve palabras que afectaron mucho la predicción. Cuando se obtuvo la probabilidad predicha de cada canción con base en el coeficiente de regresión estimado para estas palabras, y se obtuvieron la canción predicha (valor predicho) y la canción real (valor de medición real), la tasa de discriminación errónea fue del 8,4 %. Teniendo en cuenta los valores de R-cuadrado y AUC, que son indicadores de otras capacidades predictivas, se considera que se podría crear un buen modelo de predicción.
⇒ Con solo la información de las 49 palabras seleccionadas, fue posible adivinar de qué canción se trataba con un 91,6% de precisión.
Finalmente, aquí hay un diagrama de las 49 palabras seleccionadas (Términos) y sus coeficientes de regresión (Coeficiente) dibujados en Graph Builder. Naranja es la palabra que contribuye a la predicción de Queen y azul claro es la palabra que contribuye a la predicción de los Beatles.
"Blow", que tiene el valor positivo más alto, es la palabra que caracteriza las letras de Queen. De hecho, entre las canciones analizadas, blow se usa en varias canciones de Queen, pero como no se usa en las canciones de los Beatles, se explica que el coeficiente de esta palabra es grande, lo pueden adjuntar.
Espero que este artículo le dé la oportunidad de utilizar el "Análisis de selección de palabras".
