Ha pasado un tiempo, pero esta es la última de la serie de tres partes. Parte 1 Pasemos ahora al análisis emocional de la letra de "The Beatles", Parte 2 Entonces, probé el análisis de sentimiento de la letra de "Queen". En la Parte 3 de esta vez, usamos una función llamada Selección de términos para crear un modelo que predice qué canción de la banda es a partir de las palabras contenidas en las letras de las dos bandas y caracteriza a cada banda. Buscar palabras (palabras clave).
¿Qué es la selección de términos?
En JMP, el análisis de texto está disponible a través de la plataforma "Text Explorer", pero en JMP Pro, puede seleccionar "Selección de términos" como una opción para esta plataforma.
En el "análisis de selección de palabras", cuando hay una variable de respuesta (Y), es posible modelar la relación entre la palabra extraída por análisis de texto y la variable de respuesta, ¿Qué palabras describen la variable de respuesta? Puedes comprobar cosas como
En este ejemplo, crearemos una tabla de datos que resuma los títulos de las canciones y las letras de "The Beatles" y "Queen", como se muestra a continuación.
En este momento, la variable de respuesta (Y) y la variable predictora (X) son las siguientes.
Variable de respuesta (Y): "Banda" (variable que distingue si la canción es de los Beatles o de Queen)
Variable predictora (X): Palabras extraídas de "Lyrics"
¿Debería considerarse abstenerse?
Analicemos la variable predictora (X) con un poco más de detalle.
Al extraer palabras del texto, Documento - Matriz de términos (DTM) Las palabras se pueden juntar en forma de matriz.
Por ejemplo, el Método A. La letra de la canción de los Beatles "You Like Me Too Much" en la línea 166 de contiene (al menos una de) las palabras "know", "time", "just", por lo que la variable "know Binary", "time Binary" , y "solo binario" no contienen el valor "1" y las palabras "amor", "oh", "sí", por lo que "amor binario", "oh binario", "sí binario" recibe "0" como un valor.
Método A. matriz de palabras de documento binario (1/0)
Extraer las palabras de esta manera produce una matriz de "filas de datos por número de palabras" (con valores de 1 o 0 en este ejemplo), y los predictores reales son las palabras en esta matriz de palabras del documento.
Lo anterior construyó la matriz de palabras del documento con valores de 1/0, pero el siguiente Método B. También es concebible configurarlo con "frecuencia", como cuántas veces aparece una palabra en particular en el documento.
Método B. Matriz de palabras del documento de frecuencia de palabras
En artículos anteriores, mencioné que las letras están muy influenciadas por los estribillos (usar las mismas palabras una y otra vez) en el análisis del texto. Por lo tanto, si consideramos la frecuencia de palabras como en el Método B anterior, se verá muy afectada por el estribillo.
Por lo tanto, al modelar, intente modelar con el método A y el método B y compare qué modelo es mejor.
Método A. Matriz de palabra de documento binario (1/0) ⇒ no afectado por estribillo
Método B. Matriz de palabras del documento de frecuencia de palabras ⇒ Afectado por estribillo
Informe de análisis de elección de palabras
Con base en los puntos anteriores, usemos "análisis de elección de palabras". Cuando seleccione la opción Selección de término, verá un esquema de configuración similar al siguiente.
Detalles de cada ajuste
"Elegir columna de respuesta" : Especifique la variable de respuesta (Y). En este ejemplo es “Banda” (Beatles/Queen).
“Nivel objetivo” : Especifica el nivel de evento en la variable de respuesta. Aquí especificamos "Reina" y consideramos a la Reina como el estándar. Dado que Y toma solo dos valores, Beatles y Queen, ajustamos un modelo de regresión logística asumiendo una distribución binomial para Y.
"Configuración del modelo" : especifica el método de modelado y el método de validación. De forma predeterminada, el método de estimación es Elastic Net y el método de validación es AICc, por lo que utilizaremos la configuración predeterminada en este ejemplo.
"Configuración de plazo" : especifica qué método usar para la matriz de palabras del documento que se muestra en la sección anterior. Por defecto es Binario (1/0). También puede especificar el número máximo de palabras que se usarán en la matriz de palabras del documento, que es 400 de forma predeterminada. En otras palabras, solo las 400 palabras más frecuentes entre las palabras extraídas se utilizan como predictores.
Haga clic en el botón Ejecutar en la parte superior derecha para ver un informe de modelado para la configuración especificada.
Puede ver los resultados en el Informe 1 a continuación.
Informe 1 "A Hard Days Night" (Beatles): Predicho correctamente
Muestra los resultados de la selección de variables para un modelo de regresión logística utilizando Elastic Net. En este ejemplo, de 400 variables predictoras, se seleccionaron 49 variables útiles para la predicción y el coeficiente de regresión (Coeficiente) para las variables seleccionadas (Término) se muestra en la parte superior derecha del informe.
Los coeficientes positivos se indican con barras naranjas y los negativos con barras azules. Es una palabra que contribuye en gran medida a predecir, y cuanto mayor es el valor negativo, mayor es la palabra que contribuye a predecir el nivel de los Beatles.
En la parte inferior izquierda del informe, la letra de "A Hard Days Night" (canción de los Beatles) está coloreada de naranja para las palabras que contribuyen a predecir a los Beatles, y de azul para las palabras que contribuyen a predecir a Queen. En la letra se puede ver que se utilizan muchas palabras que aportan a los Beatles como "solo", "dar", "días". Entonces, incluso si no sabes de qué banda es la canción de esta letra, puedes adivinar que es una canción de los Beatles debido al uso de solo", "dar" y "días".
Más precisamente, a partir de estas letras, se determina la probabilidad de predecirlo como Queen y la probabilidad de predecirlo como Beatles. La probabilidad pronosticada de Queen se obtiene del coeficiente de regresión logística obtenido anteriormente utilizando la función Logist ( Logist(x) = 1/(1 + Exp(x)) ) de la siguiente manera.
Al volver a publicar el informe de modelado, la columna "Probabilidad de Queen" a continuación muestra, para cada canción, la probabilidad de predecir la canción como Queen, que para "A Hard Days Night" es del 32,7%.
Entonces, la probabilidad de ser predicho como los Beatles es del 67,3 % después de restar el 100 %. Que esto,
De las palabras en la letra de A Hard Days Night,
Probabilidad de predecir una canción de Queen: 32,7%
Probabilidad de predecir una canción de los Beatles: 67,3%
Entonces, predigo que será una canción de los Beatles con una alta probabilidad.
se convierte en Es decir, el valor real (valor real) y el valor pronosticado (valor pronosticado) coinciden.
Veré los informes de las otras dos canciones (Informe 2, Informe 3).
Informe 2 "Bohemian Rhapsody" (Queen): Prediciendo correctamente
Se puede predecir que la canción representativa de Queen, "Bohemian Rhapsody", será una canción de Queen con una alta probabilidad del 88,9 %.
Informe 3 "Hey Jude" (Beatles): predicción incorrecta de "Queen"
Se predice que la canción representativa de los Beatles "Hey Jude" será reina con una probabilidad del 56,3%, por lo que la predicción es incorrecta.
Algunas canciones son predecibles así, y otras no. Al crear un modelo de predicción, la tasa de clasificación errónea, que indica la proporción de diferencias entre las mediciones reales y las predicciones, se utiliza como indicador de la capacidad de predicción y, cuanto menor sea este valor, mayor será la capacidad de predicción.
Comparación de modelos
En la sección anterior, modelamos usando binario (1/0) como la matriz de palabras del documento, pero ¿qué sucede cuando lo comparamos con el modelado usando frecuencias de palabras de la misma manera?
En el análisis de selección de palabras, el siguiente informe que compara la capacidad de predicción de los modelos se muestra como un informe "Resumen" cuando se aplican varios modelos. El modelo 1 es binario y el modelo 2 es frecuencia de palabras.
AICc utilizado como índice de validación, Generalized RSquare (R-square generalizado, cuanto mayor sea el valor, mejor), AUC (el área debajo de la superficie curva, cuanto mayor sea el valor, mejor), Tasa de clasificación errónea (la tasa de clasificación errónea, el cuanto menor sea el valor, mejor) Mirando, puede ver que los 2 valores del Modelo 1 son buenos para cualquier índice.
A partir de este resultado, se puede ver que el modelo con la ocurrencia de la palabra (=1)/no ocurrencia (=0) como variable explicativa tiene una mayor capacidad predictiva que el modelo con la frecuencia de la palabra como variable explicativa . .
resumen
Resumimos los resultados del "análisis de elección de palabras" descrito hasta ahora.
・Creamos un modelo que predice si una canción es sobre los Beatles o Queen en función de las palabras contenidas en la letra de la canción.
・Los dos métodos siguientes se modelaron como matrices de palabras de documentos utilizadas como variables explicativas, y se compararon las capacidades predictivas de los modelos.
Método A. Indica si la letra contiene la palabra correspondiente: Binario
Método B.Indica cuantas veces aparece la palabra correspondiente en la letra: Frecuencia
⇒ Encontramos que el Método A (binario), que no considera estribillos, tiene una alta capacidad predictiva. Por lo tanto, los resultados modelados por el método A se usaron a continuación.
・Se extrajeron cuarenta y nueve palabras que tienen un gran impacto en la predicción. Con base en el coeficiente de regresión estimado para estas palabras, se calculó la probabilidad de predicción de cada canción, y se calcularon la canción predicha (valor predicho) y la canción real (valor real), y la tasa de clasificación errónea fue del 8,4 %. Teniendo en cuenta los valores R-cuadrado y AUC, que son otros indicadores de la capacidad predictiva, se cree que se creó un buen modelo predictivo.
⇒ Con solo la información de las 49 palabras seleccionadas pudimos adivinar de qué canción se trataba con una precisión del 91,6%.
Finalmente, mostramos las 49 palabras seleccionadas (Término) y el coeficiente de regresión (Coeficiente) dibujado con el generador de gráficos. Las palabras en naranja contribuyen a la predicción de Queen y las palabras en azul claro contribuyen a la predicción de los Beatles.
La palabra con el valor positivo más alto, "blow", es la palabra que define las letras de Queen. De hecho, entre las canciones analizadas, blow se usa en varias canciones de Queen, pero no se usa en las canciones de los Beatles, lo que explica por qué el coeficiente de esta palabra es grande.
Esperamos que este artículo lo haya inspirado para intentar usar el análisis de elección de palabras.
