Cela fait un moment, mais c'est le dernier de la série en trois parties. Partie 1 Passons maintenant à l'analyse émotionnelle des paroles de "The Beatles", Partie 2 Alors, j'ai essayé l'analyse des sentiments des paroles de "Queen". Dans la partie 3 de cette fois, nous utilisons une fonction appelée Term Selection pour créer un modèle qui prédit quelle chanson du groupe est à partir des mots contenus dans les paroles des deux groupes, et caractérise chaque groupe.Rechercher des mots (mots clés).
Qu'est-ce que la sélection de termes ?
Dans JMP, l'analyse de texte est disponible via la plate-forme "Text Explorer", mais dans JMP Pro, vous pouvez sélectionner "Term Selection" comme option pour cette plate-forme.
En "analyse de sélection de mots", lorsqu'il y a une variable de réponse (Y), il est possible de modéliser la relation entre le mot extrait par l'analyse de texte et la variable de réponse, Quels mots décrivent la variable de réponse Vous pouvez vérifier des choses comme
Dans cet exemple, nous allons créer une table de données qui résume les titres et les paroles des chansons de "The Beatles" et "Queen", comme indiqué ci-dessous.
À ce stade, la variable de réponse (Y) et la variable prédictive (X) sont les suivantes.
Variable de réponse (Y) : "Band" (une variable qui distingue si la chanson est Beatles ou Queen)
Variable prédictive (X) : Mots extraits de "Paroles"
Faut-il envisager de s'abstenir ?
Discutons de la variable prédictive (X) un peu plus en détail.
Lors de l'extraction de mots d'un texte, Document - Matrice terminologique (DTM) Les mots peuvent être assemblés sous forme de matrice.
Par exemple, la méthode A. Les paroles de la chanson des Beatles "You Like Me Too Much" à la ligne 166 de , contiennent (au moins un des) les mots "know", "time", "just", donc la variable "know Binary , "time Binary" , et "just Binary" ne contiennent pas la valeur "1" et les mots "love", "oh", "yeah", donc "love Binary", "oh Binary", "yeah Binary" est donné "0" comme une valeur.
Méthode A matrice de mots de document binaire (1/0)
L'extraction des mots de cette manière donne une matrice "lignes de données multipliée par le nombre de mots" (avec des valeurs de 1 ou 0 dans cet exemple), et les prédicteurs réels sont les mots de cette matrice de mots de document.
Ce qui précède a construit la matrice de mots du document avec des valeurs de 1/0, mais la méthode B suivante. Il est également envisageable de le configurer avec une "fréquence", comme le nombre de fois qu'un mot particulier apparaît dans le document.
Méthode B Documentez la matrice de mots de la fréquence des mots
Dans des articles précédents, j'ai mentionné que les paroles sont grandement influencées par les refrains (en utilisant les mêmes mots encore et encore) dans l'analyse de texte. Par conséquent, si nous considérons la fréquence des mots comme dans la méthode B ci-dessus, elle sera grandement affectée par le refrain.
Par conséquent, lors de la modélisation, essayez de modéliser avec la méthode A et la méthode B et comparez quel modèle est le meilleur.
Méthode A Matrice de mots de document binaire (1/0) ⇒ non affectée par le refrain
Méthode B Documentez la matrice de mots de la fréquence des mots ⇒ Affecté par le refrain
Rapport d'analyse du choix des mots
Sur la base des points ci-dessus, utilisons "l'analyse du choix des mots". Lorsque vous sélectionnez l'option Sélection de terme, vous verrez un schéma de configuration similaire à celui-ci.
Détails de chaque réglage
"Choisir la colonne de réponse" : Spécifiez la variable de réponse (Y). Dans cet exemple, il s'agit de "Band" (Beatles/Queen).
"Niveau visé" : spécifie le niveau d'événement dans la variable de réponse. Ici, nous spécifions "Queen" et considérons la reine comme la norme. Étant donné que Y ne prend que deux valeurs, Beatles et Queen, nous ajustons un modèle de régression logistique en supposant une distribution binomiale pour Y.
"Paramètres du modèle" : spécifie la méthode de modélisation et la méthode de validation. Par défaut, la méthode d'estimation est Elastic Net et la méthode de validation est AICc, nous utiliserons donc les paramètres par défaut dans cet exemple.
"Paramètres du terme" : spécifie la méthode à utiliser pour la matrice de mots du document présentée dans la section précédente. Par défaut, c'est Binaire (1/0). Vous pouvez également spécifier le nombre maximum de mots à utiliser dans la matrice de mots du document, qui est de 400 par défaut. En d'autres termes, seuls les 400 premiers mots les plus fréquents parmi les mots extraits sont utilisés comme prédicteurs.
Cliquez sur le bouton Exécuter dans le coin supérieur droit pour afficher un rapport de modélisation pour les paramètres spécifiés.
Vous pouvez voir les résultats dans le rapport 1 ci-dessous.
Reportage 1 « A Hard Days Night » (Beatles) : prédit correctement
Affiche les résultats de la sélection de variables pour un modèle de régression logistique à l'aide d'Elastic Net. Dans cet exemple, sur 400 variables prédictives, 49 variables utiles pour la prédiction ont été sélectionnées, et le coefficient de régression (Coefficient) pour les variables sélectionnées (Terme) est affiché dans le coin supérieur droit du rapport.
Les coefficients positifs sont indiqués par des barres oranges et les coefficients négatifs par des barres bleues. est un mot qui contribue grandement à prédire , et plus la valeur négative est grande, plus le mot qui contribue à prédire le niveau des Beatles est important.
En bas à gauche du rapport, les paroles de "A Hard Days Night" (chanson des Beatles) sont colorées en orange pour les mots qui contribuent à prédire les Beatles et en bleu pour les mots qui contribuent à prédire Queen. Dans les paroles, vous pouvez voir que de nombreux mots qui contribuent aux Beatles tels que "juste", "donner", "jours" sont utilisés. Ainsi, même si vous ne savez pas de quel groupe provient cette chanson, vous pouvez deviner qu'il s'agit d'une chanson des Beatles à cause de l'utilisation de just, "give" et "days".
Plus précisément, à partir de ces paroles, la probabilité de le prédire comme Queen et la probabilité de le prédire comme Beatles sont déterminées. La probabilité prédite de Queen est obtenue à partir du coefficient de régression logistique obtenu ci-dessus à l'aide de la fonction Logist ( Logist(x) = 1/(1 + Exp(x)) ) comme suit.
Republiant le rapport de modélisation, la colonne "Probabilité de Queen" ci-dessous montre, pour chaque chanson, la probabilité de prédire la chanson comme Queen, qui pour "A Hard Days Night" est de 32,7%.
Ainsi, la probabilité d'être prédit comme les Beatles est de 67,3 % après soustraction de 100 %. Que cela,
D'après les paroles des paroles de A Hard Days Night,
Probabilité de prédire une chanson de Queen : 32,7%
Probabilité de prédire une chanson des Beatles : 67,3 %
Donc, je prédis que ce sera une chanson des Beatles avec une forte probabilité.
devient. Autrement dit, la valeur réelle (valeur réelle) et la valeur prédite (valeur prédite) correspondent.
Je vais regarder les rapports pour les deux autres chansons (Rapport 2, Rapport 3).
Rapport 2 "Bohemian Rhapsody" (Queen) : Prédire correctement
On peut prédire que la chanson représentative de Queen "Bohemian Rhapsody" sera une chanson de Queen avec une probabilité élevée de 88,9%.
Rapport 3 « Hey Jude » (Beatles) : prédire incorrectement « Queen »
La chanson représentative des Beatles "Hey Jude" devrait être reine avec une probabilité de 56,3%, donc la prédiction est fausse.
Certaines chansons sont prévisibles comme ça, et d'autres non. Lors de la création d'un modèle de prédiction, le taux d'erreur de classification, qui indique le rapport des différences entre les mesures réelles et les prédictions, est utilisé comme indicateur de la capacité prédictive, et plus cette valeur est petite, plus la capacité prédictive est élevée.
Comparaison de modèles
Dans la section précédente, nous avons modélisé en utilisant le binaire (1/0) comme matrice de mots du document, mais que se passe-t-il lorsque nous le comparons avec la modélisation utilisant les fréquences de mots de la même manière ?
Dans l'analyse de sélection de mots, le rapport suivant comparant la capacité de prédiction des modèles s'affiche sous la forme d'un rapport "Résumé" lorsque plusieurs modèles sont appliqués. Le modèle 1 est binaire et le modèle 2 est la fréquence des mots.
AICc utilisé comme indice de validation, RSquare généralisé (R-carré généralisé, plus la valeur est grande, mieux c'est), AUC (l'aire sous la surface courbe, plus la valeur est grande, mieux c'est), Misclassification Rate (le taux de mauvaise classification, le plus la valeur est petite, mieux c'est) En regardant , vous pouvez voir que les 2 valeurs du modèle 1 sont bonnes pour n'importe quel indice.
De ce résultat, on peut voir que le modèle avec l'occurrence du mot (=1)/aucune occurrence (=0) comme variable explicative a une capacité prédictive plus élevée que le modèle avec la fréquence du mot comme variable explicative . .
résumé
Nous résumons les résultats de "l'analyse du choix des mots" décrite jusqu'ici.
・Nous avons créé un modèle qui prédit si une chanson parle des Beatles ou de Queen en fonction des mots contenus dans les paroles de la chanson.
・Les deux méthodes suivantes ont été modélisées sous forme de matrices de mots de document utilisées comme variables explicatives, et les capacités prédictives des modèles ont été comparées.
Méthode A Indique si les paroles contiennent le mot correspondant : Binaire
Méthode BIndique combien de fois le mot correspondant apparaît dans les paroles : Fréquence
⇒ Nous avons constaté que la méthode A (binaire), qui ne tient pas compte des refrains, a une capacité prédictive élevée. Par conséquent, les résultats modélisés par la méthode A ont été utilisés ci-après.
・Quarante-neuf mots qui ont un impact important sur la prédiction ont été extraits. Sur la base du coefficient de régression estimé pour ces mots, la probabilité de prédiction de chaque chanson a été calculée, et la chanson prédite (valeur prédite) et la chanson réelle (valeur réelle) ont été calculées, et le taux de mauvaise classification était de 8,4 %. Compte tenu des valeurs R-carré et AUC, qui sont d'autres indicateurs de capacité prédictive, on pense qu'un bon modèle prédictif a été créé.
⇒ Avec seulement les informations des 49 mots sélectionnés, nous avons pu deviner de quelle chanson il s'agissait avec une précision de 91,6%.
Enfin, nous affichons les 49 mots sélectionnés (Terme) et le coefficient de régression (Coefficient) tracé avec le constructeur de graphes. Les mots en orange contribuent à la prédiction de Queen et les mots en bleu clair contribuent à la prédiction des Beatles.
Le mot avec la valeur positive la plus élevée, "coup", est le mot qui définit les paroles de Queen. En fait, parmi les chansons analysées, coup est utilisé dans diverses chansons de Queen, mais il n'est pas utilisé dans les chansons des Beatles, ce qui explique pourquoi le coefficient de ce mot est grand.
Nous espérons que cet article vous a inspiré à essayer d'utiliser l'analyse du choix des mots.
