Ça faisait longtemps, mais c'est la fin de la 3e série. Partie 1 Analysons les émotions des paroles de "The Beatles" Partie 2 Ensuite, j'ai essayé d'analyser les émotions des paroles de "Queen". Dans la partie 3 de cette période, nous utiliserons une fonction appelée Term Selection pour créer un modèle qui prédit quelle chanson du groupe est à partir des mots contenus dans les paroles des deux groupes, et caractérise chaque groupe. .
Qu'est-ce que la sélection de termes ?
Dans JMP, la plate-forme "Text Explorer" permet l'analyse de texte, mais dans JMP Pro, vous pouvez sélectionner "Term Selection" comme option pour cette plate-forme.
En "analyse de sélection de mots", lorsqu'il y a une variable de réponse (Y), il est possible de modéliser la relation entre le mot extrait par l'analyse de texte et la variable de réponse. Quel est le mot qui décrit la variable de réponse Vous pouvez découvrir de telles choses.
Dans cet exemple, nous allons créer une table de données qui combine les titres des chansons et les paroles de "The Beatles" et "Queen", comme indiqué ci-dessous.
À ce stade, la variable de réponse (Y) et la variable prédictive (X) sont les suivantes.
Variable de réponse (Y) : "Band" (variable qui distingue si la chanson est Beatles ou Queen)
Variable prédictive (X) : Mots extraits de "Paroles"
Faut-il envisager de s'abstenir
Examinons de plus près la variable prédictive (X).
Lors de l'extraction d'un mot du texte Document --Matrice de termes (DTM) Vous pouvez mettre les mots ensemble dans un format matriciel.
Par exemple, la méthode A. Les paroles de la chanson des Beatles "You Like Me Too Much" à la ligne 166 de la chanson contiennent les mots "know", "time", "just" (au moins un), donc la variable "know Binary", "Time Binary ", "Just Binary" ont une valeur de "1" et ne contiennent pas de mots tels que "love", "oh", "yeah", donc "love Binary", "oh Binary", "Yeah Binary" reçoit un valeur de "0".
Méthode A Matrice de mots de document binaire (1/0)
L'extraction de mots de cette manière crée une matrice "ligne de données x nombre de mots" (dans cet exemple, la valeur est 1 ou 0), et le prédicteur réel est le groupe de mots dans cette matrice de mots de document.
Ce qui précède a construit une matrice de mots de document avec des valeurs 1/0, mais la méthode suivante B. Il est également possible de le configurer par "fréquence" comme le nombre de fois qu'un mot spécifique apparaît dans le document.
Méthode B Documentez la matrice de mots de la fréquence d'apparition des mots
Dans des articles précédents, j'ai mentionné que les paroles sont fortement influencées par le refrain (utiliser le même mot encore et encore) dans l'analyse de texte. Par conséquent, compte tenu de la fréquence d'occurrence des mots comme dans la méthode B ci-dessus, elle est fortement affectée par le refrain.
Par conséquent, lors de la modélisation, essayez de modéliser avec la méthode A ou la méthode B et comparez quel modèle est le meilleur.
Méthode A Matrice de mots de document binaire (1/0) ⇒ Non affecté par le refrain
Méthode B Documenter la séquence de mots de la fréquence d'apparition des mots ⇒ Affecté par le refrain
Rapport d'analyse de sélection de mots
Sur la base des points ci-dessus, utilisons "l'analyse de sélection de mots". Si vous sélectionnez l'option Sélection de termes, vous verrez un schéma de configuration semblable à celui-ci :
Détails de chaque paramètre
"Choisir la colonne de réponse" : Spécifiez la variable de réponse (Y). Dans cet exemple, il s'agit de "Band" (Beatles / Queen).
"Niveau visé" : spécifie le niveau d'événement dans la variable de réponse. Ici, spécifiez "Queen" et considérez Queen comme standard. Étant donné que Y ne prend que deux valeurs, Beatles et Queen, nous appliquons un modèle de régression logistique en supposant une distribution binomiale à Y.
"Paramètres du modèle" : spécifie la méthode de modélisation et la méthode de validation. Par défaut, Elastic Net est spécifié comme méthode d'estimation et AICc est spécifié comme méthode de vérification. Le paramètre par défaut est donc utilisé dans cet exemple.
"Paramètres du terme" : spécifie la méthode à utiliser pour la matrice de mots du document présentée dans la section précédente. La valeur par défaut est Binaire (1/0). Vous pouvez également spécifier le nombre maximal de mots à utiliser dans la matrice de mots du document, qui est par défaut de 400. Autrement dit, seuls les 400 premiers mots les plus fréquemment extraits sont utilisés comme prédicteurs.
Cliquez sur le bouton Exécuter en haut à droite pour afficher un rapport de modélisation pour les paramètres spécifiés.
Nous verrons les résultats dans le rapport 1 ci-dessous.
Reportage 1 « A Hard Days Night » (Beatles) : Correctement prévisible
Le résultat de la sélection de variables du modèle de régression logistique à l'aide d'Elastic Net est présenté. Dans cet exemple, 49 des 400 prédicteurs sont sélectionnés pour aider à prédire, et le coin supérieur droit du rapport affiche le coefficient de la variable sélectionnée (terme).
Si le coefficient est positif, une barre orange s'affiche, s'il est négatif, une barre bleue s'affiche, mais puisque Queen est spécifié comme niveau d'événement ici, plus la valeur positive est grande, plus le niveau Queen est élevé. qui contribue grandement à prédire le niveau des Beatles, et plus la valeur négative est grande, plus elle contribue à prédire le niveau des Beatles.
En bas à gauche du rapport, les paroles de "A Hard Days Night" (chanson des Beatles) sont peintes en orange pour les mots qui aident à prédire les Beatles et en bleu pour les mots qui aident à prédire Queen. Vous pouvez voir que les paroles utilisent souvent des mots qui contribuent aux Beatles, tels que "juste", "donner" et "jours". Par conséquent, même si vous ne savez pas de quelle chanson sont les paroles, vous pouvez prédire qu'il s'agit d'une chanson des Beatles car seuls "," donner "," jours ", etc. sont utilisés.
Plus précisément, à partir de ces paroles, la probabilité de prédire Queen et la probabilité de prédire les Beatles sont calculées et jugées. La probabilité de prédiction de Queen est calculée par la formule suivante en utilisant la fonction Logist (Logist (x) = 1 / (1 + Exp (x))) à partir du coefficient de régression de la régression logistique obtenue ci-dessus.
Lorsque je republie le rapport de modélisation, la colonne "Probabilité de reine" ci-dessous indique la probabilité qu'une chanson soit prédite comme reine pour chaque chanson, soit 32,7 % pour "A Hard Days Night".
Ainsi, au contraire, la probabilité d'être prédit comme Beatles est de 67,3% en soustrayant de 100%. Que cela,
D'après les paroles des paroles de A Hard Days Night
Probabilité de prédire Queen song : 32,7 %
Probabilité de prédire la chanson des Beatles : 67,3 %
Par conséquent, je prédis que c'est une chanson des Beatles avec une forte probabilité.
Ce sera. En d'autres termes, la valeur réelle (valeur mesurée) et la valeur prédite (valeur prédite) correspondent.
Jetons un coup d'œil aux rapports sur les deux autres chansons (Rapport 2, Rapport 3).
Rapport 2 "Bohemian Rhapsody" (Queen) : Correctement prévisible
On peut prédire que la chanson représentative de Queen "Bohemian Rhapsody" sera la chanson de Queen avec une probabilité élevée de 88,9%.
Report 3 "Hey Jude" (Beatles) : prédit à tort "Queen"
La chanson représentative des Beatles "Hey Jude" devrait être reine avec une probabilité de 56,3%, donc la prédiction est fausse.
Certaines chansons sont prévisibles comme ça, tandis que d'autres ne le sont pas. Lors de la création d'un modèle prédictif, le taux d'erreur de classification, qui indique le taux auquel la mesure réelle et la prédiction diffèrent, est utilisé comme indice pour indiquer la capacité prédictive, et plus cette valeur est petite, plus la capacité prédictive est élevée.
Comparaison de modèles
Dans la section précédente, nous avons modélisé en utilisant des valeurs binaires (1/0) comme matrice de mots du document, mais comment cela se compare-t-il au cas de la modélisation utilisant la fréquence des mots de la même manière ?
Dans l'analyse de sélection de mots, en tant que rapport "Résumé", lorsque plusieurs modèles sont ajustés, un rapport comparant la puissance prédictive des modèles s'affiche comme suit. Le modèle 1 est pour le binaire et le modèle 2 est pour la fréquence des mots.
AICc utilisé comme indice de vérification, RSquare généralisé (R-carré généralisé, une valeur plus grande est meilleure), AUC (aire sous la surface courbe, une valeur plus grande est meilleure), Taux de mauvaise classification (taux de mauvaise discrimination, une valeur plus petite est meilleure) Si vous regardez, vous pouvez voir que les 2 valeurs du modèle 1 sont bonnes pour n'importe quel indice.
De ce résultat, on peut voir que le modèle avec l'occurrence (= 1) / la non-apparition (= 0) du mot comme variable explicative a un pouvoir prédictif supérieur à la fréquence du mot comme variable explicative. ..
sommaire
Je résumerai les résultats de "l'analyse de sélection de mots" expliqués jusqu'ici.
-A partir des mots contenus dans les paroles de la chanson, nous avons créé un modèle qui prédit si la chanson est Beatles ou Queen.
-En tant que matrice de mots de document utilisée pour les variables explicatives, nous avons modélisé les deux types de méthodes suivants et comparé le pouvoir prédictif des modèles.
Méthode A Indique si le mot correspondant aux paroles est inclus ou non : Valeur binaire
Méthode BIndique combien de fois le mot correspondant aux paroles apparaît : Fréquence
⇒ Il a été constaté que la capacité de prédiction de la méthode A (valeur binaire) sans tenir compte du refrain est élevée. Par conséquent, après cela, le résultat de la modélisation par la méthode A a été utilisé.
・ Quarante-neuf mots qui ont grandement influencé la prédiction ont été extraits. Lorsque la probabilité prédite de chaque chanson a été obtenue sur la base du coefficient de régression estimé pour ces mots, et que la chanson prédite (valeur prédite) et la chanson réelle (valeur de mesure réelle) ont été obtenues, le taux d'erreur de discrimination était de 8,4 %. Compte tenu à la fois des valeurs R au carré et AUC, qui sont des indicateurs d'autres capacités prédictives, on considère qu'un bon modèle de prédiction pourrait être créé.
⇒ Avec seulement les informations des 49 mots sélectionnés, il a été possible de deviner de quelle chanson il s'agissait avec une précision de 91,6 %.
Enfin, voici un schéma des 49 mots sélectionnés (Terms) et leurs coefficients de régression (Coefficient) dessinés dans Graph Builder. Orange est le mot qui contribue à la prédiction de Queen, et bleu clair est le mot qui contribue à la prédiction des Beatles.
"Blow", qui a la valeur positive la plus élevée, est le mot qui caractérise les paroles de Queen. En fait, parmi les chansons analysées, coup est utilisé dans diverses chansons de Queen, mais comme il n'est pas utilisé dans les chansons des Beatles, il est expliqué que le coefficient de ce mot est grand.
J'espère que cet article vous donnera l'occasion d'utiliser "l'analyse de sélection de mots".
