Es ist schon eine Weile her, aber dies ist der letzte der dreiteiligen Serie. Teil 1 Nun zur emotionalen Analyse der Texte von „The Beatles“, Teil 2 Also versuchte ich es mit einer Stimmungsanalyse der Texte von „Queen“. In Teil 3 dieses Mals verwenden wir eine Funktion namens Term Selection, um ein Modell zu erstellen, das anhand der Wörter, die in den Texten der beiden Bands enthalten sind, vorhersagt, welcher Song der Band stammt, und jede Band charakterisieren.
Was ist Begriffsauswahl?
In JMP ist die Textanalyse über die Plattform „Text Explorer“ verfügbar, aber in JMP Pro können Sie „Begriffsauswahl“ als Option für diese Plattform auswählen.
In der „Wortauswahlanalyse“ ist es möglich, wenn eine Antwortvariable (Y) vorhanden ist, die Beziehung zwischen dem durch Textanalyse extrahierten Wort und der Antwortvariablen zu modellieren, Welche Wörter beschreiben die Antwortvariable Sie können Dinge wie überprüfen
In diesem Beispiel erstellen wir eine Datentabelle, die die Songtitel und Texte von „The Beatles“ und „Queen“ wie unten gezeigt zusammenfasst.
Zu diesem Zeitpunkt sind die Antwortvariable (Y) und die Prädiktorvariable (X) wie folgt.
Antwortvariable (Y): „Band“ (eine Variable, die unterscheidet, ob der Song Beatles oder Queen ist)
Prädiktorvariable (X): Wörter aus „Text“ extrahiert
Sollte Verzicht in Erwägung gezogen werden?
Lassen Sie uns die Prädiktorvariable (X) etwas detaillierter besprechen.
Beim Extrahieren von Wörtern aus Text Dokument - Begriffsmatrix (DTM) Wörter können in Matrixform zusammengesetzt werden.
Zum Beispiel Methode A. Der Text des Beatles-Songs „You Like Me Too Much“ in Zeile 166 von enthält (mindestens eines der) Wörter „know“, „time“, „just“, also die Variable „know Binary“, „time Binary“. , und „just Binary“ enthalten nicht den Wert „1“ und die Wörter „love“, „oh“, „yeah“, also „love Binary“, „oh Binary“, „yeah Binary“ wird als „0“ angegeben ein Wert.
Methode A. binäre (1/0) Dokumentenwortmatrix
Das Extrahieren der Wörter auf diese Weise ergibt eine Matrix "Datenzeilen mal Anzahl der Wörter" (mit Werten von 1 oder 0 in diesem Beispiel), und die tatsächlichen Prädiktoren sind die Wörter in dieser Dokumentwortmatrix.
Das obige konstruierte die Dokumentwortmatrix mit Werten von 1/0, aber die folgende Methode B. Denkbar ist auch eine Konfiguration mit „Häufigkeit“, also wie oft ein bestimmtes Wort im Dokument vorkommt.
Methode B. Dokumentieren Sie die Wortmatrix der Worthäufigkeit
In früheren Artikeln habe ich erwähnt, dass Liedtexte in der Textanalyse stark von Refrains (immer wieder dieselben Wörter verwenden) beeinflusst werden. Wenn wir also die Worthäufigkeit wie in Methode B oben betrachten, wird sie stark vom Refrain beeinflusst.
Versuchen Sie daher bei der Modellierung sowohl mit Methode A als auch mit Methode B zu modellieren und vergleichen Sie, welches Modell besser ist.
Methode A. Binäre (1/0) Dokumentenwortmatrix ⇒ unbeeinflusst von Refrain
Methode B. Dokumentwortmatrix der Worthäufigkeit ⇒ Beeinflusst durch Refrain
Bericht zur Wortwahlanalyse
Lassen Sie uns basierend auf den obigen Punkten die „Wortwahlanalyse“ verwenden. Wenn Sie die Option Begriffsauswahl auswählen, sehen Sie eine Konfigurationsskizze ähnlich der folgenden.
Details zu jeder Einstellung
"Antwortspalte auswählen" : Geben Sie die Antwortvariable (Y) an. In diesem Beispiel ist es „Band“ (Beatles/Queen).
"Zielniveau" : Gibt die Ereignisebene in der Antwortvariablen an. Hier geben wir "Queen" an und betrachten die Queen als Standard. Da Y nur zwei Werte annimmt, Beatles und Queen, passen wir ein logistisches Regressionsmodell unter der Annahme einer Binomialverteilung für Y an.
"Modelleinstellungen" : Gibt die Modellierungsmethode und die Validierungsmethode an. Standardmäßig ist die Schätzmethode Elastic Net und die Validierungsmethode AICc, daher verwenden wir in diesem Beispiel die Standardeinstellungen.
"Begriffseinstellungen" : Gibt an, welche Methode für die im vorherigen Abschnitt gezeigte Dokumentwortmatrix verwendet werden soll. Standardmäßig ist es Binär (1/0). Sie können auch die maximale Anzahl von Wörtern angeben, die in der Wortmatrix des Dokuments verwendet werden sollen, die standardmäßig 400 beträgt. Mit anderen Worten, nur die 400 häufigsten Wörter unter den extrahierten Wörtern werden als Prädiktoren verwendet.
Klicken Sie oben rechts auf die Schaltfläche Ausführen, um einen Modellierungsbericht für die angegebenen Einstellungen anzuzeigen.
Sie können die Ergebnisse in Bericht 1 unten sehen.
Bericht 1 "A Hard Days Night" (Beatles): Richtig vorhergesagt
Zeigt die Ergebnisse der Variablenauswahl für ein logistisches Regressionsmodell mit Elastic Net. In diesem Beispiel wurden aus 400 Prädiktorvariablen 49 für die Vorhersage nützliche Variablen ausgewählt, und der Regressionskoeffizient (Koeffizient) für die ausgewählten Variablen (Term) wird oben rechts im Bericht angezeigt.
Positive Koeffizienten werden durch orangefarbene Balken und negative Koeffizienten durch blaue Balken angezeigt. ist ein Wort, das stark zur Vorhersage von beiträgt, und je größer der negative Wert, desto größer das Wort, das zur Vorhersage des Beatles-Levels beiträgt.
Unten links im Bericht sind die Texte von „A Hard Days Night“ (Beatles-Song) orange gefärbt für Wörter, die zur Vorhersage von Beatles beitragen, und blau für Wörter, die zur Vorhersage von Queen beitragen. In den Texten sieht man, dass viele Worte verwendet werden, die zu den Beatles beitragen, wie „nur“, „geben“, „Tage“. Selbst wenn Sie nicht wissen, von welcher Band dieser Text stammt, können Sie aufgrund der Verwendung von „nur“, „geben“ und „Tage“ vermuten, dass es sich um einen Beatles-Song handelt.
Genauer gesagt werden aus diesen Texten die Wahrscheinlichkeit, sie als Queen vorherzusagen, und die Wahrscheinlichkeit, sie als Beatles vorherzusagen, bestimmt. Die vorhergesagte Wahrscheinlichkeit von Queen wird aus dem oben erhaltenen logistischen Regressionskoeffizienten unter Verwendung der Logist-Funktion ( Logist(x) = 1/(1 + Exp(x)) ) wie folgt erhalten.
Beim erneuten Posten des Modellierungsberichts zeigt die Spalte „Probability of Queen“ unten für jeden Song die Wahrscheinlichkeit, dass der Song als Queen vorhergesagt wird, was für „A Hard Days Night“ 32,7 % beträgt.
Die Wahrscheinlichkeit, als Beatles vorhergesagt zu werden, beträgt also 67,3 % nach Abzug von 100 %. Als das,
Aus den Worten in den Texten von A Hard Days Night,
Wahrscheinlichkeit, einen Song von Queen vorherzusagen: 32,7 %
Wahrscheinlichkeit, einen Beatles-Song vorherzusagen: 67,3 %
Also sage ich voraus, dass es mit hoher Wahrscheinlichkeit ein Beatles-Song sein wird.
wird. Das heißt, der tatsächliche Wert (tatsächlicher Wert) und der vorhergesagte Wert (vorhergesagter Wert) stimmen überein.
Ich werde mir die Berichte für die anderen beiden Songs ansehen (Bericht 2, Bericht 3).
Bericht 2 "Bohemian Rhapsody" (Queen): Richtig vorhersagen
Queens repräsentativer Song „Bohemian Rhapsody“ kann mit einer hohen Wahrscheinlichkeit von 88,9 % als Queen-Song vorhergesagt werden.
Bericht 3 „Hey Jude“ (Beatles): Falsche Vorhersage von „Queen“
Der repräsentative Beatles-Song „Hey Jude“ wird mit einer Wahrscheinlichkeit von 56,3 % als Queen vorhergesagt, die Vorhersage ist also falsch.
Manche Songs sind so vorhersehbar, andere nicht. Bei der Erstellung eines Vorhersagemodells wird die Fehlklassifikationsrate, die das Verhältnis der Unterschiede zwischen tatsächlichen Messungen und Vorhersagen angibt, als Indikator für die Vorhersagefähigkeit verwendet, und je kleiner dieser Wert ist, desto höher ist die Vorhersagefähigkeit.
Modellvergleich
Im vorherigen Abschnitt haben wir mit binär (1/0) als Dokumentwortmatrix modelliert, aber was passiert, wenn wir es mit der Modellierung vergleichen, die Worthäufigkeiten auf die gleiche Weise verwendet?
Bei der Wortauswahlanalyse wird der folgende Bericht, der die Vorhersagefähigkeit der Modelle vergleicht, als "Zusammenfassungs"-Bericht angezeigt, wenn mehrere Modelle angewendet werden. Modell 1 ist binär und Modell 2 ist Wortfrequenz.
Als Validierungsindex verwendeter AICc, Generalized RSquare (generalized R-square, je größer der Wert, desto besser), AUC (die Fläche unter der gekrümmten Oberfläche, je größer der Wert, desto besser), Fehlklassifikationsrate (die Fehlklassifikationsrate, die kleiner der Wert, desto besser) Betrachtet man , sieht man, dass die 2 Werte von Modell 1 für jeden Index gut sind.
Aus diesem Ergebnis ist ersichtlich, dass das Modell mit dem Vorkommen des Wortes (=1)/kein Vorkommen (=0) als erklärende Variable eine höhere Vorhersagefähigkeit hat als das Modell mit der Häufigkeit des Wortes als erklärende Variable . .
Zusammenfassung
Wir fassen die bisher beschriebenen Ergebnisse der „Wortwahlanalyse“ zusammen.
・Wir haben ein Modell erstellt, das basierend auf den im Songtext enthaltenen Wörtern vorhersagt, ob ein Song von den Beatles oder Queen handelt.
・Die folgenden zwei Methoden wurden als Dokumentwortmatrizen modelliert, die als erklärende Variablen verwendet wurden, und die Vorhersagefähigkeiten der Modelle wurden verglichen.
Methode A. Zeigt an, ob der Liedtext das entsprechende Wort enthält: Binär
Methode B.Zeigt an, wie oft das entsprechende Wort im Liedtext vorkommt: Häufigkeit
⇒ Wir haben festgestellt, dass Methode A (binär), die Refrains nicht berücksichtigt, eine hohe Vorhersagefähigkeit hat. Daher wurden im Folgenden die nach Methode A modellierten Ergebnisse verwendet.
・Neunundvierzig Wörter, die einen großen Einfluss auf die Vorhersage haben, wurden extrahiert. Basierend auf dem für diese Wörter geschätzten Regressionskoeffizienten wurde die Vorhersagewahrscheinlichkeit jedes Lieds berechnet, und das vorhergesagte Lied (vorhergesagter Wert) und das tatsächliche Lied (tatsächlicher Wert) wurden berechnet, und die Fehlklassifizierungsrate betrug 8,4 %. Unter Berücksichtigung der R-Quadrat- und AUC-Werte, die weitere Indikatoren für die Vorhersagefähigkeit sind, wird angenommen, dass ein gutes Vorhersagemodell erstellt wurde.
⇒ Nur mit den Informationen der 49 ausgewählten Wörter konnten wir mit einer Genauigkeit von 91,6 % erraten, um welches Lied es sich handelt.
Schließlich zeigen wir die 49 ausgewählten Wörter (Term) und den Regressionskoeffizienten (Coefficient), der mit dem Graph Builder gezeichnet wurde. Wörter in Orange tragen zur Vorhersage von Queen bei, und Wörter in Hellblau tragen zur Vorhersage von Beatles bei.
Das Wort mit dem höchsten positiven Wert, „Blow“, ist das bestimmende Wort in Queens Texten. Tatsächlich wird unter den analysierten Liedern Schlag in verschiedenen Queen-Songs verwendet, aber nicht in Beatles-Songs, was erklärt, warum der Koeffizient dieses Wortes groß ist.
Wir hoffen, dass dieser Artikel Ihnen die Möglichkeit gibt, die Wortwahlanalyse auszuprobieren.
