Es ist eine Weile her, aber es ist das Ende der 3. Staffel. Teil 1 Lassen Sie uns die Emotionen der Texte von "The Beatles" analysieren Teil 2 Dann habe ich versucht, die Emotionen der Texte von „Queen“ zu analysieren. In Teil 3 dieses Mals werden wir eine Funktion namens Term Selection verwenden, um ein Modell zu erstellen, das anhand der Wörter, die in den Texten der beiden Bands enthalten sind, vorhersagt, welcher Song der Band stammt, und jede Band charakterisiert. .
Was ist Begriffsauswahl?
In JMP ermöglicht die Plattform „Text Explorer“ die Textanalyse, aber in JMP Pro können Sie „Begriffsauswahl“ als Option für diese Plattform auswählen.
Bei der "Wortauswahlanalyse" ist es möglich, wenn eine Antwortvariable (Y) vorhanden ist, die Beziehung zwischen dem durch Textanalyse extrahierten Wort und der Antwortvariablen zu modellieren. Welches Wort beschreibt die Antwortvariable? Sie können solche Dinge herausfinden.
In diesem Beispiel erstellen wir eine Datentabelle, die die Songtitel und Texte von „The Beatles“ und „Queen“ wie unten gezeigt kombiniert.
Zu diesem Zeitpunkt sind die Antwortvariable (Y) und die Prädiktorvariable (X) wie folgt.
Antwortvariable (Y): „Band“ (Variable, die unterscheidet, ob der Song Beatles oder Queen ist)
Prädiktive Variable (X): Wörter extrahiert aus „Lyrics“
Ob Refrain in Betracht gezogen werden sollte
Schauen wir uns die Prädiktorvariable (X) genauer an.
Beim Extrahieren eines Wortes aus dem Text Dokument - Begriffsmatrix (DTM) Sie können die Wörter in einem Matrixformat zusammenstellen.
Zum Beispiel Methode A. Der Text des Beatles-Songs „You Like Me Too Much“ in Zeile 166 des Songs enthält die Wörter „know“, „time“, „just“ (mindestens eins), also die Variable „know Binary“, „Time Binary ", "just Binary" haben einen Wert von "1" und enthalten keine Wörter wie "love", "oh", "yeah", also "love Binary", "oh Binary", "Yeah Binary" wird ein gegeben Wert "0".
Methode A. Binäre (1/0) Dokumentenwortmatrix
Das Extrahieren von Wörtern auf diese Weise erzeugt eine Matrix "Datenzeile x Anzahl von Wörtern" (in diesem Beispiel ist der Wert 1 oder 0), und der eigentliche Prädiktor ist die Gruppe von Wörtern in dieser Dokumentwortmatrix.
Das obige konstruierte eine Dokumentwortmatrix mit 1/0-Werten, aber die folgende Methode B. Es ist auch möglich, es nach "Häufigkeit" zu konfigurieren, z. B. wie oft ein bestimmtes Wort im Dokument vorkommt.
Methode B. Dokumentieren Sie die Wortmatrix der Häufigkeit des Auftretens von Wörtern
In früheren Artikeln habe ich erwähnt, dass Liedtexte in der Textanalyse stark vom Refrain (immer wieder dasselbe Wort verwenden) beeinflusst werden. Unter Berücksichtigung der Häufigkeit des Auftretens von Wörtern wie im obigen Verfahren B wird sie daher stark durch den Refrain beeinflußt.
Versuchen Sie daher bei der Modellierung entweder mit Methode A oder Methode B zu modellieren und vergleichen Sie, welches Modell besser ist.
Methode A. Binäre (1/0) Dokumentenwortmatrix ⇒ Nicht von Refrain betroffen
Methode B. Dokument Wortfolge der Wortvorkommenshäufigkeit ⇒ Beeinflusst durch Refrain
Bericht zur Analyse der Wortauswahl
Lassen Sie uns basierend auf den obigen Punkten eine „Wortauswahlanalyse“ verwenden. Wenn Sie die Option Begriffsauswahl auswählen, sehen Sie eine Konfigurationsskizze ähnlich der folgenden:
Details zu jeder Einstellung
"Antwortspalte auswählen" : Geben Sie die Antwortvariable (Y) an. In diesem Beispiel ist es „Band“ (Beatles / Queen).
"Zielniveau" : Gibt die Ereignisebene in der Antwortvariablen an. Geben Sie hier "Queen" an und betrachten Sie Queen als Standard. Da Y nur zwei Werte annimmt, Beatles und Queen, wenden wir ein logistisches Regressionsmodell an, wobei wir eine Binomialverteilung auf Y annehmen.
"Modelleinstellungen" : Gibt die Modellierungsmethode und die Validierungsmethode an. Standardmäßig ist Elastic Net als Schätzmethode und AICc als Verifizierungsmethode angegeben, daher wird in diesem Beispiel die Standardeinstellung verwendet.
"Begriffseinstellungen" : Gibt an, welche Methode für die im vorherigen Abschnitt gezeigte Dokumentwortmatrix verwendet werden soll. Der Standardwert ist Binär (1/0). Sie können auch die maximale Anzahl von Wörtern angeben, die in der Wortmatrix des Dokuments verwendet werden sollen, die standardmäßig 400 beträgt. Das heißt, nur die 400 am häufigsten extrahierten Wörter werden als Prädiktoren verwendet.
Klicken Sie oben rechts auf die Schaltfläche Ausführen, um einen Modellierungsbericht für die angegebenen Einstellungen anzuzeigen.
Wir werden die Ergebnisse in Bericht 1 unten sehen.
Bericht 1 "A Hard Days Night" (Beatles): Richtig vorhersehbar
Das Ergebnis der Variablenauswahl des logistischen Regressionsmodells mit Elastic Net wird angezeigt. In diesem Beispiel werden 49 der 400 Prädiktoren ausgewählt, um bei der Vorhersage zu helfen, und in der oberen rechten Ecke des Berichts wird der Koeffizient für die ausgewählte Variable (Term) angezeigt.
Wenn der Koeffizient positiv ist, wird ein oranger Balken angezeigt, wenn er negativ ist, wird ein blauer Balken angezeigt, aber da Queen hier als Event-Level angegeben ist, gilt: je größer der positive Wert, desto höher das Queen-Level Dies trägt stark zur Vorhersage des Beatles-Levels bei, und je größer der negative Wert ist, desto mehr trägt er zur Vorhersage des Beatles-Levels bei.
Unten links im Bericht sind die Texte von „A Hard Days Night“ (Beatles-Song) orange für die Wörter, die bei der Vorhersage von Beatles helfen, und blau für die Wörter, die bei der Vorhersage von Queen helfen. Sie können sehen, dass die Texte oft Wörter verwenden, die zu den Beatles beitragen, wie "nur", "geben" und "Tage". Selbst wenn Sie also nicht wissen, von welcher Band der Text stammt, können Sie vorhersagen, dass es sich um einen Beatles-Song handelt, da nur „Geben“, „Tage“ usw. verwendet werden.
Genauer gesagt werden aus diesem Text die Wahrscheinlichkeit, Queen vorherzusagen, und die Wahrscheinlichkeit, Beatles vorherzusagen, berechnet und beurteilt. Die Vorhersagewahrscheinlichkeit von Queen wird durch die folgende Formel unter Verwendung der Logist-Funktion (Logist (x) = 1 / (1 + Exp (x))) aus dem Regressionskoeffizienten der oben erhaltenen logistischen Regression berechnet.
Wenn ich den Modellierungsbericht erneut poste, zeigt die Spalte „Wahrscheinlichkeit der Königin“ unten die Wahrscheinlichkeit, dass ein Lied voraussichtlich Königin für jedes Lied sein wird, was 32,7 % für „A Hard Days Night“ beträgt.
Im Gegenteil, die Wahrscheinlichkeit, als Beatles vorhergesagt zu werden, beträgt 67,3 %, wenn man von 100 % abzieht. Als das,
Aus den Worten in den Texten von A Hard Days Night
Wahrscheinlichkeit Queen-Song vorherzusagen: 32,7%
Wahrscheinlichkeit Beatles-Song vorherzusagen: 67,3 %
Daher gehe ich davon aus, dass es sich mit hoher Wahrscheinlichkeit um einen Beatles-Song handelt.
Es wird sein. Mit anderen Worten, der tatsächliche Wert (gemessener Wert) und der vorhergesagte Wert (vorhergesagter Wert) stimmen überein.
Schauen wir uns die Berichte zu den anderen beiden Songs an (Bericht 2, Bericht 3).
Bericht 2 "Bohemian Rhapsody" (Queen): Richtig vorhersehbar
Queens repräsentativer Song „Bohemian Rhapsody“ kann mit einer hohen Wahrscheinlichkeit von 88,9 % als Queens Song vorhergesagt werden.
Bericht 3 „Hey Jude“ (Beatles): Sagt fälschlicherweise „Queen“ voraus
Der repräsentative Beatles-Song „Hey Jude“ wird mit einer Wahrscheinlichkeit von 56,3 % als Queen vorhergesagt, die Vorhersage ist also falsch.
Manche Songs sind so vorhersehbar, andere nicht. Beim Erstellen eines Vorhersagemodells wird die Fehlklassifikationsrate, die angibt, mit welcher Rate die tatsächliche Messung und die Vorhersage abweichen, als Index zur Angabe der Vorhersagefähigkeit verwendet, und je kleiner dieser Wert ist, desto höher ist die Vorhersagefähigkeit.
Modellvergleich
Im vorherigen Abschnitt haben wir mit binären Werten (1/0) als Dokumentwortmatrix modelliert, aber wie sieht es im Vergleich zum Fall der Modellierung mit Worthäufigkeit auf die gleiche Weise aus?
Bei der Wortauswahlanalyse wird als "Zusammenfassungs"-Bericht, wenn mehrere Modelle angepasst sind, ein Bericht, der die Vorhersagekraft der Modelle vergleicht, wie folgt angezeigt. Modell 1 ist für Binär und Modell 2 für Worthäufigkeit.
Als Verifizierungsindex verwendeter AICc, Generalized RSquare (generalisiertes R-Quadrat, größerer Wert ist besser), AUC (Fläche unter gekrümmter Oberfläche, größerer Wert ist besser), Fehlklassifikationsrate (Missdiskriminierungsrate, kleinerer Wert ist besser) Wenn Sie sich ansehen, Sie können sehen, dass die 2 Werte von Modell 1 für jeden Index gut sind.
Aus diesem Ergebnis ist ersichtlich, dass das Modell mit dem Vorkommen (= 1) / Nichtvorkommen (= 0) des Wortes als erklärende Variable eine höhere Vorhersagekraft hat als die Häufigkeit des Wortes als erklärende Variable. ..
Zusammenfassung
Ich fasse die bisher erläuterten Ergebnisse der „Wortwahlanalyse“ zusammen.
- Aus den Wörtern, die in den Liedtexten enthalten sind, haben wir ein Modell erstellt, das vorhersagt, ob es sich bei dem Lied um Beatles oder Queen handelt.
- Als Dokumentwortmatrix, die für erklärende Variablen verwendet wird, haben wir die folgenden zwei Arten von Methoden modelliert und die Vorhersagekraft der Modelle verglichen.
Methode A. Gibt an, ob das dem Liedtext entsprechende Wort enthalten ist oder nicht: Binärwert
Methode B.Zeigt an, wie oft das dem Liedtext entsprechende Wort vorkommt: Häufigkeit
⇒ Es wurde festgestellt, dass die Vorhersagefähigkeit von Methode A (binärer Wert) ohne Berücksichtigung des Refrains hoch ist. Daher werden danach die nach Methode A modellierten Ergebnisse verwendet.
・ Neunundvierzig Wörter, die die Vorhersage stark beeinflusst haben, wurden extrahiert. Wenn die vorhergesagte Wahrscheinlichkeit jedes Lieds basierend auf dem für diese Wörter geschätzten Regressionskoeffizienten erhalten wurde und das vorhergesagte Lied (vorhergesagter Wert) und das tatsächliche Lied (tatsächlicher Messwert) erhalten wurden, betrug die Fehldiskriminierungsrate 8,4 %. Unter Berücksichtigung sowohl der R-Quadrat- als auch der AUC-Werte, die Indikatoren für andere Vorhersagefähigkeiten sind, wird davon ausgegangen, dass ein gutes Vorhersagemodell erstellt werden könnte.
⇒ Nur mit den Informationen der ausgewählten 49 Wörter war es möglich, mit 91,6%iger Genauigkeit zu erraten, um welches Lied es sich handelte.
Schließlich ist hier ein Diagramm der 49 ausgewählten Wörter (Begriffe) und ihrer Regressionskoeffizienten (Koeffizient), die in Graph Builder gezeichnet wurden. Orange ist das Wort, das zur Vorhersage von Queen beiträgt, und Hellblau ist das Wort, das zur Vorhersage von Beatles beiträgt.
"Blow", das den höchsten positiven Wert hat, ist das Wort, das die Texte von Queen charakterisiert. Tatsächlich wird unter den analysierten Liedern Blow in verschiedenen Queen-Songs verwendet, aber da es in Beatles-Songs nicht verwendet wird, wird erklärt, dass der Koeffizient dieses Wortes groß ist. Sie können es anhängen.
Ich hoffe, dieser Artikel gibt Ihnen die Möglichkeit, die "Wortauswahlanalyse" zu verwenden.
