È passato un po' di tempo, ma questa è l'ultima delle tre parti della serie. Parte 1 Passiamo ora all'analisi emotiva dei testi di "The Beatles", Parte 2 Quindi, ho provato l'analisi del sentimento dei testi di "Queen". Nella Parte 3 di questo periodo, usiamo una funzione chiamata Term Selection per creare un modello che preveda quale canzone della band è dalle parole contenute nei testi delle due band, e caratterizza ogni band. Cerca parole (parole chiave).
Che cos'è la selezione dei termini?
In JMP, l'analisi del testo è disponibile tramite la piattaforma "Text Explorer", ma in JMP Pro è possibile selezionare "Selezione termine" come opzione per questa piattaforma.
In "analisi della selezione delle parole", quando è presente una variabile di risposta (Y), è possibile modellare la relazione tra la parola estratta dall'analisi del testo e la variabile di risposta, Quali parole descrivono la variabile di risposta Puoi controllare cose come
In questo esempio, creeremo una tabella di dati che riassume i titoli delle canzoni e le parole di "The Beatles" e "Queen" come mostrato di seguito.
In questo momento, la variabile di risposta (Y) e la variabile predittore (X) sono le seguenti.
Variabile di risposta (Y): "Band" (una variabile che distingue se la canzone è Beatles o Queen)
Variabile predittore (X): parole estratte da "Testi"
Dovrebbe essere considerato il ritornello?
Discutiamo la variabile predittore (X) in modo un po' più dettagliato.
Quando si estraggono parole dal testo, Documento - Matrice dei termini (DTM) Le parole possono essere assemblate in forma di matrice.
Ad esempio, il metodo A. Il testo della canzone dei Beatles "You Like Me Too Much" alla riga 166 di , contiene (almeno una delle) parole "know", "time", "just", quindi la variabile "know Binary, "time Binary" e "just Binary" non contengono il valore "1" e le parole "love", "oh", "yeah", quindi a "love Binary", "oh Binary", "yeah Binary" viene assegnato "0" come un valore.
Metodo A. matrice di parole documento binario (1/0).
L'estrazione delle parole in questo modo produce una matrice "righe di dati per numero di parole" (con valori di 1 o 0 in questo esempio) e i predittori effettivi sono le parole in questa matrice di parole del documento.
Quanto sopra ha costruito la matrice di parole del documento con valori di 1/0, ma il seguente Metodo B. È anche possibile configurare la "frequenza" di quante volte una determinata parola appare nel documento, come .
Metodo B. Matrice delle parole del documento della frequenza delle parole
In articoli precedenti, ho accennato al fatto che i testi sono fortemente influenzati dai ritornelli (utilizzando le stesse parole più e più volte) nell'analisi del testo. Pertanto, se consideriamo la frequenza delle parole come nel metodo B sopra, sarà fortemente influenzata dal ritornello.
Pertanto, durante la modellazione, prova a modellare sia con il metodo A che con il metodo B e confronta quale modello è migliore.
Metodo A. Binario (1/0) matrice parola documento ⇒ non influenzato dal ritornello
Metodo B. Matrice delle parole del documento della frequenza delle parole ⇒ Interessato dal ritornello
Rapporto di analisi della scelta delle parole
Sulla base dei punti precedenti, usiamo "l'analisi della scelta delle parole". Quando si seleziona l'opzione Selezione termine, verrà visualizzato uno schema di configurazione simile al seguente.
Dettagli di ogni impostazione
"Scegli colonna di risposta" : specificare la variabile di risposta (Y). In questo esempio è "Band" (Beatles/Queen).
“Livello obiettivo” : Specifica il livello di evento nella variabile di risposta. Qui specifichiamo "Queen" e consideriamo la Queen come lo standard. Poiché Y accetta solo due valori, Beatles e Queen, adattiamo un modello di regressione logistica assumendo una distribuzione binomiale per Y.
"Impostazioni modello" : specifica il metodo di modellazione e il metodo di convalida. Per impostazione predefinita, il metodo di stima è Elastic Net e il metodo di convalida è AICc, pertanto in questo esempio utilizzeremo le impostazioni predefinite.
"Impostazioni termini" : specifica quale metodo utilizzare per la matrice di parole del documento mostrata nella sezione precedente. Per impostazione predefinita è binario (1/0). È inoltre possibile specificare il numero massimo di parole da utilizzare nella matrice di parole del documento, che per impostazione predefinita è 400. In altre parole, solo le prime 400 parole più frequenti tra le parole estratte vengono utilizzate come predittori.
Fare clic sul pulsante Esegui in alto a destra per visualizzare un rapporto di modellazione per le impostazioni specificate.
Puoi vedere i risultati nel Rapporto 1 qui sotto.
Report 1 "A Hard Days Night" (Beatles): previsto correttamente
Mostra i risultati della selezione delle variabili per un modello di regressione logistica utilizzando Elastic Net. In questo esempio, su 400 variabili predittive, sono state selezionate 49 variabili utili per la previsione e il coefficiente di regressione (Coefficient) per le variabili selezionate (Term) è mostrato in alto a destra del report.
I coefficienti positivi sono indicati dalle barre arancioni e i coefficienti negativi dalle barre blu. è una parola che contribuisce notevolmente a prevedere , e maggiore è il valore negativo, maggiore è la parola che contribuisce a prevedere il livello dei Beatles.
Nella parte inferiore sinistra del rapporto, il testo di "A Hard Days Night" (canzone dei Beatles) è colorato in arancione per le parole che contribuiscono a predire i Beatles e in blu per le parole che contribuiscono a predire i Queen. Nei testi, puoi vedere che vengono usate molte parole che contribuiscono ai Beatles come "just", "give", "days". Quindi, anche se non sai da quale band proviene questo testo, puoi indovinare che è una canzone dei Beatles a causa dell'uso di just", "give" e "days".
Più precisamente, da questi testi, si determina la probabilità di prevederlo come Queen e la probabilità di prevederlo come Beatles. La probabilità prevista di Queen è ottenuta dal coefficiente di regressione logistica ottenuto sopra utilizzando la funzione Logist ( Logist(x) = 1/(1 + Exp(x)) ) come segue.
Ripubblicando il rapporto di modellazione, la colonna "Probabilità dei Queen" in basso mostra, per ogni canzone, la probabilità di prevedere la canzone come Queen, che per "A Hard Days Night" è del 32,7%.
Quindi, la probabilità di essere predetto come i Beatles è del 67,3% dopo aver sottratto dal 100%. Di questo,
Dalle parole nel testo di A Hard Days Night,
Probabilità di prevedere una canzone dei Queen: 32,7%
Probabilità di prevedere una canzone dei Beatles: 67,3%
Quindi, prevedo che sarà una canzone dei Beatles con un'alta probabilità.
diventa. Cioè, il valore effettivo (valore effettivo) e il valore previsto (valore previsto) corrispondono.
Esaminerò i rapporti per le altre due canzoni (Rapporto 2, Rapporto 3).
Rapporto 2 "Bohemian Rhapsody" (Queen): prevedere correttamente
Si può prevedere che la canzone rappresentativa dei Queen "Bohemian Rhapsody" sia una canzone dei Queen con un'alta probabilità dell'88,9%.
Rapporto 3 "Hey Jude" (Beatles): previsione errata di "Queen"
Si prevede che la canzone rappresentativa dei Beatles "Hey Jude" sarà Queen con una probabilità del 56,3%, quindi la previsione è sbagliata.
Alcune canzoni sono prevedibili come questa, altre no. Quando si crea un modello di previsione, il tasso di errata classificazione, che indica il rapporto tra le differenze tra le misurazioni effettive e le previsioni, viene utilizzato come indicatore dell'abilità predittiva e più piccolo è questo valore, maggiore è l'abilità predittiva.
Confronto tra modelli
Nella sezione precedente, abbiamo modellato usando binario (1/0) come matrice di parole del documento, ma cosa succede quando lo confrontiamo con la modellazione usando le frequenze delle parole nello stesso modo?
Nell'analisi della selezione delle parole, il seguente report che confronta la capacità di previsione dei modelli viene visualizzato come report "Riepilogo" quando vengono applicati più modelli. Il modello 1 è binario e il modello 2 è la frequenza delle parole.
AICc utilizzato come indice di convalida, Generalized RSquare (R-quadrato generalizzato, maggiore è il valore, migliore è), AUC (l'area sotto la superficie curva, maggiore è il valore, migliore è), Misclassification Rate (il tasso di errata classificazione, il più piccolo è il valore, meglio è) Guardando , puoi vedere che i 2 valori del Modello 1 vanno bene per qualsiasi indice.
Da questo risultato si può vedere che il modello con l'occorrenza della parola (=1)/nessuna occorrenza (=0) come variabile esplicativa ha una maggiore capacità predittiva rispetto al modello con la frequenza della parola come variabile esplicativa . .
riepilogo
Riassumiamo i risultati della "analisi della scelta delle parole" fin qui descritta.
・Abbiamo creato un modello che prevede se una canzone parla dei Beatles o dei Queen in base alle parole contenute nel testo della canzone.
・I due metodi seguenti sono stati modellati come matrici di parole del documento utilizzate come variabili esplicative e sono state confrontate le capacità predittive dei modelli.
Metodo A. Indica se il testo contiene la parola corrispondente : Binario
Metodo B.Indica quante volte compare la parola corrispondente nel testo: Frequenza
⇒ Abbiamo riscontrato che il metodo A (binario), che non considera i ritornelli, ha un'elevata capacità predittiva. Pertanto, i risultati modellati con il metodo A sono stati utilizzati qui di seguito.
・Sono state estratte quarantanove parole che hanno un grande impatto sulla previsione. Sulla base del coefficiente di regressione stimato per queste parole, è stata calcolata la probabilità di predizione di ciascuna canzone e sono state calcolate la canzone prevista (valore previsto) e la canzone effettiva (valore effettivo) e il tasso di classificazione errata è stato dell'8,4%. Considerando i valori di R-quadrato e AUC, che sono altri indicatori di capacità predittiva, si ritiene che sia stato creato un buon modello predittivo.
⇒ Con solo le informazioni delle 49 parole selezionate, siamo stati in grado di indovinare quale canzone fosse con una precisione del 91,6%.
Infine, mostriamo le 49 parole selezionate (Term) e il coefficiente di regressione (Coefficient) disegnato con il costruttore di grafici. Le parole in arancione contribuiscono alla previsione dei Queen e le parole in azzurro contribuiscono alla previsione dei Beatles.
La parola con il più alto valore positivo, "blow", è la parola che definisce i testi dei Queen. Infatti, tra le canzoni analizzate, blow è usato in varie canzoni dei Queen, ma non è usato nelle canzoni dei Beatles, il che spiega perché il coefficiente di questa parola è grande.
Ci auguriamo che questo articolo ti dia la possibilità di provare a utilizzare l'analisi della scelta delle parole.
