Possiamo usare JMP per rendere significativo, basato sui dati, non partigiano decisioni sulle notizie? Certo, ma quale dovrebbe essere il nostro focus? Possiamo anche fare qualcosa di leggermente divertente?
Almeno dal 2012 (cfr Tau ), il livello approssimativo dei voti dei discorsi presidenziali statunitensi sullo stato dell'Unione ha fatto notizia.Qui, vediamo come possiamo usare JMP e la regressione per prevedere cosa il livello di valutazione del prossimo discorso di Trump sullo stato dell'Unione il 30 gennaio.Sia Obama (vedi Tau ) e Trump (vedi Wilson ) hanno fatto notizia per il grado, o meno, del loro stato degli indirizzi sindacali (o indirizzi congiunti).
Qui, esamineremo gli indirizzi sullo stato dell'Unione attraverso un semplice modello di regressione lineare, come discusso nel capitolo 9.2 "Regressione lineare semplice" del mio nuovo libro Biostatistica utilizzando JMP: una guida pratica . Tuttavia, non possiamo limitarci a creare un modello di regressione, dobbiamo valutare la qualità del modello ei suoi errori; qui, esamineremo le basi di tali attività diagnostiche, ma tutto il Capitolo 10 di il mio libro è dedicato a questo argomento.
Il livello di classe è considerato il livello di lettura approssimativo basato su Flesch-Kincaid, che è un approccio semplice che tenta di mappare le parole totali, le frasi totali, le sillabe totali al livello di istruzione approssimativo necessario per comprendere un determinato testo. Per maggiori dettagli, vedere DuBay (2004) o Bihl e Bauer (2017).Perché e se questo è anche appropriato per valutare lo stato dell'Unione non sono di diretta preoccupazione. Tuttavia, abbiamo cercato di rispondere ad alcuni di questi in un recente articolo, Bihl e Bauer (2017), concludendo che il livello di voto fosse associato al tipo di discorso (scritto vs orale, televisivo vs non televisivo).
Come semplice esempio, e per divertirci nel prevedere il prossimo futuro, esamineremo solo la connessione tra anno di discorso e livello di classe attraverso la regressione.In tal modo, dobbiamo anche guardare alla qualità complessiva del modello di regressione.
Raccolta dati
Tutti gli indirizzi sindacali sullo stato sono stati raccolti dal Progetto Presidenza , un bel repository presso UC-Santa Barbara. Per la pulizia dei dati, ad es molto [ Applausi ] e [ Risata ] è stato rimosso; le tavole furono rimosse anche dai discorsi scritti dell'800. Per calcolare le statistiche di leggibilità, per tutti i discorsi è stato utilizzato il calcolo del livello di classe Flesch-Kincaid di Microsoft Word. In StateOftheUnion2017.jmp (allegato a questo post), ho anche aggiunto una riga per i risultati del 2018 ancora sconosciuti.
Costruzione del modello di regressione
Per questo compito di previsione, considereremo la regressione lineare e sia la previsione che gli intervalli di confidenza. Mentre in Bihl e Bauer (2017) abbiamo utilizzato molte variabili, qui considereremo solo Flesch-Kincaid come variabile dipendente e anno come variabile indipendente.
Possiamo usare Fit Y per X per creare una linea di regressione per questi dati. Una volta che abbiamo la retta di regressione, dobbiamo fare alcune cose:
1. Valuta i risultati di adattamento di base
2. Esaminare il modello per le violazioni delle ipotesi (normalità, valori anomali, ecc.)
3. Calcolare e visualizzare la previsione e gli intervalli di confidenza
Con un semplice modello di regressione, vediamo una relazione generalmente decrescente tra il grado di Flesch-Kincaid e l'anno.Se si guardassero i risultati di adattamento lineare (che non sto mostrando), vedremmo il riepilogo dell'adattamento, l'analisi della varianza, la mancanza di adattamento e le stime dei parametri. A prima vista, la nostra vestibilità sembra decente, ha un R2 di 0,77, la tabella ANOVA mostra un modello statistico significativo (livello del 95%). Tuttavia, i punti sono sparsi dappertutto, quindi è necessario esaminare la qualità dell'adattamento. Inoltre, il modello di regressione è Flesch-Kincaid = 101,96665 - 0,0459147*Anno, che ovviamente funzionerà solo per un determinato intervallo poiché alla fine diventerà negativo. Un esempio di estrapolazione troppo lontana: se estrapoliamo l'anno 2974, quando è stato ambientato il film Idiocracy, Il discorso del presidente Camacho ha un livello di istruzione di 4,0 anni, ma il nostro modello prevederebbe un livello impossibile di -34.
General Trend Between Year and Flesch-Kincaid Grade LevelGeneral Trend Between Year and Flesch-Kincaid Grade LevelGeneral Trend Between Year and Flesch-Kincaid Grade LevelGeneral Trend Between Year and Flesch-Kincaid Grade LevelAndamento generale tra anno e grado Flesch-KincaidNell'output, vediamo anche una mancanza di tabella di adattamento poiché abbiamo alcuni valori ripetuti (alcuni anni hanno avuto più indirizzi sullo stato dell'Unione). Ma poiché si è verificato questo evento in pochissimi anni, ad esempio nel 1790 e nel 1980, non possiamo quindi imparare molto da questa tabella. Quindi ignoreremo questa tabella.
Per rispondere alla nostra domanda: quale sarà il livello di voti del discorso di Trump sullo stato dell'Unione del 30 gennaio?– considereremo sia gli intervalli di confidenza (che sono piuttosto stretti poiché riguardano i dati di oggi) sia gli intervalli di previsione (che sono più ampi poiché riguardano i valori futuri).Per un'analisi di regressione, vogliamo davvero esaminare i residui per vedere se abbiamo problemi evidenti nel violare varie ipotesi di regressione, ad esempio, la normalità.
Per esaminare la previsione e gli intervalli di confidenza, dovremo visitare il triangolo rosso dentro JMP accanto al Adattamento lineare alcune volte:
2. Seleziona Formula del limite di confidenza media e Formula del limite di confidenza individuale - avremo bisogno di questi per fornire i valori di intervallo numerico per la previsione e gli intervalli di confidenza.
3. Seleziona Vestibilità ombreggiata Confid e Confid Shaded Indiv
Adeguatezza del modello di regressione
Molte ipotesi di modelli di regressione e residui (l'errore in un modello di regressione, cioè la distanza tra la linea prevista e ciascuna osservazione) implicano la normalità. Possiamo esaminarlo considerando un normale diagramma di quantile (un diagramma di probabilità normale in molti libri). Questo può essere trovato selezionando Analizza > Distribuzione in JMP e selezionando la colonna residua. Sebbene l'istogramma appaia normale, non possiamo fidarci completamente di questo (vedere 7.2 Test per la normalità di il mio libro per esempi e discussioni). Quindi vorremo selezionare un quantile normale per esaminare meglio la normalità. Possiamo farlo facendo clic sul triangolo rosso e selezionando Grafico quantilico normale , che risulta nella figura seguente. È interessante notare che i residui seguono tutti la linea, non sono al di fuori dell'intervallo di confidenza e non mostrano alcuna forma apparente. Quindi, siamo a posto per quanto riguarda l'ipotesi di normalità.
Residual Normal Quantile PlotResidual Normal Quantile PlotResidual Normal Quantile PlotResidual Normal Quantile PlotGrafico del quantile normale residuo Possono esistere altri problemi con valori anomali che tirano la linea di regressione, problemi di varianza non costante e così via. Esistono molti modi per esaminare i residui per tali problemi; Sono un grande fan dei residui standardizzati perché possiamo entrambi guardare la forma dei residui mentre abbiamo un'idea di quali punti potrebbero essere valori anomali.I residui standardizzati vengono calcolati dividendo ciascun valore residuo per le deviazioni standard, che possiamo approssimare come la radice quadrata dell'MSE del modello ANOVA. Per i nostri dati, creeremo una colonna con la seguente formula.
Standardized Residuals EquationStandardized Residuals EquationStandardized Residuals EquationStandardized Residuals EquationEquazione dei residui standardizzata Il risultato è ora che i nostri residui vengono ridimensionati, se tracciamo i residui da predetto, il L'asse y è senza unità e corrisponde alla deviazione standard. Possiamo quindi cercare valori grandi, ad esempio, mediante un'euristica di base che valori superiori a 3 indichino possibili valori anomali. Osservando i nostri residui, non vediamo valori anomali apparenti e vediamo che la dispersione sembra in gran parte casuale. Quindi continueremo con esso poiché non c'è alcun motivo convincente per utilizzare una trasformazione, che comporterebbe difficoltà di interpretazione. Tuttavia, dovremmo notare che le cose iniziano a tendere verso errori negativi a valori Flesch-Kincaid elevati, quindi c'è almeno un possibile problema di varianza non costante qui.
Standardized Residuals versus Predicted ValuesStandardized Residuals versus Predicted ValuesStandardized Residuals versus Predicted ValuesStandardized Residuals versus Predicted ValuesResidui standardizzati contro valori previsti
30 gennaio Previsione dello stato dell'Unione
Con una certa fiducia nella qualità del nostro modello, possiamo ora procedere alla domanda a cui teniamo: "W hat è la previsione di Trevor il livello di grado del discorso di Trump sullo stato dell'Unione del 30 gennaio?" Possiamo usare la previsione e gli intervalli di confidenza per questo scopo. Visivamente, vediamo che l'intervallo di confidenza è piuttosto vicino alla linea di regressione, con l'inversione di previsione che copre un'area molto più ampia al di fuori di questa. Ciò è previsto poiché l'intervallo di previsione presuppone una maggiore incertezza.
Regression Model with Both 95% Confidence and 95% Prediction IntervalsRegression Model with Both 95% Confidence and 95% Prediction IntervalsRegression Model with Both 95% Confidence and 95% Prediction IntervalsRegression Model with Both 95% Confidence and 95% Prediction IntervalsModello di regressione con intervalli di confidenza sia del 95% che di previsione del 95%.Per il valore a cui teniamo, dobbiamo guardare nella tabella dei dati dell'anno 2018. Abbiamo un valore previsto di 9,31 per il discorso sullo stato dell'Unione del 2018. Questa è quindi la mia previsione per il prossimo discorso del 30 gennaio.
Tuttavia, questo non è tutto; non possiamo fermarci a un singolo numero e dovremmo includere un limite su questo. Il l'intervallo di previsione al 2018 è molto ampio (da 6,0 a 12,6), come si vede nella figura sopra. Invece di usare questo intervallo molto ampio e inutile, diamo un'occhiata all'intervallo di confidenza, che va da 8,9 a 9,7.
Pertanto, la mia previsione per lo Stato dell'Unione del 30 gennaio è un livello di grado Flesch-Kincaid di 9,31+-0,4. Ora vediamo quanto ho ragione (o torto) tra poche settimane. Hai delle previsioni che vuoi condividere?
Riferimenti
Secondo la copia che ho trovato (Newsweek, non il progetto della presidenza), il livello di voto finale era 9.3. Proprio sulla linea di tendenza.L'hai visto prima qui.
Per verificare te stesso, puoi copiare il testo e ottenere le statistiche di leggibilità in Word:
http://www.newsweek.com/state-union-full-text-795748
Lo controllerò di nuovo una volta che il progetto di presidenza pubblicherà la sua versione.Ma dubito che cambierà a parte piccoli problemi tipografici.
Finora, il modello sembra decente.
Il campionamento dal vivo (5-10 minuti fa) ha il livello di valutazione Flesch-Kincaid a 8,6. Sebbene al di fuori dell'intervallo di confidenza, questo è vicino con altro ancora in arrivo e dall'utilizzo di una trascrizione live disordinata..
Dati da (e ripuliti come sopra) trascrizione live di NPR.Sarà interessante vedere i risultati finali.
https://www.npr.org/2018/01/30/580378279/trumps-state-of-the-union-address-annotated
Forse L'idiocrazia ha appena sottovalutato il nostro tasso di ammutolimento e il presidente Camacho diluirà il suo discorso nel 2308. L'irrigazione con elettroliti potrebbe causare la fine dell'umanità prima che il modello Flesch-Kincaid venga smentito.
Grazie Dr Bihl è stato davvero utile leggere questo.
gmichaelson, siamo stati in grado di postare un csv per te, spero che ti aiuti.
Puoi pubblicare i dati come .csv?
