Podemos usar JMP para hacer significativo, basado en datos, no- partidista decisiones sobre noticias? Por supuesto, pero ¿cuál debe ser nuestro enfoque? ¿Podemos también hacer algo que sea un poco divertido?
Desde al menos 2012 (ver Tau ), el nivel de grado aproximado de los discursos presidenciales del estado de la Unión de EE. UU. ha sido noticia.Aquí, veamos cómo podemos usar JMP y la regresión para predecir qué el nivel de grado del próximo discurso del Estado de la Unión de Trump del 30 de enero.Tanto Obama (ver Tau ) y Trump (ver wilson ) han sido noticia para el nivel de grado, o falta del mismo, de su estado de las direcciones sindicales (o direcciones conjuntas).
Aquí, examinaremos las direcciones del Estado de la Unión a través de un modelo de regresión lineal simple, como se explica en el Capítulo 9.2 "Regresión lineal simple" de mi nuevo libro. Bioestadística utilizando JMP: una guía práctica . Sin embargo, no podemos limitarnos a crear un modelo de regresión, necesitamos evaluar la calidad del modelo y sus errores; aquí, examinaremos los conceptos básicos de tales tareas de diagnóstico, pero todo el Capítulo 10 de mi libro se dedica a este tema.
El nivel de grado se considera el nivel de lectura aproximado basado en Flesch-Kincaid, que es un enfoque simple que intenta mapear el total de palabras, oraciones totales, sílabas totales al nivel de grado de educación aproximado que se necesitaría para comprender cualquier texto dado. Para más detalles, consulte DuBay (2004) o Bihl y Bauer (2017).Por qué y si esto es incluso apropiado para evaluar el Estado de la Unión no son de interés directo. Sin embargo, tratamos de responder algo de esto en un artículo reciente, Bihl y Bauer (2017), concluyendo que el nivel de grado estaba asociado con el tipo de discurso (escrito vs oral, televisado vs no televisado).
Como un ejemplo simple, y para divertirnos al predecir el futuro cercano, solo veremos la conexión entre el año de habla y el nivel de grado a través de la regresión.Al hacerlo, también debemos observar la calidad general del modelo de regresión.
Recopilación de datos
Todas las direcciones del estado de la unión se obtuvieron de la Proyecto Presidencia , un buen repositorio en UC-Santa Barbara. Para la limpieza de datos, e muy [ Aplausos ] y [ La risa ] fue removido; Las tablas también se eliminaron de los discursos escritos del siglo XIX. Para calcular las estadísticas de legibilidad, se utilizó el cálculo de nivel de grado de Flesch-Kincaid incorporado de Microsoft Word para todos los discursos. En StateOftheUnion2017.jmp (adjunto a esta publicación), también agregué una fila para los resultados de 2018 aún desconocidos.
Construcción de modelos de regresión
Para esta tarea de predicción, consideraremos la regresión lineal y los intervalos de predicción y confianza. Mientras que en Bihl y Bauer (2017) usamos muchas variables, aquí solo consideraremos Flesch-Kincaid como variable dependiente y el año como variable independiente.
Podemos usar Ajustar Y por X para crear una línea de regresión para estos datos. Una vez que tenemos la línea de regresión, debemos hacer algunas cosas:
1. Evaluar los resultados de ajuste básicos
2. Examinar el modelo en busca de violaciones de los supuestos (normalidad, valores atípicos, etc.)
3. Calcule y visualice predicciones e intervalos de confianza
Con un modelo de regresión simple, vemos una relación generalmente decreciente entre el nivel de grado y el año de Flesch-Kincaid.Si uno mirara los resultados del ajuste lineal (que no estoy mostrando), veríamos el resumen de ajuste, el análisis de varianza, la falta de ajuste y las estimaciones de parámetros. A primera vista, nuestro ajuste parece decente, tiene un R2 de 0,77, la tabla ANOVA muestra un modelo estadísticamente significativo (95 % de nivel). Sin embargo, los puntos están dispersos por todas partes, por lo que es necesario examinar la calidad del ajuste. Además, el modelo de regresión es Flesch-Kincaid = 101.96665 - 0.0459147*Año, que obviamente solo funcionará para cierto rango ya que finalmente se volverá negativo. Un ejemplo de extrapolación demasiado lejana: si extrapolamos al año 2974, cuando se ambientó la película Idiocracia, Discurso del presidente Camacho tiene un nivel de grado de 4.0 años de educación, pero nuestro modelo predeciría un nivel de grado imposible de -34.
General Trend Between Year and Flesch-Kincaid Grade LevelGeneral Trend Between Year and Flesch-Kincaid Grade LevelGeneral Trend Between Year and Flesch-Kincaid Grade LevelGeneral Trend Between Year and Flesch-Kincaid Grade LevelTendencia general entre el año y el nivel de grado de Flesch-KincaidEn el resultado, también vemos una falta de tabla de ajuste ya que tenemos algunos valores repetidos (algunos años tenían varias direcciones del Estado de la Unión). Pero como en muy pocos años ocurrió esto, por ejemplo, 1790 y 1980, no podemos aprender mucho de esta tabla. Así que ignoraremos esta tabla.
Para responder a nuestra pregunta: ¿Cuál será el nivel de calificación del discurso del Estado de la Unión de Trump del 30 de enero?– consideraremos tanto los intervalos de confianza (que son bastante ajustados ya que se trata de los datos actuales) como los intervalos de predicción (que son más amplios ya que se refieren a valores futuros).Para un análisis de regresión, realmente queremos observar los residuos para ver si tenemos problemas notables al violar varios supuestos de regresión, por ejemplo, la normalidad.
Para examinar la predicción y los intervalos de confianza, necesitaremos visitar el triángulo rojo en JMP junto a Ajuste lineal unas pocas veces:
2. Seleccione Fórmula del límite de confianza medio y Fórmula de límite de confianza individual - los necesitaremos para proporcionar los valores de intervalo numérico para la predicción y los intervalos de confianza.
3. Seleccione Ajuste sombreado Confid y Confid Shaded Indiv
Adecuación del modelo de regresión
Muchas suposiciones de modelos de regresión y residuos (el error en un modelo de regresión, es decir, la distancia entre la línea pronosticada y cada observación) implican normalidad. Podemos examinar esto considerando una gráfica de cuantiles normales (una gráfica de probabilidad normal en muchos libros). Esto se puede encontrar seleccionando Analizar > Distribución en JMP y seleccionando la columna residual. Si bien el histograma parece normal, no podemos confiar en esto por completo (consulte 7.2 Prueba de normalidad de mi libro para ejemplos y discusión). Así que querremos seleccionar un cuantil normal para examinar mejor la normalidad. Esto lo podemos hacer haciendo clic en el triángulo rojo y seleccionando Gráfica de cuantiles normales , lo que da como resultado la siguiente figura. Es de interés que todos los residuos siguen la línea, no están fuera del intervalo de confianza y no muestran forma aparente. Entonces, estamos bien en lo que respecta a la suposición de normalidad.
Residual Normal Quantile PlotResidual Normal Quantile PlotResidual Normal Quantile PlotResidual Normal Quantile PlotGráfica de cuantiles normales residuales Pueden existir otros problemas con valores atípicos tirando de la línea de regresión, problemas de varianza no constante, etc. Hay muchas formas de examinar los residuos para tales problemas; Soy un gran admirador de los residuales estandarizados porque podemos observar la forma de los residuales y obtener una impresión de qué puntos podrían ser valores atípicos.Los residuos estandarizados se calculan dividiendo cada valor residual por las desviaciones estándar, que podemos aproximar como la raíz cuadrada del MSE del modelo ANOVA. Para nuestros datos, crearíamos una columna con la siguiente fórmula.
Standardized Residuals EquationStandardized Residuals EquationStandardized Residuals EquationStandardized Residuals EquationEcuación de residuos estandarizados El resultado es que ahora nuestros residuos están escalados, si graficamos los residuos por predicho, el El eje y no tiene unidades y corresponde a la desviación estándar. Por lo tanto, podemos buscar valores grandes, por ejemplo, mediante una heurística básica de que los valores superiores a 3 indican posibles valores atípicos. Al observar nuestros residuos, no vemos valores atípicos aparentes y vemos que la dispersión parece en gran medida aleatoria. Así que continuaremos con él ya que no hay una razón de peso para usar una transformación, lo que implicaría dificultades de interpretación. Sin embargo, debemos tener en cuenta que las cosas comienzan a tener una tendencia hacia errores negativos en valores altos de Flesch-Kincaid, por lo que al menos hay un posible problema de variación no constante.
Standardized Residuals versus Predicted ValuesStandardized Residuals versus Predicted ValuesStandardized Residuals versus Predicted ValuesStandardized Residuals versus Predicted ValuesResiduos estandarizados versus valores pronosticados
Predicción del Estado de la Unión del 30 de enero
Con cierta confianza en la calidad de nuestro modelo, ahora podemos proceder a la pregunta que nos preocupa: "W Cuál es la predicción de Trevor para el nivel de grado del Discurso del Estado de la Unión de Trump del 30 de enero?" Podemos usar predicción e intervalos de confianza para este propósito. Visualmente, vemos que el intervalo de confianza está bastante cerca de la línea de regresión, con el intervalo de predicción cubriendo un área mucho más grande fuera de esta. Esto es de esperar ya que el intervalo de predicción supone más incertidumbre.
Regression Model with Both 95% Confidence and 95% Prediction IntervalsRegression Model with Both 95% Confidence and 95% Prediction IntervalsRegression Model with Both 95% Confidence and 95% Prediction IntervalsRegression Model with Both 95% Confidence and 95% Prediction IntervalsModelo de regresión con intervalos de predicción del 95 % y de confianza del 95 %Para conocer el valor que nos importa, debemos buscar en la tabla de datos el año 2018. Tenemos un valor previsto de 9,31 para el discurso sobre el estado de la Unión de 2018. Por lo tanto, esta es mi predicción para el próximo discurso del 30 de enero.
Sin embargo, esto no es todo; no podemos detenernos en un solo número, y debemos incluir un límite en esto. los el intervalo de predicción en 2018 es muy amplio (6,0 a 12,6), como se ve en la figura de arriba. En lugar de usar este intervalo tan amplio e inútil, veamos el intervalo de confianza, que es de 8,9 a 9,7.
Por lo tanto, mi predicción para el Estado de la Unión del 30 de enero es un nivel de grado de Flesch-Kincaid de 9.31+-0.4. Ahora veamos qué tan bien (o mal) estoy en unas pocas semanas. ¿Tienes alguna predicción que quieras compartir?
Referencias
Según la copia que encontré (Newsweek, no el proyecto de la presidencia), el nivel de calificación final fue 9.3. Justo en la línea de tendencia.Lo viste aquí primero.
Para comprobarlo usted mismo, puede copiar el texto y obtener las estadísticas de legibilidad en Word:
http://www.newsweek.com/state-union-full-text-795748
Lo revisaré nuevamente una vez que el Proyecto Presidencial publique su versión.Pero dudo que cambie aparte de problemas tipográficos menores.
Hasta ahora, el modelo se ve decente.
El muestreo en vivo (hace 5-10 minutos) tiene el nivel de calificación de Flesch-Kincaid en 8.6. Si bien está fuera del intervalo de confianza, esto está cerca de más por venir y del uso de una transcripción en vivo desordenada..
Datos de (y limpiados como se indicó anteriormente) la transcripción en vivo de NPR.Será interesante ver los resultados finales.
https://www.npr.org/2018/01/30/580378279/trumps-state-of-the-union-address-anotado
Quizás La idiocracia simplemente subestimó nuestra tasa de embrutecimiento y el presidente Camacho pronunciará su discurso en 2308. El riego con electrolitos podría causar la desaparición de la humanidad antes de que se demuestre que el modelo Flesch-Kincaid es incorrecto.
Gracias Dra. Bihl, fue muy útil leer esto.
gmichaelson, pudimos publicar un csv para ti, espero que te ayude.
¿Puedes publicar los datos como .csv?
