| Vocero |
Transcripción |
| Ross Metusalem |
Hola a todos y bienvenidos a esta presentación sobre cómo JMP ha ampliado su kit de herramientas de minería de texto en JMP Pro 16, que salió la primavera pasada. |
| |
Soy Ross Metusalem. Soy embajador académico de JMP y compartiré con ustedes estas dos nuevas funciones de minería de texto. |
| |
Análisis de sentimiento y selección de términos. Hablaremos sobre qué son y cómo usarlos, así como sobre JMP. Luego, veremos dos ejemplos de cómo se realizan estos análisis con datos públicos reales. |
| |
El análisis de sentimientos y la selección de términos son dos nuevas incorporaciones al explorador de texto de JMP, que es una herramienta de minería de texto de propósito general. |
| |
Entonces, puedes usar esto para derivar información cuantitativa de lo que comúnmente llamamos datos de texto libres o no estructurados, por lo que esto podría ser cualquier cosa, desde derivar frecuencias de palabras hasta poder hacer una nube de palabras, |
| |
Para realizar análisis semántico latente, de modo que podamos agrupar documentos semánticamente similares. Las dos funciones que veremos hoy pertenecen al explorador de texto. |
| |
Comenzaremos con el análisis de sentimientos, una característica popular y solicitada con frecuencia que nos complace presentar en JMP Pro 16. |
| |
Para aquellos que no están familiarizados, el análisis de sentimientos consiste en cuantificar las emociones positivas y negativas en datos de texto no estructurados. |
| |
Ahora el ejemplo que vamos a ver es el Libro Beige, que es un informe narrativo emitido por la Reserva Federal. |
| |
Y como podemos ver en el mapa, la Reserva Federal está dividida en 12 distritos diferentes y aproximadamente ocho veces al año, cada distrito emite un informe narrativo del Libro Beige. |
| |
que resume las condiciones económicas actuales y futuras potenciales en esa región geográfica. Y estos informes se basan principalmente en fuentes de datos cualitativos, así que piense |
| |
conversaciones con líderes empresariales, encuestas y cosas así. Por eso, creo que el Libro Beige ofrece un buen ejemplo para el análisis de sentimientos, no solo porque... |
| |
Son datos disponibles públicamente y puedo compartirlos con todos ustedes, pero también porque sería bastante interesante si usted fuera, digamos, un inversor o usted, |
| |
Ya sabes, gestionamos una institución financiera para saber qué tan positivos o negativos son los directores de la Reserva Federal respecto a las condiciones económicas en diferentes partes del país. De hecho, podríamos usar eso para... |
| |
Tal vez guíe la toma de decisiones o, incluso, si puede cuantificarlo, utilícelo en algunos análisis estadísticos, tal vez incluso en algunos modelos predictivos. |
| |
Veamos ahora un ejemplo de un texto del Libro Beige. |
| |
Aquí tenemos sólo un fragmento de uno de los informes, y podemos ver, comenzando desde arriba, que este informe dice que las ventas de computadoras, por otro lado, se han visto severamente deprimidas. |
| |
Mientras que, si bajamos al final, un individuo también informó que hay una serie de factores favorables en el viento, por lo que tenemos "severamente deprimido" y "favorable" y también "mejorar" resaltados aquí, |
| |
Porque son lo que llamaríamos frases sentimentales. Se trata de una o más palabras que denotan algún tipo de contenido emocional, positivo o negativo. |
| |
Entonces, en la parte superior, tenemos severamente deprimido, lo que sería fuertemente negativo, y luego tenemos abajo, favorable, lo que sería generalmente positivo, y usamos este código de colores para que el naranja versus este azul o morado (dependiendo de cómo lo veas) |
| |
para indicar sentimiento positivo y negativo respectivamente. |
| |
Y muchas formas de análisis de sentimientos hacen precisamente eso: buscan frases positivas y negativas en el texto. |
| |
El formulario que utiliza JMP, y que puede encontrar en otros lugares, en realidad cuantifica el sentimiento positivo y negativo en una escala continua. |
| |
Tomemos, por ejemplo, al final de este segundo fragmento de texto, donde vemos que alguien dice que los grandes almacenes de la región informan de bajas ventas. |
| |
Así que, arriba, las ventas están muy deprimidas, y abajo, las ventas son bajas. Bueno, creo que todos estamos de acuerdo en que «muy deprimidas» suena peor. |
| |
con respecto a las ventas que los pobres. Y por eso podríamos querer... |
| |
Aunque ambos son negativos, cuantificar la depresión severa como más negativa que pobre, y eso es lo que hacemos en el análisis de sentimientos en JMP. Y vamos a hablar... |
| |
Aquí hablaré muy brevemente sobre cómo se calculan esos puntajes, en particular, pero primero creo que vale la pena mirarlos. |
| |
Demostraciones potenciales de la validez de cuantificar el sentimiento al observar términos y frases individuales como ésta. |
| |
Y estamos hablando básicamente de calificar documentos, en función de las palabras que aparecen en ellos. |
| |
que creemos que denotan emoción y en qué grado. Y eso es algo interno y subjetivo, pero este enfoque, el análisis de sentimientos, |
| |
Puede demostrar cierta validez predictiva. Por ejemplo, si observamos cómo el sentimiento del Libro Beige se mantiene a lo largo del tiempo, podemos ver que se mantiene bastante fiable durante las recesiones. Así que aquí tenemos el sentimiento. |
| |
En el eje y. Se puede ver que se extiende de -75 a -75, ese es justo el rango que trazamos. La escala real va de -100. |
| |
hasta 100, donde cero es neutral. Y se puede observar, con el suavizado a lo largo del tiempo que captura la tendencia general del sentimiento en todos los informes del Libro Beige, |
| |
Se puede observar un patrón interesante con respecto a las recesiones económicas, que están resaltadas en rojo. En particular, podemos observar que la confianza parece disminuir constantemente antes de cada recesión. |
| |
Entonces, si bien esta es una medida relativamente subjetiva de lo que creemos que es el estado emocional de los directores de la Reserva Federal de los Estados Unidos, quiero decir, está en consonancia con las recesiones económicas, como podría esperarse. |
| |
Curiosamente, también se rastrea geográficamente. Tomemos como ejemplo el estallido de las puntocom en torno a 2000-2001, cuando un grupo de startups de Internet en el área de la Bahía de San Francisco... |
| |
Se hundió. Podemos ver, y tengo las etiquetas de San Francisco resaltadas aquí, para que podamos ver las puntuaciones de esa región. Tenemos el sentimiento positivo en naranja, como vimos antes, y el negativo en azul. |
| |
Podemos ver que, a medida que se va acumulando hasta el año 2000, el sentimiento... |
| |
Fue bastante alto en el área de la Bahía, 38,65, y luego se desplomó más de 60 puntos en 2001 en promedio a |
| |
Aproximadamente -24,7 grados. Y esa es una variación mucho mayor que la que vimos en otras partes del país, porque esa es la región... presumiblemente, porque fue la más afectada. |
| |
Y observamos algo similar con la Gran Recesión. Así, vemos que el desplome del mercado inmobiliario en 2008 se correspondió con una caída de la confianza, y no de forma uniforme. |
| |
Parece que las mayores caídas se evidenciaron en la Costa Oeste, es decir, la región de San Francisco nuevamente, la región de Nueva York y también la región de Atlanta, que incluye |
| |
Florida, donde vivo, fue una zona particularmente afectada del país. Y, de hecho, si miramos hacia abajo, en la fila inferior, podemos ver que Florida... |
| |
El sentimiento no parece recuperarse en esa zona general hasta aproximadamente 2012, a la zaga de algunas otras geografías, lo cual parece lógico. El mercado inmobiliario de Florida fue uno de los últimos en recuperarse a nivel nacional. |
| |
Así que tenemos esta medida subjetiva de la emoción, pero se corresponde, en este caso, con los eventos externos... eventos económicos, de la manera que esperaríamos. |
| |
Y, como saben, estamos analizando el Libro Beige porque es un ejemplo particularmente bueno y disponible al público. Si... |
| |
Estamos hablando de dominios quizás más comunes para aplicar el análisis de sentimientos, como la investigación de mercado del consumidor, donde se trata con un |
| |
La voz del cliente en forma de datos de texto, como reseñas de productos, respuestas de encuestas y cosas así. |
| |
Es posible que pueda utilizar el análisis de sentimientos para comprender mejor, tal vez incluso predecir, digamos, los comportamientos de los clientes, de forma similar a como podemos utilizar el sentimiento aquí para comprender mejor o predecir, tal vez, las recesiones económicas. |
| |
Dicho esto, me doy cuenta de que hemos estado mirando los puntajes de sentimiento durante los últimos minutos y realmente surge la pregunta de dónde provienen. |
| |
JMP utiliza una forma de análisis de sentimientos llamada análisis léxico de sentimientos. Utiliza un léxico de sentimientos o |
| |
diccionario de sentimientos |
| |
Para asignar puntuaciones a todas las palabras individuales que creemos que transmiten algún sentimiento. Por ejemplo, una palabra como «fantástico» podría obtener una puntuación de 90, lo cual es muy positivo. Está casi en el máximo positivo, 100, mientras que «temido» obtiene una puntuación de -60. |
| |
Ahora podemos asignar puntajes a estos términos y básicamente contarlos o tomar su promedio en cualquier documento individual. |
| |
Pero queremos tener en cuenta un par de cosas más. Si recuerdan, la primera frase de sentimiento que vimos en el ejemplo del Libro Beige era «severamente deprimido». |
| |
En otras palabras, severamente, como ejemplo de algo que llamamos intensificador, que es básicamente un multiplicador de sentimiento. Como pueden ver, podríamos declarar increíblemente un multiplicador con una puntuación de sentimiento de 1.4, donde un poco en realidad... |
| |
lo escala en 0,3, por lo que disminuye un poco la magnitud del sentimiento. |
| |
Entonces, si aparece un intensificador con el término de sentimiento, realizamos esa multiplicación, y también si aparece un negador. Entonces, decimos: |
| |
Ya sabes, algo es no o no debería o no fue, lo multiplicamos por menos uno, de modo que básicamente, ya sabes, invertimos el signo; lo positivo se vuelve negativo y viceversa. |
| |
Y entonces, para cualquier frase de sentimiento, simplemente realizamos esta simple multiplicación y luego, en un documento, |
| |
Podemos tomar la puntuación media o tal vez la diferencia entre las puntuaciones de sentimiento mínimas y máximas para |
| |
Calcular un valor de sentimiento para esos documentos. Y eso es lo que observábamos en esos gráficos, es decir, el gráfico de sentimiento a lo largo del tiempo en esos mapas. |
| |
Este es el análisis de sentimiento léxico. Es una práctica muy común y es el tipo de análisis de sentimiento que se implementa en JMP. Y como veremos, cuando se tiene JMP |
| |
Al calcular todas las puntuaciones de sentimiento, se obtiene mucha información útil. Aquí tienes un ejemplo de cómo se ve el informe de análisis de sentimiento. |
| |
Para obtener una vista previa de solo un elemento de los resultados, aquí en la parte superior tenemos un resumen simple del sentimiento en todos nuestros documentos. |
| |
Entonces, tenemos un histograma codificado por colores que nos muestra que la distribución de los sentimientos generales parece inclinarse hacia lo positivo, pero tenemos una cola de sentimiento negativo bastante fuerte. |
| |
Podemos ver que, en todos los documentos, el puntaje de sentimiento promedio es 4,1, apenas por encima del nivel neutral. |
| |
En el conjunto de los documentos que son globalmente positivos, de los cuales hay 3.900, su puntuación media es de 22,9, mientras que entre los aproximadamente 1.400 documentos negativos, el |
| |
La puntuación media es -15,4, por lo que los documentos negativos no son tan fuertemente negativos como los positivos. |
| |
Ahora, por supuesto, ya sabes, aquí con el Libro Beige, podría decir, bueno, ya sabes, desde este caso en 1970 hasta el presente, solo mirando el puntaje de sentimiento promedio, tal vez, ya sabes, no me importa tanto como mirar los puntajes de documentos individuales o |
| |
Quizás observando la distribución de ciertos términos de sentimiento. Pero, de nuevo, si se trata de datos, |
| |
Digamos, una investigación de mercado del consumidor, algo así, cualquier dato de texto donde tenga la voz del cliente, incluso solo un resumen de alto nivel como este que nos puede decir qué tan positivos o negativos son los sentimientos de nuestros clientes, según los datos que tenemos. |
| |
Incluso un informe simple puede ser muy valioso. Pero estamos a punto de migrar a JMP y veremos que el informe de análisis de sentimiento ofrece muchas maneras adicionales de explorar los datos para obtener información. |
| |
Así que vayamos a JMP y veamos cómo se hace. |
| |
Así que aquí estamos, estoy en JMP Pro 16.1, y antes de sumergirnos en estos datos del Libro Beige, quiero saludar a Xan Gregg. |
| |
Para quienes no lo conocen, Xan es director de nuestro equipo de desarrollo. Es el creador de Graph Builder. |
| |
Y también fue él quien tuvo la idea original de consultar los datos del Libro Beige, e incluso tuvo la amabilidad de extraer las páginas HTML de los archivos del Libro Beige y proporcionarme una buena tabla de datos JMP. Muchas gracias, Xan. |
| |
Bien ahora, echemos un vistazo al análisis de sentimientos y, de hecho, en lugar de analizar los resultados, |
| |
Sabes, quiero mostrarte brevemente cómo configurar el análisis, porque hay algunas consideraciones importantes que debes tener en cuenta. |
| |
con respecto no sólo a, ya sabes, cómo lo implementa JMP, sino a cómo hacer análisis de sentimientos o análisis de sentimientos léxicos en general. |
| |
Y para demostrar esa configuración, en realidad voy a mirar solo un subconjunto de los datos desde 2010 hasta el presente, en este caso, solo para mantener las cosas breves, porque vamos a preguntar |
| |
El explorador de texto actualiza automáticamente su análisis varias veces y queremos que eso sea lo más instantáneo posible. |
| |
Entonces aquí tengo ese subconjunto de datos, así que tenemos nuestros informes del Libro Beige en los 12 distritos desde enero de 2010 hasta el informe más reciente el mes pasado. |
| |
Bien, para iniciar nuestro análisis de sentimiento, iré a "Analizar" y seleccionaré el explorador de texto. Tomaré nuestro texto y lo colocaré en la función de columnas de texto. Un par de cosas a tener en cuenta. |
| |
Una de ellas es que, si bien el explorador de texto generalmente admite varios idiomas, |
| |
El análisis de sentimientos actualmente sólo está disponible en inglés. |
| |
Y la otra es que si... al menos si eres un usuario experimentado del explorador de texto, es posible que estés acostumbrado a activar la derivación, y notarás que la dejaré desactivada por ahora. |
| |
Para quienes no conocen la lematización, es una forma de combinar múltiples formas de la misma palabra o, en lenguaje lingüístico, el mismo lema. Así que tomen "strong", "stronger" y "strongest". |
| |
Nos derrumbaríamos sobre todos ellos y diríamos simplemente: bueno, todos son fuertes para nuestros propósitos. |
| |
Y obviamente no queremos hacer eso aquí porque "el más fuerte" es más positivo que "más fuerte", que es más positivo que "fuerte". |
| |
Y entonces dejamos la derivación desactivada y, de hecho, incluso si la activas una vez que invocas el análisis de sentimientos, ignorará esa derivación porque, nuevamente, realmente no deberías usarla. |
| |
Voy a hacer clic en "Aceptar". No, y parece que al hacerlo, tuvimos un pequeño problema técnico. Disculpen si algo raro le ha pasado a mi computadora últimamente, pero no pasa nada. Podemos reiniciar la pantalla compartida y recuperar el video. Hola a todos. |
| |
Y lo compartiremos. Bueno, deberíamos seguir adelante, parece que la grabación sigue. Permítanme asegurarme de que JMP esté asignado al monitor correcto. Parece que sí. Bien, disculpas a todos. En fin, volvamos al tema. |
| |
Así que aquí tenemos nuestra ventana del explorador de texto. Ahora, de nuevo, si estás acostumbrado a hacer... |
| |
En el análisis de texto, sabrás que normalmente se empieza declarando palabras vacías. Por ejemplo, la gente habla de mis contactos en la industria y me dijeron que... Y sabes que no querría usar la palabra contactos en mi análisis, así que normalmente... |
| |
Agregue eso como una palabra de parada y luego continúe potencialmente durante horas. |
| |
Declarar palabras vacías antes de realizar mi análisis, y no es necesario hacer lo mismo con el análisis de sentimientos. |
| |
Todo se basa en ese diccionario de sentimientos, así que, para una palabra como "contactos", no está en el diccionario. De todos modos, está funcionalmente excluida, así que es una buena manera de ahorrar tiempo. |
| |
Sin embargo, probablemente quieras declarar frases, por ejemplo, bienes raíces o una que vamos a ver, que es la demanda de préstamo, que está aquí sentada. |
| |
Hago clic en "demanda de préstamo" y la agrego como frase. Se coloca en nuestra lista de términos, así que busquémosla rápidamente. |
| |
Ahí están, 1139 instancias. Y esto nos ayuda a profundizar en los subdominios en estos análisis o en este... |
| |
En este conjunto de datos. Imaginemos que quiero calcular el sentimiento, no en general, sino solo con respecto a la demanda de préstamos. |
| |
Para hacer eso, como veremos, primero necesito declararlo como una frase, por lo que es razonable revisar y declarar algunas frases al menos para dominios realmente destacados que puedan interesarle. |
| |
Muy bien, ahora cerremos esto y comencemos el análisis de sentimientos. |
| |
Y verás cuando lo haga, voy a publicar un informe completo, y puede que me parezca que es hora de empezar a explorar mis resultados, porque esto parece un análisis completo, pero quiero animar a cualquiera que use esto a que pise el freno y considere su diccionario de sentimientos. |
| |
Diferentes, ya sabes, grupos de personas que generan textos en diferentes contextos sobre diferentes cosas, con diferentes lenguas vernáculas. |
| |
Puedes usar el lenguaje de muchas maneras diferentes. Y es importante adaptar tus listas de sentimientos y términos de negación intensificadores. |
| |
Para reflejar eso. Así que... dudo en usar la palabra nunca, pero voy a... voy a decir nunca, simplemente usar el diccionario de sentimientos predeterminado. Siempre obtendrás resultados más válidos si lo seleccionas tú mismo. |
| |
Entonces, si voy a los términos de sentimiento aquí, puedes ver que los puntajes se basan en este diccionario incorporado, que es relativamente escaso. |
| |
Pero quiero leer parte del texto y ver si puedo identificar algunas palabras más que deberían incluirse en el diccionario. Debo mencionar que quizás incluso quieras revisar el... |
| |
la lista incorporada y excluir algunos, aunque esa lista es relativamente escasa y, por lo tanto, lo ideal sería no tener que excluir demasiados o tal vez ninguno. |
| |
En nuestro informe, tienes herramientas para gestionar tu diccionario, no solo para explorar los resultados. Puedo seleccionar el documento en esta tabla y mostrar el texto. |
| |
Justo abajo. Saldré brevemente de la parte inferior de la pantalla. Pueden ver resaltados en ese texto que los términos y frases de sentimiento ya se han encontrado, un poco mejor. |
| |
Pero si miramos, digamos, aquí tenemos la palabra débil, las condiciones actuales siguen siendo débiles, y resulta que, hasta donde puedo decir, este es un término muy común. |
| |
Un término del Libro Beige indica que algo es esencialmente malo. No lo sé, no soy economista, pero quizá en economía... |
| |
Ya sabes, débil es sinónimo de malo, fuerte es sinónimo de bueno, y esa es mi opinión, después de haber analizado bastante estos datos. |
| |
Verán que no está resaltado. Eso significa que "débil" no está en mi diccionario, pero puedo agregarlo fácilmente. Simplemente paso el cursor sobre él. |
| |
El término está directamente en el texto y puedo añadirlo como negador. Puedo darle un valor intensificador o un valor de sentimiento para que sea moderadamente negativo. Por lo tanto, voy a hacer clic en -60. |
| |
Y lo que sucede es que ahora se agrega a mi diccionario y todos los puntajes de sentimiento se vuelven a calcular en tiempo real aquí. |
| |
Así que ahora puedo seleccionar "débil" en mi lista de términos de sentimiento y ver todas sus instancias. Si revisamos la columna de recuento de esa tabla, parece que aparece 1012 veces en este subconjunto de datos del Libro Beige. |
| |
Así que, ciertamente, revise y lea, tal vez, un subconjunto aleatorio o un subconjunto aleatorio estratificado de sus documentos e intente identificar algunos términos de sentimiento que pertenezcan a su diccionario. |
| |
Ahora, también puedes confiar en una función útil, esta posible lista de sentimientos, |
| |
Lo cual, de hecho, ofrece posibles términos de sentimiento para su consideración. Podría indicar, por ejemplo, que "fuerte" está aquí, y poner "débil". Ciertamente quiero "fuerte", así que lo declararé como un... |
| |
fuerte. |
| |
He estado usando los atajos de teclado, ya sabes, positivo 60, negativo 60, pero puedes introducir cualquier puntuación entre negativo 100 y 100, así que quizás solo quiero una puntuación de 50 para fuerte. Así que lo haré, y si miras abajo ahora mismo, puedes ver que todo se actualiza automáticamente. |
| |
Así que ten cuidado con tu lista de términos de sentimiento. No voy a explicarte cómo crear tus términos intensificadores de negación, pero las mismas ideas aplican. |
| |
Asegúrate de hacerlo bien para que reflejen realmente tu dominio y luego te recomiendo que, debajo del triángulo rojo, siempre puedas ir a las herramientas de administración de términos completos o ingresar manualmente algunos términos, así que tal vez sé que quiero el más fuerte y quiero que sea un puntaje de 90. |
| |
Así que puedo agregar una especie de formato por lotes aquí. |
| |
sin actualizar automáticamente cada vez, o también puedo importar y exportar listas de términos de sentimiento, |
| |
Lo cual es genial para compartirlos con otras personas, hacerlos portátiles, ayudar a seguir nuestro trabajo y hacerlo replicable. |
| |
Debido a que sus resultados dependen en gran medida de la lista de términos de sentimiento y también de los intensificadores y negadores, le recomiendo encarecidamente que cuando tenga una lista establecida la exporte para tenerla completamente documentada y también poder importarla en un nuevo análisis y replicarla. |
| |
Bueno, ya es suficiente con la configuración del análisis. Solo quiero recalcar que, si se recurre al análisis de sentimiento, se obtendrá un informe, pero no se debe profundizar en él. Primero, se debe preparar el diccionario. |
| |
Así que, ahora que lo he hecho, |
| |
Después de haber dejado ese punto sin piedad, echemos un vistazo a ese informe. |
| |
Y lo que voy a hacer ahora es generar un informe completo utilizando, en este caso, los más de 5300 datos. |
| |
Informes del Libro Beige aquí. Como mencioné antes, en la sección de resultados, tienen este resumen general. No lo volveremos a explicar. Hemos visto que también tienen... |
| |
Todos los documentos individuales, para que puedas ver cualquier documento y ver su calificación y contenido. Explora el uso de términos y frases de sentimiento en contexto. |
| |
En esta tabla también puedes ver una serie de medidas útiles, por ejemplo, la puntuación total positiva de un documento. |
| |
La puntuación promedio de las frases de sentimiento positivo en el documento. Lo mismo ocurre con las frases de sentimiento negativo y luego con la puntuación general. Como notarán, |
| |
Al pasar el cursor sobre estos valores, se muestra cómo se calculan. Si miro la media de la puntuación negativa, veo que hay siete términos en total, sus puntuaciones y el promedio. |
| |
También puedo ver que el promedio, en este caso, de -1, es simplemente el puntaje promedio de todos los términos de sentimiento, positivos y negativos. |
| |
Hay muchas maneras prácticas de mostrar información útil al pasar el cursor sobre los elementos de este informe. Te recomiendo que lo pruebes. Pasa el cursor por diferentes lugares. Probablemente encuentres algo útil. |
| |
Normalmente, no examinamos con mucha atención los documentos individuales cuando hacemos minería de texto como esta. Es decir, si pudiéramos leerlos todos, |
| |
Entonces lo haríamos. Es decir, entendemos mejor el lenguaje que las computadoras. Así que, claro, no vamos a revisar toda esta colección de 5300 documentos, sino que podríamos ordenarlos por puntuación y echar un vistazo solo a los más negativos. |
| |
informes, y realmente leerlos para tener una idea de, bueno, está bien, |
| |
Cuando las personas son particularmente negativas, ¿qué les hace sentir negativas? ¿Qué puedo aprender sobre qué impulsa esa negatividad? Y, de nuevo, especialmente en, por ejemplo, estudios de mercado, analizar reseñas de productos, encuestas y algo similar puede ser muy valioso. |
| |
También vimos que tienes tu lista de términos de sentimiento, donde podemos ver todos los diferentes términos de sentimiento que aparecen, con qué frecuencia aparecen y sus |
| |
puntuaciones asociadas a ellos. Y si selecciono cualquiera de ellos, también puedo ver esos términos en contexto. Así que si se usa un término de sentimiento en particular |
| |
Es bastante común en tus datos, por lo que quizás quieras comprenderlo mejor en contexto para ver por qué la gente lo usa o qué los motiva a usarlo. Es bastante fácil hacerlo simplemente seleccionando el término y explorando el texto a continuación. |
| |
Ahora, finalmente, lo que creo que es una de las características más útiles en el análisis de sentimientos se encuentra en esta pestaña de características. |
| |
Entonces, lo que esto hace cuando hago clic en buscar es encontrar términos que no son de sentimiento pero que aparecen frecuentemente con términos de sentimiento y nos permite hacer un análisis detallado, donde evaluamos el sentimiento solo con respecto a eso. |
| |
Término seleccionado, o lo que llamaremos característica, o también podría llamarse subdominio. Así que quizás el sentimiento solo se refiere a las ventas, y podemos ver que las ventas se reportaron débiles, debilitándose. |
| |
O, para volver a lo que dije antes, es posible que quieras formular algunas preguntas. Busquemos la demanda de préstamos en esta lista. |
| |
Y califiquemos todos nuestros documentos únicamente con respecto al sentimiento sobre la demanda de préstamos. Y, por supuesto, esto se basa en algunos... |
| |
procesamiento del lenguaje natural para tratar de determinar qué frases de sentimiento se aplican y cuáles no a la demanda de préstamos, y con cualquier método de PNL, no será 100% preciso, pero su precisión, especialmente en textos bien formados escritos en |
| |
En cierto modo, como indican los informes del Libro Beige, parece que funciona bastante bien. Y ahora puedo ver, por ejemplo, cómo se sienten respecto a la demanda de préstamos. |
| |
¿En todos estos informes? Y parece ser, en general, positivo, aunque también hay algunos informes particularmente negativos. |
| |
Lo último que quiero destacar aquí, y solo para cerrar el círculo, probablemente note que tengo dos picos cuando hice esto, y eso es... parece 60 positivo y 60 negativo. |
| |
Y esto simplemente resalta nuevamente lo importante que es cuidar su diccionario de sentimientos al hacer este análisis y tener en cuenta cómo lo construyó cuando interpreta sus resultados. |
| |
Entonces, aquí, este pico en 60 positivo podría muy bien deberse a que cuando ingresé inicialmente muchos términos de sentimiento en el diccionario, estaba usando estos botones de acceso directo. |
| |
Entonces tengo estos 30, 60, 90 botones de acceso directo y estoy casi preparándome para ver picos en las puntuaciones en |
| |
positivo 60 y negativo 60. Y si hubiera tenido un poco más de cuidado para hacer puntuaciones más granulares, entonces tal vez no vería esta, ya sabes, interesante, la llamaremos, distribución. |
| |
Así que lo menciono solo para enfatizar nuevamente lo importante que es tener tu diccionario de sentimientos. |
| |
Juntos desde el principio y luego, una vez que lo hagas, tendrás toda esta información útil sobre el sentimiento global, el sentimiento por documento, el sentimiento por término individual o incluso por subdominio, usando estas funciones. |
| |
Sección aquí. Y luego, por supuesto, como probablemente ya estés acostumbrado en JMP, cuando llegue el momento de guardar lo que has hecho para usarlo en otro lugar, bajo el triángulo rojo, encontrarás esas opciones, así que podría guardar las puntuaciones de mi documento. |
| |
Si volvemos a mi tabla de datos, que está aquí, pueden ver que en realidad he guardado, en este caso, los puntajes para ese subdominio de demanda de préstamos, en mi tabla de datos para poder usarlos, por ejemplo, en análisis o gráficos adicionales, como algunos de los gráficos que creamos para las diapositivas. |
| |
Así que ese es el análisis de sentimientos, nuevo en JMP Pro 16 para cuantificar emociones positivas y negativas en el texto. Y |
| |
Dicho esto, pasemos a la selección de términos, la otra nueva técnica de minería de texto de la que me gustaría hablar. Como se indica, la selección de términos consiste en identificar palabras asociadas con algún resultado, es decir, alguna otra medida. Por ejemplo, aquí tenemos... |
| |
los textos del informe del Libro Beige, pero también podríamos incorporar |
| |
variables económicas, por ejemplo, el PIB, y ver cómo ciertos términos en los informes del Libro Beige se relacionan con el PIB, o tal vez con una variable binaria, como si la economía está en recesión o no. |
| |
Esta es una... selección de términos. Aquí hay una herramienta de propósito general para encontrar palabras que estén asociadas con alguna otra variable, lo cual puede ser útil. |
| |
en un contexto interpretativo, para encontrar tal vez los impulsores de alguna otra variable, o tal vez en un ejercicio de modelado predictivo, para que podamos identificar términos que sean predictivos de algo para que en el futuro podamos usar esos términos para ayudar a predecirlo. |
| |
Entonces, veamos cómo funciona la selección de plazos y, de hecho, vamos a analizar un ejemplo diferente aquí, de la queja del consumidor de la Oficina de Protección Financiera del Consumidor. |
| |
base de datos. Por lo tanto, los consumidores, si tienen una queja sobre un producto o servicio financiero, pueden presentarla ante la CFPB y la CFPB media entre ese consumidor y la |
| |
El proveedor del producto o servicio financiero. Este es un ejemplo de lo que puede encontrar en estos datos. Alguien dice que estaba revisando su informe crediticio y que se presentó una notificación de cobro por $3,900, pero afirma no saber nada al respecto. |
| |
Y también puede ver, en la tabla de datos, que tenemos una columna justo al lado que dice que el consumidor lo impugnó, y aquí el consumidor sí lo impugnó, y lo que eso significa es que recibió una respuesta del |
| |
proveedor de servicios financieros y no quedaron satisfechos con esa respuesta, por lo que la disputaron. |
| |
Como se puede ver en la especificación del gráfico del encabezado de la tabla de datos, no es tan común. Se trata básicamente de uno de cada cinco en este conjunto de datos que estamos analizando. |
| |
Esto puede resultar en una disputa del consumidor, pero si usted es la empresa financiera que atiende a este cliente, ciertamente no querrá emitir una respuesta y que luego la sigan disputando. Quizás le interese comprender qué tipos de quejas... |
| |
están llegando y que realmente conducen a disputas entre consumidores, de modo que usted podría ser capaz, por ejemplo, de identificar con antelación los que probablemente resulten en una disputa, |
| |
O simplemente comprender mejor sus prácticas de resolución de disputas para reducir el número de disputas. Hay muchas razones por las que conviene tener esto en cuenta. |
| |
Los datos narrativos de las quejas de los consumidores sirven para ver qué podría estar impulsando estas disputas en primer lugar, y lo que hace la selección de términos es encontrar los términos individuales en los textos que están asociados con ese resultado, esa variable de disputa. |
| |
Entonces, aquí tengo un gráfico que hice con los resultados de un análisis de selección de términos, donde tenemos una colección de términos a lo largo del eje Y. En el eje X, tenemos el logworth, que es |
| |
Una medida de la solidez de la evidencia estadística de la asociación. Esto está ordenado por valores de logworth, así que en la parte superior tenemos |
| |
Violar y se puede ver el puntito ahí. Esto indica que se ha aplicado la lematización, por lo que «violar» significa que podría ser violar, violado, violación, etc. |
| |
Así que tenemos una fuerte evidencia estadística de que el término violar está asociado con disputas de consumidores y, de hecho, en código de colores, |
| |
Tengo la fuerza del efecto en términos de razón de probabilidades aquí. Entonces, cuando la gente... cuando alguien menciona esa palabra, violar, |
| |
Las probabilidades de una disputa aumentan en un factor de aproximadamente 1,5. Entonces, si estoy... |
| |
Como proveedor de servicios financieros, quizás debería estar atento a ese término. Quizás quiera investigar cómo y cuándo las personas reclaman ciertas infracciones, y como veremos, en realidad se trata de infracciones de la ley federal. |
| |
Cuando nos reclaman eso en una queja, ¿cómo es que estamos manejando esos asuntos, porque parece que tal vez no los estamos manejando satisfactoriamente? |
| |
Tal vez desee utilizar la presencia o ausencia de ese término en parte de un modelo predictivo para ayudar a marcar quejas potencialmente problemáticas con anticipación, para que podamos escalar su resolución. |
| |
Entonces, ¿cómo funciona todo esto? Estamos construyendo un modelo que comienza con la matriz de términos del documento, que es una representación del texto, donde cada... |
| |
Cada fila es un documento y cada columna es un término que podría aparecer. Y luego |
| |
En este caso, tenemos lo que llamamos ponderación binaria. Si el término aparece, simplemente ingresamos uno; si no aparece en ese documento, ingresamos cero. Hay más ponderaciones, pero en nuestro ejemplo, nos quedaremos con la binaria. |
| |
Cuando ingresamos esas columnas binarias como predictores en un modelo, y en particular usamos |
| |
La regresión generalizada de JMP, y veremos por qué en un momento. Primero, quiero aclarar que lo que estamos haciendo aquí es una regresión; de hecho, algunos... |
| |
Algunas personas, como probablemente oirás, se referirán a la selección de términos como regresión de texto. |
| |
No te preocupes demasiado por la forma del modelo. Solo intento destacar que lo que hacemos es tomar una variable de resultado. |
| |
Porque tenemos una variable binaria, son las probabilidades logarítmicas para la regresión logística, y estamos diciendo que eso es igual a, ya sabes, una intersección más, |
| |
Ya sabes, multiplicar un coeficiente por una variable. En este caso, es un uno o un cero binario; ¿apareció la violación o no? |
| |
Más otro valor de coeficiente, en este caso, menos 0,2 veces otra variable binaria; aquí, si alguien mencionó el término "colgó" o no, y así sucesivamente. |
| |
Así que introducimos un conjunto de términos en este modelo y usamos regresión generalizada para seleccionar cuáles pertenecen al modelo y cuáles no. |
| |
Lo que vemos aquí es un ejemplo de cómo JMP calcula esa solución, qué términos nos corresponden y cuáles no. |
| |
Aquí, en la ruta de la solución, podemos ver en azul todos los términos que ingresaron al modelo y en negro todos los términos que en realidad no se incluyeron en el modelo, porque realmente no agregan valor predictivo. |
| |
Y entonces, lo que obtenemos es una lista de términos. Tenemos sus valores de coeficiente de modelo, así que aquí, por ejemplo, violar, obtuve ese valor de 0.4 porque ese es en realidad el |
| |
Valor del coeficiente al ajustar el modelo. Y, como mencionamos antes, también obtenemos una medida de la evidencia estadística o la solidez de la evidencia. |
| |
este valor de logworth, 16,58 aquí, donde, si quieres una regla general, cualquier valor por encima de 2, ya sabes, podría considerarse evidencia estadística fuerte, pero realmente, logworth es el logaritmo negativo en base 10 del valor p, por lo que el valor de 2 solo corresponde a un valor P de .01. |
| |
Así que tenemos ambos, en este caso con el coeficiente, ¿cuánto aumenta o disminuye esto la probabilidad de una disputa? Y luego el registro nos dice, ¿cuán confiable es realmente nuestra evidencia? |
| |
Y con esa información podemos hacer muchísimas cosas y estamos a punto de ver cómo a medida que avanzamos hacia JMP y realmente realizamos este análisis. |
| |
Vuelvo a mi otro escritorio. Voy a consultar los datos de quejas de nuestros consumidores. |
| |
Y |
| |
En lugar de ingresar al explorador de texto desde cero, simplemente lo iniciaré usando un script de tabla aquí. |
| |
Y como veremos, una vez que aparezca... perdón, apareció en la pantalla equivocada. Listo. |
| |
Siempre empezamos con una lista de términos que se incorporarán al análisis. Luego tenemos nuestra lista de frases, donde podemos declarar que ciertas frases que pertenecen a la lista de términos también deben incluirse. |
| |
He incluido muchas frases, como Ley de informes crediticios justos, porque si la mención de esa frase o ese concepto está asociado con una disputa del consumidor, quiero encontrarlo. |
| |
Y también notarán que si voy a... vamos a administrar palabras vacías, he declarado muchas. Estas son todas palabras que... |
| |
No quiero incluirlos en el análisis, principalmente porque podrían eclipsar otras palabras. |
| |
Puede que sean muy frecuentes, y si solo pidiera analizar las, ya sabes, 500 palabras más frecuentes, no quiero arruinarlo. |
| |
Especialmente porque, incluso si "able" fuera devuelto como un término asociado con disputa, ni siquiera sé exactamente qué haría con eso o cómo podría interpretar una palabra tan genérica como "able". |
| |
Entonces, debes tomarte tu tiempo para seleccionar tus palabras y frases vacías y, cuando estés listo, debajo del triángulo rojo, invocar la selección de términos. |
| |
Entonces, cuando lo hagamos, primero seleccionaremos nuestro |
| |
La variable de resultado es la disputa del consumidor. Queremos hablar de la probabilidad de que ocurra una disputa. |
| |
Aquí puedes establecer variables de resultado tanto continuas como categóricas. Ambas funcionan. Y debo mencionar también que estamos hablando de una disputa, que... |
| |
Sabes, podrías pensar que en realidad podría ser algún tipo de indicador del sentimiento, es decir, si alguien discute algo, probablemente es porque no está contento. |
| |
Pero podría ser común que algunas personas tengan datos donde hay una variable externa que es una medida más directa del sentimiento, digamos una calificación de estrellas en un producto, que realmente indica satisfacción. |
| |
Y entonces, si tienes una buena medida de sentimiento, junto con tus datos de texto, podrías usar una herramienta como esta para hacer lo que llamaríamos |
| |
Análisis de sentimientos derivados de datos, donde se utiliza esta herramienta para extraer términos que predicen una medida de sentimiento, seleccionando así esencialmente términos de sentimiento y automáticamente |
| |
Encontrar sus puntuaciones. Así que puede ser muy útil. No es precisamente eso lo que hacemos aquí. Lo usamos de forma más general. |
| |
Bien, para la matriz de términos del documento, usaré la ponderación binaria. Para simplificar, veamos solo los 200 términos más frecuentes. |
| |
Más allá de eso, a partir del trimestre 201, no lo incluiré en el análisis. En la práctica, probablemente incluiría más, solo quiero que sea claro y conciso para la demostración. |
| |
Y si eres usuario de GenReg verás que tienes |
| |
Algunas opciones para especificar los métodos de estimación y validación desde el principio. Las dejaré con los valores predeterminados y haré clic en "Ejecutar". |
| |
Entonces, lo que sucede es que JMP está contactando a GenReg. Está construyendo un modelo de regresión logística y seleccionando variables mediante el método de red elástica. |
| |
Parece que acabamos de tener un segundo fallo técnico. Lo siento mucho. Lo solucionaremos, ya que este modelo encaja. A ver. Recuperaremos mi pantalla compartida. |
| |
Me traeremos de vuelta. Parece que seguimos grabando, así que seguiremos adelante. Aquí está el resultado. |
| |
Antes de analizar el informe en detalle, analizaremos solo esta fila de la tabla de resumen. Esta resume el modelo único que he creado hasta el momento. |
| |
Por ejemplo, veo que devolvió 145 términos. Usé AICc como validación y ahí está el valor de AICc. Podemos ver otras estadísticas de ajuste. |
| |
Y, como con cualquier modelo, es posible que queramos probar varias veces el modelo para construir el modelo que se ajuste mejor a nuestros datos. |
| |
Entonces, si voy a este nodo de regresión generalizada aquí, verá que tenemos GenReg realmente incorporado en el explorador de texto. |
| |
Podría explorar el modelo que hemos ajustado con más detalle o, en mi caso, voy a ajustar un modelo más para ver si puedo mejorarlo. Hagamos una red elástica adaptativa. |
| |
Y ajustaremos ese modelo y veremos si funciona mejor que la red elástica normal que ya hemos ajustado. |
| |
Bueno, entonces también encaja en ese modelo. |
| |
Si vamos a nuestro resumen, podemos ver que este ahora ha devuelto 98 términos, en realidad tiene un AICc más bajo, por lo que podría ser una mejor opción. |
| |
Así que voy a usar ese modelo. Si quisiera usar el original, simplemente haría clic en él. Como pueden ver, el informe a continuación se actualiza con el modelo que haya seleccionado en esta tabla. |
| |
Tengo mi lista de términos aquí abajo. Ya hablamos de esto, así que podría analizarlo en términos de coeficientes. Aquí están los términos que tienen el mayor efecto, aumentando la probabilidad de una disputa de consumo. |
| |
Estos son los que tienen el mayor efecto en la reducción de las probabilidades de una disputa de consumo. En cualquiera de ellos, por ejemplo, podría analizar la situación de "colgado" y ver que, por supuesto, se refiere a que le cuelgan a alguien o a que alguien les cuelga, y tal vez tenga sentido para nosotros que... |
| |
que esto sería predictivo de una disminución en las probabilidades de disputa, porque parece que es realmente un problema de comunicación y que podría ser un poco más fácil de resolver. |
| |
Nuevamente, queremos prestar atención a nuestros valores de logworth aquí, 2.883, por lo que está un poco por encima de esa regla general, 2, que mencioné antes, por lo que podríamos decir, bien, creo que hay evidencia estadística razonablemente sólida de que esta es una asociación real. |
| |
Para que quede claro, si bajamos aquí, vemos la palabra «policía». Y mi primera impresión es que la gente dice: «Bueno, hice un informe policial o llamé a la policía». |
| |
Probablemente no será tan probable que desaparezcan si emitimos algún tipo de respuesta, la disputa de probabilidad tiene que aumentar si alguien ya está al nivel de llamar a la policía. |
| |
Pero si nos fijamos en el |
| |
Logworth, podemos ver bien que la evidencia estadística de esto realmente no es tan fuerte, así que, aunque viole mi intuición, ya sabes, tal vez, tal vez no sea completamente real. |
| |
Ciertamente no es tan grave como para que quiera plantear esto a la gerencia y decir: "Si la gente dice que nos denunciaron, en realidad es algo bueno". Ciertamente no lo decimos. Simplemente se ha seleccionado para su inclusión en el modelo porque, en última instancia,... |
| |
dar como resultado un modelo de mejor ajuste, pero aún depende de nosotros aplicar nuestro propio conocimiento y sentido común para interpretar los resultados. |
| |
Entonces, esta tabla podría ser, si lo que realmente estás tratando de hacer es simplemente identificar los términos y cuantificar sus efectos de alguna manera, |
| |
Este podría ser el objetivo de su análisis. Por lo tanto, puedo hacer clic derecho y convertirlo en una tabla de datos. |
| |
y obtener una tabla de datos de estos términos y sus coeficientes y logworths, y luego usar esto para guiar algún análisis de nuestras respuestas anteriores, esfuerzos de mejora, o incluso marcarlos como términos que deberían incluirse en algún tipo de modelo predictivo en el futuro. |
| |
Pero, ya sabe, construimos un modelo aquí, un modelo de regresión, por lo que tenemos información, a nivel de documento individual, sobre el |
| |
la suma total de los coeficientes que predicen un aumento en las probabilidades de disputa, la suma total que predice una disminución, el valor general del modelo, la probabilidad de |
| |
Una disputa entre el modelo asignado y lo que realmente observamos. Por lo tanto, todo lo que se podría esperar al evaluar el documento individual es, bueno, el rendimiento de este modelo. |
| |
En la parte superior, también tenemos un resumen general de, en este caso, los documentos individuales y sus... lo que llamamos nuestra contribución, de modo que esa es la |
| |
Suma o promedio de los valores de esos coeficientes. Por ejemplo, 30.412 de nuestros documentos tienen una suma total positiva de sus valores de coeficientes, y la media del valor del coeficiente, o contribución media, es de aproximadamente 0,57. |
| |
Entonces, nuevamente, solo una bandera, ya sabes, estamos hablando de coeficientes de regresión aquí, y por lo tanto, estos valores de contribución, la tabla de coeficientes, todo esto debe interpretarse como lo harías cuando estás construyendo |
| |
modelo de regresión lineal de lo contrario, entonces en nuestro caso aquí, regresión logística, deberíamos interpretar estos |
| |
apropiadamente, es decir, si los exponenciamos, entonces estamos tratando con el logaritmo o... perdón... entonces estamos tratando con la razón de probabilidades, por lo que ese es el factor por el cual las probabilidades aumentarían o disminuirían si esta palabra aparece en el texto. |
| |
Aunque no te interese mucho la regresión, estos valores pueden ser útiles en un sentido más general, ya que puedes analizar qué términos tienen el mayor efecto y cuáles no. Lo mismo ocurre con el logaritmo: cuáles tienen la evidencia más sólida y cuáles no. |
| |
Ahora, finalmente, como puedes imaginar, quiero decir que ya vimos cómo guardar la tabla de términos, pero si tu objetivo no es esa tabla de términos, sino realmente el modelo |
| |
que has creado, también puedes guardarlo. Así que seleccioné el modelo que quiero usar, la red elástica adaptativa, y debajo del triángulo rojo, puedo guardar las fórmulas de predicción. |
| |
Y creo que mi computadora probablemente se quedará en blanco por un segundo. Así que está guardando la matriz de términos del documento, que era para los 200 términos principales, como especificamos, y luego también la fórmula. |
| |
que opera sobre esas columnas o la matriz de términos del documento para calcular nuestro modelo. Aquí tengo la matriz de términos del documento. |
| |
Y luego las columnas de fórmulas al final aquí, así que ahora puedo usarlas. |
| |
este modelo directamente si quiero. |
| |
Así que eso es la selección de términos. En resumen, buscamos los términos más fuertemente asociados con una variable de resultado que nos interesa, ya sea para interpretar mejor qué impulsa ese resultado o incluso para fundamentar una práctica de modelado que intente predecirlo. |
| |
Y eso es todo: selección de términos y análisis de sentimientos, las dos nuevas funciones de minería de texto en JMP Pro 16, presentadas nuevamente la primavera pasada. |
| |
Voy a quedarme un rato y responder cualquier pregunta que tengan sobre... |
| |
Ya sabes, estas dos nuevas funciones. Y también recuerda que más adelante, siempre puedes publicar un comentario o una pregunta adicional en la página de la Comunidad de usuarios para esta presentación. Siempre estaré atento. |
| |
Estoy abierto a responder cualquier pregunta que surja. Gracias a todos por su tiempo. Cuídense. |
