Vocero
|
Transcripción
|
| Ross Metusalem |
Hola a todos y bienvenidos a esta presentación sobre cómo JMP ha ampliado su kit de herramientas de minería de texto en JMP Pro 16, que acaba de salir la primavera pasada. |
| |
Soy Ross Metusalem. Soy embajador académico de JMP y voy a compartir con ustedes estas dos nuevas capacidades de minería de texto. |
| |
análisis de sentimientos y selección de términos. Vamos a hablar sobre qué son y cómo usarlos y JMP y luego veremos dos ejemplos de cómo realizar estos análisis en datos disponibles públicamente del mundo real. |
| |
Por lo tanto, el análisis de opiniones y la selección de términos son dos nuevas incorporaciones al explorador de texto de JMP, que es una herramienta de minería de texto de propósito general. |
| |
Puede usar esto para derivar información cuantitativa de lo que comúnmente llamamos datos de texto libre o no estructurado, por lo que esto podría ser cualquier cosa, desde derivar frecuencias de palabras, para que podamos hacer una nube de palabras, |
| |
hasta realizar un análisis semántico latente, de modo que podamos agrupar documentos semánticamente similares. Entonces, las dos capacidades que vamos a ver hoy son capacidades dentro de la herramienta de exploración de texto. |
| |
Comenzaremos con el análisis de opiniones, una función popular y solicitada con frecuencia que nos complace presentar en JMP Pro 16. |
| |
Para aquellos que no están familiarizados, el análisis de sentimientos se trata de cuantificar la emoción positiva a la negativa en datos de texto no estructurados. |
| |
Ahora, el ejemplo que vamos a ver es del Libro Beige, que es un informe narrativo emitido por la Reserva Federal. |
| |
Y como podemos ver en el mapa, la Reserva Federal se divide en 12 distritos diferentes y aproximadamente ocho veces al año, cada distrito emite un informe narrativo del Libro Beige. |
| |
que resume las condiciones económicas actuales y futuras potenciales en esa región geográfica en sí. Y estos informes se basan en gran medida en fuentes de datos cualitativos, así que piense |
| |
conversaciones con líderes empresariales, encuestas, cosas así. Así que creo que el Libro Beige proporciona un buen ejemplo para el análisis de sentimientos, no solo porque |
| |
son datos disponibles públicamente y puedo compartirlos con todos ustedes, pero también porque sería bastante interesante si fuera, digamos, un inversionista o usted, |
| |
ya sabes, manejó una institución financiera para saber cuán fuertemente positivos o negativos se sienten los directores de la Reserva Federal sobre las condiciones económicas en diferentes partes del país. En realidad podrías usar eso para |
| |
tal vez guíe la toma de decisiones, o incluso si puede cuantificarlo, utilícelo en algunos análisis estadísticos, tal vez incluso en algunos modelos predictivos. |
| |
Así que echemos un vistazo a un ejemplo de un texto del Libro Beige. |
| |
Aquí solo tenemos un fragmento de uno de los informes, y podemos ver, comenzando en la parte superior, que este informe dice que las ventas de computadoras, por otro lado, han estado severamente deprimidas. |
| |
Considerando que, si vamos al fondo, una persona también informó que hay una serie de pajitas favorables en el viento, por lo que tenemos "severamente deprimido" y "favorable" y también "mejorar" resaltado aquí, |
| |
porque estas son lo que llamaríamos frases de sentimiento. Así que es una o más palabras que denotan algún tipo de contenido emocional positivo o negativo. |
| |
Entonces, en la parte superior, tenemos severamente deprimido, lo que sería fuertemente negativo, y luego tenemos abajo, favorable, que sería generalmente positivo, y usamos este código de color para que naranja versus este azul o púrpura (dependiendo de cómo lo ves) |
| |
para indicar sentimiento positivo y negativo respectivamente. |
| |
Y muchas formas de análisis de sentimientos hacen precisamente esto. Buscan frases positivas y frases negativas en el texto. |
| |
El formulario que usa JMP, y que puede encontrar en otros lugares, en realidad cuantifica el sentimiento positivo y negativo en una escala continua. |
| |
Tomemos, por ejemplo, la parte inferior de este segundo fragmento de texto, donde vemos que alguien dice que los grandes almacenes de la región reportan bajas ventas. |
| |
Entonces, arriba, tenemos ventas severamente deprimidas y abajo, vemos que las ventas son bajas. Bueno, creo que todos estamos de acuerdo en que severamente deprimido suena peor |
| |
con respecto a las ventas que pobre hace. Y entonces podríamos querer, |
| |
si bien ambos son negativos, cuantifique la depresión severa como más negativa que mala, y eso es lo que hacemos en el análisis de sentimientos en JMP. y vamos a hablar |
| |
muy brevemente aquí sobre cómo se calculan esos puntajes, en particular, pero primero creo que vale la pena mirar |
| |
demostraciones potenciales de validez de cuantificar el sentimiento al observar términos y frases individuales como este. |
| |
Y estamos hablando esencialmente de puntuar documentos, en función de las palabras que aparecen en ellos. |
| |
que creemos que denotan emoción y en qué medida. Y eso es algo interno y subjetivo, pero este enfoque, el análisis de sentimientos, |
| |
realmente puede demostrar alguna validez predictiva. Por ejemplo, si observamos cómo sigue el sentimiento del Libro Beige a lo largo del tiempo, podemos ver que en realidad sigue de forma bastante fiable con las recesiones. Así que aquí tenemos sentimiento |
| |
en el eje y. Puede ver que se extiende desde menos 75 a 75, ese es solo el rango que trazamos. La verdadera escala va de menos 100 |
| |
a 100, donde cero es neutral. Y puede ver, con el tiempo más suave capturando la tendencia general en el sentimiento en todos los informes del Libro Beige, |
| |
puede ver un patrón interesante con respecto a las recesiones económicas, que están resaltadas en rojo. En particular, podemos ver que el sentimiento parece caer de manera confiable antes de cada recesión. |
| |
Entonces, a pesar de que esta es una medida relativamente subjetiva de lo que creemos que es el estado emocional de los directores de la Reserva Federal de EE. UU., es decir, está siguiendo las recesiones económicas, como cabría esperar. |
| |
También rastrea geográficamente, curiosamente. Tomemos, por ejemplo, la caída de las puntocom alrededor de 2000-2001 cuando un grupo de nuevas empresas de Internet en el área de la Bahía de San Francisco |
| |
Fue bajo. Podemos ver, y tengo las etiquetas flotantes de San Francisco resaltadas aquí, para que podamos ver los puntajes de esa región. Tenemos sentimiento positivo en naranja, como vimos antes, y negativo en ese azul. |
| |
Podemos ver que construyendo hasta 2000, el sentimiento |
| |
fue bastante alto en el área de la Bahía, 38.65, y luego se desplomó más de 60 puntos en 2001 en promedio a |
| |
negativo 24,7 aproximadamente. Y ese es un cambio mucho más grande que el que vimos en otras partes del país porque esa es la región... presumiblemente, porque esa es la región que se vio más afectada. |
| |
Y vemos algo similar con la gran recesión. Entonces vemos que la caída del mercado de la vivienda en 2008 se corresponde con una caída en el sentimiento y no de manera uniforme. |
| |
Parece que las caídas más grandes se evidenciaron en la costa oeste, así que esa es nuevamente la región de San Francisco, la región de Nueva York y también la región de Atlanta, que incluye |
| |
Florida, donde vivo, que fue un área particularmente afectada del país. Y, de hecho, si miramos hacia abajo en la fila de abajo, podemos ver que Florida... |
| |
el sentimiento no parece recuperarse en esa área general hasta alrededor de 2012, detrás de algunas de las otras geografías, y eso parece tener sentido. El mercado inmobiliario de Florida fue uno de los últimos en recuperarse a nivel nacional. |
| |
Así que tenemos esta medida subjetiva de la emoción, pero en este caso rastrea eventos externos... eventos económicos de la manera que esperaríamos. |
| |
Y lo sabes de nuevo, estamos viendo el Libro Beige porque es un ejemplo disponible públicamente particularmente bueno. Si usted |
| |
están hablando de dominios quizás más comunes para aplicar el análisis de sentimientos, como la investigación del mercado de consumo, donde se trata de un |
| |
voz del cliente en forma de datos de texto, así que revisiones de productos, respuestas a encuestas, cosas así, |
| |
es posible que pueda usar el análisis de sentimientos para comprender mejor, tal vez incluso predecir, digamos, los comportamientos de los clientes, al igual que podemos usar el sentimiento aquí para comprender mejor o predecir, tal vez, las recesiones económicas. |
| |
Entonces, dicho esto, me doy cuenta de que hemos estado analizando los puntajes de sentimiento durante los últimos minutos aquí, y realmente plantea una pregunta sobre de dónde provienen. |
| |
Entonces, JMP usa una forma de análisis de sentimientos llamada análisis de sentimientos léxicos. Entonces usa un léxico de sentimientos o |
| |
diccionario de sentimientos |
| |
asignar puntajes a todas las palabras individuales que creemos que tienen algún sentimiento. Entonces, una palabra como fantástico podría obtener una puntuación de 90, que es muy positiva. Está casi al máximo de positivo, 100, mientras que un par menos, temido, obtiene un puntaje negativo de 60. |
| |
Ahora podemos asignar puntajes a estos términos y básicamente contarlos o tomar su promedio en cualquier documento individual. |
| |
Pero queremos tener en cuenta un par de cosas más. Si recuerdas, la primera frase de sentimiento que vimos en el ejemplo del Libro Beige fue severamente deprimida. |
| |
Otras palabras severamente como un ejemplo de algo que llamamos un intensificador, que es básicamente un multiplicador de sentimientos. Así que puedes ver aquí, podríamos declarar que increíblemente es un multiplicador con un puntaje de sentimiento de 1.4, donde un poco en realidad |
| |
lo escala en 0,3, por lo que disminuye un poco la magnitud del sentimiento. |
| |
Entonces, si aparece un intensificador con el término de sentimiento, realizamos esa multiplicación y luego también si aparece un negador. Así que decimos, |
| |
ya sabes, algo es no o no o no debería o no era, lo multiplicamos por uno negativo, de modo que básicamente, ya sabes, invertimos el signo; lo positivo se vuelve negativo y viceversa. |
| |
Entonces, para cualquier frase de sentimiento, solo realizamos esta simple multiplicación y luego en un documento, |
| |
podemos tomar el puntaje promedio o tal vez la diferencia entre los puntajes de sentimiento mínimo y máximo para |
| |
calcular un valor de sentimiento para esos documentos. Y eso es lo que estábamos viendo en esos gráficos, por lo que el gráfico de sentimiento a lo largo del tiempo en esos mapas. |
| |
Así que esto es análisis de sentimiento léxico. Es una práctica muy común y es el tipo de análisis de sentimiento que se implementa en JMP. Y como veremos, cuando tienes JMP |
| |
calcula todos los puntajes de sentimiento, obtienes mucha información útil. Así que aquí hay un ejemplo de cómo se ve el informe de análisis de sentimiento. |
| |
Solo para obtener una vista previa de un elemento de los resultados, en la parte superior aquí, tenemos un resumen simple del sentimiento en todos nuestros documentos. |
| |
Así que tenemos un histograma que está codificado con colores que nos muestra que la distribución de los sentimientos generales parece inclinarse positivamente, que tenemos una cola de sentimiento negativo bastante fuerte. |
| |
Podemos ver que, en todos los documentos, el puntaje de sentimiento promedio es 4.1, por lo que está ligeramente por encima de neutral. |
| |
Para todos los documentos que son en general positivos, de los cuales hay 3.900, su puntuación media es de 22,9, mientras que entre los cerca de 1.400 documentos negativos, el |
| |
la puntuación media es negativa de 15,4, por lo que los documentos negativos no son tan negativos como los positivos. |
| |
Ahora, por supuesto, ya sabes, aquí con el Libro Beige, podría decir, bueno, ya sabes desde este caso en 1970 hasta el presente, solo mirando el puntaje de sentimiento promedio, tal vez, ya sabes, no No me importa tanto como mirar las puntuaciones de documentos individuales o |
| |
tal vez mirando la distribución de ciertos términos de sentimiento. Pero, de nuevo, si se trata de datos en, |
| |
digamos, investigación de mercado del consumidor, algo así, cualquier dato de texto en el que tenga la voz del cliente, incluso un resumen de alto nivel como este que nos puede decir bien qué tan positivo o negativo se sienten nuestros clientes, según los datos que tenemos, |
| |
incluso el simple informe puede ser realmente valioso. Pero estamos a punto de cambiar a JMP y veremos que el informe de análisis de sentimiento viene con muchas formas adicionales de explorar los datos para obtener información. |
| |
Así que vayamos a JMP y veamos cómo se hace. |
| |
Así que aquí estamos, estoy en JMP Pro 16.1, y antes de sumergirnos en estos datos del Libro Beige, quiero agradecer a Xan Gregg. |
| |
Para aquellos de ustedes que no lo conocen, Xan es un director de nuestro equipo de desarrollo. Es el creador de Graph Builder. |
| |
y también es la persona a la que originalmente se le ocurrió la idea de mirar los datos del Libro Beige, e incluso tuvo la amabilidad de raspar las páginas html en los archivos del Libro Beige y proporcionarme una buena tabla de datos JMP. Así que muchas gracias, Xan. |
| |
Muy bien, echemos un vistazo al análisis de sentimientos y, de hecho, en lugar de entrar en los resultados, |
| |
ya sabes, quiero mostrarte cómo configurar el análisis brevemente, porque hay algunas consideraciones importantes a tener en cuenta, |
| |
con respecto no solo a cómo JMP lo implementa, sino también a cómo hacer análisis de sentimiento o análisis de sentimiento léxico en general. |
| |
Y para demostrar esa configuración, en realidad voy a ver solo un subconjunto de los datos desde 2010 hasta el presente, en este caso, solo para mantener las cosas rápidas, porque vamos a preguntar |
| |
text explorer para actualizar automáticamente su análisis varias veces, y queremos que sea, ya sabes, lo más instantáneo posible. |
| |
Así que aquí tengo ese subconjunto de datos, así que tenemos nuestros informes del Libro Beige en los 12 distritos desde enero de 2010 hasta el informe más reciente el mes pasado. |
| |
Muy bien, para iniciar nuestro análisis de sentimientos, voy a analizar y elegiré el explorador de texto. Tome nuestro texto y póngalo en el rol de columnas de texto. Un par de cosas a tener en cuenta. |
| |
Una es que, si bien el Explorador de texto generalmente admite varios idiomas, |
| |
Actualmente, el análisis de opiniones solo está disponible en inglés. |
| |
Y la otra es que si... al menos si eres un usuario experimentado del explorador de texto, es posible que estés acostumbrado a activar la lematización, y notarás que voy a dejarlo ahora mismo. |
| |
Para aquellos que no conocen la derivación, es una forma de colapsar entre múltiples formas de la misma palabra o, en términos lingüísticos, el mismo déjame. Así que toma fuerte, más fuerte y más fuerte. |
| |
Nos derrumbaríamos sobre todos ellos y simplemente diríamos, bueno, todos son fuertes para nuestros propósitos. |
| |
Y obviamente no queremos hacer eso aquí porque más fuerte es más positivo que más fuerte, que es más positivo que fuerte. |
| |
Entonces, dejamos la derivación y, de hecho, incluso si la activó una vez que invocó el análisis de sentimientos, ignorará esa derivación porque, de nuevo, realmente no debería estar usándola. |
| |
Así que voy a hacer clic en Aceptar. No, y parece que cuando lo hice, tuvimos un pequeño problema técnico. Me disculpo porque últimamente ha pasado algo extraño con mi computadora que está haciendo eso, pero está bien. Simplemente podemos reiniciar nuestra pantalla compartida y recuperar mi video. Hola a todos. |
| |
Y lo compartiremos. De acuerdo, deberíamos continuar, parece que la grabación aún continúa. Permítanme asegurarme de que JMP esté asignado al monitor correcto aquí. Parece que lo es. Está bien, lo siento por eso a todos. De todos modos, volvamos a eso. |
| |
Así que aquí tenemos nuestra ventana del explorador de texto. Ahora de nuevo, si estás acostumbrado a hacer |
| |
análisis de texto, sabrá que normalmente comienza declarando palabras vacías. Por ejemplo, la gente está hablando de mis contactos en la industria que me dijeron que... Y sabes que no me gustaría usar la palabra contactos en mi análisis, así que normalmente |
| |
agregue eso como una palabra vacía y luego revise potencialmente durante horas |
| |
declarar palabras vacías antes de hacer mi análisis, y no tienes que hacer eso con el análisis de sentimientos. |
| |
Todo se basa en ese diccionario de sentimientos, por lo que, para una palabra como contactos, no está en el diccionario. De todos modos, está funcionalmente excluido, por lo que es una buena manera de ahorrar tiempo. |
| |
Sin embargo, probablemente desee declarar frases, por ejemplo, bienes raíces o una que vamos a ver, que es demanda de préstamo, que está sentado aquí. |
| |
Así que hago clic en demanda de préstamo y lo agrego como una frase. Se coloca en nuestra lista de términos, así que vamos a encontrarlo muy rápido. |
| |
Ahí está, 1.139 instancias. Y esto es para ayudarnos a profundizar en subdominios en estos análisis o en este |
| |
en este conjunto de datos. Así que imagine que quiero calcular el sentimiento, no en general, sino solo con respecto a la demanda de préstamos. |
| |
Para hacer eso, como veremos, primero necesito declararlo como una frase, por lo que es razonable revisar y declarar algunas frases al menos para dominios realmente prominentes que podrían interesarle. |
| |
Muy bien, ahora cerremos eso y lancemos un análisis de sentimiento. |
| |
Y verán cuando lo haga, voy a obtener un informe completo, por lo que podría parecerme que es hora de comenzar a explorar mis resultados, porque parece un análisis completo, pero quiero anime a cualquiera que use esto a pisar el freno y considere su diccionario de sentimientos. |
| |
Diferentes, ya sabes, grupos de personas que generan textos en diferentes contextos sobre diferentes cosas, con diferentes lenguas vernáculas. |
| |
puede usar el lenguaje de muchas maneras diferentes. Y es importante adaptar sus listas de términos de negación de sentimientos e intensificadores |
| |
para reflejar eso. Así que... dudo en usar la palabra nunca, pero voy a... voy a decir nunca, simplemente use el diccionario de sentimientos predeterminado. Siempre obtendrá resultados más válidos si lo selecciona usted mismo. |
| |
Entonces, si voy a los términos de sentimiento aquí, puede ver que las puntuaciones se basan en este diccionario incorporado, que es relativamente escaso. |
| |
Pero quiero leer parte del texto y ver si puedo identificar quizás algunas palabras más que deberían incluirse en el diccionario. Debo mencionar que es posible que incluso desee pasar por el |
| |
la lista incorporada y excluir algunos, aunque esa lista es relativamente escasa y, por lo tanto, idealmente no debería tener que excluir demasiados o quizás ninguno. |
| |
Entonces, en nuestro informe, en realidad tiene algunas herramientas para seleccionar su diccionario, no solo para explorar los resultados. Puedo seleccionar el documento en esta tabla de documentos y mostrar el texto |
| |
justo debajo. Así que me bajaré brevemente de la parte inferior de la pantalla. Puede ver resaltado en ese texto, los términos de opinión y las frases ya se han encontrado, como un poco mejor. |
| |
Pero si observa, digamos, aquí tenemos la palabra débil, las condiciones actuales se mantuvieron débiles, y resulta que, por lo que sé, esta es una situación muy común. |
| |
término en los informes del Libro Beige que indica que algo es esencialmente malo. No sé, no soy economista, pero tal vez sea el caso que en economía, |
| |
ya sabes, débil es sinónimo de malo, fuerte es sinónimo de bueno, y esa es mi opinión, después de haber analizado estos datos un poco. |
| |
Ahora verás, no está resaltado. Eso significa que débil no está actualmente en mi diccionario, pero puedo agregarlo muy fácilmente. Solo paso el cursor sobre eso |
| |
término justo en el texto, y puedo agregarlo como un negador. Puedo darle un valor intensificador o un valor de sentimiento para que sea moderadamente negativo, así que voy a hacer clic en negativo 60. |
| |
Y lo que sucede es que ahora se agrega a mi diccionario, y todos los puntajes de sentimiento se vuelven a calcular en tiempo real aquí. |
| |
Así que mi lista de términos de sentimientos ahora puede incluso seleccionar débil y ver todas las instancias de la misma. Parece que, si volvemos a esa tabla en la columna de conteo, ocurre 1012 veces en este subconjunto de datos del Libro Beige. |
| |
Por lo tanto, revise y lea, tal vez, un subconjunto aleatorio o un subconjunto aleatorio estratificado de sus documentos e intente identificar algunos términos de sentimiento que pertenezcan a su diccionario. |
| |
Ahora, también puede confiar en una característica útil, esta lista de posibles sentimientos, |
| |
que en realidad ofrece posibles términos de sentimiento para su consideración. Podría notar, digamos, fuerte está aquí, y puse débil. Ciertamente quiero fuerte y por eso voy a declarar que para ser un |
| |
fuerte. |
| |
Y he estado usando los botones de atajo, ya sabes, 60 positivo, 60 negativo, pero puedes ingresar cualquier puntaje que quieras entre 100 y 100 negativo, así que tal vez en realidad solo quiero un puntaje de 50 para fuerte. Así que haré eso, y si miras hacia abajo ahora mismo, puedes ver todo de nuevo con actualizaciones automáticas. |
| |
Así que tenga cuidado con su lista de términos de sentimiento. Tampoco repasaré la mecánica de hacer sus términos intensificadores de negación, pero se aplican las mismas ideas. |
| |
Asegúrese de obtenerlos correctamente para reflejar realmente su dominio y luego le recomiendo que, debajo del triángulo rojo, siempre puede ingresar a las herramientas de administración de términos completos para cualquiera de los que sabe ingresar manualmente algunos términos, así que tal vez sé que quiero más fuerte y yo quiero que sea una puntuación de 90. |
| |
Entonces puedo agregar una especie de formato por lotes aquí |
| |
sin actualizar automáticamente cada vez, o también puedo importar y exportar listas de términos de opinión, |
| |
lo cual es excelente para compartirlos con otras personas, hacerlos portátiles, ayudar a rastrear nuestro trabajo y hacerlo replicable. |
| |
Debido a lo mucho que sus resultados dependen de la lista de términos de sentimiento, y también de los intensificadores y los negadores, le recomiendo que cuando tenga una lista establecida, los exporte para que esté completamente documentado y también pueda ser importado a un nuevo análisis y replicado. |
| |
Así que eso es suficiente para configurar el análisis, realmente solo quiero recalcar el punto de que si invoca el análisis de sentimiento, obtendrá un informe, pero no se sumerja directamente en ese informe. Cura tu diccionario primero. |
| |
Entonces, ahora que he |
| |
superado ese punto sin piedad, echemos un vistazo a ese informe. |
| |
Y lo que voy a hacer ahora es obtener, ya sabes, un informe completo utilizando, en este caso, los más de 5300 |
| |
Informes del Libro Beige aquí. Entonces, como mencioné antes, en la sección de resultados, tienes este resumen general. No volveremos a pasar por eso. Hemos visto que también tienes |
| |
todos los documentos individuales, para que pueda ver cualquier documento para ver cómo se calificó, qué aparece en él. Explore el uso de términos y frases de sentimiento en contexto. |
| |
En esta tabla también puede ver una serie de medidas útiles, por ejemplo, la suma total de la puntuación positiva de un documento, |
| |
el puntaje promedio de las frases de sentimientos positivos en el documento. Lo mismo ocurre con el negativo y luego con el puntaje general y lo notarán, como yo |
| |
Pase el cursor sobre estos valores, que en realidad me muestra cómo se calculan. Entonces, si observo la media de la puntuación negativa, puedo ver que hay siete términos en total, puedo ver cuáles fueron sus puntuaciones y luego puedo ver cuál es el promedio. |
| |
También puedo ver que el promedio, en este caso, de negativo, es solo el puntaje promedio en todos los términos de sentimiento, positivo y negativo. |
| |
Hay muchas formas útiles en las que pasar el cursor sobre los elementos de este informe revelará información útil. Recomiendo encarecidamente, ya sabes, solo pruébalo. Pase el ratón por diferentes lugares. Probablemente encuentres algo útil. |
| |
Ahora, por lo general, no nos fijamos demasiado en los documentos individuales cuando hacemos minería de texto como esta. Quiero decir, si pudiéramos leerlos todos, |
| |
entonces lo haríamos. Quiero decir, somos mejores para entender el lenguaje que las computadoras. Entonces, ciertamente no solo vamos a revisar toda esta colección de 5,300 documentos, sino que podría decir, ordenar por puntaje y ver solo los más negativos. |
| |
informes y leerlos para tener una idea de, está bien, bueno, |
| |
cuando las personas son particularmente negativas, ¿sobre qué son negativas? ¿Qué puedo aprender acerca de lo que está impulsando esa negatividad? Y nuevamente, especialmente en, digamos, la investigación del consumidor, mirando, ya sabes, reseñas de productos, encuestas, algo así puede ser realmente valioso. |
| |
También vimos que tiene su lista de términos de opinión, donde podemos ver todos los diferentes términos de opinión que aparecen, con qué frecuencia aparecen y su |
| |
puntuaciones asociadas a ellos. Y si tomo alguno de ellos, también puedo ver esos términos en contexto. Entonces, si hay un término de sentimiento en particular que se usa |
| |
con bastante frecuencia en sus datos, es posible que desee comprenderlos mejor en contexto para ver por qué las personas los usan o qué los impulsa a usarlos. Y es bastante fácil hacerlo simplemente seleccionando el término y luego navegando por el texto a continuación. |
| |
Ahora, finalmente, lo que creo que es una de las funciones más útiles en el análisis de sentimientos se encuentra en esta pestaña de funciones. |
| |
Entonces, lo que hace esto cuando hago clic en buscar, encuentra términos que no son de opinión que ocurren con frecuencia con términos de opinión y nos permite hacer un análisis detallado, donde evaluamos la opinión solo con respecto a eso. |
| |
término seleccionado, o lo que llamaremos característica, o también podría llamarlo subdominio. Entonces, tal vez el sentimiento solo por las ventas y podemos ver que las ventas se informaron débiles, debilitándose en las ventas. |
| |
O para volver a lo anterior cuando dije que sí quieres hacer algunas frases potencialmente. Busquemos la demanda de préstamos en esta lista, |
| |
y califiquemos todos nuestros documentos solo con respecto al sentimiento con respecto a la demanda de préstamos. Y, por supuesto, esto está usando algunos |
| |
procesamiento de lenguaje natural para tratar de determinar qué frases de sentimiento se aplican y no se aplican a la demanda de préstamos, y con cualquier método de NLP, no será 100% preciso, pero su precisión, especialmente en texto bien formado escrito en |
| |
en la forma en que lo son los informes del Libro Beige, parece que funciona bastante bien. Y ahora, puedo ver, por ejemplo, cómo se sienten acerca de la demanda de préstamos |
| |
en todos estos informes? Y parece positivo en general, aunque tenemos algunos informes particularmente negativos allí. |
| |
Lo último que hay que mencionar aquí, y solo para cerrar el círculo, probablemente note que tengo picos cuando hice esto, y eso es... parece 60 positivo y 60 negativo. |
| |
Y esto solo resalta nuevamente lo importante que es seleccionar su diccionario de sentimientos al realizar este análisis y dar cuenta de cómo lo construyó cuando interpreta sus resultados. |
| |
Así que aquí, este pico de 60 positivo bien podría deberse a que cuando inicialmente ingresé muchos términos de sentimiento en el diccionario, estaba usando estos botones de acceso directo. |
| |
Así que tengo estos botones de acceso directo 30, 60, 90 y casi me estoy preparando para ver picos en las puntuaciones en |
| |
60 positivo y 60 negativo. Y si hubiera tenido un poco más de cuidado para hacer las partituras más finas, entonces tal vez no vería esto, ya sabes, interesante, lo llamaremos distribución. |
| |
Así que llamo a eso solo para enfatizar nuevamente lo importante que es obtener su diccionario de sentimientos |
| |
juntos por adelantado y luego, una vez que lo haga, tiene toda esta información útil sobre el sentimiento global, sentimiento por documento, sentimiento por término individual o incluso por subdominio, usando estas características |
| |
sección aquí. Y luego, por supuesto, como probablemente esté acostumbrado en JMP, cuando sea el momento de tomar lo que ha hecho y guardarlo, para que pueda usarlo en otro lugar debajo del triángulo rojo, encontrará esas opciones, así que Podría guardar las puntuaciones de mis documentos. |
| |
Si volvemos a mi tabla de datos, que está justo aquí, pueden ver que en realidad he guardado, en este caso, son los puntajes para ese subdominio de demanda de préstamos, de regreso a mi tabla de datos para poder usarlos, digamos , en análisis o gráficos posteriores, como algunos de los gráficos que construimos para las diapositivas. |
| |
Eso es análisis de sentimientos, nuevo en JMP Pro 16 para cuantificar emociones positivas y negativas en el texto. Y |
| |
Dicho esto, pasemos a la selección de términos, la otra nueva técnica de minería de texto de la que me gustaría hablar. Como dice, la selección de términos se trata de identificar palabras que están asociadas con algún resultado, es decir, alguna otra medida. Por ejemplo, aquí, ya sabes, tenemos, |
| |
los textos del informe del Libro Beige, pero también podríamos incorporar |
| |
variables económicas, por ejemplo, el PIB, y ver cómo ciertos términos en los informes del Libro Beige se relacionan con el PIB, o tal vez con una variable binaria, como si la economía está en recesión o no. |
| |
Esta es una... selección de términos aquí es una herramienta de propósito general para encontrar palabras que están asociadas con alguna otra variable, que puede ser útil |
| |
en un contexto interpretativo, para encontrar quizás los impulsores de alguna otra variable, o quizás en un ejercicio de modelado predictivo, para que podamos identificar términos que son predictivos de algo para que en el futuro podamos usar esos términos para ayudar a predecirlo. |
| |
Entonces, veamos cómo funciona la selección de términos, y en realidad vamos a ver un ejemplo diferente aquí de la queja del consumidor de la Oficina de Protección Financiera del Consumidor. |
| |
base de datos. Entonces, los consumidores, si tienen una queja con respecto a un producto o servicio financiero, pueden presentar esa queja ante el CFPB y el CFPB media entre ese consumidor y el |
| |
el proveedor del producto o servicio financiero. Aquí tienes un ejemplo de lo que puedes encontrar en estos datos. Así que aquí hay alguien que dice que estaba monitoreando su informe de crédito, y que se presentó una notificación de cobro por $3,900 y afirma no saber nada al respecto. |
| |
Y también puede ver, en la tabla de datos, tenemos una columna justo al lado que dice que el consumidor lo disputó, y aquí el consumidor sí disputó, y eso significa que recibió una respuesta del |
| |
proveedor de servicios financieros y no quedaron satisfechos con esa respuesta, por lo que la disputaron. |
| |
Puede ver en la especificación del gráfico de encabezado en la tabla de datos, no es tan común. Básicamente, se trata de uno de cada cinco en este conjunto de datos que estamos viendo, |
| |
dar como resultado la disputa del consumidor, pero si usted es la compañía financiera que está tratando con este cliente, ciertamente no desea emitir una respuesta y luego hacer que continúen disputando esa respuesta. Es posible que desee comprender qué tipos de quejas |
| |
están llegando que en realidad conducen a disputas de consumidores, de modo que usted pueda, por ejemplo, identificar las que probablemente den lugar a disputas por adelantado, |
| |
o simplemente comprenda mejor sus prácticas de resolución de disputas para reducir la cantidad de disputas. Hay muchas razones por las que quieres que te importe eso. |
| |
Datos narrativos de quejas de consumidores para ver qué podría estar impulsando estas disputas en primer lugar, y lo que hace la selección de términos es encontrar los términos individuales en los textos que están asociados con ese resultado, esa variable de disputa. |
| |
Así que aquí tengo un gráfico que hice de los resultados de hacer un análisis de selección de términos, donde tenemos una colección de términos a lo largo del eje Y. En la X tenemos el logworth, que es |
| |
una medida de la fuerza de la evidencia estadística de la asociación. Así que esto en realidad está ordenado por valores de logworth, por lo que en la parte superior tenemos |
| |
violar y se puede ver el pequeño punto allí. En realidad, eso muestra que hemos hecho derivación aquí, por lo que violar significa que podría ser violar, violar, violar, y así sucesivamente. |
| |
Así que tenemos una fuerte evidencia estadística de que ese término violar está asociado con disputas de consumidores, y en realidad en un código de colores, |
| |
Tengo la fuerza del efecto en términos de una relación de probabilidades aquí. Así que cuando la gente... cuando alguien menciona esa palabra, viola, |
| |
las probabilidades de una disputa aumentan en un factor de aproximadamente 1,5. entonces si soy |
| |
un proveedor de servicios financieros, es posible que desee estar atento a ese término. Podría querer investigar cómo y cuándo las personas denuncian ciertas violaciones y, como veremos, en realidad son violaciones de la ley federal. |
| |
Cuando dicen eso en una queja, cómo es que los estamos manejando, porque parece que tal vez no los estamos manejando satisfactoriamente. |
| |
Tal vez quiera usar la presencia o ausencia de ese término en parte de un modelo predictivo para ayudar a señalar quejas potencialmente problemáticas por adelantado, para que podamos escalar su resolución. |
| |
Entonces, ¿cómo funciona todo esto? Bueno, estamos construyendo un modelo que comienza con la matriz de términos del documento, que es una representación del texto, donde cada |
| |
fila es un documento y luego cada columna es un término que podría aparecer. Y luego |
| |
en este caso, tenemos lo que llamamos ponderación binaria, así que simplemente, si aparece el término, ingresamos uno; si el término no aparece en ese documento, ingrese un cero. Hay más ponderaciones, pero nos quedaremos con el binario, para nuestro ejemplo. |
| |
Cuando ingresamos esas columnas binarias allí como predictores en un modelo, y en particular usamos |
| |
La regresión generalizada de JMP y veremos por qué en un momento. Primero solo quiero especificar que lo que estamos haciendo aquí es una regresión, de hecho algunos |
| |
algunas personas, probablemente escuchará, se refieren a la selección de términos como regresión de texto. |
| |
No te preocupes demasiado por la forma del modelo. Solo trato de resaltar que lo que estamos haciendo es tomar alguna variable de resultado. |
| |
Debido a que tenemos una variable binaria, son las probabilidades logarítmicas para la regresión logística, y estamos diciendo que eso es igual a, ya sabes, algún intercepto más, |
| |
ya sabes, un coeficiente multiplicado por alguna variable. En este caso, es un uno o cero binario; violó apareció o no. |
| |
Más otro valor de coeficiente, en este caso, negativo .2 veces otra variable binaria; aquí si alguien mencionó el término colgado o no, y así sucesivamente. |
| |
Entonces ingresamos un montón de términos en este modelo y usamos la regresión generalizada para seleccionar qué términos pertenecen al modelo y cuáles no. Y |
| |
lo que vemos aquí es un ejemplo de JMP calculando esa solución, qué términos pertenecen y cuáles no para nosotros. |
| |
Aquí, en la ruta de la solución, podemos ver en azul todos los términos que ingresaron al modelo y en negro todos los términos que en realidad no se incluyeron en el modelo, porque en realidad no se suman a su valor predictivo. |
| |
Y así lo que terminamos es una lista de términos. Tenemos sus valores de coeficiente del modelo, así que aquí, por ejemplo, viole, obtuve ese valor de .4 porque ese es en realidad el |
| |
valor del coeficiente cuando ajustamos el modelo. Y también, como mencionamos antes, obtenemos una medida de la evidencia estadística o la fuerza de la evidencia, |
| |
este valor de logworth, 16.58 aquí, donde, si quiere una regla general, cualquier valor por encima de 2, ya sabe, podría considerarse una fuerte evidencia estadística, pero en realidad, logworth es un logaritmo negativo en base 10 del valor p, por lo que el valor de 2 solo corresponde a un valor P de .01. |
| |
Así que tenemos ambos, más o menos, en este caso con el coeficiente, ¿qué tan fuerte aumenta o disminuye esto las probabilidades de una disputa? Y luego el registro vale la pena decirnos, ya sabes, ¿qué tan confiable es nuestra evidencia de esto realmente? |
| |
Y con esa información, podemos hacer mucho y estamos a punto de ver cómo pasamos a JMP y realizamos este análisis. |
| |
Así que estoy de vuelta en mi otro escritorio aquí. Voy a sacar nuestros datos de quejas de consumidores. |
| |
Y |
| |
en lugar de ingresar al explorador de texto desde cero, simplemente lo iniciaré usando un script de tabla aquí. |
| |
Y como veremos, una vez que aparezca... lo siento, apareció en la pantalla equivocada. Aquí vamos. |
| |
Tenemos, ya sabes, siempre comenzamos con una lista de términos que realmente se ingresarán en el análisis. Luego tenemos nuestra lista de frases, donde podemos declarar que ciertas frases que pertenecen a la lista de términos también deben incluirse. |
| |
Incluí muchas frases, como ley de informes crediticios justos, porque si la mención de esa frase o ese concepto está asociado con una disputa del consumidor, quiero encontrar eso. |
| |
Y también notarán si voy a nuestro... vamos a administrar las palabras vacías aquí, que he declarado muchas palabras vacías. Así que estas son todas las palabras que |
| |
No quiero incluir en el análisis, principalmente porque podrían inundar otras palabras. |
| |
Pueden ser muy frecuentes, y si solo pidiera analizar las, ya sabes, las 500 palabras más frecuentes, no quiero estropearlo. |
| |
Especialmente porque, incluso si capaz fuera devuelto como un término asociado con disputa, ni siquiera sé exactamente qué haría... qué haría con eso o cómo podría interpretar una palabra tan genérica como capaz. |
| |
Por lo tanto, desea tomarse su tiempo para hacer sus palabras y frases vacías, y cuando esté listo, debajo del triángulo rojo, invoque la selección de términos. |
| |
Entonces, cuando lo hagamos, primero seleccionaremos nuestro |
| |
variable de resultado y ese es este consumidor en disputa. Y queremos hablar de las cosas en términos de la probabilidad de que ocurra una disputa. |
| |
Aquí puede establecer variables de resultado continuas y categóricas. Ambos trabajan. Y debo mencionar, también, que estamos hablando de una disputa, que, |
| |
ya sabes, podrías pensar que en realidad podría ser algún tipo de representación del sentimiento, es decir, si alguien discute algo, probablemente sea porque no está contento. |
| |
Pero podría ser común que algunas personas tengan datos, donde tiene una variable externa que es una medida más directa del sentimiento, por ejemplo, una calificación de estrellas en un producto, que realmente indica satisfacción. |
| |
Entonces, si tiene una buena medida de sentimiento, junto con sus datos de texto, podría usar una herramienta como esta para hacer lo que llamaríamos |
| |
análisis de opinión derivado de datos, en el que utiliza esta herramienta para extraer términos que son predictivos de una medida de opinión, por lo que esencialmente selecciona términos de opinión y automáticamente |
| |
encontrar cuáles deberían ser sus puntajes. Así que puede ser bastante útil. Eso no es exactamente lo que estamos haciendo aquí. Lo estamos usando de una manera más general. |
| |
Bien, para esa matriz de términos del documento, me quedaré con la ponderación binaria. Para simplificar las cosas, voy a decir que veamos solo los 200 términos más frecuentes. |
| |
Más allá de eso, a partir del término 201, no lo voy a incluir en el análisis. En la práctica, probablemente incluiría más, ya sabes, es solo que quiero que esto sea agradable y ágil para la demostración. |
| |
Y si eres usuario de GenReg, verás que tienes |
| |
Algunas opciones para especificar los métodos de estimación y validación por adelantado. Voy a dejarlos por defecto y haré clic en ejecutar. |
| |
Entonces, lo que está sucediendo es que JMP está llamando a GenReg. Está construyendo un modelo de regresión logística y haciendo una selección de variables utilizando el método de red elástica. |
| |
Parece que acabamos de tener un segundo problema técnico. Lo siento mucho por eso. Lo abordaremos ya que este modelo es apropiado. Entonces, veamos. Recuperaremos mi pantalla compartida. |
| |
vamos a traerme de vuelta. Parece que todavía estamos grabando, así que seguiremos adelante. Así que aquí está el resultado. |
| |
Antes de entrar en el informe en detalle, primero echaremos un vistazo a esta única fila en la tabla de resumen. Esto resume el modelo único que construí hasta ahora. |
| |
Entonces, por ejemplo, puedo ver que devolvió 145 términos. Usé AICc como mi validación y está el valor de AICc. Podemos ver algunas otras estadísticas de ajuste. |
| |
Y, al igual que con cualquier modelo, es posible que deseemos probar varias ejecuciones en el modelo para construir el modelo que mejor se adapte a nuestros datos. |
| |
Entonces, si subo a este nodo de regresión generalizada aquí, verán que tenemos GenReg realmente incrustado en el explorador de texto. |
| |
Podría explorar el modelo que hemos ajustado con más detalle o, en mi caso, voy a ajustar un modelo más para ver si puedo hacerlo mejor. Hagamos una red elástica adaptativa. |
| |
Y se ajustará a ese modelo en su lugar y verá si funciona mejor que la red elástica normal que ya hemos ajustado. |
| |
Bien, también se ha ajustado a ese modelo. |
| |
Si vamos a nuestro resumen, podemos ver que ahora ha devuelto 98 términos, en realidad tiene un AICc más bajo, por lo que podría encajar mejor. |
| |
Así que voy a ir con ese modelo. Ahora podría, si quisiera ir con el original, simplemente haga clic en eso. Como puede ver, el informe a continuación se actualiza a cualquier modelo que haya seleccionado en esta tabla. |
| |
Tengo mi lista de términos aquí abajo. Ya hemos hablado de esto, así que podría verlo en términos de los coeficientes. Estos son los términos que más... tienen el mayor efecto, lo que aumenta las probabilidades de una disputa del consumidor. |
| |
Estos son los que tienen el mayor efecto en la disminución de las probabilidades de una disputa del consumidor. En cualquiera de ellos, por ejemplo, podría mirar colgado y ver que, por supuesto, está hablando de que le cuelgan a alguien o que alguien les cuelga, y tal vez tenga sentido para nosotros que |
| |
que esto sería predictivo de una disminución en las probabilidades de disputa, porque parece que es realmente un problema de comunicación y que podría ser un poco más fácil de resolver. |
| |
Una vez más, queremos prestar atención a nuestros valores de logworth aquí, 2.883, por lo que está un poco por encima de la regla general, 2, que mencioné antes, por lo que podríamos decir que está bien, creo que hay evidencia estadística razonablemente fuerte de que esto es real. asociación. |
| |
Solo para recalcar ese punto, si bajamos aquí, vemos la palabra policía. Y mi impresión inicial es, bueno, la gente dice, bueno, hice un informe policial o llamé a la policía. |
| |
Probablemente no será tan probable que simplemente se vayan si emitimos alguna respuesta, la disputa de probabilidad, tiene que aumentar si alguien ya está al nivel de llamar a la policía. |
| |
Pero si miramos el |
| |
logworth, podemos ver bien que la evidencia estadística de esto realmente no es tan fuerte, así que mientras viola mi intuición, ya sabes, tal vez, tal vez no sea del todo real. |
| |
Ciertamente no es hasta el punto de que me gustaría llevar esto a la gerencia y decir, oye, si la gente dice que llamaron a la policía, en realidad es algo bueno. Ciertamente no estamos diciendo eso. Simplemente se seleccionó para su inclusión en el modelo aquí porque, en última instancia, |
| |
dar como resultado un modelo de mejor ajuste, pero todavía depende de nosotros aplicar nuestro propio conocimiento y sentido común para interpretar los resultados. |
| |
Entonces, esta tabla podría ser, si lo que realmente está tratando de hacer es solo identificar los términos y cuantificar sus efectos de alguna manera, |
| |
este podría ser el tipo de objetivo de su análisis. Entonces podría hacer clic con el botón derecho e ir a hacer una tabla de datos |
| |
y obtenga una tabla de datos de estos términos y sus coeficientes y valores logarítmicos, y luego use esto para tal vez guiar algún análisis de nuestras respuestas anteriores, esfuerzos de mejora, o incluso marcarlos como términos que deberían incluirse en algún tipo de modelo predictivo en el futuro. |
| |
Pero, ya sabes, construimos un modelo aquí, un modelo de regresión, por lo que tenemos información para, a nivel de documento individual, sobre el |
| |
la suma total de los coeficientes que predicen un aumento en las probabilidades de disputa, la suma total que predice una disminución, el valor general del modelo, la probabilidad de |
| |
una disputa que el modelo asignó y lo que en realidad observamos. Entonces, todas las cosas que puede esperar cuando realmente está evaluando a nivel de documento individual, bueno, qué tan bien funciona este modelo. |
| |
En la parte superior, también tenemos un resumen general de, en este caso, los documentos individuales y su... lo que llamamos nuestra contribución, así que ese es el |
| |
suma o promedio de esos valores de coeficiente. Así que parece que, por ejemplo, 30.412 de nuestros documentos tienen una suma... suma total positiva de sus valores de coeficiente y el valor medio del coeficiente, la contribución media es de alrededor de 0,57. |
| |
Entonces, de nuevo solo una bandera, ya sabes, estamos hablando de coeficientes de regresión aquí, y estos valores de contribución, la tabla de coeficientes, todo esto debe interpretarse como lo haría cuando está construyendo |
| |
modelo de regresión lineal de lo contrario, por lo que en nuestro caso aquí, la regresión logística, debemos interpretar estos |
| |
apropiadamente, es decir, si los exponenciamos, entonces estamos tratando con el logaritmo o... disculpe... entonces estamos tratando con la razón de probabilidades, por lo que ese es el factor por el cual las probabilidades aumentarían o disminuirían. si esta palabra aparece en el texto. |
| |
Aunque si no eres muy bueno con la regresión, estos valores aún pueden ser buenos para ti en un sentido más general, ya que puedes mirar para ver, bueno, está bien, qué términos tienen el efecto más fuerte o no. Y lo mismo con logworth, bueno, cuál tiene la evidencia más fuerte o no. |
| |
Ahora, finalmente, como pueden imaginar, quiero decir que ya vimos cómo guardar la tabla de términos, pero si su objetivo no es esa tabla de términos, sino realmente el modelo |
| |
que ha creado, tiene la opción de guardarlo también. Entonces, seleccioné el modelo que pretendo usar, esa red elástica adaptativa, y debajo del triángulo rojo, puedo guardar las fórmulas de predicción. |
| |
Y creo que mi computadora probablemente se agitará aquí por solo un segundo. Así que está guardando la matriz de términos del documento, eso fue para los 200 términos principales como especificamos, y luego también la fórmula |
| |
que opera en esas columnas o en esa matriz de términos del documento para calcular realmente nuestro modelo. Así que aquí tengo la matriz de términos del documento. |
| |
y luego las columnas de fórmula al final aquí, así que ahora puedo usar |
| |
este modelo directamente si quiero. |
| |
Esa es la selección de términos. Nuevamente, en un nivel alto, estamos encontrando qué términos están más fuertemente asociados con una variable de resultado que nos interesa, ya sea para interpretar mejor lo que impulsa ese resultado o tal vez incluso para informar una práctica de modelado para tratar de predecir ese resultado. |
| |
Y eso concluye con la selección de términos y el análisis de sentimientos, las dos nuevas funciones de minería de texto en JMP Pro 16, nuevamente presentadas la primavera pasada. |
| |
Pasaré un rato ahora y responderé cualquier pregunta que alguien tenga sobre, |
| |
ya sabes, estas dos nuevas características. Y también sepa que más adelante, siempre puede publicar un comentario o pregunta adicional en la página de la comunidad de usuarios para esta presentación y siempre estaré pendiente |
| |
abierto a responder cualquier pregunta que surja. Así que gracias por tomarse el tiempo, todos. Por favor cuídate. |
