Vocero | Transcripción |
| Hola, soy Chris Gotwalt. Mi co |
| presentadores, Laura Lancaster y |
| Jeremy Ash y yo presentamos |
| un nuevo y útil JMP Pro |
| capacidad llamada extrapolación |
| Control. Casi cualquier modelo que |
| alguna vez querrías predecir |
| con tiene un rango de |
| aplicabilidad, una región del |
| espacio de entrada, donde el |
| Las predicciones se consideran |
| lo suficientemente confiable. Fuera de eso |
| región, comenzamos a extrapolar |
| el modelo a puntos alejados del |
| datos utilizados para ajustar el modelo. Usando |
| las predicciones de ese modelo |
| en esos puntos podría conducir a |
| completamente poco confiable |
| predicciones. Hay dos |
| fuentes primarias de |
| extrapolación | estadístico |
| extrapolación y basado en dominio |
| extrapolación. Ambos tipos son |
| cubierto por la nueva función. |
| Se produce una extrapolación estadística |
| cuando uno está intentando |
| predecir usando un modelo en una x |
| que no se acerca a los valores |
| utilizado para entrenar ese modelo. |
| Extrapolación basada en dominios |
| sucede cuando intentas evaluar |
| en una x que es imposible debido |
| a la ciencia o la ingeniería |
| restricciones basadas. El ejemplo |
| aquí ilustra ambos tipos de |
| extrapolación en un ejemplo. |
| Aquí vemos un perfilador de un |
| modelo de una producción metalúrgica |
| proceso. La predicción dice |
| out dice -2,96 sin |
| indicación de que estamos evaluando |
| a una combinación de temperatura |
| y presión que es imposible |
| en un sentido de dominio para lograr |
| esta maquina. También tenemos |
| extrapolación estadística ya que |
| está lejos de los datos utilizados para encajar |
| el modelo como se ve en la dispersión |
| gráfico de los datos de entrenamiento en el |
| derecho. En JMP Pro 16, Jeremy, |
| Laura y yo hemos colaborado para |
| agregar una nueva capacidad que puede |
| dar una advertencia cuando el perfilador |
| piensa que podrías ser |
| extrapolando. O si te das la vuelta |
| control de extrapolación activado |
| restringirá el conjunto de puntos |
| que ves solo a los que |
| no cree que sean |
| extrapolando. Tenemos dos tipos |
| de control de extrapolación. Uno es |
| basado en el concepto de apalancamiento |
| y utiliza un modelo de mínimos cuadrados. |
| Este primer tipo es solo |
| disponible en la versión Pro de |
| Ajustar mínimos cuadrados del modelo. los |
| otro tipo que llamamos general |
| extrapolación de aprendizaje automático |
| control y está disponible en el |
| Plataforma Profiler y varios de |
| el aprendizaje automático más común |
| plataformas en JMP Pro. Sobre |
| solicitud, incluso podríamos agregarla a |
| más. Mínimos cuadrados |
| el control de extrapolación utiliza el |
| concepto de apalancamiento, que es |
| como una versión a escala del |
| varianza de predicción. Es modelo |
| basado y, por lo tanto, utiliza información |
| sobre los efectos principales |
| interacciones en orden superior |
| términos para determinar el |
| extrapolación. Para el general |
| extrapolación de aprendizaje automático |
| caso de control, tuvimos que subir |
| con nuestro propio enfoque. Nosotros |
| Quería un método que fuera |
| robusto a los valores perdidos, lineal |
| dependencias, cómputo más rápido, |
| podría manejar mezclas de |
| entrada continua y categórica |
| variables, y también |
| explícitamente quería separar |
| el modelo de extrapolación del |
| modelo utilizado para ajustar los datos. Asi que |
| cuando tenemos general |
| control de extrapolación activado, |
| solo hay uno supervisado |
| modelo que es ... que se ajusta al |
| variables de entrada a las respuestas |
| que vemos en el perfilador |
| rastros. Viene el perfilador |
| arriba con un rápido y sucio |
| modelo no supervisado para describir |
| los ejes del conjunto de entrenamiento, y esto |
| se utiliza modelo no supervisado |
| detrás de escena por el |
| perfilador para determinar el |
| control de extrapolación |
| restricción. Así que tengo que |
| cambiar porque PowerPoint y mi |
| la cámara no se lleva bien |
| ahora mismo por alguna razón. Nosotros |
| saber que extrapolaciones arriesgadas |
| están siendo hechos todos los días por |
| personas que trabajan en ciencia de datos |
| y están seguros de que el uso |
| de extrapolaciones conduce a una mala |
| predicciones y, en última instancia, a |
| malos resultados comerciales. |
| Lugares de control de extrapolación |
| barandillas en las predicciones del modelo |
| y conducirá a cuantificablemente |
| mejores decisiones de JMP Pro |
| usuarios. Cuando los usuarios ven una extrapolación |
| que ocurra, el usuario debe realizar una |
| decisión sobre si el |
| la predicción debe usarse o no |
| utilizado en función de su dominio |
| conocimiento y familiaridad con |
| el problema que nos ocupa. Si usted |
| empieza a ver la extrapolación |
| las advertencias de control ocurren bastante |
| a menudo, es probable que sea el final de |
| el ciclo de vida de ese modelo en |
| es hora de reajustarlo a nuevos datos |
| porque la distribución de la |
| las entradas se han alejado de |
| el de los datos de entrenamiento. Nosotros |
| honestamente están bastante sorprendidos y |
| alarmado de que la necesidad de |
| identificar la extrapolación no es |
| mejor apreciado por los datos |
| comunidad científica y han hecho |
| controlando la extrapolación como |
| lo más fácil y automático posible. |
| Laura, quien lo desarrolló en JMP |
| Pro, demostrará el |
| opción a continuación. Luego Jeremy, quien |
| investigamos mucho sobre nuestro |
| equipo, entrará en las matemáticas |
| detalles y estadísticas |
| motivación para el enfoque. |
| Hola mi nombre es Laura |
| Lancaster y estoy aquí para hacer un |
| demo de la extrapolación |
| control que se agregó a JMP |
| Pro 16. Yo quería empezar |
| con un ejemplo bastante simple |
| usando el modelo de ajuste menos |
| plataforma de cuadrados. voy a |
| utilizar algunos datos que pueden ser |
| familiar; son los datos de fitness |
| eso está en datos de muestra y yo |
| va a utilizar la absorción de oxígeno como |
| mi respuesta y Run Time, Run |
| Pulse y Max Pulse como mi |
| predictores. Y yo quería |
| reiterar que en el modelo de ajuste, |
| ajustar por mínimos cuadrados el |
| métrica de extrapolación que es |
| utilizado es el apalancamiento. Entonces vamos |
| adelante y empezar a JMP. |
| Así que ahora tengo los datos de fitness |
| abrir en JMP y tengo un script |
| guardado en la tabla de datos para |
| lanzar automáticamente mi ajuste |
| modelo de mínimos cuadrados. Entonces yo soy |
| voy a seguir adelante y ejecutar eso |
| script, lanza el mínimo |
| plataforma de cuadrados. Y tengo el |
| Profiler se abre automáticamente. Y |
| podemos ver que el perfilador |
| parece que siempre lo ha hecho en el |
| pasado, donde los límites de los factores |
| se definen por el rango de cada |
| factor individual, dándonos |
| restricciones de límite rectangular. |
| Y cuando cambio el factor |
| ajustes, debido a estos límites |
| restricciones, puede ser realmente |
| es difícil saber si te estás moviendo |
| muy fuera de la correlación |
| estructura de los datos. |
| Y es por eso que queríamos agregar |
| el control de extrapolación. Asi que |
| esto se ha agregado a varios |
| de las plataformas en JMP Pro |
| 16, incluido el ajuste por mínimos cuadrados. |
| Y para llegar a la extrapolación |
| control, vas al menú bajo |
| el menú del generador de perfiles. Así que si miro |
| aquí veo que hay una nueva opción |
| llamado Control de extrapolación. |
| Está desactivado de forma predeterminada, |
| pero puedo convertirlo en cualquiera |
| encendido o advertencia encendido para encender |
| control de extrapolación. Si yo |
| enciéndalo, observe que |
| restringe mi perfil |
| trazas para ir solo a valores |
| donde no estoy extrapolando. |
| Si tuviera que convertirlo en advertencia |
| encendido, vería el perfil completo |
| rastros, pero obtendría un |
| advertencia cuando voy a una región |
| donde se consideraría |
| ser extrapolación. |
| También puedo activar la extrapolación |
| detalles, que encuentro realmente |
| útil, y eso me da una |
| mucha más información. Primero de |
| todo, me dice que mi |
| métrica que estoy usando para |
| definir la extrapolación es |
| apalancamiento, que es cierto en el |
| se ajusta a la plataforma de mínimos cuadrados. |
| Y el umbral que esta siendo |
| utilizado por defecto inicialmente es |
| va a ser el apalancamiento máximo, |
| pero esto es algo que puedo |
| cambia y te mostraré que |
| en un minuto. Además, puedo ver |
| cuál es mi métrica de extrapolación |
| es para mi configuración actual. |
| Es este número de aquí |
| que cambiará a medida que yo cambie |
| mi configuración de factor. |
| Siempre que este número sea mayor |
| que el umbral, voy a |
| recibe esta advertencia de que podría ser |
| extrapolando. Si va por debajo |
| Ya no lo conseguiré |
| advertencia. Este umbral no es |
| va a cambiar a menos que yo cambie |
| algo en el menú para ajustar |
| mi umbral. Así que déjame seguir adelante |
| y haz eso ahora mismo. Asi que me voy |
| ir al menú |
| y me voy a ir al set |
| criterio de umbral. Asi que |
| en ajuste de mínimos cuadrados, tienes dos |
| opciones para el umbral |
| inicialmente, está configurado al máximo |
| apalancamiento, que va a mantener |
| usted dentro del casco convexo de |
| los datos, o puede cambiar a un |
| multiplicador por el promedio |
| apalancamiento o términos modelo sobre |
| observaciones. Y yo quiero |
| cambiar a ese umbral. Entonces es |
| establecer en 3 como multiplicador |
| por defecto. Entonces esto va a |
| ser 3 veces el apalancamiento promedio |
| y hago clic en Aceptar, y noto que |
| mi umbral va a cambiar. |
| De hecho, se hizo más pequeño, así que esto |
| es más conservador |
| definición de extrapolación. |
| Y lo voy a devolver a |
| para restringir los rastros de mi perfil. |
| Y ahora solo puedo ir a |
| regiones donde estoy dentro de 3 |
| veces el apalancamiento promedio. |
| Ahora también tenemos |
| optimización implementada |
| que obedece al |
| extrapolación |
| limitaciones. Así que ahora si yo |
| activar la conveniencia del conjunto |
| y hago la optimización, |
| Obtendré un valor óptimo que |
| satisface la extrapolación |
| restricción. Note que esto |
| la métrica es menor o igual que |
| el umbral. Así que ahora cuando me vaya |
| a mi siguiente diapositiva, que va |
| comparar en un gráfico, un diagrama de dispersión |
| matriz, la diferencia |
| entre el valor óptimo con |
| control de extrapolación activado |
| y con ella apagada. |
| Entonces este es el diagrama de dispersión |
| matriz que creé con JMP, |
| y muestra el original |
| datos de variables predictoras, así |
| como valores de la variable predictora |
| para la solución óptima usando |
| sin control de extrapolación, en |
| azul, y la solución óptima usando |
| control de extrapolación en rojo. |
| Y note como los sin restricciones |
| solución aquí en azul, |
| aquí mismo, viola la |
| estructura de correlación para el |
| datos originales para ejecutar pulso y |
| Pulso máximo, aumentando así el |
| incertidumbre de esta predicción. |
| Considerando que la solución óptima |
| que usó extrapolación |
| el control está mucho más en línea |
| con los datos originales. |
| Ahora veamos un ejemplo |
| usando el mas generalizado |
| método de control de extrapolación, |
| al que nos referimos como un |
| método de T cuadrado regularizado. Como |
| Chris mencionó anteriormente, nosotros |
| desarrolló este método para modelos |
| distintos de los modelos de mínimos cuadrados. |
| Entonces vamos a ver un |
| modelo neuronal para la diabetes |
| datos que también están en la muestra |
| datos. La respuesta es una medida |
| de la progresión de la enfermedad, y la |
| los predictores son la línea de base |
| variables. Una vez más, el |
| métrica de extrapolación utilizada para |
| este ejemplo es el |
| cuadrado T regularizado que |
| Jeremy lo describirá en |
| más detalles en unos minutos. |
| Así que tengo abiertos los datos de Diabetes en |
| JMP y tengo un script guardado |
| de mi modelo neuronal encaja. estoy |
| voy a seguir adelante y ejecutar eso |
| texto. Lanza el neural |
| plataforma, y observe que soy |
| usando el método de validación, aleatorio |
| aguantar. Solo quería notar |
| que cada vez que uses un |
| método de validación, el |
| el control de extrapolación se basa |
| solo en los datos de entrenamiento |
| y no tu validacion |
| o datos de prueba. |
| Así que tengo el generador de perfiles abierto y |
| puedes ver que está usando el |
| rastros completos. Extrapolación |
| el control no está encendido. Vamos |
| Adelante, enciéndalo. |
| Y también voy a |
| activa los detalles. |
| Puedes ver que las huellas tienen |
| ha sido restringido y la métrica |
| es el cuadrado T regularizado. los |
| el umbral es 3 veces el |
| desviación estándar de la muestra |
| T al cuadrado regularizado. Jeremy es |
| voy a hablar mas de lo que |
| todo eso significa exactamente en unos pocos |
| minutos. Y yo solo quería |
| mencionar que cuando estamos usando |
| la T regularizada al cuadrado |
| método, solo hay una opción |
| para el umbral, pero puedes |
| ajustar el multiplicador. Así que si usted |
| ir al control de extrapolación, configurar |
| umbral, puede ajustar este |
| multiplicador, pero voy a |
| déjelo en 3. Y ahora yo |
| desea ejecutar la optimización usando |
| control de extrapolación. Entonces yo soy |
| solo voy a maximizar y |
| recuerda. Ahora tengo un |
| solución óptima con |
| control de extrapolación girado |
| en. Y ahora quiero mirar |
| en nuestra matriz de diagramas de dispersión, solo |
| como miramos antes, con |
| los datos originales, así como |
| con los valores óptimos con |
| y sin extrapolación |
| control. |
| Entonces esta es una matriz de diagrama de dispersión |
| de los datos de diabetes que yo |
| creado en JMP. Tiene el |
| valores predictores originales, como |
| así como la solución óptima |
| usando el control de extrapolación en |
| rojo, y solución óptima sin |
| control de extrapolación en azul. |
| Y puedes ver que el rojo |
| los puntos parecen ser mucho más |
| dentro de la estructura de correlación |
| de los datos originales que el |
| azul, y eso es particularmente |
| cierto cuando miras este LDL |
| versus colesterol total. |
| Así que ahora veamos un ejemplo. |
| usando el perfilador que está debajo |
| el menú gráfico, al que llamaré |
| el generador de perfiles de gráficos. También usa |
| el método de T cuadrado regularizado |
| y nos permite usar |
| control de extrapolación en cualquier |
| tipo de modelo que puede ser |
| creado y guardado como JSL |
| fórmula. También nos permite |
| tener control de extrapolación en |
| más de un modelo a la vez. |
| Así que veamos un ejemplo. |
| para una empresa que usa polvo |
| tecnología metalúrgica para |
| producir ejes de transmisión de acero para |
| la industria automotriz. |
| Quieren poder encontrar |
| ajustes óptimos para su |
| producción que minimizará |
| encogimiento y también minimizar ... |
| minimizar los fallos debidos a malas |
| condiciones de servicio. Entonces tenemos |
| dos | contracción de respuestas (que es |
| continuo y vamos a |
| ajustar un modelo de mínimos cuadrados para |
| que) y la condición de la superficie (que |
| es pasa / falla y vamos a |
| ajustar un modelo logístico nominal para |
| Aquél). Y nuestro predictor |
| las variables son solo algunas claves |
| variables de proceso en la producción. |
| Y una vez más la extrapolación |
| métrica es el cuadrado T regularizado. |
| Entonces tengo el polvo |
| datos de metalurgia abiertos en JMP |
| y ya he encajado un mínimo |
| modelo de cuadrados para mi contracción |
| respuesta, y ya tengo una |
| modelo logístico nominal para el |
| condición de la superficie pasa / no pasa |
| respuesta, y he guardado el |
| fórmulas de predicción a los datos |
| mesa para que estén listos para |
| ser utilizado en el generador de perfiles de gráficos. |
| Entonces, si voy al menú de gráficos |
| perfilador, puedo cargar el |
| fórmula de predicción de la contracción |
| y mi fórmula de predicción es para |
| la condición de la superficie. |
| Haga clic en Aceptar. Y ahora tengo |
| mis dos modelos se lanzaron a |
| el generador de perfiles de gráficos. |
| Y antes de que me encienda |
| control de extrapolación, usted |
| puedo ver que tengo el lleno |
| huellas de perfil. Una vez que enciendo |
| control de extrapolación |
| puedes ver que las huellas |
| encogerme un poco, y yo también voy |
| para activar los detalles, |
| solo para demostrar que de hecho lo soy |
| usando el cuadrado T regularizado |
| aquí en este método. |
| Entonces, lo que realmente quiero hacer es |
| quiero encontrar el óptimo |
| condiciones donde minimizo |
| encogimiento y minimizo |
| fallas con extrapolación |
| control y quiero asegurarme |
| No estoy extrapolando. quiero |
| encuentre una solución útil. Y |
| antes de que pueda hacer la optimización, |
| De hecho, necesito configurar mi |
| deseabilidades. Así que voy a |
| establecer deseabilidades. Ya esta |
| corregir la contracción, pero yo |
| Necesito configurarlos para el servicio. |
| condición. Voy a intentar maximizar |
| pasa y minimiza las fallas. |
| K. |
| Y ahora debería poder hacer |
| la optimización con |
| controles de extrapolación activados. |
| Maximice y recuerde. |
| Y ahora tengo mi optimo |
| solución con extrapolación |
| control encendido. Así que ahora miremos |
| una vez más en el |
| matriz de diagrama de dispersión del |
| datos originales, junto con los |
| solución con extrapolación |
| control en la solución, |
| con el control de extrapolación |
| apagado. |
| Entonces esta es una matriz de diagrama de dispersión |
| de los datos de pulvimetalurgia |
| que creé en JMP. Y es |
| también tiene la solución óptima |
| con control de extrapolación como |
| punto rojo, y el óptimo |
| solución sin extrapolación |
| control como un punto azul. Y una vez |
| de nuevo puedes ver que cuando nosotros |
| no promulgues la extrapolación |
| control, la solución óptima |
| está bastante lejos del |
| estructura de correlación del |
| datos. Especialmente podemos ver |
| que aqui con ratio versus |
| presión de compactación. |
| Entonces ahora quiero entregar |
| la presentación a Jeremy |
| para entrar en mucho más |
| detalle sobre nuestros métodos. |
| Hola, aquí tienes varios |
| objetivos para el control de la extrapolación |
| que pusimos en el |
| inicio del proyecto. Nosotros |
| necesitaba una métrica de extrapolación |
| que podría calcularse rápidamente |
| con una gran cantidad de |
| observaciones y variables, y |
| necesitábamos una forma rápida de evaluar |
| si la métrica indica |
| extrapolación o no. Esto era |
| para mantener la interactividad de |
| el perfilador traza y |
| necesitábamos esto para |
| realizar la optimización. |
| Queríamos poder |
| apoyar las diversas variables |
| tipos disponibles en el |
| perfilador. Estos son |
| esencialmente continuo, |
| categórico y ordinal. |
| Queríamos utilizar |
| observaciones con celdas faltantes, |
| porque algunos métodos de modelado |
| incluirá estas observaciones |
| en ???. |
| Queríamos un método que fuera |
| robusto a las dependencias lineales en |
| los datos. Estos ocurren cuando el |
| el número de variables es mayor |
| que el número de observaciones, |
| por ejemplo. Y queríamos |
| algo que fue fácil de |
| automatizar sin la necesidad de un |
| mucha entrada de usuario. |
| Para los modelos de mínimos cuadrados, |
| aterrizó en apalancamiento, que es |
| se usa a menudo para identificar valores atípicos |
| en modelos lineales. El apalancamiento |
| para el nuevo punto de predicción es |
| calculado de acuerdo con esto |
| fórmula. Hay muchos |
| interpretaciones para el apalancamiento. |
| Una interpretación es que es |
| la distancia multivariante de un |
| punto de predicción desde el centro |
| de los datos de entrenamiento. Otro |
| interpretación es que es un |
| varianza de predicción escalada. Asi que |
| a medida que se mueve el punto de predicción |
| más lejos del centro |
| de los datos, la incertidumbre |
| de predicción aumenta. Y nosotros |
| utilizar dos umbrales comunes en |
| la literatura estadística para |
| determinando si esta distancia |
| Es demasiado largo. El primero es |
| apalancamiento máximo, predicción |
| puntos más allá de este umbral |
| o fuera del casco convexo de |
| los datos de entrenamiento. |
| Y el segundo es 3 veces el |
| promedio de los apalancamientos. Eso |
| se puede demostrar que esto es |
| equivalente a tres veces el |
| número de términos modelo dividido |
| por el número de observaciones. |
| Y como Laura describió |
| antes, puede cambiar el |
| multiplicador de estos |
| umbrales. |
| Finalmente, cuando las deseabilidades |
| están siendo optimizados, el |
| La restricción de extrapolación es una |
| restricción no lineal, y |
| previamente el perfilador permitió |
| optimización restringida con |
| restricciones lineales. Este tipo de |
| la optimización es más |
| desafiante, así que Laura implementó |
| un algoritmo genético. Y si tu |
| no están familiarizados con estos, |
| los algoritmos genéticos utilizan el |
| principios de molecular |
| evolución para optimizar |
| funciones de costos complicadas. |
| A continuación, hablaré sobre el |
| enfoque que usamos para generalizar |
| control de extrapolación a modelos |
| distintos de los modelos lineales. Cuando |
| estás construyendo un predictivo |
| modelo en JMP, comienza con un |
| conjunto de variables predictoras y un |
| conjunto de variables de respuesta. Algunos |
| el modelo supervisado está capacitado, y |
| entonces se puede usar un generador de perfiles para |
| visualizar la superficie del modelo. |
| Existen numerosas variaciones en |
| el generador de perfiles en JMP. Usted puede |
| utilizar el generador de perfiles internamente en |
| plataformas de modelado. Usted puede |
| fórmulas de predicción de salida y |
| construir un generador de perfiles para múltiples |
| modelos. Como lo demostró Laura, |
| puedes construir perfiladores para |
| modelos de conjunto. Queríamos un |
| método de control de extrapolación |
| que generalizaría todos estos |
| escenarios, entonces en lugar de |
| atando nuestro método a un |
| modelo específico, vamos |
| para usar un no supervisado |
| Acercarse. |
| Y solo vamos a marcar un |
| punto de predicción como |
| extrapolación si está lejos |
| fuera de donde están los datos |
| concentrado en el predictor |
| espacio. Y esto nos permite |
| ser coherente en todo |
| perfiladores para que nuestro |
| método de control de extrapolación |
| se conectará a cualquier perfilador. |
| La distancia multivariante |
| interpretación del apalancamiento |
| sugirió la T de Hotelling al cuadrado como |
| una distancia para general |
| control de extrapolación. De hecho, |
| alguna manipulación algebraica |
| muestran que la T de Hotelling al cuadrado es |
| solo apalancamiento cambiado y |
| escamoso. Esta figura muestra cómo |
| Medidas de la T al cuadrado de Hotelling |
| cual elipse una observación |
| yace, donde están las elipses |
| centrado en la media de la |
| datos, y la forma está definida |
| por la matriz de covarianza. |
| Ya que ya no estamos en |
| modelos lineales, esta métrica |
| no tiene lo mismo |
| conexión con la predicción |
| diferencia. Entonces en lugar de |
| dependiendo de los umbrales utilizados |
| de vuelta en modelos lineales, estamos |
| voy a hacer algo |
| supuestos distributivos |
| para determinar si T al cuadrado |
| para el punto de predicción debe |
| ser considerado extrapolación. |
| Aquí estoy mostrando la fórmula para |
| T de Hotelling al cuadrado. La media y |
| se estima la matriz de covarianza |
| utilizando los datos de entrenamiento para el |
| modelo. Si P es menor que N, |
| donde P es el número de |
| predictores, N es el número |
| de observaciones y si el |
| predictores de multivariante |
| normal, luego T al cuadrado para |
| el punto de adicción tiene una F |
| distribución. Sin embargo, queríamos |
| un método para generalizar el |
| conjuntos de datos con datos complicados |
| tipos, como una mezcla de continuos |
| y conjuntos de datos categóricos donde P |
| es mayor que N, conjuntos de datos con |
| valores faltantes. Entonces en lugar de |
| trabajando en las distribuciones |
| analíticamente en cada caso, |
| usó un simple conservador |
| límite de control que encontramos |
| funciona bien en la práctica. Este es |
| un límite de control de tres Sigma |
| usando la distribución empírica |
| de T al cuadrado del entrenamiento |
| datos y, como mencionó Laura, |
| también puede ajustar este multiplicador. |
| Una complicación es que cuando P |
| es mayor que N, T de Hotelling |
| al cuadrado no está definido. Existen |
| demasiados parámetros en el |
| matriz de covarianza para estimar |
| con los datos disponibles, y |
| esto ocurre a menudo en el uso típico |
| casos para control de extrapolación |
| como en mínimos cuadrados parciales. |
| Entonces nos decidimos por una novela |
| enfoque para calcular la T de Hotelling |
| al cuadrado, que se ocupa de estos |
| casos, y lo llamamos un |
| T al cuadrado regularizado. |
| Para calcular la covarianza |
| matriz utilizamos un regularizado |
| estimador originalmente |
| desarrollado por Schafer y |
| Strimmer para alto |
| datos de genómica dimensional. |
| Es solo un ponderado |
| combinación de la completa |
| matriz de covarianza de muestra, |
| que es U aquí y un |
| matriz objetivo de restricción |
| que es D. |
| Para el peso Lambda |
| parámetro, Schafer y Strimmer |
| derivó un análisis |
| expresión que minimiza la |
| MSE, el estimador |
| asintóticamente. |
| Schafer y Strimmer propusieron |
| varios posibles objetivos |
| matrices. La matriz objetivo que |
| eligió fue una matriz diagonal con |
| las varianzas muestrales del |
| variables predictoras en el |
| diagonal. Esta matriz objetivo tiene |
| una serie de ventajas para |
| control de extrapolación. Primero nosotros |
| no asumas ninguna correlación |
| estructura entre las variables |
| antes de ver los datos, que |
| funciona bien como a prior general. |
| Además, cuando hay pocos datos |
| para estimar la covarianza |
| matriz, ya sea debido a N pequeño o |
| falta una gran fracción, el |
| la restricción elíptica es |
| expandido por un gran peso en |
| la matriz diagonal, y esto |
| resulta en un más conservador |
| prueba de control de extrapolación. |
| Descubrimos que esto era necesario para |
| obtener un control razonable de la |
| tasa de falsos positivos. Para poner esto |
| más simplemente, cuando hay |
| datos de entrenamiento limitados, el |
| T cuadrado regularizado es menor |
| Es probable que etiquete las predicciones como |
| extrapolación, que es lo que |
| quiero, porque eres mas |
| es probable que observe covarianzas |
| por casualidad. Tenemos algo |
| Resultados de la simulación |
| demostrando estos detalles, |
| pero no tengo tiempo para irme |
| en todo eso. En vez de |
| la página web de la comunidad, ponemos un |
| enlace a un artículo sobre archivo y |
| planeamos enviar esto a la |
| Revista de Computacional |
| Estadísticas gráficas. |
| La siguiente diapositiva muestra algunas otras |
| detalles importantes que necesitábamos para |
| considerar. Necesitábamos figurar |
| cómo lidiar con categóricas |
| variables. Solo somos |
| convertirlos en indicadores |
| variables ficticias codificadas. Este es |
| comparable a un múltiplo |
| análisis de correspondencia. Otro |
| La complicación es cómo calcular |
| T de Hotelling al cuadrado cuando |
| faltan datos. Varios |
| Modelado predictivo de JMP |
| plataformas usan observaciones con |
| datos faltantes para entrenar a sus |
| modelos. Estos incluyen ingenuo |
| Bosque de Bayes y Bootstrap. Y |
| estas fórmulas están mostrando el |
| método de eliminación por pares |
| utilizado para estimar la covarianza |
| matriz. Es más común de usar |
| eliminación inteligente de filas. Esto significa |
| todas las observaciones con falta |
| los valores se eliminan antes |
| calcular la matriz de covarianza. |
| Y esto es lo más simple, pero puede |
| resultar en desechar útiles |
| datos si el tamaño de la muestra del |
| los datos de entrenamiento son pequeños. Con |
| observaciones de eliminación por pares |
| y borrado solo si hay |
| valores perdidos en el par de |
| variables utilizadas para calcular el |
| entrada correspondiente y eso es |
| lo que muestran estas fórmulas. |
| Parece algo sencillo de hacer. |
| Estás usando todos los datos |
| eso está disponible, pero |
| en realidad puede conducir a una gran cantidad de |
| problemas porque hay |
| diferentes observaciones utilizadas para |
| calcular cada entrada. Esto puede |
| hacer que sucedan cosas raras, |
| como matrices de covarianza con |
| valores propios negativos, que es |
| algo con lo que tuvimos que lidiar. |
| Aquí hay algunas ventajas de |
| la T regularizada al cuadrado |
| encontrado al comparar con otros |
| métodos en nuestras evaluaciones. Uno |
| es que la regularizacion |
| funciona de la misma manera que la regularización |
| normalmente funciona. Golpea un |
| equilibrio entre el sobreajuste del |
| datos de entrenamiento y sesgo excesivo |
| el estimador. Esto hace que el |
| estimador más robusto al ruido |
| y especificación incorrecta del modelo. |
| A continuación, Schafer y Strimmer |
| mostró en su periódico que |
| la regularización da como resultado una |
| estimador más preciso en |
| configuraciones de alta dimensión. |
| Esto ayuda con la cursiva |
| dimensionalidad que plaga |
| la mayoría de los métodos basados en la distancia |
| para control de extrapolación. |
| Luego en los campos que tienen |
| desarrolló la metodología para |
| control de extrapolación, |
| a menudo tienen ambos altos |
| datos dimensionales y muy |
| predictores correlacionados. Para |
| ejemplo en quiminformática y |
| quimiometría, la química |
| las características son a menudo muy |
| correlacionado. Control de extrapolación |
| se usa a menudo en combinación |
| con modelos PCA y PLS, donde |
| DModX T cuadrado se utilizan para |
| detectar violaciones de correlación |
| estructura. Esto es similar a |
| lo que hacemos en modelo impulsado |
| gráfico de control multivariante. |
| Dado que este es un caso de uso común, |
| queríamos tener una opción que |
| no se desvió demasiado de |
| estos métodos. Nuestro T regularizado |
| al cuadrado proporciona el mismo tipo |
| de control de extrapolación, pero |
| no requiere paso de proyección |
| que tiene algunas ventajas. |
| Descubrimos que esto nos permite |
| otros tipos mejor generalizados |
| de modelos predictivos. También en |
| Nuestras evaluaciones observamos que |
| si una proyección lineal no |
| funcionan bien para sus datos, como |
| tienes relaciones no lineales |
| entre predictores, los errores |
| puede inflar los límites de control |
| de métodos basados en proyecciones, |
| que conducirá a pobres |
| protección contra |
| extrapolación y nuestro enfoque |
| es más robusto que esto. |
| Y luego otro punto importante |
| es que encontramos el |
| métrica de extrapolación única |
| era mucho más sencillo de usar y |
| interpretar. |
| Y aquí hay un resumen rápido de |
| las características de la extrapolación |
| control. El método proporciona una mejor |
| visualización de factible |
| regiones en alta dimensión |
| modelos en el perfilador. |
| Un nuevo algoritmo genético ha |
| sido implementado para flexible |
| optimización con restricciones. |
| Nuestro T cuadrado regularizado |
| maneja la observación desordenada |
| datos, casos como P más grandes |
| que N, y continuo y |
| variables categóricas. |
| El método está disponible en la mayoría |
| de los modelos predictivos en JMP |
| 16 Pro y es compatible con muchos |
| sus idiosincrasias. Es también |
| disponible en el perfilador en |
| gráfico, que realmente abre su |
| utilidad porque puedes operar |
| en cualquier fórmula de predicción. |
| Y luego, como una dirección futura, |
| estamos considerando implementar |
| un vecino K-más cercano basado |
| restricción que iría más allá |
| la correlación actual |
| restricción de la estructura. A menudo |
| los predictores son generados por |
| múltiples distribuciones resultantes |
| en agrupamiento en el predictor |
| espacio. Y un vecino K-más cercano |
| enfoque basado permitiría |
| nosotros para controlar la extrapolación |
| entre grupos. |
| Así que gracias a todos los que |
| sintonizado para ver esto y |
| aquí están nuestros correos electrónicos si tiene |
| alguna otra pregunta. |
