Vocero | Transcripción |
| Hola, soy Chris Gotwalt. Mi co |
| los presentadores, Laura Lancaster y |
| Jeremy Ash y yo presentaremos |
| un nuevo y útil JMP Pro |
| capacidad llamada extrapolación |
| Control. Casi cualquier modelo que |
| alguna vez querrías predecir |
| con tiene una gama de |
| aplicabilidad, una región del |
| espacio de entrada, donde |
| Las predicciones se consideran |
| lo suficientemente confiable. fuera de eso |
| región, comenzamos a extrapolar |
| el modelo a puntos alejados del |
| datos utilizados para ajustar el modelo. Usando |
| las predicciones de ese modelo |
| en esos puntos podría conducir a |
| completamente poco confiable |
| predicciones Hay dos |
| fuentes primarias de |
| extrapolación | estadístico |
| extrapolación y basada en dominios |
| extrapolación. Ambos tipos son |
| cubiertos por la nueva característica. |
| Se produce una extrapolación estadística. |
| cuando uno intenta |
| predecir usando un modelo en un x |
| eso no se acerca a los valores |
| utilizado para entrenar ese modelo. |
| Extrapolación basada en dominios |
| sucede cuando intentas evaluar |
| en una x que es imposible debido |
| a científico o de ingeniería |
| restricciones basadas. El ejemplo |
| Aquí se ilustran ambos tipos de |
| extrapolación en un ejemplo. |
| Aquí vemos un perfilador de un |
| modelo de una producción metalúrgica |
| proceso. La predicción dice |
| out dice -2.96 sin |
| indicación de que estamos evaluando |
| en una combinación de temperatura |
| y presión que es imposible |
| en un sentido de dominio para lograr |
| esta maquina. También tenemos |
| extrapolación estadística ya que |
| está lejos de los datos utilizados para ajustar |
| el modelo como se ve en la dispersión |
| gráfico de los datos de entrenamiento en el |
| bien. En JMP Pro 16, Jeremy, |
| Laura y yo hemos colaborado para |
| agregar una nueva capacidad que puede |
| dar una advertencia cuando el perfilador |
| piensa que podrías ser |
| extrapolando. O si giras |
| control de extrapolación activado, |
| restringirá el conjunto de puntos |
| que ves solo a aquellos que |
| no cree que lo sean |
| extrapolando. Tenemos dos tipos |
| de control de extrapolación. Uno es |
| basado en el concepto de apalancamiento |
| y utiliza un modelo de mínimos cuadrados. |
| Este primer tipo es sólo |
| disponible en la versión Pro de |
| Ajustar mínimos cuadrados al modelo. El |
| otro tipo lo llamamos general |
| extrapolación del aprendizaje automático |
| control y está disponible en el |
| Plataforma Profiler y varios de |
| El aprendizaje automático más común. |
| plataformas en JMP Pro. Al |
| solicitud, incluso podríamos agregarla a |
| más. mínimos cuadrados |
| El control de extrapolación utiliza el |
| concepto de apalancamiento, que es |
| como una versión escalada del |
| varianza de predicción. Es modelo- |
| basado y por eso utiliza información |
| sobre los principales efectos |
| interacciones en orden superior |
| términos para determinar el |
| extrapolación. para los generales |
| extrapolación del aprendizaje automático |
| caso de control, tuvimos que subir |
| con nuestro propio enfoque. Nosotros |
| Quería un método que fuera |
| robusto a valores perdidos, lineal |
| dependencias, computación más rápida, |
| podría manejar mezclas de |
| entrada continua y categórica |
| variables, y también |
| explícitamente quería separar |
| el modelo de extrapolación de la |
| modelo utilizado para ajustar los datos. Entonces |
| cuando tenemos generales |
| control de extrapolación activado, |
| solo hay uno supervisado |
| modelo que es...que se adapta al |
| variables de entrada a las respuestas |
| que vemos en el perfilador |
| rastros. Viene el perfilador |
| arriba con un rápido y sucio |
| modelo no supervisado para describir |
| los ejes del conjunto de entrenamiento, y esto |
| Se utiliza el modelo no supervisado. |
| detrás de escena por el |
| perfilador para determinar el |
| control de extrapolación |
| restricción. Así que tengo que |
| cambiar porque PowerPoint y mi |
| la cámara no se lleva bien |
| ahora mismo por alguna razón. Nosotros |
| Sepa que las extrapolaciones arriesgadas |
| se hacen todos los días por |
| personas que trabajan en ciencia de datos |
| y están seguros de que el uso |
| de extrapolaciones conduce a pobres |
| predicciones y, en última instancia, |
| malos resultados empresariales. |
| Lugares de control de extrapolación |
| barreras de seguridad en las predicciones del modelo |
| y conducirá a cuantificablemente |
| mejores decisiones por JMP Pro |
| usuarios. Cuando los usuarios ven una extrapolación |
| ocurriendo, el usuario debe realizar una |
| decisión sobre si el |
| La predicción debe usarse o no. |
| utilizado en función de su dominio |
| conocimiento y familiaridad con |
| el problema en cuestión. Si usted |
| empezar a ver extrapolación |
| Las advertencias de control ocurren bastante |
| A menudo, es probable que sea el final de |
| el ciclo de vida de ese modelo en |
| Es hora de reajustarlo a nuevos datos. |
| porque la distribución de la |
| los insumos se han alejado de |
| el de los datos de entrenamiento. Nosotros |
| sinceramente estamos bastante sorprendidos y |
| alarmado de que la necesidad de |
| identificar la extrapolación no es |
| mejor apreciado por los datos |
| comunidad científica y hemos hecho |
| controlando la extrapolación como |
| lo más fácil y automático posible. |
| Laura, quien lo desarrolló en JMP |
| Pro, estará demostrando el |
| opción a continuación. Entonces Jeremy, quien |
| investigamos mucho sobre nuestro |
| equipo, entrará en las matemáticas |
| detalles y estadisticas |
| motivación para el enfoque. |
| Hola mi nombre es Laura |
| Lancaster y yo estamos aquí para hacer un |
| demostración de la extrapolación |
| control que se agregó a JMP |
| Pro 16. queria empezar |
| con un ejemplo bastante simple |
| usando al menos el modelo de ajuste |
| plataforma de cuadrados. voy a |
| utilizar algunos datos que pueden ser |
| familiar; son los datos de fitness |
| eso está en datos de muestra y estoy |
| vamos a utilizar el consumo de oxígeno como |
| mi respuesta y tiempo de ejecución, ejecutar |
| Pulse y Max Pulse como mi |
| predictores. Y yo quería |
| Reitero que en el modelo de ajuste, |
| ajustar mínimos cuadrados al |
| métrica de extrapolación que es |
| utilizado es el apalancamiento. Entonces vamos |
| adelante y comience hacia JMP. |
| Ahora tengo los datos de fitness. |
| Abro en JMP y tengo un script. |
| guardado en la tabla de datos para |
| iniciar automáticamente mi ajuste |
| modelo de mínimos cuadrados. Entonces yo soy |
| voy a seguir adelante y ejecutar eso |
| script, es el que menos lanza |
| plataforma de cuadrados. y tengo el |
| El perfilador se abre automáticamente. Y |
| podemos ver que el perfilador |
| parece que siempre lo ha hecho en el |
| pasado, donde los límites del factor |
| están definidos por el rango de cada |
| factor individualmente, dándonos |
| restricciones de límite rectangular. |
| Y cuando cambio el factor |
| ajustes, debido a estos límites |
| limitaciones, puede ser realmente |
| Es difícil saber si te estás moviendo |
| muy fuera de la correlación |
| estructura de los datos. |
| Y es por eso que queríamos agregar |
| el control de extrapolación. Entonces |
| esto se ha agregado a varios |
| de las plataformas en JMP Pro |
| 16, incluido el ajuste de mínimos cuadrados. |
| Y para llegar a la extrapolación |
| control, vas al menú debajo |
| el menú del perfilador. Así que si miro |
| Aquí veo que hay una nueva opción. |
| llamado Control de Extrapolación. |
| Está desactivado de forma predeterminada, |
| pero puedo convertirlo en cualquiera |
| encendido o advertencia encendida para encender |
| control de extrapolación. Si yo |
| enciéndelo, observa que |
| restringe mi perfil |
| trazas para ir solo a valores |
| donde no estoy extrapolando. |
| Si tuviera que convertirlo en advertencia |
| En, vería el perfil completo. |
| rastros, pero obtendría un |
| Advertencia cuando voy a una región. |
| donde sería considerado |
| ser extrapolación. |
| También puedo activar la extrapolación. |
| detalles, que encuentro realmente |
| útil, y eso me da una |
| mucha más información. Primero de |
| todo, me dice que mi |
| métrica que estoy usando para |
| definir extrapolación es |
| apalancamiento, lo cual es cierto en el |
| Ajustar la plataforma de mínimos cuadrados. |
| Y el umbral que está siendo |
| utilizado por defecto inicialmente es |
| va a haber un apalancamiento máximo, |
| pero esto es algo que puedo |
| cambia y te lo mostraré |
| en un minuto. Además, puedo ver |
| cuál es mi métrica de extrapolación |
| es para mi configuración actual. |
| Es este número de aquí, |
| que cambiará a medida que yo cambie |
| mi configuración de factores. |
| Cada vez que este número es mayor |
| que el umbral, voy a |
| Recibo esta advertencia de que podría estar |
| extrapolando. Si va abajo, |
| ya no entenderé eso |
| advertencia. Este umbral no es |
| voy a cambiar a menos que cambie |
| algo en el menú para ajustar |
| mi umbral. Así que déjame seguir adelante |
| y hazlo ahora mismo. entonces me voy |
| para ir al menú |
| y voy a ir a configurar |
| criterio umbral. Entonces |
| en ajuste de mínimos cuadrados, tienes dos |
| opciones para el umbral |
| inicialmente, está configurado al máximo |
| apalancamiento, que va a mantener |
| usted dentro del casco convexo de |
| los datos, o puede cambiar a un |
| multiplicador por el promedio |
| términos de apalancamiento o modelo sobre |
| observaciones. y quiero |
| cambiar a ese umbral. Entonces es |
| establecido en 3 como multiplicador |
| por defecto. Entonces esto va a |
| ser 3 veces el apalancamiento promedio |
| y hago clic en Aceptar, y noto que |
| Mi umbral va a cambiar. |
| En realidad se hizo más pequeño, así que esto |
| es mas conservador |
| definición de extrapolación. |
| Y voy a devolverlo a |
| para restringir el seguimiento de mi perfil. |
| Y ahora solo puedo ir a |
| regiones donde estoy dentro de 3 |
| veces el apalancamiento promedio. |
| Ahora también tenemos |
| optimización implementada |
| que obedece a |
| extrapolación |
| restricciones. Así que ahora si yo |
| activar la conveniencia del conjunto |
| y hago la optimización, |
| Obtendré un valor óptimo que |
| satisface la extrapolación |
| restricción. Note que esto |
| La métrica es menor o igual que |
| el umbral. Así que ahora cuando voy |
| a mi siguiente diapositiva, que va |
| comparar en un gráfico, un diagrama de dispersión |
| matriz, la diferencia |
| entre el valor óptimo con |
| control de extrapolación activado |
| y con él apagado. |
| Entonces este es el diagrama de dispersión. |
| matriz que creé con JMP, |
| y muestra el original |
| datos de variables predictivas, así como |
| como los valores de la variable predictora |
| para la solución óptima utilizando |
| sin control de extrapolación, en |
| azul, y la solución óptima usando |
| control de extrapolación en rojo. |
| Y observe cómo el sin restricciones |
| solución aquí en azul, |
| aquí mismo, viola la |
| estructura de correlación para el |
| datos originales para el pulso de ejecución y |
| Pulso máximo, aumentando así el |
| incertidumbre de esta predicción. |
| Mientras que la solución óptima |
| eso sí usó extrapolación |
| el control está mucho más en línea |
| con los datos originales. |
| Ahora veamos un ejemplo. |
| usando el más generalizado |
| método de control de extrapolación, |
| al que nos referimos como un |
| método T cuadrado regularizado. Como |
| Chris mencionó anteriormente, nosotros |
| desarrolló este método para modelos |
| distintos de los modelos de mínimos cuadrados. |
| Así que vamos a ver un |
| modelo neuronal para la diabetes |
| datos que también están en la muestra |
| datos. La respuesta es una medida. |
| de progresión de la enfermedad y la |
| Los predictores son la base. |
| variables. Una vez más, el |
| métrica de extrapolación utilizada para |
| este ejemplo es el |
| cuadrado T regularizado que |
| Jeremy estará describiendo en |
| más detalles en unos minutos. |
| Entonces tengo los datos de diabetes abiertos en |
| JMP y yo tenemos un script guardado |
| de mi modelo neuronal encaja. Soy |
| voy a seguir adelante y ejecutar eso |
| guion. Lanza el sistema neuronal. |
| plataforma, y noto que estoy |
| usando el método de validación, aleatorio |
| aguantar. solo queria notar |
| que cada vez que uses un |
| método de validación, el |
| El control de extrapolación se basa |
| sólo en los datos de entrenamiento |
| y no tu validación |
| o datos de prueba. |
| Entonces tengo el generador de perfiles abierto y |
| puedes ver que está usando el |
| huellas completas. Extrapolación |
| El control no está encendido. vamos |
| adelante y enciéndelo. |
| Y yo también voy a |
| enciende los detalles. |
| Puedes ver que las huellas tienen |
| sido restringido y la métrica |
| es el cuadrado T regularizado. El |
| El umbral es 3 veces el |
| desviación estándar de la muestra |
| T al cuadrado regularizado. jeremy es |
| vamos a hablar más sobre lo que |
| todo eso significa exactamente en unos pocos |
| minutos. Y yo sólo quería |
| mencionar que cuando estemos usando |
| la T al cuadrado regularizada |
| método, sólo hay una opción |
| para el umbral, pero puedes |
| ajustar el multiplicador. Así que si usted |
| ir al control de extrapolación, establecer |
| umbral, puedes ajustarlo |
| multiplicador, pero voy a |
| déjalo en 3. Y ahora yo |
| desea ejecutar la optimización usando |
| control de extrapolación. Entonces yo soy |
| simplemente voy a maximizar y |
| recordar. Ahora tengo un |
| solución óptima con |
| control de extrapolación activado |
| en. Y ahora quiero mirar |
| en nuestra matriz de diagrama de dispersión, solo |
| como vimos antes, con |
| los datos originales, así como |
| con los valores óptimos con |
| y sin extrapolación |
| control. |
| Entonces esta es una matriz de diagrama de dispersión. |
| de los datos de diabetes que |
| creado en JMP. tiene el |
| valores predictores originales, como |
| así como la solución óptima |
| utilizando el control de extrapolación en |
| rojo y solución óptima sin |
| control de extrapolación en azul. |
| Y puedes ver que el rojo |
| Los puntos parecen ser mucho más |
| dentro de la estructura de correlación |
| de los datos originales que los |
| azul, y eso es particularmente |
| cierto cuando miras este LDL |
| versus colesterol total. |
| Así que ahora veamos un ejemplo. |
| usando el perfilador que está debajo |
| el menú gráfico, al que llamaré |
| el perfilador de gráficos. También utiliza |
| el método T cuadrado regularizado |
| y nos permite utilizar |
| control de extrapolación sobre cualquier |
| tipo de modelo que puede ser |
| creado y guardado como un JSL |
| fórmula. También nos permite |
| tener control de extrapolación en |
| más de un modelo a la vez. |
| Así que veamos un ejemplo. |
| para una empresa que utiliza polvo |
| tecnología metalúrgica para |
| producir ejes de transmisión de acero para |
| la industria automotriz. |
| Quieren poder encontrar |
| ajustes óptimos para su |
| producción que minimice |
| encoger y también minimizar... |
| minimizar las fallas debido a malas |
| condiciones de servicio. Entonces tenemos |
| dos | reducción de respuestas (que es |
| continuo y vamos a |
| ajustar un modelo de mínimos cuadrados para |
| eso) y la condición de la superficie (que |
| es pasa/falla y vamos a |
| ajustar un modelo logístico nominal para |
| Aquél). Y nuestro predictor |
| las variables son solo algunas claves |
| variables del proceso en producción. |
| Y una vez más la extrapolación |
| La métrica es el cuadrado T regularizado. |
| Entonces tengo el polvo |
| datos de metalurgia abiertos en JMP |
| y ya me cabe un mínimo |
| modelo de cuadrados para mi contracción |
| respuesta, y ya he encajado un |
| modelo logístico nominal para el |
| condición de la superficie pasa/falla |
| respuesta, y he guardado el |
| fórmulas de predicción de los datos |
| mesa para que estén listos para |
| ser utilizado en el generador de perfiles de gráficos. |
| Entonces si voy al menú de gráficos |
| perfilador, puedo cargar el |
| fórmula de predicción de la contracción |
| y mi fórmula de predicción es para |
| la condición de la superficie. |
| Haga clic en Aceptar. y ahora tengo |
| mis dos modelos se lanzaron |
| el perfilador de gráficos. |
| Y antes de encender |
| control de extrapolación, usted |
| puedo ver que tengo el completo |
| rastros de perfil. Una vez que enciendo |
| control de extrapolación |
| puedes ver que las huellas |
| encogerme un poco, y yo también voy |
| para activar los detalles, |
| solo para demostrar que efectivamente lo soy |
| usando el cuadrado T regularizado |
| aquí en este método. |
| Así que lo que realmente quiero hacer es |
| quiero encontrar el optimo |
| condiciones donde minimizo |
| encojo y minimizo |
| fallos con la extrapolación |
| control y quiero asegurarme |
| No estoy extrapolando. Yo quiero |
| encontrar una solución útil. Y |
| antes de que pueda hacer la optimización, |
| De hecho necesito configurar mi |
| deseabilidades. Así que voy a |
| establecer deseos. Ya esta |
| correcto para la contracción, pero yo |
| Necesito configurarlos para el servicio. |
| condición. voy a intentar maximizar |
| pases y minimizar los fallos. |
| K. |
| Y ahora debería poder hacer |
| la optimización con |
| controles de extrapolación activados. |
| Maximiza y recuerda. |
| Y ahora tengo mi óptimo |
| solución con extrapolación |
| control encendido. Así que ahora miremos |
| una vez más en el |
| matriz de diagrama de dispersión de la |
| datos originales, junto con el |
| solución con extrapolación |
| control en la solución, |
| con el control de extrapolación |
| apagado. |
| Entonces esta es una matriz de diagrama de dispersión. |
| de los datos de pulvimetalurgia |
| que creé en JMP. y eso |
| también tiene la solución óptima |
| con control de extrapolación como |
| punto rojo, y el óptimo |
| solución sin extrapolación |
| control como un punto azul. Y una vez |
| De nuevo puedes ver que cuando |
| no promulgues la extrapolación |
| control, la solución óptima |
| está bastante lejos del |
| estructura de correlación de la |
| datos. Podemos ver especialmente |
| que aquí con ratio versus |
| presión de compactación. |
| Así que ahora quiero entregar |
| la presentación a jeremy |
| para entrar en mucho más |
| detalle sobre nuestros métodos. |
| Hola, aquí tienes una serie de |
| objetivos para el control de extrapolación |
| que establecimos en el |
| inicio del proyecto. Nosotros |
| necesitaba una métrica de extrapolación |
| que podría calcularse rápidamente |
| con una gran cantidad de |
| observaciones y variables, y |
| necesitábamos una forma rápida de evaluar |
| si la métrica indica |
| extrapolación o no. Esto era |
| para mantener la interactividad de |
| el perfilador rastrea y |
| necesitábamos esto para |
| realizar la optimización. |
| Queríamos poder |
| apoyar las diversas variables |
| tipos disponibles en el |
| perfilador. Estos son |
| esencialmente continuo, |
| categórico y ordinal. |
| Queríamos utilizar |
| observaciones con celdas faltantes, |
| porque algunos métodos de modelado |
| incluirá estas observaciones |
| en ???. |
| Queríamos un método que fuera |
| robusto a dependencias lineales en |
| los datos. Estos ocurren cuando el |
| el número de variables es mayor |
| que el número de observaciones, |
| Por ejemplo. y queríamos |
| algo que fue fácil de |
| automatizar sin necesidad de un |
| mucha entrada del usuario. |
| Para los modelos de mínimos cuadrados, tenemos |
| aterrizó en apalancamiento, que es |
| A menudo se utiliza para identificar valores atípicos. |
| en modelos lineales. el apalancamiento |
| para el nuevo punto de predicción es |
| calculado de acuerdo a esto |
| fórmula. Hay muchos |
| interpretaciones del apalancamiento. |
| Una interpretación es que es |
| la distancia multivariada de un |
| punto de predicción desde el centro |
| de los datos de entrenamiento. Otro |
| La interpretación es que es un |
| varianza de predicción escalada. Entonces |
| a medida que se mueve el punto de predicción |
| más lejos del centro |
| de los datos, la incertidumbre |
| de predicción aumenta. Y nosotros |
| utilizar dos umbrales comunes en |
| la literatura estadística para |
| determinar si esta distancia |
| Es demasiado largo. El primero es |
| apalancamiento máximo, predicción |
| puntos más allá de este umbral |
| o fuera del casco convexo de |
| los datos de entrenamiento. |
| Y el segundo es 3 veces el |
| promedio de los apalancamientos. Él |
| se puede demostrar que esto es |
| equivalente a tres veces el |
| número de términos del modelo divididos |
| por el número de observaciones. |
| Y como Laura describió |
| anteriormente, puede cambiar el |
| multiplicador de estos |
| umbrales. |
| Finalmente, cuando los deseos |
| se están optimizando, el |
| La restricción de extrapolación es una |
| restricción no lineal, y |
| anteriormente el perfilador permitía |
| optimización restringida con |
| restricciones lineales. Este tipo de |
| la optimización es más |
| desafiante, por lo que Laura implementó |
| un algoritmo genético. Y si tu |
| no estoy familiarizado con estos, |
| Los algoritmos genéticos utilizan |
| principios de molecularidad |
| evolución para optimizar |
| funciones de costos complicadas. |
| A continuación hablaré sobre el |
| enfoque que utilizamos para generalizar |
| control de extrapolación a modelos |
| distintos de los modelos lineales. Cuando |
| estás construyendo un predictivo |
| modelo en JMP, comienzas con un |
| conjunto de variables predictivas y un |
| conjunto de variables de respuesta. Alguno |
| el modelo supervisado está entrenado y |
| entonces se puede utilizar un perfilador para |
| visualizar la superficie del modelo. |
| Existen numerosas variaciones en |
| el generador de perfiles en JMP. Puede |
| utilizar el perfilador internamente en |
| plataformas de modelado. Puede |
| fórmulas de predicción de salida y |
| construir un generador de perfiles para múltiples |
| modelos. Como demostró Laura, |
| puedes construir perfiladores para |
| modelos de conjunto. Queríamos un |
| método de control de extrapolación |
| eso generalizaría todos estos |
| escenarios, por lo que en lugar de |
| vinculando nuestro método a un |
| modelo específico, vamos |
| utilizar un sistema no supervisado |
| acercarse. |
| Y sólo vamos a marcar un |
| punto de predicción como |
| extrapolación si está lejos |
| fuera de donde están los datos |
| concentrado en el predictor |
| espacio. Y esto nos permite |
| ser consistente en |
| perfiladores para que nuestros |
| método de control de extrapolación |
| Se conectará a cualquier generador de perfiles. |
| La distancia multivariante |
| interpretación del apalancamiento |
| sugirió la T al cuadrado de Hotelling como |
| una distancia para general |
| control de extrapolación. De hecho, |
| alguna manipulación algebraica |
| Demuestre que la T cuadrada de Hotelling es |
| simplemente el apalancamiento cambió y |
| escamoso. Esta figura muestra cómo |
| Medidas T al cuadrado de Hotelling |
| que elipse una observación |
| se encuentra en, donde están las elipses |
| centrado en la media de la |
| datos, y la forma está definida |
| por la matriz de covarianza. |
| Como ya no estamos en |
| modelos lineales, esta métrica |
| no tiene lo mismo |
| conexión con la predicción |
| diferencia. Así que en lugar de |
| dependiendo de los umbrales utilizados |
| De vuelta en los modelos lineales, estamos |
| voy a hacer algunos |
| supuestos distributivos |
| para determinar si T al cuadrado |
| para el punto de predicción debería |
| considerarse extrapolación. |
| Aquí les muestro la fórmula para |
| T al cuadrado de Hotelling. La media y |
| se estima la matriz de covarianza |
| utilizando los datos de entrenamiento para el |
| modelo. Si P es menor que N, |
| donde P es el número de |
| predictores, N es el número |
| de observaciones y si el |
| predictores de multivariado |
| normal, entonces T al cuadrado para |
| El punto de adicción tiene una F. |
| distribución. Sin embargo, queríamos |
| un método para generalizar el |
| conjuntos de datos con datos complicados |
| tipos, como una mezcla de continuo |
| y conjuntos de datos categóricos donde P |
| es mayor que N, conjuntos de datos con |
| valores faltantes. Así que en lugar de |
| elaborando las distribuciones |
| analíticamente en cada caso, |
| usó un conservador simple |
| límite de control que encontramos |
| funciona bien en la práctica. Esto es |
| un límite de control tres Sigma |
| usando la distribución empírica |
| de T al cuadrado del entrenamiento |
| datos y, como mencionó Laura, usted |
| También puedes ajustar este multiplicador. |
| Una complicación es que cuando P |
| es mayor que N, T de Hotelling |
| al cuadrado no está definido. Hay |
| demasiados parámetros en el |
| matriz de covarianza para estimar |
| con los datos disponibles, y |
| Esto ocurre a menudo en el uso típico. |
| casos para el control de extrapolación |
| como en mínimos cuadrados parciales. |
| Entonces nos decidimos por una novela. |
| enfoque para calcular la T de Hotelling |
| al cuadrado, que trata de estos |
| casos, y lo llamamos un |
| T al cuadrado regularizado. |
| Para calcular la covarianza |
| matriz utilizamos una regularizada |
| estimador originalmente |
| desarrollado por Schafer y |
| Cortabordes para alta |
| datos genómicos dimensionales. |
| es solo un peso |
| combinación del completo |
| matriz de covarianza de muestra, |
| que es U aquí y un |
| matriz objetivo de restricción |
| que es d. |
| Para el peso Lambda |
| parámetro, Schafer y Strimmer |
| derivó un análisis |
| expresión que minimiza la |
| MSE, el estimador |
| asintóticamente. |
| Schafer y Strimmer propusieron |
| varios objetivos posibles |
| matrices. La matriz objetivo que |
| elegido fue una matriz diagonal con |
| las varianzas muestrales de la |
| variables predictoras en el |
| diagonal. Esta matriz objetivo tiene |
| una serie de ventajas para |
| control de extrapolación. Primero nosotros |
| no asumas ninguna correlación |
| estructura entre las variables |
| antes de ver los datos, que |
| Funciona bien como prior general. |
| Además, cuando hay pocos datos |
| para estimar la covarianza |
| matriz, ya sea debido al pequeño N o |
| falta una gran fracción, el |
| restricción elíptica es |
| expandido por un gran peso en |
| la matriz diagonal, y esto |
| resulta en una actitud más conservadora |
| prueba para el control de extrapolación. |
| Encontramos que esto era necesario para |
| obtener un control razonable de la |
| tasa de falsos positivos. para poner esto |
| más simplemente, cuando hay |
| datos de entrenamiento limitados, el |
| T cuadrado regularizado es menor |
| Es probable que etiquetes las predicciones como |
| extrapolación, que es lo que |
| quiero, porque eres más |
| probable que observe covarianzas |
| por casualidad. Tenemos algo |
| Resultados de la simulación |
| demostrando estos detalles, |
| pero no tengo tiempo para ir |
| en todo eso. En vez de |
| en la página web de la Comunidad, ponemos un |
| enlace a un artículo sobre archivo y |
| planeamos enviar esto a la |
| Revista de Computación |
| Estadísticas gráficas. |
| La siguiente diapositiva muestra algunas otras |
| detalles importantes que necesitábamos |
| considerar. Necesitábamos calcular |
| Descubra cómo lidiar con categóricos. |
| variables. Solo somos |
| convirtiéndolos en indicadores |
| variables ficticias codificadas. Esto es |
| comparable a un múltiplo |
| análisis de correspondencia. Otro |
| La complicación es cómo calcular. |
| T de Hotelling al cuadrado cuando |
| faltan datos. Varios |
| Modelado predictivo JMP |
| plataformas utilizan observaciones con |
| datos faltantes para entrenar a sus |
| modelos. Estos incluyen ingenuos |
| Bosque de Bayes y Bootstrap. Y |
| estas fórmulas muestran la |
| método de eliminación por pares nosotros |
| utilizado para estimar la covarianza |
| matriz. Es más común usar |
| Eliminación por filas. Esto significa |
| todas las observaciones con faltantes |
| los valores se eliminan antes |
| calcular la matriz de covarianza. |
| Y esto es lo más simple, pero puede |
| resultar en desechar útiles |
| datos si el tamaño de la muestra de la |
| Los datos de entrenamiento son pequeños. Con |
| observaciones de eliminación por pares |
| y eliminado sólo si hay |
| valores faltantes en el par de |
| variables utilizadas para calcular el |
| entrada correspondiente y eso es |
| lo que estas fórmulas están mostrando. |
| Parece algo sencillo de hacer. |
| Solo estás usando todos los datos. |
| eso está disponible, pero |
| en realidad puede conducir a una serie de |
| problemas porque hay |
| diferentes observaciones utilizadas para |
| calcular cada entrada. Esto puede |
| hacer que sucedan cosas raras, |
| como matrices de covarianza con |
| valores propios negativos, que es |
| algo con lo que tuvimos que lidiar. |
| Aquí hay algunas ventajas de |
| la T al cuadrado regularizada nos |
| encontrado al compararlo con otros |
| métodos en nuestras evaluaciones. Uno |
| es que la regularización |
| funciona de la manera regularización |
| Normalmente funciona. Golpea un |
| equilibrio entre el sobreajuste del |
| datos de entrenamiento y sobre sesgo |
| el estimador. Esto hace que el |
| Estimador más robusto al ruido. |
| y especificación errónea del modelo. |
| A continuación, Schafer y Strimmer |
| demostró en su artículo que |
| la regularización resulta en una |
| estimador más preciso en |
| ajustes de alta dimensión. |
| Esto ayuda con la cursiva. |
| dimensionalidad que plaga |
| la mayoría de los métodos basados en la distancia |
| para el control de extrapolación. |
| Luego en los campos que tienen |
| desarrolló la metodología para |
| control de extrapolación, |
| a menudo ambos tienen altos |
| datos dimensionales y altamente |
| predictores correlacionados. Para |
| ejemplo en quimioinformática y |
| quimiometría, la química |
| Las características son a menudo altamente |
| correlacionado. Control de extrapolación |
| se utiliza a menudo en combinación |
| con modelos PCA y PLS, donde |
| T cuadrado DModX se utilizan para |
| detectar violaciones de correlación |
| estructura. Esto es similar a |
| lo que hacemos en modelo impulsado |
| gráfico de control multivariado. |
| Dado que este es un caso de uso común, |
| queríamos tener una opción que |
| no se desvió demasiado de |
| estos métodos. Nuestra T regularizada |
| al cuadrado proporciona el mismo tipo |
| de control de extrapolación, pero |
| no requiere paso de proyección |
| lo cual tiene algunas ventajas. |
| Descubrimos que esto nos permite |
| otros tipos mejor generalizados |
| de modelos predictivos. También en |
| En nuestras evaluaciones observamos que |
| si una proyección lineal no |
| funciona bien para sus datos, como |
| tienes relaciones no lineales |
| entre predictores, los errores |
| puede inflar los límites de control |
| de métodos basados en proyecciones, |
| lo que conducirá a pobres |
| protección contra |
| extrapolación y nuestro enfoque |
| es más robusto que esto. |
| Y luego otro punto importante. |
| es que encontramos el |
| métrica de extrapolación única |
| era mucho más sencillo de usar y |
| interpretar. |
| Y aquí hay un breve resumen de |
| las características de la extrapolación |
| control. El método proporciona mejores |
| visualización de factible |
| regiones en alta dimensión |
| modelos en el perfilador. |
| Un nuevo algoritmo genético ha |
| implementado para flexibilidad |
| optimización con restricciones. |
| Nuestra T al cuadrado regularizada |
| maneja observaciones desordenadas |
| datos, casos como P más grandes |
| que N, y continua y |
| variables categóricas. |
| El método está disponible en la mayoría |
| de los modelos predictivos en JMP |
| 16 Pro y es compatible con muchos de |
| sus idiosincrasias. Es también |
| disponible en el perfilador en |
| gráfico, que realmente abre su |
| utilidad porque puedes operar |
| en cualquier fórmula de predicción. |
| Y luego, como dirección futura, |
| estamos considerando implementar |
| un vecino K-más cercano basado |
| restricción que iría más allá |
| la correlación actual |
| restricción de estructura. A menudo |
| Los predictores son generados por |
| múltiples distribuciones resultantes |
| en agrupamiento en el predictor |
| espacio. Y un K-vecinos más cercanos |
| enfoque basado permitiría |
| nosotros para controlar la extrapolación |
| entre conglomerados. |
| Así que gracias a todos los que |
| Sintonizamos para ver esto y |
| aquí están nuestros correos electrónicos si tienes |
| alguna otra pregunta. |
