398679_es-ES

liliconcom

Re: Control de la extrapolación en el Prediction Profiler en JMP Pro 16 (2021-US-45MP-838)

@ MC17 Me alegra que haya planteado esta importante pregunta.Mencioné esto en la charla, pero probablemente no lo enfaticé lo suficiente.

 

Entonces, lo que creo que está preguntando es por qué solo controlamos T2 y no DModX, como es común en los modelos PCA / PLS.Esto es lo que hacemos en el MDMCC, por ejemplo ( https://www.jmp.com/support/help/en/16.1/index.shtml#page/jmp/model-driven-multivariate-control-charts.shtml ). Si tuviéramos que adoptar un enfoque similar, probablemente pondríamos un límite de control en DModX, porque todos los datos de entrenamiento tendrán DModX> 0, por lo que el truco es permitir que las predicciones se desvíen de la forma en que lo hacen los datos de entrenamiento, sin volverse demasiado loco .Si desea DModX = 0, entonces puede tomar el enfoque de Isaac Himanga ( https://community.jmp.com/t5/Discovery-Summit-Americas-2021/Optimizing-Multivariate-Models-From-Data-Collection-to-Optimal/ta-p/398760 ).

 

La respuesta corta es que nuestro T2 regularizado se calcula sobre las variables predictoras originales y no requiere que divida sus datos en un componente de modelo y un componente de error.Para los modelos PCA / PLS, la regularización da como resultado una restricción similar a controlar T2 y DModX, pero puede hacerlo con una métrica, que es más simple y fácil de interpretar.

 

En los modelos PCA / PLS, T2 marca la predicción con grandes desviaciones de sus datos de entrenamiento dentro del plano del modelo, mientras que DModX marca las predicciones con grandes desviaciones del plano del modelo, como describe su escenario. Esto tiene sentido cuando su método de modelado asume una proyección lineal de baja dimensión de sus datos.Sin embargo, la mayoría de nuestros métodos de modelado no realizan tal proyección. Queremos un enfoque que sea coherente en todas las plataformas por una variedad de razones (conjunto, etc.). Realizar una proyección lineal puede no ser razonable si tiene relaciones no lineales entre variables, variables categóricas, etc. Además, ¿cómo elige el número de componentes para estos modelos? Descubrimos en nuestras evaluaciones que si una proyección lineal no se ajusta bien a sus datos, los errores inflarán su límite de control DModX y conducirán a una protección deficiente contra la extrapolación. Descubrimos que un mejor enfoque general era colocar restricciones de extrapolación utilizando T2 en el espacio del predictor original, que protege contra la violación de la estructura de correlación en todas las direcciones de los datos.

 

La regularización de T2 otorga gran importancia a las variables altamente correlacionadas y poca importancia a las variables de baja correlación cuando se controla la extrapolación, y funciona cuando p> n.Esto da como resultado una restricción similar a T2 y DModX en los modelos PCA y PLS. Tengo algunos resultados de simulación que muestran cómo funciona el método en el documento técnico adjunto.Espero actualizar esto con una comparación con un enfoque T2 y DModX pronto, y agregar algo más de discusión.Comencé simplemente mostrando que nuestro método funciona, que el artículo todavía es un trabajo en progreso.

 

¿Esto tiene sentido? Me complace discutir más y escuchar sus opiniones / inquietudes al respecto.

Control de la extrapolación en el Prediction Profiler en JMP Pro 16 (2021-US-45MP-838)

Nivel: intermedio

 

Laura Lancaster, desarrolladora principal de estadística de investigación de JMP, SAS
Jeremy Ash, probador de software de análisis de JMP, SAS
Christopher Gotwalt, Director de Investigación y Desarrollo Estadístico de JMP, SAS

 

La extrapolación incontrolada del modelo conduce a dos tipos graves de errores: (1) el modelo puede ser completamente inválido lejos de los datos, y (2) las combinaciones de valores variables pueden no ser físicamente realizables. El uso de Profiler para optimizar modelos que se ajustan a los datos de observación puede conducir a soluciones extrapoladas que no tienen ningún uso práctico sin previo aviso. JMP Pro 16 introduce el control de extrapolación en muchas plataformas de modelado predictivo y en la propia plataforma Profiler. Esta nueva función en Prediction Profiler alerta al usuario sobre una posible extrapolación o evita por completo dibujar puntos extrapolados donde el modelo puede no ser válido. Además, el usuario puede realizar la optimización en una región restringida que evita la extrapolación. En esta presentación, discutimos la motivación y la utilidad del control de extrapolación, demostramos cómo se puede usar fácilmente en JMP y describimos los detalles de nuestros métodos.

 

 

Transcripción generada automáticamente ...

 

Vocero	Transcripción
Tim Pierce	Ir.
	Bien, voy a seguir en silencio.
	Hola, soy Chris Gotwalt. Mis co presentadores Laura Lancaster y Jeremy Ash y yo presentamos una nueva y útil capacidad de JMP Pro llamada control de extrapolación.
	Casi cualquier modelo con el que quiera predecir tiene un rango de aplicabilidad,
	una región del espacio de entrada donde se considera que sus predicciones son
	lo suficientemente confiable. Fuera de esa región, comenzamos a extrapolar el modelo en dos puntos, lejos de los datos utilizados para ajustar el modelo. El uso de las predicciones de ese modelo en esos puntos podría conducir a predicciones completamente poco fiables.
Hay dos fuentes principales de extrapolación.	extrapolación estadística y extrapolación basada en dominios. Ambos tipos están cubiertos por la nueva función.
	La extrapolación estadística ocurre cuando uno intenta predecir usando un modelo en una X que no está cerca de los valores usados para entrenar ese modelo.
	La extrapolación basada en dominios ocurre cuando intenta evaluar en una X que es imposible debido a razones científicas.
	o limitaciones basadas en la ingeniería. El ejemplo aquí ilustra ambos tipos de extrapolación en un ejemplo. Aquí, vemos un perfilador de un modelo de un proceso de producción metalúrgica.
	La predicción se lee en -2,96 sin indicación de que estemos evaluando a una combinación de temperatura y presión que es imposible
	en un sentido de dominio para alcanzar esta máquina. También disponemos de extrapolación estadística ya que se aleja de los datos utilizados
	para ajustar el modelo, como se ve en el diagrama de dispersión de los datos de entrenamiento a la derecha. En JMP Pro 16, Jeremy, Laura y yo hemos colaborado para agregar una nueva capacidad que puede dar una advertencia cuando el generador de perfiles cree que podría estar extrapolando.
	O si activa el control de extrapolación, restringirá el conjunto de puntos que ve a solo aquellos que no cree que estén extrapolando.
	Tenemos dos tipos de control de extrapolación.
	Uno se basa en el concepto de apalancamiento y utiliza un modelo de mínimos cuadrados. Este primer tipo solo está disponible en la versión Pro de mínimos cuadrados del modelo de ajuste.
	El otro tipo lo llamamos control de extrapolación de aprendizaje automático general, y está disponible en la plataforma del generador de perfiles y en varias de las plataformas de aprendizaje automático más comunes en JMP Pro.
	Si lo solicita, incluso podríamos agregarlo a más. El control de extrapolación de mínimos cuadrados utiliza el concepto de apalancamiento, que es como una versión escalada de la varianza de predicción. Está basado en modelos y por lo tanto
	utiliza información sobre las interacciones de efectos principales y términos de orden superior para determinar la extrapolación.
	Para el caso de control de extrapolación de aprendizaje automático general, tenemos que idear su propio enfoque. Queríamos un método que fuera robusto en valores perdidos,
	dependencias lineales, cálculo más rápido, pueden manejar mezclas de variables de entrada continuas y categóricas, y también queríamos explícitamente separar el modelo de extrapolación del modelo utilizado para ajustar los datos.
	Entonces, cuando tenemos activado el control de extrapolación general, solo hay un modelo supervisado que es ... que ajusta las variables de entrada a las respuestas que vemos en las trazas del generador de perfiles.
	El perfil que genera un modelo sin supervisión rápido y sucio para describir el conjunto de entrenamiento Xs, y el generador de perfiles usa este modelo sin supervisión detrás de escena para determinar la restricción de control de extrapolación.
	Así que tengo que cambiar porque mi cámara en PowerPoint no se está llevando bien en este momento, por alguna razón.
	Sabemos que las personas que trabajan en ciencia de datos están haciendo extrapolaciones riesgosas todos los días y estamos seguros de que el uso de extrapolaciones conduce a predicciones deficientes y, en última instancia, a resultados comerciales deficientes.
	El control de extrapolación coloca barreras en las predicciones del modelo y conducirá a decisiones cuantificablemente mejores por parte de los usuarios de JMP Pro.
	Cuando los usuarios ven que se produce una extrapolación, el usuario debe tomar una decisión sobre si la predicción debe usarse o no, en función de su conocimiento del dominio y su familiaridad con el problema en cuestión.
	Si comienza a ver que se producen advertencias de control de extrapolación, es muy probable que sea el final del ciclo de vida de ese modelo y el momento de reajustarlo a nuevos datos, porque la distribución de las entradas se ha alejado de la de los datos de entrenamiento.
	Honestamente, estamos bastante sorprendidos y alarmados de que la comunidad científica de datos no aprecie mejor la necesidad de identificar la extrapolación.
	y han hecho que el control de la extrapolación sea lo más fácil y automático posible. Laura, que lo desarrolló en JMP Pro, hará una demostración de la opción a continuación. Luego Jeremy, quien hizo mucha de la investigación en nuestro equipo, entrará en los detalles matemáticos y la motivación estadística para el enfoque.
	Hola. Mi nombre es Laura Lancaster y estoy aquí para hacer una demostración del control de extrapolación que se agregó a JMP Pro 16. Quería comenzar con un ejemplo bastante simple usando la plataforma de mínimos cuadrados del modelo de ajuste.
	Voy a utilizar algunos datos que pueden resultarme familiares. Son los datos de fitness los que se encuentran en los datos de muestra.
	Y voy a usar la absorción de oxígeno como mi respuesta y el tiempo de ejecución, el pulso de ejecución y el pulso máximo como mis predictores. Y quería reiterar que en el modelo de ajuste por mínimos cuadrados, la métrica de extrapolación que se usa es el apalancamiento, así que sigamos adelante y comencemos con JMP.
	Así que ahora, tengo los datos de fitness abiertos en JMP y tengo un script para guardar en la tabla de datos para iniciar automáticamente mi modelo de ajuste de mínimos cuadrados.
	Así que seguiré adelante y ejecutaré ese script. Lanza la plataforma de mínimos cuadrados.
	Y tengo el perfil abierto automáticamente y podemos ver que el perfilador se ve como siempre lo ha hecho en el pasado,
	donde los límites de los factores están definidos por el rango de cada factor individualmente, lo que nos da restricciones de límites rectangulares.
	Y cuando cambié la configuración del factor, debido a estas restricciones de límite, puede ser muy difícil saber si se está moviendo mucho más allá de la estructura de correlación de los datos.
	Y es por eso que queríamos agregar el control de extrapolación. Así que esto se ha agregado a varias plataformas en JMPs Pro 16,
	incluyendo ajustar mínimos cuadrados. Y para llegar al control de extrapolación, vaya al menú debajo del menú del generador de perfiles. Entonces, si miro aquí, veo que hay una nueva opción llamada control de extrapolación.
	Está desactivado de forma predeterminada, pero puedo activarlo o activarlo como advertencia para activar el control de extrapolación. Si lo enciendo, observe que restringe los seguimientos de mi perfil para que solo vayan a valores donde no estoy extrapolando.
	Si lo activara en advertencia, vería los trazos de perfil completo, pero recibiría una advertencia cuando vaya a una región donde se consideraría una extrapolación.
	También puedo activar los detalles de extrapolación, que me parecen muy útiles,
	y eso me da mucha más información. En primer lugar, me dice que mi métrica que estoy usando para definir la extrapolación es el apalancamiento, que es cierto en la plataforma de ajuste de mínimos cuadrados,
	y el umbral que se usa por defecto inicialmente será el apalancamiento máximo, pero esto es algo que puedo cambiar y te lo mostraré en un minuto.
	Además, puedo ver cuál es mi métrica de extrapolación para mi configuración actual. Ese es este número de aquí, que cambiará a medida que cambie la configuración de mi factor.
	Siempre que este número sea mayor que el umbral, recibiré esta advertencia de que podría estar extrapolando. Si baja, ya no recibiré esa advertencia.
	Este umbral no cambiará a menos que cambie algo en el menú para ajustar mi umbral. Así que déjame seguir adelante y hacerlo ahora mismo. Voy a ir al menú,
	y voy a pasar a establecer el criterio de umbrales. Entonces, en ajustar mínimos cuadrados, tiene dos opciones para el umbral. Inicialmente, está configurado para el apalancamiento máximo, lo que lo mantendrá dentro del agujero convexo de los datos,
	o puede cambiar a un multiplicador por el apalancamiento promedio o los términos del modelo sobre las observaciones. Y quiero cambiar a ese umbral, por lo que está configurado en tres
	como el multiplicador por defecto, por lo que será tres veces el apalancamiento promedio. Haga clic en Aceptar y observe que mi umbral va a cambiar. En realidad, se hizo más pequeño, por lo que esta es una definición más conservadora de extrapolación.
	Y lo volveré a activar para restringir los rastreos de mi perfil, y ahora solo puedo ir a regiones
	donde estoy dentro de tres veces el apalancamiento promedio.
	Ahora también hemos implementado la optimización que obedece a las restricciones de extrapolación. Así que ahora, si enciendo la conveniencia del conjunto
	y hago la optimización,
	Obtendré un valor óptimo que satisfaga la restricción de extrapolación. Tenga en cuenta que esta métrica es menor o igual que el umbral.
	Entonces, cuando vaya a mi próxima diapositiva, que comparará en un gráfico (una matriz de diagrama de dispersión), la diferencia entre el valor óptimo con el control de extrapolación activado y desactivado.
	Así que esta es la matriz del diagrama de dispersión que creé con JMP, y muestra los datos de la variable predictora original, así como los valores de la variable predictora.
	para la solución óptima sin control de extrapolación en azul y la solución óptima usando control de extrapolación en rojo. Y observe cómo la solución sin restricciones aquí en azul, a la derecha
	aquí, viola la estructura de correlación de los datos originales para el pulso de ejecución y el pulso máximo, lo que aumenta la incertidumbre de esta predicción, mientras que la solución óptima que utilizó el control de extrapolación está mucho más en línea con los datos originales.
	Ahora veamos un ejemplo usando el método de control de extrapolación más generalizado, al que nos referimos como un método T cuadrado regularizado.
	Como Chris mencionó anteriormente, desarrollamos este método para modelos distintos de los modelos de mínimos cuadrados. Veremos un modelo neuronal para los datos de diabetes que también se encuentran en los datos de muestra.
	La respuesta es una medida de la progresión de la enfermedad y los predictores son las variables de referencia. Una vez más, la métrica de extrapolación utilizada para este ejemplo es la T al cuadrado regularizada que Jeremy describirá con más detalle en unos minutos.
	Así que tengo un dato de diabetes abierto en JMP y tengo un script guardado de mis ajustes de modelo neuronal. Voy a seguir adelante y ejecutar ese script.
	Lanza la plataforma neuronal. Y observe que estoy usando el método de validación de retención aleatoria. Solo quería señalar que cada vez que usa un método de validación, el control de extrapolación se basa solo en los datos de entrenamiento
	y no su validación o datos de prueba.
	Así que tengo el generador de perfiles abierto y puedes ver que está usando las trazas completas. El control de extrapolación no está activado.
	Sigamos adelante y enciéndalo.
	Y también voy a activar los detalles.
	Puede ver que las trazas se han restringido y la métrica es el cuadrado T regularizado.
	El umbral es tres veces la desviación estándar del cuadrado T regularizado de la muestra. Jeremy hablará más sobre lo que todo eso significa exactamente en unos minutos.
	Y solo quería mencionar que, cuando usamos el método T cuadrado regularizado, solo hay una opción para el umbral, pero puede ajustar el multiplicador. Así que si vas a
	controles de extrapolación, establecer umbrales, puedes ajustar este multiplicador, pero lo dejaré en tres. Y ahora quiero ejecutar la optimización usando
	control de extrapolación, así que voy a maximizar y recordar. Ahora tengo una solución óptima con el control de extrapolación activado.
	Y ahora, quiero ver nuestra matriz de gráficos de dispersión, tal como lo vimos antes con los datos originales, así como con los valores óptimos con y sin control de extrapolación.
	Entonces, esta es una matriz de diagrama de dispersión de los datos de diabetes que creé en JMP. Tiene los valores predictores originales,
	así como la solución óptima mediante control de extrapolación en rojo y la solución óptima sin control de extrapolación en azul. Y puedes ver eso
	los puntos rojos parecen estar mucho más dentro de la estructura de correlación de los datos originales que los azules. Y eso es particularmente cierto cuando miras este LDL versus el colesterol total.
	Así que ahora veamos un ejemplo usando el generador de perfiles que está debajo del menú de gráficos, al que llamaré generador de perfiles de gráficos.
	También utiliza el método T cuadrado regularizado y nos permite utilizar el control de extrapolación en cualquier tipo de modelo que se pueda crear y guardar como una fórmula JSL. También nos permite tener control de extrapolación en más de un modelo a la vez.
	Así que veamos un ejemplo de una empresa que utiliza tecnología de pulvimetalurgia para producir ejes de transmisión de acero para la industria automotriz.
	Quieren poder encontrar configuraciones óptimas para su producción que minimicen la contracción y también minimicen las fallas debido a las malas condiciones de la superficie. Entonces tenemos dos respuestas
	contracción, que es continua y vamos a ajustar el modelo de mínimos cuadrados para eso, y la condición de la superficie, que es pasa / no pasa y vamos a ajustar un modelo logístico nominal para eso.
	Y nuestras variables predictoras son solo algunas variables de proceso clave en la producción. Y una vez más, la métrica de extrapolación es el cuadrado T regularizado.
	Así que tengo abiertos los datos de la pulvimetalurgia en JMP y ya he ajustado un modelo de mínimos cuadrados para mi respuesta de contracción.
	y ya he ajustado un modelo logístico nominal para la respuesta de aprobación / falla de la condición de la superficie. Y he guardado las fórmulas de predicción en la tabla de datos para que estén listas para usarse en el generador de perfiles de gráficos.
	Entonces, si voy al generador de perfiles del menú de gráficos, puedo cargar la fórmula de predicción para la contracción, y mi fórmula de predicción es para la condición de la superficie.
	Haga clic en Aceptar.
	Y ahora tengo mis dos modelos lanzados al generador de perfiles de gráficos.
	Y, antes de activar el control de extrapolación, puede ver que tengo los seguimientos de perfil completo. Una vez que enciendo el control de extrapolación,
	puedes ver que las huellas se encogen un poco. Y también voy a activar los detalles.
	solo para mostrar que, de hecho, estoy usando el cuadrado T regularizado aquí en este método.
	Entonces, lo que realmente quiero hacer es encontrar las condiciones óptimas en las que minimice la contracción y minimice las fallas.
	con control de extrapolación activado. Quiero asegurarme de no extrapolar. Quiero encontrar una solución útil.
	Y antes de que pueda hacer la optimización, necesito establecer mis deseabilidades. Voy a establecer deseabilidades; ya es correcto para la contracción, pero necesito configurarlos para la condición de la superficie.
	Intentaré maximizar los pases y minimizar las fallas.
	está bien.
	Y ahora debería poder hacer la optimización con los controles de extrapolación activados, maximizar y recordar.
	Ahora tengo mi solución óptima
	con control de extrapolación activado. Así que ahora veamos una vez más la matriz del diagrama de dispersión de los datos originales, junto con la solución con el control de extrapolación activado y la solución con el control de extrapolación desactivado.
	Entonces, esta es una matriz de diagrama de dispersión de los datos de la pulvimetalurgia que creé en JMP y también tiene la solución óptima
	con control de extrapolación como un punto rojo y la solución óptima sin control de extrapolación como un punto azul. Y, una vez más, puede ver que cuando no implementamos el control de extrapolación,
	la solución óptima está bastante fuera de la estructura de correlación de los datos. Podemos ver eso especialmente aquí con relación versus presión de compactación.
	Así que ahora, quiero entregarle la presentación a Jeremy para que entre en muchos más detalles sobre nuestros métodos.
	Hola. Entonces, aquí hay una serie de objetivos para el control de extrapolación que establecimos al comienzo del proyecto.
	Necesitábamos una métrica de extrapolación que pudiera calcularse rápidamente con una gran cantidad de observaciones y variables, y necesitábamos una forma rápida de evaluar si la métrica indicaba extrapolación o no. Esto fue para mantener la interactividad de los rastros del perfilador y
	lo necesitábamos para realizar la optimización.
	Queremos que sea compatible con los distintos tipos de variables disponibles en el generador de perfiles. Estos son esencialmente continuos, categóricos y ordinales.
	Queríamos utilizar observaciones con celdas faltantes porque algunos métodos de modelado incluirán estas observaciones y ???.
	Queríamos un método que fuera robusto a las dependencias lineales en los datos. Estos ocurren cuando el número de variables es mayor que el número de observaciones, por ejemplo.
	Y queríamos algo que fuera fácil de automatizar sin la necesidad de una gran cantidad de información por parte del usuario.
	Para los modelos de mínimos cuadrados, aterrizamos en el apalancamiento, que a menudo se usa para identificar valores atípicos en modelos lineales.
	El apalancamiento para un nuevo punto de predicción se calcula de acuerdo con esta fórmula. Hay muchas interpretaciones del apalancamiento. Una interpretación es que
	es la distancia multivariante de un punto de predicción desde el centro de los datos de entrenamiento. Otra interpretación es que se trata de una varianza de predicción escalada, por lo que a medida que el punto de predicción se aleja del centro de los datos, aumenta la incertidumbre de la predicción.
	Y utilizamos dos umbrales comunes en la literatura estadística para determinar si esta distancia es demasiado grande.
	El primero es el apalancamiento máximo. Los puntos de predicción más allá de este umbral están fuera del agujero convexo de los datos de entrenamiento.
	Y el segundo es tres veces el promedio de los apalancamientos. Se puede demostrar que esto equivale a tres veces el número de términos del modelo dividido por el número de observaciones.
	Y como Laura describió anteriormente, puede cambiar el multiplicador de estos umbrales.
	Finalmente, cuando se optimizan las deseabilidades, la restricción de extrapolación es una restricción no lineal. Y anteriormente, el generador de perfiles permitía la optimización restringida con restricciones lineales,
	pero este tipo de optimización es más desafiante, por lo que Laura implementó un algoritmo genético. Y si no está familiarizado con estos, los algoritmos genéticos utilizan principios de evolución molecular para optimizar funciones de costos complicadas.
	A continuación, hablaré sobre el enfoque que usamos para generalizar el control de extrapolación en dos modelos distintos de los modelos lineales.
	Cuando construye un modelo predictivo en JMP, comienza con un conjunto de variables predictoras y un conjunto de variables de respuesta.
	Se entrena algún modelo supervisado y luego se puede usar un generador de perfiles para visualizar la superficie del modelo.
	Existen numerosas variaciones del generador de perfiles en JMP. Puede utilizar el generador de perfiles internamente en plataformas de modelado, puede generar fórmulas de predicción y crear
	perfilador para múltiples modelos, como lo demostró Laura. Puede construir perfiladores para modelos de conjuntos. Queríamos un método de control de extrapolación que se generalizara a todos estos escenarios, así que en lugar de vincular nuestro método a un modelo específico, usaremos un enfoque sin supervisión.
	Y solo marcaremos un punto de predicción como extrapolación si está muy lejos de donde se concentran los datos en el espacio del predictor. Y esto nos permite ser coherentes entre los perfiladores para que nuestro método de control de extrapolación se conecte a cualquier perfilador.
	La interpretación de la distancia multivariante del apalancamiento sugirió la T de Hotelling al cuadrado como una distancia para el control de extrapolación general. De hecho, alguna manipulación algebraica mostrará que la T al cuadrado de Hotelling es solo apalancamiento desplazado y escalado.
	Esta figura muestra cómo el T cuadrado de Hotelling mide en qué elipse se encuentra una observación, donde las elipses están centradas en la media de los datos y la forma está definida por la matriz de covarianza.
	Dado que ya no estamos en modelos lineales, esta métrica no tiene la misma conexión con la varianza de predicción. Entonces, en lugar de confiar en los umbrales usados en los modelos lineales, vamos a hacer algunas suposiciones distributivas para determinar si
	T cuadrado para el punto de predicción debe considerarse extrapolación.
	Aquí estoy mostrando la fórmula para la T de Hotelling al cuadrado. La matriz de media y covarianza se estima utilizando los datos de entrenamiento para el modelo.
	Si P es menor que N, donde P es el número de predictores y N el número de observaciones,
	y si el predictor está en normal multivariante, entonces T cuadrado para un punto de predicción tiene una distribución F. Sin embargo, queríamos un método para
	generalizar los conjuntos de datos con tipos de datos complicados, como una combinación de conjuntos de datos continuos y categóricos, donde P es mayor que N;
	conjuntos de datos con valores perdidos. Entonces, en lugar de calcular la distribución analíticamente en cada caso, usamos un límite de control conservador simple que encontramos que funciona bien en la práctica.
	Este es un límite de control de tres Sigma utilizando la distribución empírica de T cuadrado de los datos de entrenamiento y, como mencionó Laura, también puede ajustar este multiplicador.
	Una complicación es que cuando P es mayor que N, la T de Hotelling al cuadrado no está definida. Hay demasiados parámetros en la matriz de covarianza para estimar con los datos disponibles.
	Y esto ocurre a menudo en casos de uso típicos para el control de extrapolación, como en mínimos cuadrados parciales. Así que nos decidimos por un enfoque novedoso para calcular la T cuadrado de Hotelling, que se ocupa de estos casos y lo llamamos T cuadrado regularizado.
	Para calcular la matriz de covarianza, utilizamos un estimador regularizado desarrollado originalmente por Schafer y Strimmer para datos genómicos de alta dimensión. Esta es solo una combinación ponderada de la matriz de covarianza de muestra completa, que es U aquí y una matriz objetivo de restricción, que es D.
	Para el parámetro de peso Lambda, Schafer y Strimmer derivaron una expresión analítica que minimiza el MSE, el estimador de forma asintótica.
	Schafer y Strimmer propusieron varias posibles matrices objetivo. La matriz objetivo que elegimos fue una matriz diagonal con las varianzas muestrales de las variables predictoras en la diagonal. Esta matriz objetivo tiene una serie de ventajas para el control de extrapolación.
	Primero, no asumimos ninguna estructura de correlación entre las variables antes de ver los datos, lo que funciona bien como una previa general.
	Además, cuando hay pocos datos para estimar la matriz de covarianza, ya sea debido a que falta N pequeño o una gran fracción,
	la restricción elíptica se expande con un gran peso en la matriz diagonal, y esto da como resultado una prueba más conservadora para el control de extrapolación. Descubrimos que esto es necesario para obtener un control razonable de la tasa de falsos positivos.
	Para decirlo de manera más simple, cuando hay datos de entrenamiento limitados, es menos probable que la T cuadrado regularizada etiquete las predicciones como extrapolación, que es lo que desea porque es más probable que observe las covarianzas por casualidad.
	Tenemos algunos resultados de simulación que demuestran estos detalles, pero no tengo tiempo para entrar en todo eso. En cambio, en la página web de la Comunidad, colocamos un enlace a un artículo en el archivo y planeamos enviarlo al Journal of Computational Graphical Statistics.
	La siguiente diapositiva muestra algunos otros detalles importantes que debemos considerar. Necesitábamos descubrir cómo lidiar con las variables categóricas.
	Solo los estamos convirtiendo en variables ficticias codificadas por indicadores. Esto es comparable a un análisis de correspondencia múltiple.
	Otra complicación es cómo calcular la T de Hotelling al cuadrado cuando faltan datos. Varias plataformas de modelado predictivo de JMP utilizan observaciones con datos faltantes para entrenar los modelos.
	Estos incluyen Naive Bayes y bootstrap forest, y estas fórmulas muestran el método de eliminación por pares que usamos para estimar la matriz de covarianza.
	Es más común usar la eliminación por filas, esto significa que todas las observaciones con valores perdidos se eliminan antes de calcular la matriz de covarianza. Y esto es más simple, pero puede resultar en la eliminación de datos útiles si el tamaño de muestra de los datos de entrenamiento es pequeño.
	Con la eliminación por pares, las observaciones se eliminan solo si faltan valores en el par de variables utilizadas para calcular una entrada correspondiente.
	Y eso es lo que muestran estas fórmulas. Parece una cosa simple de hacer, solo está usando todos los datos disponibles, pero en realidad puede conducir a una gran cantidad de problemas, porque se usan diferentes observaciones para calcular cada entrada.
	Esto puede hacer que sucedan cosas extrañas, como matrices de covarianza con valores propios negativos, que es algo con lo que tuvimos que lidiar.
	Aquí hay algunas ventajas de la T cuadrado regularizada que encontramos al comparar con otros métodos en nuestras evaluaciones.
	Una es que la regularización funciona de la forma en que lo hace normalmente. Encuentra el equilibrio entre sobreajustar los datos de entrenamiento y sobrecargar el estimador. Esto hace que el estimador sea más robusto al ruido y a la especificación incorrecta del modelo.
	A continuación, Schafer y Strimmer mostraron en su artículo que la regularización da como resultado un estimador más preciso en entornos de alta dimensión. Esto ayuda con la maldición de la dimensionalidad que plaga la mayoría de los métodos basados en la distancia para el control de extrapolación.
	Y luego, en los campos que han desarrollado la metodología para el control de extrapolación,
	a menudo tienen tanto datos de alta dimensión como predictores altamente correlacionados. Por ejemplo, en quimioinformática y quimio-métrica, las características químicas a menudo están altamente correlacionadas.
	El control de extrapolación se usa a menudo en combinación con los modelos PCA y PLS donde se usan T cuadrado y DModX para detectar violaciones de la estructura de correlación. Esto es similar a lo que hacemos en el gráfico de control multivariado impulsado por modelo.
	Dado que este es un caso de uso común, queríamos tener una opción que no se desviara demasiado de estos métodos.
	Nuestro T cuadrado regularizado proporciona
	mismo tipo de control de extrapolación, pero no requiere un paso de proyección, lo que tiene algunas ventajas.
	Descubrimos que esto nos permite generalizar mejor a otros tipos de modelos predictivos.
	También en nuestras evaluaciones, observamos que si una proyección lineal no funciona bien para sus datos, como si tuviera relaciones no lineales entre predictores,
	los errores pueden inflar los límites de control de los métodos basados en proyecciones, lo que conducirá a una protección deficiente contra la extrapolación, y nuestro enfoque es más sólido que esto.
	Y luego otro punto importante es que encontramos el
	La métrica de extrapolación única era mucho más sencilla de usar e interpretar.
	Y aquí hay un resumen rápido de las características del control de extrapolación. El método proporciona una mejor visualización de las regiones factibles en
	modelos de alta dimensión en el perfilador. Se ha implementado un nuevo algoritmo genético para una optimización restringida flexible.
	Y nuestro T cuadrado regularizado maneja datos de observación desordenados en casos como P mayor que N y variables continuas y categóricas.
	El método está disponible en la mayoría de los modelos predictivos en JMP 16 Pro y es compatible con muchas de sus idiosincrasias. También está disponible en el generador de perfiles en gráfico, lo que realmente abre su utilidad porque puede operar con cualquier fórmula de predicción.
	Y luego, como una dirección futura, estamos considerando implementar una restricción basada en el vecino más cercano K que iría más allá de la restricción de la estructura de correlación actual.
	A menudo, los predictores son generados por múltiples distribuciones que resultan en agrupaciones en el espacio de predictores y un enfoque basado en K-vecinos más cercanos nos permitiría controlar la extrapolación entre agrupaciones.
	Entonces, gracias a todos los que sintonizaron para ver esto, y aquí hay correos electrónicos si tienen más preguntas.
Jeremy Ash, JMP	Ustedes todavía están ahí.
Chris Gotwalt	Sí, yo soy.
Laura Lancaster	Solo.

Lo mejor de la cumbreFugarseVisualización de datosEstadística y modeladoRe: Control de la extrapolación en el Prediction Profiler en JMP Pro 16 (2021-US-45MP-838)

Tengo una pregunta de por qué estrictamente un valor T2 de Hotelling garantizaría la integridad de la predicción.Tenemos que estar de acuerdo en que Hotelling T2 realmente define el espacio de diseño de los datos que usamos en el modelo.No significa que la estructura de datos en sí misma tenga una estructura de correlación correcta.A menudo veo casos en los que tendré valores de predicción dentro de la región de diseño de Hotelling T2; sin embargo, la estructura de datos utilizada para predecir los valores no coincide con la estructura de datos del modelo original.Por tanto, la predicción es muy cuestionable.Un ejemplo simple de esto sería un modelo simple que predice los jugos de naranjas basados en las naranjas entrantes.Sin embargo, si alguien accidentalmente coloca limones en la fila, el modelo aún predecirá el jugo de naranja.Es probable que la cantidad de jugo todavía esté dentro del rango de la región T2 de Hotelling.Sin embargo, todos sabemos que no es jugo de naranja lo que estamos obteniendo.La estructura de datos cambió en nosotros.Es por eso que en un modelo de tipo PLS debemos mantener DmodX = 0 para asegurar que cualquier valor de optimización futuro se mantenga dentro de la estructura de datos del modelo original utilizada.

 

Si puede explicarme cómo el T2 regularizado cumple con la estructura de datos del modelo utilizada y no con la región de datos del modelo, entonces tendría más confianza al usar esta nueva herramienta.