398679_es-ES

liliconcom

Control de la extrapolación en Prediction Profiler en JMP Pro 16 (2021-US-45MP-838)

Nivel: Intermedio

 

Laura Lancaster, desarrolladora estadística de investigación principal de JMP, SAS
Jeremy Ash, probador de software analítico de JMP, SAS
Christopher Gotwalt, JMP Director de Investigación y Desarrollo Estadístico, SAS

 

La extrapolación descontrolada del modelo conduce a dos tipos graves de errores: (1) el modelo puede ser completamente inválido lejos de los datos, y (2) las combinaciones de valores de las variables pueden no ser físicamente realizables. El uso de Profiler para optimizar modelos que se ajustan a los datos de observación puede conducir a soluciones extrapoladas que no tienen ningún uso práctico sin previo aviso. JMP Pro 16 introduce el control de extrapolación en muchas plataformas de modelado predictivo y en la propia plataforma Profiler. Esta nueva función en Prediction Profiler alerta al usuario sobre una posible extrapolación o evita por completo dibujar puntos extrapolados donde el modelo puede no ser válido. Además, el usuario puede realizar la optimización sobre una región restringida que evita la extrapolación. En esta presentación, discutimos la motivación y la utilidad del control de extrapolación, demostramos cómo se puede usar fácilmente en JMP y describimos los detalles de nuestros métodos.

 

 

Transcripción generada automáticamente...

 

Vocero	Transcripción
Tim Pierce	Ir.
	Bien, voy a ponerme en silencio.
	Hola, soy Chris Gotwalt. Mis copresentadores Laura Lancaster y Jeremy Ash y yo estamos presentando una nueva y útil capacidad de JMP Pro llamada control de extrapolación.
	Casi cualquier modelo con el que desearía predecir tiene un rango de aplicabilidad,
	una región del espacio de entrada donde se considera que sus predicciones son
	lo suficientemente confiable. Fuera de esa región, comenzamos a extrapolar el modelo dos puntos, lejos de los datos utilizados para ajustar el modelo. Usar las predicciones de ese modelo en esos puntos podría conducir a predicciones completamente poco confiables.
Hay dos fuentes primarias de extrapolación.	extrapolación estadística y extrapolación basada en dominios. Ambos tipos están cubiertos por la nueva característica.
	La extrapolación estadística ocurre cuando uno intenta predecir usando un modelo en una X que no está cerca de los valores usados para entrenar ese modelo.
	La extrapolación basada en el dominio ocurre cuando intenta evaluar en una X que es imposible debido a razones científicas.
	o restricciones basadas en ingeniería. El ejemplo aquí ilustra ambos tipos de extrapolación en un ejemplo. Aquí, vemos un perfilador de un modelo de un proceso de producción metalúrgico.
	La predicción se lee en -2.96 sin indicación de que estamos evaluando a una combinación de temperatura y presión que es imposible
	en un sentido de dominio para alcanzar para esta máquina. También tenemos la extrapolación estadística ya que se aleja de los datos utilizados.
	para ajustar el modelo, como se ve en el diagrama de dispersión de los datos de entrenamiento a la derecha. En JMP Pro 16, Jeremy, Laura y yo hemos colaborado para agregar una nueva capacidad que puede dar una advertencia cuando el generador de perfiles cree que podría estar extrapolando.
	O si activa el control de extrapolación, restringirá el conjunto de puntos que ve solo a aquellos que no cree que estén extrapolando.
	Tenemos dos tipos de control de extrapolación.
	Uno se basa en el concepto de apalancamiento y utiliza un modelo de mínimos cuadrados. Este primer tipo solo está disponible en la versión Pro de modelo de ajuste de mínimos cuadrados.
	El otro tipo lo llamamos control de extrapolación de aprendizaje automático general y está disponible en la plataforma del generador de perfiles y en varias de las plataformas de aprendizaje automático más comunes en JMP Pro.
	Previa solicitud, incluso podríamos agregarlo a mor. El control de extrapolación de mínimos cuadrados utiliza el concepto de apalancamiento, que es como una versión escalada de la varianza de predicción. Está basado en modelos, por lo que
	utiliza información sobre las interacciones de los efectos principales y términos de orden superior para determinar la extrapolación.
	Para el caso general de control de extrapolación de aprendizaje automático, tenemos que idear su propio enfoque. Queríamos un método que fuera robusto en valores faltantes,
	dependencias lineales, cómputo más rápido, puede manejar mezclas de variables de entrada continuas y categóricas, y también queríamos separar explícitamente el modelo de extrapolación del modelo utilizado para ajustar los datos.
	Entonces, cuando tenemos activado el control de extrapolación general, solo hay un modelo supervisado que es... que ajusta las variables de entrada a las respuestas que vemos en las trazas del generador de perfiles.
	El perfil que presenta un modelo no supervisado rápido y sucio para describir el conjunto de entrenamiento Xs, y el generador de perfiles usa este modelo no supervisado detrás de escena para determinar la restricción de control de extrapolación.
	Así que tengo que cambiar porque PowerPoint mi cámara no se lleva bien en este momento, por alguna razón.
	Sabemos que las personas que trabajan en ciencia de datos realizan extrapolaciones arriesgadas todos los días y confiamos en que el uso de extrapolaciones conduce a predicciones deficientes y, en última instancia, a resultados comerciales deficientes.
	El control de extrapolación coloca barandillas en las predicciones del modelo y conducirá a mejores decisiones cuantificables por parte de los usuarios de JMP Pro.
	Cuando los usuarios ven que se produce una extrapolación, deben tomar una decisión sobre si se debe usar o no la predicción, según su conocimiento del dominio y su familiaridad con el problema en cuestión.
	Si comienza a ver advertencias de control de extrapolación, muy a menudo es probable que sea el final del ciclo de vida de ese modelo y el momento de reajustarlo a nuevos datos, porque la distribución de las entradas se ha alejado de la de los datos de entrenamiento.
	Honestamente, estamos bastante sorprendidos y alarmados de que la comunidad científica de datos no aprecie mejor la necesidad de identificar la extrapolación.
	y han hecho que la extrapolación de control sea lo más fácil y automática posible. Laura, que lo desarrolló en JMP Pro, demostrará la opción a continuación. Luego, Jeremy, quien hizo gran parte de la investigación en nuestro equipo, entrará en los detalles matemáticos y la motivación estadística para el enfoque.
	Hola. Mi nombre es Laura Lancaster y estoy aquí para hacer una demostración del control de extrapolación que se agregó a JMP Pro 16. Quería comenzar con un ejemplo bastante simple utilizando la plataforma de mínimos cuadrados del modelo de ajuste.
	Voy a usar algunos datos que pueden ser familiares. Son los datos de fitness los que están en los datos de muestra.
	Y voy a usar el consumo de oxígeno como mi respuesta y el tiempo de ejecución, el pulso de ejecución y el pulso máximo como mis predictores. Y quería reiterar que en el modelo de ajuste se ajustan los mínimos cuadrados, la métrica de extrapolación que se usa es el apalancamiento, así que sigamos adelante y comencemos JMP.
	Así que ahora, tengo los datos de fitness abiertos en JMP y tengo un script para guardar en la tabla de datos para iniciar automáticamente mi modelo de ajuste de mínimos cuadrados.
	Así que voy a seguir adelante y ejecutar ese script. Lanza la plataforma de mínimos cuadrados.
	Y tengo el generador de perfiles abierto automáticamente y podemos ver que el generador de perfiles se ve como siempre lo ha hecho en el pasado,
	donde los límites de los factores están definidos por el rango de cada factor individualmente, dándonos restricciones de límites rectangulares.
	Y cuando cambié la configuración de los factores, debido a estas restricciones limitadas, puede ser realmente difícil saber si se está moviendo mucho más allá de la estructura de correlación de los datos.
	Y es por eso que queríamos agregar el control de extrapolación. Así que esto se ha agregado a varias plataformas en JMPs Pro 16,
	incluyendo el ajuste de mínimos cuadrados. Y para llegar al control de extrapolación, vaya al menú debajo del menú del generador de perfiles. Así que si miro aquí, veo que hay una nueva opción llamada control de extrapolación.
	Está desactivado de forma predeterminada, pero puedo activarlo o activar la advertencia para activar el control de extrapolación. Si lo enciendo, observe que restringe los seguimientos de mi perfil para ir solo a valores en los que no estoy extrapolando.
	Si tuviera que activar la advertencia, vería los rastros de perfil completo, pero recibiría una advertencia cuando vaya a una región donde se consideraría una extrapolación.
	También puedo activar los detalles de extrapolación, lo que me parece muy útil,
	y eso me da mucha más información. En primer lugar, me dice que mi métrica que estoy usando para definir la extrapolación es el apalancamiento, lo cual es cierto en la plataforma de ajuste de mínimos cuadrados,
	y el umbral que se usa de forma predeterminada inicialmente será el apalancamiento máximo, pero esto es algo que puedo cambiar y se lo mostraré en un minuto.
	Además, puedo ver cuál es mi métrica de extrapolación para mi configuración actual. Ese es este número aquí, que cambiará a medida que cambie la configuración de mi factor.
	Cada vez que este número sea mayor que el umbral, recibiré esta advertencia de que podría estar extrapolando. Si baja, ya no recibiré esa advertencia.
	Este umbral no va a cambiar a menos que cambie algo en el menú para ajustar mi umbral. Así que déjame seguir adelante y hacerlo ahora mismo. voy a ir al menú,
	y voy a ir a establecer umbrales criterio. Entonces, en el ajuste de mínimos cuadrados, tiene dos opciones para el umbral. Inicialmente, está configurado con el máximo apalancamiento, lo que lo mantendrá dentro del agujero convexo de los datos,
	o puede cambiar a un multiplicador multiplicado por el apalancamiento promedio o los términos del modelo sobre las observaciones. Y quiero cambiar a ese umbral, por lo que está configurado en tres
	como el multiplicador predeterminado, por lo que será tres veces el apalancamiento promedio. Haga clic en Aceptar y observe que mi umbral va a cambiar. De hecho, se hizo más pequeño, por lo que esta es una definición más conservadora de extrapolación.
	Y voy a volver a activarlo para restringir los rastros de mi perfil, y ahora solo puedo ir a las regiones
	donde estoy dentro de tres veces el apalancamiento promedio.
	Ahora también hemos implementado una optimización que obedece a las restricciones de extrapolación. Así que ahora, si enciendo el atractivo del set
	y yo hago la optimización,
	Obtendré un valor óptimo que satisfaga la restricción de extrapolación. Tenga en cuenta que esta métrica es menor o igual que el umbral.
	Así que ahora, cuando vaya a mi próxima diapositiva, que comparará en un gráfico (una matriz de diagrama de dispersión), la diferencia entre el valor óptimo con el control de extrapolación activado y desactivado.
	Así que esta es la matriz de diagrama de dispersión que creé con JMP, y muestra los datos de la variable predictora original, así como los valores de la variable predictora.
	para la solución óptima sin control de extrapolación en azul y la solución óptima con control de extrapolación en rojo. Y observe cómo la solución sin restricciones aquí en azul, a la derecha
	aquí, viola la estructura de correlación de los datos originales para el pulso de ejecución y el pulso máximo, lo que aumenta la incertidumbre de esta predicción, mientras que la solución óptima que utilizó el control de extrapolación está mucho más en línea con los datos originales.
	Ahora veamos un ejemplo usando el método de control de extrapolación más generalizado, al que nos referimos como un método T cuadrado regularizado.
	Como Chris mencionó anteriormente, desarrollamos este método para modelos distintos de los modelos de mínimos cuadrados. Vamos a ver un modelo neuronal para los datos de diabetes que también se encuentran en los datos de muestra.
	La respuesta es una medida de la progresión de la enfermedad y los predictores son las variables de referencia. Una vez más, la métrica de extrapolación utilizada para este ejemplo es la T cuadrada regularizada que Jeremy describirá con más detalle en unos minutos.
	Así que tengo datos de diabetes abiertos en JMP y tengo una secuencia de comandos guardada de los ajustes de mi modelo neuronal. Voy a seguir adelante y ejecutar ese script.
	Lanza la plataforma neuronal. Y observe que estoy usando el método de validación de retención aleatoria. Solo quería señalar que cada vez que usa un método de validación, el control de extrapolación se basa solo en los datos de entrenamiento.
	y no su validación o datos de prueba.
	Así que tengo el generador de perfiles abierto y puedes ver que está usando los rastros completos. El control de extrapolación no está activado.
	Sigamos adelante y enciéndalo.
	Y también voy a encender los detalles.
	Puede ver que las trazas se han restringido y la métrica es el cuadrado T regularizado.
	El umbral es tres veces la desviación estándar del cuadrado T regularizado de la muestra. Jeremy va a hablar más sobre lo que todo eso significa exactamente en unos minutos.
	Y solo quería mencionar que, cuando usamos el método T cuadrado regularizado, solo hay una opción para el umbral, pero puede ajustar el multiplicador. Así que si vas a
	controles de extrapolación, establecer umbrales, puede ajustar este multiplicador, pero lo dejaré en tres. Y ahora quiero ejecutar la optimización usando
	control de extrapolación, así que solo voy a maximizar y recordar. Ahora tengo una solución óptima con el control de extrapolación activado.
	Y ahora, quiero ver nuestra matriz de diagrama de dispersión, tal como vimos antes con los datos originales, así como con los valores óptimos con y sin control de extrapolación.
	Esta es una matriz de diagrama de dispersión de los datos de diabetes que creé en JMP. Tiene los valores predictores originales,
	así como la solución óptima usando control de extrapolación en rojo y la solución óptima sin control de extrapolación en azul. Y puedes ver eso
	los puntos rojos parecen estar mucho más dentro de la estructura de correlación de los datos originales que el azul. Y eso es particularmente cierto cuando observas este LDL versus el colesterol total.
	Así que ahora veamos un ejemplo usando el generador de perfiles que está debajo del menú de gráficos, al que llamaré generador de perfiles de gráficos.
	También utiliza el método T cuadrado regularizado y nos permite utilizar el control de extrapolación sobre cualquier tipo de modelo que se pueda crear y guardar como una fórmula JSL. También nos permite tener control de extrapolación sobre más de un modelo a la vez.
	Entonces, veamos un ejemplo de una empresa que utiliza tecnología de pulvimetalurgia para producir ejes de transmisión de acero para la industria automotriz.
	Quieren poder encontrar configuraciones óptimas para su producción que minimicen la contracción y también minimicen las fallas debido a las malas condiciones de la superficie. Así que tenemos dos respuestas.
	contracción, que es continua y vamos a ajustar el modelo de mínimos cuadrados para eso, y la condición de la superficie, que es pasa/falla y vamos a ajustar un modelo logístico nominal para eso.
	Y nuestras variables predictoras son solo algunas variables clave del proceso de producción. Y una vez más, la métrica de extrapolación es la T cuadrada regularizada.
	Así que tengo los datos de pulvimetalurgia abiertos en JMP, y ya ajusté un modelo de mínimos cuadrados para mi respuesta de contracción,
	y ya he ajustado un modelo logístico nominal para la respuesta de aprobación/rechazo de la condición de la superficie. Y guardé las fórmulas de predicción en la tabla de datos para que estén listas para usarse en el perfilador de gráficos.
	Entonces, si voy al generador de perfiles del menú de gráficos, puedo cargar la fórmula de predicción para la contracción, y mi fórmula de predicción es para la condición de la superficie.
	Haga clic en Aceptar.
	Y ahora tengo mis dos modelos lanzados en el generador de perfiles de gráficos.
	Y, antes de activar el control de extrapolación, pueden ver que tengo los rastros de perfil completo. Una vez que activo el control de extrapolación,
	se puede ver que las huellas se encogen un poco. Y también voy a encender los detalles.
	solo para mostrar que, de hecho, estoy usando el cuadrado T regularizado aquí en este método.
	Entonces, lo que realmente quiero hacer es encontrar las condiciones óptimas en las que minimice la contracción y minimice las fallas.
	con el control de extrapolación activado. Quiero asegurarme de que no estoy extrapolando. Quiero encontrar una solución útil.
	Y antes de que pueda hacer la optimización, necesito establecer mis deseos. Voy a hacer deseabilidades establecidas; ya es correcto para la contracción, pero necesito configurarlos para la condición de la superficie.
	Voy a intentar maximizar los pases y minimizar los fallos.
	DE ACUERDO.
	Y ahora debería poder hacer la optimización con los controles de extrapolación activados, maximizar y recordar.
	Ahora tengo mi solución óptima.
	con el control de extrapolación activado. Así que ahora veamos una vez más la matriz del diagrama de dispersión de los datos originales, junto con la solución con el control de extrapolación activado y la solución con el control de extrapolación desactivado.
	Así que esta es una matriz de diagramas de dispersión de los datos de pulvimetalurgia que creé en JMP y también tiene la solución óptima
	con control de extrapolación como un punto rojo y la solución óptima sin control de extrapolación como un punto azul. Y, una vez más, pueden ver que cuando no ejecutamos el control de extrapolación,
	la solución óptima está bastante lejos de la estructura de correlación de los datos. Podemos ver eso especialmente aquí con la relación frente a la presión de compactación.
	Así que ahora, quiero pasarle la presentación a Jeremy para que entre en muchos más detalles sobre nuestros métodos.
	Hola. Así que aquí hay una serie de objetivos para el control de extrapolación que presentamos al comienzo del proyecto.
	Necesitábamos una métrica de extrapolación que pudiera calcularse rápidamente con una gran cantidad de observaciones y variables, y necesitábamos una forma rápida de evaluar si la métrica indicaba extrapolación o no. Esto fue para mantener la interactividad de las trazas del generador de perfiles y
	necesitábamos esto para realizar la optimización.
	Queremos que sea compatible con los distintos tipos de variables disponibles en el generador de perfiles. Estos son esencialmente continuos, categóricos y ordinales.
	Queríamos utilizar observaciones con celdas faltantes porque algunos métodos de modelado incluirán estas observaciones y ???.
	Queríamos un método que fuera robusto a las dependencias lineales en los datos. Estos ocurren cuando el número de variables es mayor que el número de observaciones, por ejemplo.
	Y queríamos algo que fuera fácil de automatizar sin la necesidad de mucha intervención del usuario.
	Para los modelos de mínimos cuadrados, llegamos al apalancamiento, que a menudo se usa para identificar valores atípicos en modelos lineales.
	El apalancamiento para el nuevo punto de predicción se calcula de acuerdo con esta fórmula. Hay muchas interpretaciones para el apalancamiento. Una interpretación es que
	es la distancia multivariable de un punto de predicción desde el centro de los datos de entrenamiento. Otra interpretación es que se trata de una varianza de predicción escalada, por lo que a medida que el punto de predicción se aleja del centro de los datos, la incertidumbre de la predicción aumenta.
	Y usamos dos umbrales comunes en la literatura estadística para determinar si esta distancia es demasiado grande.
	El primero es el apalancamiento máximo. Los puntos de predicción más allá de este umbral están fuera del orificio convexo de los datos de entrenamiento.
	Y el segundo es tres veces el promedio de los apalancamientos. Se puede demostrar que esto es equivalente a tres veces el número de términos del modelo dividido por el número de observaciones.
	Y como Laura describió anteriormente, puede cambiar el multiplicador de estos umbrales.
	Finalmente, cuando se optimizan las conveniencias, la restricción de extrapolación es una restricción no lineal. Y anteriormente, el generador de perfiles permitía la optimización restringida con restricciones lineales,
	pero este tipo de optimización es más desafiante, por lo que Laura implementó un algoritmo genético. Y si no está familiarizado con estos, los algoritmos genéticos usan principios de evolución molecular para optimizar funciones de costos complicadas.
	A continuación, hablaré sobre el enfoque que usamos para generalizar el control de extrapolación en dos modelos distintos de los modelos lineales.
	Cuando está construyendo un modelo predictivo en JMP, comienza con un conjunto de variables predictoras y un conjunto de variables de respuesta.
	Se entrena algún modelo supervisado y luego se puede usar un perfilador para visualizar la superficie del modelo.
	Hay numerosas variaciones en el generador de perfiles en JMP. Puede usar el generador de perfiles internamente en plataformas de modelado, puede generar fórmulas de predicción y construir
	perfilador para múltiples modelos, como demostró Laura. Puede construir generadores de perfiles para modelos de conjuntos. Queríamos un método de control de extrapolación que se generalizara a todos estos escenarios, así que en lugar de vincular nuestro método a un modelo específico, usaremos un enfoque no supervisado.
	Y solo vamos a marcar un punto de predicción como extrapolación si está muy lejos de donde se concentran los datos en el espacio predictor. Y esto nos permite ser coherentes entre los generadores de perfiles para que nuestro método de control de extrapolación se conecte a cualquier generador de perfiles.
	La interpretación de la distancia multivariante del apalancamiento sugirió la T cuadrada de Hotelling como una distancia para el control de extrapolación general. De hecho, algunas manipulaciones algebraicas mostrarán que la T cuadrada de Hotelling es simplemente un apalancamiento desplazado y escalado.
	Esta figura muestra cómo la T cuadrada de Hotelling mide en qué elipse se encuentra una observación, donde las elipses están centradas en la media de los datos y la forma está definida por la matriz de covarianza.
	Dado que ya no estamos en modelos lineales, esta métrica no tiene la misma conexión con la varianza de predicción. Entonces, en lugar de confiar en los umbrales que se usaban en los modelos lineales, vamos a hacer algunas suposiciones de distribución para determinar si
	T cuadrado para el punto de predicción debe considerarse una extrapolación.
	Aquí muestro la fórmula de la T cuadrada de Hotelling. La matriz de medias y covarianzas se estima utilizando los datos de entrenamiento del modelo.
	Si P es menor que N, donde P es el número de predictores y N el número de observaciones,
	y si el predictor está en normal multivariado, entonces T cuadrado para un punto de predicción tiene una distribución F. Sin embargo, queríamos un método para
	generalizar los conjuntos de datos con tipos de datos complicados, como una combinación de conjuntos de datos continuos y categóricos, donde P es mayor que N;
	conjuntos de datos con valores perdidos. Entonces, en lugar de calcular la distribución analíticamente en cada caso, usamos un límite de control conservador simple que encontramos que funciona bien en la práctica.
	Este es un límite de control de tres Sigma que utiliza la distribución empírica de T al cuadrado de los datos de entrenamiento y, como mencionó Laura, también puede ajustar este multiplicador.
	Una complicación es que cuando P es mayor que N, la T cuadrada de Hotelling no está definida. Hay demasiados parámetros en la matriz de covarianza para estimar con los datos disponibles.
	Y esto ocurre a menudo en casos de uso típicos para el control de extrapolación, como en mínimos cuadrados parciales. Así que nos decidimos por un enfoque novedoso para calcular la T cuadrada de Hotelling, que se ocupa de estos casos y lo llamamos T cuadrada regularizada.
	Para calcular la matriz de covarianza, usamos un estimador regularizado desarrollado originalmente por Schafer y Strimmer para datos genómicos de alta dimensión. Esta es solo una combinación ponderada de la matriz de covarianza de la muestra completa, que aquí es U y una matriz objetivo restringida, que es D.
	Para el parámetro de peso Lambda, Schafer y Strimmer derivaron una expresión analítica que minimiza el MSE, el estimador asintóticamente.
	Schafer y Strimmer propusieron varias matrices de objetivos posibles. La matriz objetivo que elegimos fue una matriz diagonal con las varianzas muestrales de las variables predictoras en la diagonal. Esta matriz objetivo tiene una serie de ventajas para el control de extrapolación.
	Primero, no asumimos ninguna estructura de correlación entre las variables antes de ver los datos, lo que funciona bien como una base general previa.
	Además, cuando hay pocos datos para estimar la matriz de covarianza, ya sea debido a que falta N pequeño o una fracción grande,
	la restricción elíptica se expande con un gran peso en la matriz diagonal y esto da como resultado una prueba más conservadora para el control de extrapolación. Encontramos que esto es necesario para obtener un control razonable de la tasa de falsos positivos.
	En pocas palabras, cuando hay datos de entrenamiento limitados, es menos probable que la T cuadrada regularizada etiquete las predicciones como extrapolación, que es lo que desea porque es más probable que observe covarianzas por casualidad.
	Tenemos algunos resultados de simulación que demuestran estos detalles, pero no tengo tiempo para entrar en detalles. En cambio, en la página web de la Comunidad, colocamos un enlace a un documento en archivo y planeamos enviarlo a Journal of Computational Graphical Statistics.
	La siguiente diapositiva muestra algunos otros detalles importantes que debemos tener en cuenta. Necesitábamos averiguar cómo lidiar con las variables categóricas.
	Simplemente los estamos convirtiendo en variables ficticias codificadas por indicador. Esto es comparable a un análisis de correspondencia múltiple.
	Otra complicación es cómo calcular la T cuadrada de Hotelling cuando faltan datos. Varias plataformas de modelado predictivo de JMP utilizan observaciones con datos faltantes para entrenar los modelos.
	Estos incluyen Naive Bayes y bootstrap forest, y estas fórmulas muestran el método de eliminación por pares que usamos para estimar la matriz de covarianza.
	Es más común utilizar la eliminación por filas, lo que significa que todas las observaciones con valores faltantes se eliminan antes de calcular la matriz de covarianza. Y esto es lo más simple, pero puede resultar en descartar datos útiles si el tamaño de la muestra de los datos de entrenamiento es pequeño.
	Con la eliminación por pares, las observaciones se eliminan solo si faltan valores en el par de variables utilizadas para calcular una entrada correspondiente.
	Y eso es lo que muestran estas fórmulas. Parece algo simple de hacer, solo está utilizando todos los datos disponibles, pero en realidad puede generar una serie de problemas, porque se utilizan diferentes observaciones para calcular cada entrada.
	Esto puede causar que sucedan cosas extrañas, como matrices de covarianza con valores propios negativos, que es algo con lo que tuvimos que lidiar.
	Aquí hay algunas ventajas de la T cuadrada regularizada que encontramos al comparar con otros métodos en nuestras evaluaciones.
	Una es que la regularización funciona de la forma en que normalmente funciona la regularización. Logra el equilibrio entre sobreajustar los datos de entrenamiento y sesgar demasiado el estimador. Esto hace que el estimador sea más robusto frente al ruido y las especificaciones erróneas del modelo.
	A continuación, Schafer y Strimmer demostraron en su artículo que la regularización da como resultado un estimador más preciso en configuraciones de alta dimensión. Esto ayuda con la maldición de la dimensionalidad que afecta a la mayoría de los métodos basados en la distancia para el control de extrapolación.
	Y luego, en los campos que han desarrollado la metodología para el control de extrapolación,
	a menudo tienen datos de alta dimensión y predictores altamente correlacionados. Por ejemplo, en quimioinformática y quimiométrica, las características químicas suelen estar altamente correlacionadas.
	El control de extrapolación se usa a menudo en combinación con los modelos PCA y PLS, donde T cuadrado y DModX se usan para detectar violaciones de la estructura de correlación. Esto es similar a lo que hacemos en el gráfico de control multivariado basado en modelos.
	Dado que este es un caso de uso común, queríamos tener una opción que no se desviara demasiado de estos métodos.
	Nuestra T cuadrada regularizada proporciona
	mismo tipo de control de extrapolación, pero no requiere un paso de proyección, lo que tiene algunas ventajas.
	Descubrimos que esto nos permite generalizar mejor a otros tipos de modelos predictivos.
	También en nuestras evaluaciones, observamos que si una proyección lineal no funciona bien para sus datos, como si tuviera relaciones no lineales entre predictores,
	los errores pueden inflar los límites de control de los métodos basados en proyecciones, lo que conducirá a una protección deficiente contra la extrapolación, y nuestro enfoque es más sólido que esto.
	Y luego otro punto importante es que encontramos el
	La métrica de extrapolación única fue mucho más simple de usar e interpretar.
	Y aquí hay un resumen rápido de las características del control de extrapolación. El método proporciona una mejor visualización de regiones factibles en
	modelos de alta dimensión en el perfilador. Se ha implementado un nuevo algoritmo genético para la optimización restringida flexible.
	Y nuestra T cuadrada regularizada maneja datos de observación desordenados en casos como P mayor que N y variables continuas y categóricas.
	El método está disponible en la mayoría de los modelos predictivos de JMP 16 Pro y es compatible con muchas de sus idiosincrasias. También está disponible en el generador de perfiles en el gráfico, lo que realmente abre su utilidad porque puede operar en cualquier fórmula de predicción.
	Y luego, como una dirección futura, estamos considerando implementar una restricción basada en el vecino más cercano K que iría más allá de la restricción de la estructura de correlación actual.
	A menudo, los predictores se generan mediante distribuciones múltiples que dan como resultado la agrupación en el espacio de predictores y un enfoque basado en los vecinos más cercanos K nos permitiría controlar la extrapolación entre los clústeres.
	Entonces, gracias a todos los que sintonizaron para ver esto, y aquí están los correos electrónicos si tienen más preguntas.
Jeremy Ash, JMP	Todavía están ahí.
chris gotwalt	Sí, yo soy.
laura lancaster	Justo.

Lo mejor de la cumbreFugarseVisualización de datosEstadística y ModeladoRe: Controlar la extrapolación en Prediction Profiler en JMP Pro 16 (2021-US-45MP-838)

@MC17 Me alegro de que hayas planteado esta importante pregunta.Mencioné esto en parte en la charla, pero probablemente no lo enfaticé lo suficiente.

 

Entonces, lo que creo que está preguntando es por qué solo controlamos T2 y no DModX, como es común en los modelos PCA/PLS.Esto es lo que hacemos en el MDMCC, por ejemplo ( https://www.jmp.com/support/help/en/16.1/index.shtml#page/jmp/model-driven-multivariate-control-charts.shtml ). Si tuviéramos que adoptar un enfoque similar, probablemente colocaríamos un límite de control en DModX, porque todos los datos de entrenamiento tendrán DModX > 0, por lo que el truco es permitir que las predicciones se desvíen de la forma en que lo hacen los datos de entrenamiento, sin volverse demasiado loco. .Si quiere DModX = 0, entonces podría tomar el enfoque de Isaac Himanga ( https://community.jmp.com/t5/Discovery-Summit-Americas-2021/Optimizing-Multivariate-Models-From-Data-Collection-to-Optimal/ta-p/398760 ).

 

La respuesta corta es que nuestro T2 regularizado se calcula sobre las variables predictoras originales y no requiere que divida sus datos en un componente de modelo y un componente de error.Para los modelos PCA/PLS, la regularización da como resultado una restricción similar al control de T2 y DModX, pero puede hacerlo con una métrica, que es más simple y más fácil de interpretar.

 

En los modelos PCA/PLS, T2 marca la predicción con grandes desviaciones de sus datos de entrenamiento dentro del plano del modelo, mientras que DModX marca las predicciones con grandes desviaciones del plano del modelo, como lo describe su escenario. Esto tiene sentido cuando su método de modelado asume una proyección lineal de baja dimensión de sus datos.Sin embargo, la mayoría de nuestros métodos de modelado no realizan tal proyección. Queremos un enfoque que sea consistente en todas las plataformas por una variedad de razones (ensamblaje, etc.). Realizar una proyección lineal puede no ser razonable si tiene relaciones no lineales entre variables, variables categóricas, etc. Además, ¿cómo elige la cantidad de componentes para estos modelos? En nuestras evaluaciones encontramos que si una proyección lineal no se ajusta bien a sus datos, los errores inflarán su límite de control DModX y conducirán a una protección deficiente contra la extrapolación. Descubrimos que un mejor enfoque general era colocar restricciones de extrapolación utilizando T2 en el espacio predictor original, lo que protege contra la violación de la estructura de correlación en todas las direcciones de los datos.

 

La regularización de T2 otorga gran importancia a las variables altamente correlacionadas y poca importancia a las variables poco correlacionadas cuando se controla la extrapolación, y funciona cuando p>n.Esto da como resultado una restricción similar a T2 y DModX en los modelos PCA y PLS. Tengo algunos resultados de simulación que muestran cómo funciona el método en el documento técnico adjunto.Espero actualizar esto con una comparación con un enfoque T2 y DModX pronto, y agregar más discusión.Comencé simplemente mostrando que nuestro método funciona, que el documento aún es un trabajo en progreso.

 

¿Esto tiene sentido? Estoy feliz de discutir más y escuchar sus opiniones/inquietudes sobre esto.

Re: Controlar la extrapolación en Prediction Profiler en JMP Pro 16 (2021-US-45MP-838)

Tengo una pregunta sobre por qué estrictamente un valor de Hotelling T2 garantizaría la integridad de la predicción.Tenemos que aceptar que Hotelling T2 realmente define el espacio de diseño de los datos que usamos en el modelo.No significa que la estructura de datos en sí misma tenga una estructura de correlación correcta.A menudo veo casos en los que tendré valores de predicción dentro de la región de diseño de Hotelling T2, sin embargo, la estructura de datos utilizada para predecir los valores no coincide con la estructura de datos del modelo original.Por lo tanto, la predicción es altamente cuestionable.Un ejemplo simple de esto sería un modelo simple que prediga los jugos de naranja en función de las naranjas entrantes.Sin embargo, si alguien accidentalmente coloca limones en la línea, el modelo seguirá prediciendo jugo de naranja.Es probable que la cantidad de jugo aún esté dentro del rango de la región Hotelling T2.Sin embargo, todos sabemos que no es jugo de naranja lo que estamos obteniendo.La estructura de datos cambió en nosotros.Es por eso que en un tipo de modelo PLS debemos mantener el DmodX = 0 para garantizar que cualquier valor de optimización futuro permanezca dentro de la estructura de datos del modelo original utilizado.

 

Si me puede explicar cómo el T2 regularizado cumple con la estructura de datos del modelo utilizada y no con la región de datos del modelo, entonces tendría más confianza en el uso de esta nueva herramienta.