| Vocero |
Transcripción |
| Tim Pierce |
Ir. |
| |
Bien, voy a silenciar el micrófono también. |
| |
Hola, soy Chris Gotwalt. Mis copresentadores, Laura Lancaster, Jeremy Ash y yo, presentamos una nueva y útil función de JMP Pro llamada control de extrapolación. |
| |
Casi cualquier modelo que quieras predecir tiene un rango de aplicabilidad, |
| |
una región del espacio de entrada donde se considera que sus predicciones son |
| |
Suficientemente fiable. Fuera de esa región, comenzamos a extrapolar el modelo dos puntos, lejos de los datos utilizados para ajustarlo. Usar las predicciones de ese modelo en esos puntos podría dar lugar a predicciones completamente poco fiables. |
| Hay dos fuentes principales de extrapolación |
Extrapolación estadística y extrapolación basada en dominios. La nueva función abarca ambos tipos. |
| |
La extrapolación estadística ocurre cuando uno intenta predecir utilizando un modelo en un X que no está cerca de los valores utilizados para entrenar ese modelo. |
| |
La extrapolación basada en dominios ocurre cuando se intenta evaluar un valor X que es imposible debido a razones científicas. |
| |
o restricciones basadas en ingeniería. El ejemplo ilustra ambos tipos de extrapolación en un solo ejemplo. Aquí vemos un perfilador de un modelo de un proceso de producción metalúrgica. |
| |
La predicción es de -2,96 sin ninguna indicación de que estemos evaluando una combinación de temperatura y presión que es imposible. |
| |
En un sentido de dominio para lograr esta máquina. También contamos con extrapolación estadística, ya que está lejos de los datos utilizados. |
| |
Para ajustar el modelo, como se observa en el diagrama de dispersión de los datos de entrenamiento a la derecha. En JMP Pro 16, Jeremy, Laura y yo hemos colaborado para añadir una nueva función que puede emitir una advertencia cuando el perfilador detecta que se está extrapolando. |
| |
O si activa el control de extrapolación, restringirá el conjunto de puntos que ve solo a aquellos que no cree que se estén extrapolando. |
| |
Tenemos dos tipos de control de extrapolación. |
| |
Uno se basa en el concepto de apalancamiento y utiliza un modelo de mínimos cuadrados. Este primer tipo solo está disponible en la versión Pro del modelo de ajuste de mínimos cuadrados. |
| |
El otro tipo lo llamamos control de extrapolación de aprendizaje automático general, y está disponible en la plataforma de perfiles y en varias de las plataformas de aprendizaje automático más comunes en JMP Pro. |
| |
Si se solicita, incluso podríamos añadirlo a más. El control de extrapolación por mínimos cuadrados utiliza el concepto de apalancamiento, que es como una versión a escala de la varianza de la predicción. Se basa en modelos y, por lo tanto, |
| |
Utiliza información sobre las interacciones de los efectos principales y los términos de orden superior para determinar la extrapolación. |
| |
Para el caso general de control de extrapolación de aprendizaje automático, debemos desarrollar un enfoque propio. Buscábamos un método robusto ante valores faltantes. |
| |
dependencias lineales, computación más rápida, puede manejar mezclas de variables de entrada continuas y categóricas, y también queríamos explícitamente separar el modelo de extrapolación del modelo utilizado para ajustar los datos. |
| |
Entonces, cuando tenemos activado el control de extrapolación general, solo hay un modelo supervisado que ajusta las variables de entrada a las respuestas que vemos en los rastros del generador de perfiles. |
| |
El perfil que genera un modelo no supervisado, rápido y sencillo para describir el conjunto de entrenamiento Xs, y este modelo no supervisado es utilizado detrás de escena por el generador de perfiles para determinar la restricción de control de extrapolación. |
| |
Entonces, tengo que cambiar porque PowerPoint y mi cámara no se llevan bien en este momento, por alguna razón. |
| |
Sabemos que las personas que trabajan en el campo de la ciencia de datos realizan extrapolaciones arriesgadas todos los días y confiamos en que el uso de extrapolaciones conduce a malas predicciones y, en última instancia, a malos resultados comerciales. |
| |
El control de extrapolación coloca límites a las predicciones del modelo y conducirá a decisiones cuantificablemente mejores por parte de los usuarios de JMP Pro. |
| |
Cuando los usuarios ven que se produce una extrapolación, deben tomar una decisión sobre si se debe utilizar o no la predicción, en función de su conocimiento del dominio y su familiaridad con el problema en cuestión. |
| |
Si comienza a ver advertencias de control de extrapolación, es muy probable que sea el final del ciclo de vida de ese modelo y el momento de reajustarlo a los nuevos datos, porque la distribución de las entradas se ha alejado de la de los datos de entrenamiento. |
| |
Sinceramente, estamos bastante sorprendidos y alarmados de que la comunidad de ciencia de datos no valore mejor la necesidad de identificar la extrapolación. |
| |
Y hemos simplificado y automatizado al máximo el control de la extrapolación. Laura, quien lo desarrolló en JMP Pro, demostrará la opción a continuación. Después, Jeremy, quien realizó gran parte de la investigación en nuestro equipo, explicará los detalles matemáticos y la motivación estadística del enfoque. |
| |
Hola. Me llamo Laura Lancaster y estoy aquí para hacer una demostración del control de extrapolación que se añadió a JMP Pro 16. Quería empezar con un ejemplo bastante sencillo usando la plataforma de mínimos cuadrados del modelo de ajuste. |
| |
Voy a usar algunos datos que quizás les resulten familiares. Se trata de los datos de aptitud física que se encuentran en los datos de muestra. |
| |
Usaré el consumo de oxígeno como respuesta, el tiempo de carrera, el pulso de carrera y el pulso máximo como predictores. Quería reiterar que en el ajuste de mínimos cuadrados del modelo, la métrica de extrapolación que se utiliza es el apalancamiento, así que comencemos con JMP. |
| |
Ahora tengo los datos de fitness abiertos en JMP y tengo un script para guardar en la tabla de datos para iniciar automáticamente mi modelo de ajuste de mínimos cuadrados. |
| |
Así que voy a ejecutar ese script. Inicia la plataforma de mínimos cuadrados. |
| |
Y tengo el generador de perfiles abierto automáticamente y podemos ver que el generador de perfiles se ve como siempre en el pasado. |
| |
donde los límites de los factores están definidos por el rango de cada factor individualmente, lo que nos da restricciones de límite rectangulares. |
| |
Y cuando cambié la configuración de los factores, debido a estas restricciones límite, puede ser realmente difícil saber si uno se está alejando mucho de la estructura de correlación de los datos. |
| |
Por eso queríamos añadir el control de extrapolación. Esto se ha añadido a varias plataformas en JMPs Pro 16. |
| |
Incluyendo el ajuste por mínimos cuadrados. Para acceder al control de extrapolación, vaya al menú del perfilador. Si miro aquí, veo una nueva opción llamada control de extrapolación. |
| |
Está desactivado por defecto, pero puedo activarlo o activar la advertencia para activar el control de extrapolación. Si lo activo, observe que restringe los seguimientos de mi perfil para que solo accedan a valores donde no estoy extrapolando. |
| |
Si lo activara en modo de advertencia, vería los rastros de perfil completos, pero recibiría una advertencia cuando llegara a una región donde se consideraría una extrapolación. |
| |
También puedo activar los detalles de extrapolación, lo cual me resulta muy útil. |
| |
Y eso me da mucha más información. En primer lugar, me indica que la métrica que uso para definir la extrapolación es el apalancamiento, lo cual es cierto en la plataforma de mínimos cuadrados. |
| |
y el umbral que se utiliza por defecto inicialmente será el apalancamiento máximo, pero esto es algo que puedo cambiar y te lo mostraré en un minuto. |
| |
Además, puedo ver cuál es mi métrica de extrapolación para mi configuración actual. Es este número, que cambiará a medida que modifique la configuración de los factores. |
| |
Si este número supera el umbral, recibiré una advertencia de que podría estar extrapolando. Si es inferior, ya no recibiré esa advertencia. |
| |
Este umbral no cambiará a menos que modifique algo en el menú para ajustarlo. Así que lo haré ahora mismo. Voy al menú, |
| |
Voy a establecer el criterio de umbral. En el método de mínimos cuadrados, tienes dos opciones para el umbral. Inicialmente, se establece en el apalancamiento máximo, lo que te mantendrá dentro del agujero convexo de los datos. |
| |
O puedes cambiar a un multiplicador por el apalancamiento promedio o los términos del modelo sobre las observaciones. Y quiero cambiar a ese umbral, así que está establecido en tres. |
| |
Como multiplicador predeterminado, este será tres veces el apalancamiento promedio. Haga clic en Aceptar y observe que mi umbral cambiará. De hecho, se redujo, por lo que esta es una definición más conservadora de extrapolación. |
| |
Y voy a volver a activarlo para restringir los rastros de mi perfil, y ahora solo puedo ir a las regiones. |
| |
donde estoy dentro de tres veces el apalancamiento promedio. |
| |
Ahora también hemos implementado una optimización que cumple con las restricciones de extrapolación. Así que, si activo la deseabilidad del conjunto |
| |
y hago la optimización, |
| |
Obtendré un valor óptimo que satisface la restricción de extrapolación. Observe que esta métrica es menor o igual que el umbral. |
| |
Ahora, cuando paso a mi siguiente diapositiva, que va a comparar en un gráfico (una matriz de diagrama de dispersión), la diferencia entre el valor óptimo con el control de extrapolación activado y con él desactivado. |
| |
Entonces, esta es la matriz del diagrama de dispersión que creé con JMP, y muestra los datos de la variable predictora original, así como los valores de la variable predictora. |
| |
Para la solución óptima sin control de extrapolación en azul y la solución óptima con control de extrapolación en rojo. Observe cómo la solución sin restricciones aquí en azul, a la derecha. |
| |
aquí, se viola la estructura de correlación de los datos originales para el pulso de ejecución y el pulso máximo, lo que aumenta la incertidumbre de esta predicción, mientras que la solución óptima que utilizó el control de extrapolación está mucho más en línea con los datos originales. |
| |
Ahora veamos un ejemplo que utiliza el método de control de extrapolación más generalizado, al que llamamos método T cuadrado regularizado. |
| |
Como mencionó Chris, desarrollamos este método para otros modelos además de los de mínimos cuadrados. Analizaremos un modelo neuronal para los datos de diabetes que también se incluyen en los datos de muestra. |
| |
La respuesta es una medida de la progresión de la enfermedad y los predictores son las variables de referencia. Nuevamente, la métrica de extrapolación utilizada para este ejemplo es el T cuadrado regularizado, que Jeremy describirá con más detalle en unos minutos. |
| |
Tengo datos de diabetes abiertos en JMP y un script guardado con los ajustes de mi modelo neuronal. Voy a ejecutarlo. |
| |
Se inicia la plataforma neuronal. Observe que estoy usando el método de validación de retención aleatoria. Solo quería aclarar que, al usar un método de validación, el control de extrapolación se basa únicamente en los datos de entrenamiento. |
| |
y no sus datos de validación o prueba. |
| |
Tengo abierto el generador de perfiles y se puede ver que utiliza todos los rastros. El control de extrapolación no está activado. |
| |
Vamos adelante y encendémoslo. |
| |
Y también voy a activar los detalles. |
| |
Se puede ver que los rastros han sido restringidos y la métrica es el cuadrado T regularizado. |
| |
El umbral es tres veces la desviación estándar del cuadrado T regularizado de la muestra. Jeremy hablará más sobre qué significa todo eso exactamente en unos minutos. |
| |
Y solo quería mencionar que, cuando usamos el método de T cuadrado regularizado, solo hay una opción para el umbral, pero se puede ajustar el multiplicador. Entonces, si vas a |
| |
Controles de extrapolación, establecer umbrales, puedes ajustar este multiplicador, pero lo dejaré en tres. Y ahora quiero ejecutar la optimización usando |
| |
Control de extrapolación, así que simplemente maximizaré y recordaré. Ahora tengo una solución óptima con el control de extrapolación activado. |
| |
Y ahora quiero observar nuestra matriz de diagrama de dispersión, tal como la vimos antes con los datos originales, así como con los valores óptimos con y sin control de extrapolación. |
| |
Esta es una matriz de diagrama de dispersión de los datos de diabetes que creé en JMP. Contiene los valores predictores originales. |
| |
así como la solución óptima con control de extrapolación en rojo y la solución óptima sin control de extrapolación en azul. Y se puede ver que |
| |
Los puntos rojos parecen estar mucho más dentro de la estructura de correlación de los datos originales que los azules. Y esto es particularmente cierto al comparar el colesterol LDL con el colesterol total. |
| |
Ahora veamos un ejemplo usando el generador de perfiles que está debajo del menú de gráficos, al que llamaré generador de perfiles de gráficos. |
| |
También utiliza el método T cuadrado regularizado y permite controlar la extrapolación en cualquier tipo de modelo que pueda crearse y guardarse como fórmula JSL. Además, permite controlar la extrapolación en más de un modelo a la vez. |
| |
Veamos un ejemplo de una empresa que utiliza tecnología de pulvimetalurgia para producir ejes de transmisión de acero para la industria automotriz. |
| |
Quieren encontrar la configuración óptima para su producción que minimice las contracciones y los fallos debidos a malas condiciones de la superficie. Por lo tanto, tenemos dos respuestas. |
| |
contracción, que es continua y vamos a ajustar un modelo de mínimos cuadrados para eso, y la condición de la superficie, que es de aprobado/reprobado y vamos a ajustar un modelo logístico nominal para esa. |
| |
Nuestras variables predictoras son solo algunas variables clave del proceso de producción. Y, una vez más, la métrica de extrapolación es el cuadrado T regularizado. |
| |
Entonces tengo los datos de pulvimetalurgia abiertos en JMP y ya he ajustado un modelo de mínimos cuadrados para mi respuesta de contracción. |
| |
Ya he ajustado un modelo logístico nominal para la respuesta de aprobación/rechazo de la condición de la superficie. Además, he guardado las fórmulas de predicción en la tabla de datos para que estén listas para usarse en el generador de perfiles de gráficos. |
| |
Entonces, si voy al menú del perfilador de gráficos, puedo cargar la fórmula de predicción para la contracción, y mi fórmula de predicción es para la condición de la superficie. |
| |
Haga clic en Aceptar. |
| |
Y ahora tengo ambos modelos iniciados en el generador de perfiles gráficos. |
| |
Antes de activar el control de extrapolación, pueden ver que tengo los trazos de perfil completos. Una vez activado el control de extrapolación, |
| |
Puedes ver que las trazas se reducen un poco. Y también voy a activar los detalles. |
| |
Sólo para mostrar que, de hecho, estoy usando el cuadrado T regularizado aquí en este método. |
| |
Entonces, lo que realmente quiero hacer es encontrar las condiciones óptimas donde minimice la contracción y minimice las fallas. |
| |
Con el control de extrapolación activado. Quiero asegurarme de no extrapolar. Quiero encontrar una solución útil. |
| |
Antes de optimizar, necesito configurar mis valores deseables. Voy a configurarlos; ya están correctos para la contracción, pero necesito configurarlos para la condición de la superficie. |
| |
Voy a intentar maximizar los pases y minimizar los fallos. |
| |
DE ACUERDO. |
| |
Y ahora debería poder hacer la optimización con los controles de extrapolación activados, maximizar y recordar. |
| |
Ahora tengo mi solución óptima. |
| |
Con el control de extrapolación activado. Ahora, volvamos a analizar la matriz del diagrama de dispersión de los datos originales, junto con la solución con el control de extrapolación activado y la solución con el control de extrapolación desactivado. |
| |
Entonces, esta es una matriz de diagrama de dispersión de los datos de pulvimetalurgia que creé en JMP y también tiene la solución óptima. |
| |
Con el control de extrapolación como punto rojo y la solución óptima sin control de extrapolación como punto azul. Y, una vez más, pueden ver que cuando no implementamos el control de extrapolación, |
| |
La solución óptima se encuentra bastante alejada de la estructura de correlación de los datos. Esto se observa especialmente aquí con la relación entre la presión de compactación y la presión de compactación. |
| |
Ahora quiero pasarle la presentación a Jeremy para que entre en mucho más detalle sobre nuestros métodos. |
| |
Hola. Aquí tienes una serie de objetivos para el control de la extrapolación que establecimos al principio del proyecto. |
| |
Necesitábamos una métrica de extrapolación que pudiera calcularse rápidamente con un gran número de observaciones y variables, y necesitábamos una forma rápida de evaluar si la métrica indicaba extrapolación o no. Esto era para mantener la interactividad de los rastros del perfilador y |
| |
Necesitábamos esto para realizar la optimización. |
| |
Queremos que sea compatible con los distintos tipos de variables disponibles en el generador de perfiles. Estos son esencialmente continuos, categóricos y ordinales. |
| |
Queríamos utilizar observaciones con células faltantes porque algunos métodos de modelado incluirán estas observaciones y ???. |
| |
Buscábamos un método robusto a las dependencias lineales de los datos. Estas ocurren, por ejemplo, cuando el número de variables es mayor que el de observaciones. |
| |
Y queríamos algo que fuera fácil de automatizar sin necesidad de mucha intervención del usuario. |
| |
Para los modelos de mínimos cuadrados, llegamos al apalancamiento, que a menudo se utiliza para identificar valores atípicos en modelos lineales. |
| |
El apalancamiento para un nuevo punto de predicción se calcula según esta fórmula. Existen muchas interpretaciones del apalancamiento. Una interpretación es que |
| |
Es la distancia multivariada de un punto de predicción con respecto al centro de los datos de entrenamiento. Otra interpretación es que se trata de una varianza de predicción escalada, por lo que, a medida que el punto de predicción se aleja del centro de los datos, la incertidumbre de la predicción aumenta. |
| |
Y utilizamos dos umbrales comunes en la literatura estadística para determinar si esta distancia es demasiado grande. |
| |
El primero es el apalancamiento máximo. Los puntos de predicción que superen este umbral quedan fuera del agujero convexo de los datos de entrenamiento. |
| |
Y el segundo es tres veces el promedio de los apalancamientos. Se puede demostrar que esto equivale a tres veces el número de términos del modelo dividido por el número de observaciones. |
| |
Y como Laura describió anteriormente, puedes cambiar el multiplicador de estos umbrales. |
| |
Finalmente, al optimizar las deseabilidades, la restricción de extrapolación es no lineal. Anteriormente, el perfilador permitía la optimización restringida con restricciones lineales. |
| |
Pero este tipo de optimización es más complejo, por lo que Laura implementó un algoritmo genético. Y si no los conoce, los algoritmos genéticos utilizan principios de evolución molecular para optimizar funciones de costo complejas. |
| |
A continuación hablaré sobre el enfoque que utilizamos para generalizar el control de extrapolación a dos modelos distintos de los modelos lineales. |
| |
Cuando se construye un modelo predictivo en JMP, se comienza con un conjunto de variables predictoras y un conjunto de variables de respuesta. |
| |
Se entrena un modelo supervisado y luego se puede utilizar un generador de perfiles para visualizar la superficie del modelo. |
| |
Existen numerosas variantes del generador de perfiles en JMP. Puede usarlo internamente en plataformas de modelado, generar fórmulas de predicción y crear... |
| |
Un perfilador para múltiples modelos, como demostró Laura. Se pueden construir perfiladores para modelos de conjunto. Queríamos un método de control de extrapolación que se generalizara a todos estos escenarios, así que, en lugar de limitar nuestro método a un modelo específico, utilizaremos un enfoque no supervisado. |
| |
Solo marcaremos un punto de predicción como extrapolación si se encuentra muy lejos de la concentración de datos en el espacio predictor. Esto nos permite mantener la coherencia entre los perfiladores, de modo que nuestro método de control de extrapolación sea compatible con cualquier perfilador. |
| |
La interpretación multivariante de la distancia del apalancamiento sugirió la T cuadrada de Hotelling como una distancia para el control general de la extrapolación. De hecho, algunas manipulaciones algebraicas mostrarán que la T cuadrada de Hotelling es simplemente el apalancamiento desplazado y escalado. |
| |
Esta figura muestra cómo la T cuadrada de Hotelling mide en qué elipse se encuentra una observación, donde las elipses están centradas en la media de los datos y la forma está definida por la matriz de covarianza. |
| |
Dado que ya no trabajamos con modelos lineales, esta métrica no tiene la misma conexión con la varianza de la predicción. Por lo tanto, en lugar de basarnos en los umbrales utilizados en los modelos lineales, haremos algunas suposiciones distribucionales para determinar si... |
| |
El T cuadrado para el punto de predicción debe considerarse una extrapolación. |
| |
Aquí muestro la fórmula para la T cuadrada de Hotelling. La matriz de media y covarianza se estima utilizando los datos de entrenamiento del modelo. |
| |
Si P es menor que N, donde P es el número de predictores y N el número de observaciones, |
| |
y si el predictor está en normal multivariado, entonces T cuadrado para un punto de predicción tiene una distribución F. Sin embargo, queríamos un método para |
| |
generalizar los conjuntos de datos con tipos de datos complicados, como una mezcla de conjuntos de datos continuos y categóricos, donde P es mayor que N; |
| |
Conjuntos de datos con valores faltantes. Por lo tanto, en lugar de calcular la distribución analíticamente en cada caso, utilizamos un límite de control conservador simple que, según hemos comprobado, funciona bien en la práctica. |
| |
Este es un límite de control de tres Sigma que utiliza la distribución empírica de T al cuadrado de los datos de entrenamiento y, como mencionó Laura, también puedes ajustar este multiplicador. |
| |
Una complicación es que, cuando P es mayor que N, la T cuadrada de Hotelling no está definida. Hay demasiados parámetros en la matriz de covarianza para estimarlos con los datos disponibles. |
| |
Esto suele ocurrir en casos de uso típicos para el control de extrapolación, como en los mínimos cuadrados parciales. Por ello, optamos por un enfoque novedoso para calcular la T cuadrada de Hotelling, que aborda estos casos y la denominamos T cuadrada regularizada. |
| |
Para calcular la matriz de covarianza, utilizamos un estimador regularizado desarrollado originalmente por Schafer y Strimmer para datos genómicos de alta dimensión. Este es simplemente una combinación ponderada de la matriz de covarianza de la muestra completa, que en este caso es U, y una matriz objetivo de restricción, que es D. |
| |
Para el parámetro de peso Lambda, Schafer y Strimmer derivaron una expresión analítica que minimiza el MSE, el estimador asintóticamente. |
| |
Schafer y Strimmer propusieron varias matrices objetivo posibles. La matriz objetivo que elegimos fue una matriz diagonal con las varianzas muestrales de las variables predictoras en la diagonal. Esta matriz objetivo ofrece varias ventajas para el control de la extrapolación. |
| |
En primer lugar, no asumimos ninguna estructura de correlación entre las variables antes de ver los datos, lo que funciona bien como una hipótesis general. |
| |
Además, cuando hay pocos datos para estimar la matriz de covarianza, ya sea debido a un N pequeño o a una fracción grande faltante, |
| |
La restricción elíptica se expande con un peso elevado en la matriz diagonal, lo que resulta en una prueba más conservadora para el control de la extrapolación. Consideramos que esto es necesario para lograr un control razonable de la tasa de falsos positivos. |
| |
Para decirlo de forma más sencilla, cuando hay datos de entrenamiento limitados, es menos probable que el T cuadrado regularizado etiquete las predicciones como extrapolación, que es lo que se desea porque es más probable observar covarianzas por casualidad. |
| |
Contamos con algunos resultados de simulación que demuestran estos detalles, pero no tengo tiempo para profundizar en ellos. En su lugar, en la página web de la Comunidad, incluimos un enlace a un artículo archivado y planeamos enviarlo a la Revista de Estadística Gráfica Computacional. |
| |
La siguiente diapositiva muestra otros detalles importantes que debíamos considerar. Necesitábamos determinar cómo manejar las variables categóricas. |
| |
Simplemente las convertimos en variables ficticias con código indicador. Esto es comparable a un análisis de correspondencias múltiples. |
| |
Otra complicación es cómo calcular la T cuadrada de Hotelling cuando faltan datos. Varias plataformas de modelado predictivo de JMP utilizan observaciones con datos faltantes para entrenar los modelos. |
| |
Estos incluyen Naive Bayes y bootstrap forest, y estas fórmulas muestran el método de eliminación por pares que usamos para estimar la matriz de covarianza. |
| |
Es más común usar la eliminación por filas, lo que significa que se eliminan todas las observaciones con valores faltantes antes de calcular la matriz de covarianza. Si bien es la opción más simple, puede resultar en la pérdida de datos útiles si el tamaño de la muestra de los datos de entrenamiento es pequeño. |
| |
Con la eliminación por pares, las observaciones se eliminan solo si hay valores faltantes en el par de variables utilizadas para calcular una entrada correspondiente. |
| |
Y eso es lo que muestran estas fórmulas. Parece sencillo, ya que se utilizan todos los datos disponibles, pero en realidad puede generar numerosos problemas, ya que se utilizan diferentes observaciones para calcular cada entrada. |
| |
Esto puede provocar que sucedan cosas extrañas, como matrices de covarianza con valores propios negativos, algo con lo que tuvimos que lidiar. |
| |
Estas son algunas ventajas del T cuadrado regularizado que encontramos al compararlo con otros métodos en nuestras evaluaciones. |
| |
Una de ellas es que la regularización funciona como suele hacerlo. Busca el equilibrio entre el sobreajuste de los datos de entrenamiento y el sesgo excesivo del estimador. Esto aumenta la robustez del estimador frente al ruido y a la especificación incorrecta del modelo. |
| |
Posteriormente, Schafer y Strimmer demostraron en su artículo que la regularización produce un estimador más preciso en entornos de alta dimensionalidad. Esto ayuda a superar el problema de la dimensionalidad que afecta a la mayoría de los métodos basados en la distancia para el control de la extrapolación. |
| |
Y luego, en los campos que han desarrollado la metodología para el control de la extrapolación, |
| |
A menudo, presentan datos de alta dimensión y predictores altamente correlacionados. Por ejemplo, en quimioinformática y quimiometría, las características químicas suelen estar altamente correlacionadas. |
| |
El control de extrapolación se utiliza a menudo en combinación con los modelos PCA y PLS, donde se emplean T cuadrado y DModX para detectar violaciones de la estructura de correlación. Esto es similar a lo que hacemos en el gráfico de control multivariante basado en modelos. |
| |
Dado que este es un caso de uso común, queríamos tener una opción que no se desviara demasiado de estos métodos. |
| |
Nuestra T cuadrada regularizada proporciona |
| |
el mismo tipo de control de extrapolación, pero no requiere un paso de proyección, lo que tiene algunas ventajas. |
| |
Descubrimos que esto nos permite generalizar mejor a otros tipos de modelos predictivos. |
| |
También en nuestras evaluaciones, observamos que si una proyección lineal no funciona bien para sus datos, como si tuviera relaciones no lineales entre predictores, |
| |
Los errores pueden inflar los límites de control de los métodos basados en proyecciones, lo que conducirá a una protección deficiente contra la extrapolación, y nuestro enfoque es más sólido que esto. |
| |
Y luego otro punto importante es que encontramos el |
| |
La métrica de extrapolación única era mucho más sencilla de utilizar e interpretar. |
| |
A continuación, se presenta un breve resumen de las características del control de extrapolación. El método proporciona una mejor visualización de las regiones factibles en |
| |
Modelos de alta dimensión en el perfilador. Se ha implementado un nuevo algoritmo genético para una optimización flexible y restringida. |
| |
Y nuestro T cuadrado regularizado maneja datos observacionales desordenados en casos como P mayor que N y variables continuas y categóricas. |
| |
El método está disponible en la mayoría de los modelos predictivos de JMP 16 Pro y admite muchas de sus particularidades. También está disponible en el generador de perfiles en gráficos, lo que aumenta enormemente su utilidad, ya que puede operar con cualquier fórmula de predicción. |
| |
Y luego, como dirección futura, estamos considerando implementar una restricción basada en K vecinos más cercanos que iría más allá de la restricción de estructura de correlación actual. |
| |
A menudo, los predictores se generan mediante múltiples distribuciones que dan como resultado la agrupación en el espacio de predictores y un enfoque basado en K vecinos más cercanos nos permitiría controlar la extrapolación entre grupos. |
| |
Entonces, gracias a todos los que sintonizaron para ver esto y aquí hay correos electrónicos si tienen más preguntas. |
| Jeremy Ash, JMP |
¿Ustedes todavía están ahí? |
| Chris Gotwalt |
Sí, lo soy. |
| Laura Lancaster |
Justo. |