| Vocero |
Transcripción |
| |
Hola, soy Chris Gotwalt. Mi compañero |
| |
presentadores, Laura Lancaster y |
| |
Jeremy Ash y yo estamos presentando |
| |
Un nuevo y útil JMP Pro |
| |
capacidad llamada extrapolación |
| |
Control. Casi cualquier modelo que |
| |
¿Alguna vez quisiste predecir? |
| |
con tiene una gama de |
| |
Aplicabilidad, una región de la |
| |
espacio de entrada, donde el |
| |
Las predicciones se consideran |
| |
suficientemente confiable. Fuera de eso |
| |
región, empezamos a extrapolar |
| |
el modelo a puntos alejados del |
| |
datos utilizados para ajustar el modelo. Utilizando |
| |
las predicciones de ese modelo |
| |
En esos puntos podría conducir a |
| |
completamente poco fiable |
| |
predicciones. Hay dos |
| |
fuentes primarias de |
| extrapolación |
estadístico |
| |
extrapolación y basada en dominio |
| |
extrapolación. Ambos tipos son |
| |
cubierto por la nueva función. |
| |
Se produce una extrapolación estadística |
| |
Cuando uno está intentando |
| |
predecir usando un modelo en un x |
| |
Eso no se acerca a los valores |
| |
utilizado para entrenar ese modelo. |
| |
Extrapolación basada en dominios |
| |
sucede cuando intentas evaluar |
| |
en una x que es imposible debido |
| |
a científicos o ingenieros |
| |
Restricciones basadas en el ejemplo |
| |
Aquí se ilustran ambos tipos de |
| |
extrapolación en un ejemplo. |
| |
Aquí vemos un perfilador de un |
| |
modelo de una producción metalúrgica |
| |
proceso. La predicción dice |
| |
Sale dice -2,96 sin |
| |
indicación de que estamos evaluando |
| |
en una combinación de temperatura |
| |
y presión que es imposible |
| |
en un sentido de dominio para alcanzar |
| |
Esta máquina. También tenemos |
| |
extrapolación estadística tal como |
| |
está lejos de los datos utilizados para ajustar |
| |
El modelo como se ve en la dispersión |
| |
Gráfico de los datos de entrenamiento en el |
| |
Correcto. En JMP Pro 16, Jeremy, |
| |
Laura y yo hemos colaborado para |
| |
añadir una nueva capacidad que pueda |
| |
dar una advertencia cuando el generador de perfiles |
| |
piensa que podrías serlo |
| |
extrapolando. O si giras |
| |
control de extrapolación activado |
| |
restringirá el conjunto de puntos |
| |
que veas solo a aquellos que |
| |
No lo cree |
| |
extrapolando. Tenemos dos tipos |
| |
de control de extrapolación. Uno es |
| |
basado en el concepto de apalancamiento |
| |
y utiliza un modelo de mínimos cuadrados. |
| |
Este primer tipo es solo |
| |
Disponible en la versión Pro de |
| |
Ajuste del modelo por mínimos cuadrados. El |
| |
Otro tipo lo llamamos general |
| |
extrapolación del aprendizaje automático |
| |
control y está disponible en el |
| |
Plataforma de perfilación y varias de |
| |
El aprendizaje automático más común |
| |
plataformas en JMP Pro. Al |
| |
solicitud, incluso podríamos añadirla a |
| |
más. Mínimos cuadrados |
| |
El control de extrapolación utiliza el |
| |
concepto de apalancamiento, que es |
| |
como una versión a escala de la |
| |
varianza de predicción. Es un modelo |
| |
basado y por lo tanto utiliza información |
| |
sobre los efectos principales |
| |
interacciones de orden superior |
| |
términos para determinar la |
| |
extrapolación. Para el general |
| |
extrapolación del aprendizaje automático |
| |
caso de control, tuvimos que llegar a |
| |
con nuestro propio enfoque. Nosotros |
| |
Quería un método que fuera |
| |
robusto a valores faltantes, lineal |
| |
dependencias, computación más rápida, |
| |
Podría manejar mezclas de |
| |
entrada continua y categórica |
| |
variables, y también |
| |
Quería explícitamente separarse |
| |
El modelo de extrapolación de la |
| |
modelo utilizado para ajustar los datos. Por lo tanto |
| |
cuando tenemos general |
| |
control de extrapolación activado, |
| |
Solo hay uno supervisado |
| |
modelo que es...que se ajusta a la |
| |
variables de entrada a las respuestas |
| |
que vemos en el perfilador |
| |
Rastros. El perfilador viene |
| |
con un rápido y sucio |
| |
modelo no supervisado para describir |
| |
los ejes del conjunto de entrenamiento, y esto |
| |
Se utiliza un modelo no supervisado |
| |
detrás de escena por el |
| |
perfilador para determinar el |
| |
control de extrapolación |
| |
restricción. Así que tengo que |
| |
cambiar porque PowerPoint y mi |
| |
Las cámaras no se llevan bien |
| |
Ahora mismo por alguna razón. Nosotros |
| |
Sepa que las extrapolaciones arriesgadas |
| |
se están haciendo todos los días por |
| |
personas que trabajan en ciencia de datos |
| |
y están seguros de que el uso |
| |
de extrapolaciones conduce a resultados deficientes |
| |
predicciones y, en última instancia, a |
| |
Malos resultados comerciales. |
| |
Lugares de control de extrapolación |
| |
barandillas en las predicciones del modelo |
| |
y conducirá a resultados cuantificables |
| |
mejores decisiones con JMP Pro |
| |
usuarios. Cuando los usuarios ven una extrapolación |
| |
Si ocurre, el usuario debe realizar una |
| |
decisión sobre si la |
| |
¿Se debe utilizar o no la predicción? |
| |
utilizado en función de su dominio |
| |
conocimiento y familiaridad con |
| |
El problema en cuestión. Si usted |
| |
empezar a ver la extrapolación |
| |
Las advertencias de control ocurren con bastante frecuencia |
| |
A menudo, es probable que sea el final de |
| |
el ciclo de vida de ese modelo en |
| |
Es hora de reajustarlo a los nuevos datos |
| |
porque la distribución de la |
| |
Los insumos se han alejado de |
| |
el de los datos de entrenamiento. Nosotros |
| |
Sinceramente estamos bastante sorprendidos y |
| |
Alarmado por la necesidad de |
| |
Identificar la extrapolación no es |
| |
mejor apreciado por los datos |
| |
comunidad científica y han hecho |
| |
controlando la extrapolación como |
| |
Lo más fácil y automático posible. |
| |
Laura, quien lo desarrolló en JMP |
| |
Pro, estará demostrando el |
| |
La siguiente opción es Jeremy, quien... |
| |
Hice mucha investigación sobre nuestro |
| |
equipo, entrará en las matemáticas |
| |
detalles y estadísticas |
| |
motivación para el enfoque. |
| |
Hola mi nombre es Laura |
| |
Lancaster y yo estamos aquí para hacer una |
| |
demostración de la extrapolación |
| |
control que se agregó a JMP |
| |
Pro 16. Quería empezar |
| |
con un ejemplo bastante simple |
| |
utilizando el modelo de ajuste al menos |
| |
Plataforma de cuadrados. Voy a |
| |
utilizar algunos datos que puedan ser |
| |
familiar; son los datos de Fitness |
| |
Eso está en datos de muestra y estoy |
| |
Voy a utilizar el consumo de oxígeno como |
| |
Mi respuesta y Tiempo de ejecución, Ejecutar |
| |
Pulse y Max Pulse como mi |
| |
predictores. Y quería |
| |
Reiterar que en el modelo de ajuste, |
| |
ajustar por mínimos cuadrados |
| |
métrica de extrapolación que es |
| |
Se utiliza apalancamiento. Así que vamos. |
| |
Adelante y empezamos hacia JMP. |
| |
Así que ahora tengo los datos de fitness. |
| |
abierto en JMP y tengo un script |
| |
guardado en la tabla de datos para |
| |
iniciar automáticamente mi ajuste |
| |
modelo de mínimos cuadrados. Así que estoy |
| |
Voy a seguir adelante y ejecutar eso |
| |
script, se lanza al menos |
| |
Plataforma de cuadrados. Y tengo la |
| |
El generador de perfiles se abre automáticamente. Y |
| |
Podemos ver que el perfilador |
| |
Parece que siempre ha sido así |
| |
pasado, donde los límites de los factores |
| |
se definen por el rango de cada uno |
| |
factorizar individualmente, lo que nos da |
| |
Restricciones de límite rectangular. |
| |
Y cuando cambio el factor |
| |
configuraciones, debido a estos límites |
| |
restricciones, puede ser realmente |
| |
Es difícil saber si te estás moviendo |
| |
muy fuera de la correlación |
| |
Estructura de los datos. |
| |
Y es por eso que queríamos añadir |
| |
el control de extrapolación. Así que |
| |
Esto se ha añadido a varios |
| |
de las plataformas en JMP Pro |
| |
16, incluido el ajuste por mínimos cuadrados. |
| |
Y para llegar a la extrapolación |
| |
control, vas al menú debajo |
| |
el menú del perfilador. Así que si miro |
| |
Aquí veo que hay una nueva opción. |
| |
llamado control de extrapolación. |
| |
Está desactivado de forma predeterminada. |
| |
pero puedo convertirlo en cualquiera |
| |
encendido o advertencia encendida para encender |
| |
control de extrapolación. Si yo |
| |
Enciéndelo y observa que |
| |
restringe mi perfil |
| |
trazas para ir solo a los valores |
| |
donde no estoy extrapolando. |
| |
Si lo convirtiera en advertencia |
| |
En adelante vería el perfil completo |
| |
rastros, pero obtendría un |
| |
Advertencia cuando voy a una región |
| |
donde se consideraría |
| |
ser extrapolación. |
| |
También puedo activar la extrapolación. |
| |
detalles, que me parecen realmente |
| |
útil, y eso me da una |
| |
Mucha más información. Primero de todo |
| |
todo me dice que mi |
| |
métrica que estoy usando para |
| |
definir extrapolación es |
| |
apalancamiento, lo cual es cierto en el |
| |
Ajuste de la plataforma de mínimos cuadrados. |
| |
Y el umbral que se está rompiendo |
| |
utilizado por defecto inicialmente es |
| |
va a ser el máximo apalancamiento, |
| |
pero esto es algo que puedo |
| |
cambia y te lo mostraré |
| |
En un minuto. Además, puedo ver |
| |
¿Cuál es mi métrica de extrapolación? |
| |
Es para mi configuración actual. |
| |
Es este número aquí mismo, |
| |
que cambiará a medida que yo cambie |
| |
Mis configuraciones de factores. |
| |
En cualquier momento este número es mayor |
| |
Más allá del umbral, voy a |
| |
Recibo esta advertencia de que podría estar |
| |
extrapolando. Si baja, |
| |
Ya no lo conseguiré |
| |
Advertencia. Este umbral no es |
| |
Va a cambiar a menos que yo cambie |
| |
algo en el menú para ajustar |
| |
mi umbral. Así que déjame seguir adelante. |
| |
y hazlo ahora mismo. Así que voy a... |
| |
para ir al menú |
| |
y voy a ir al set |
| |
criterio de umbral. Por lo tanto |
| |
En el método de mínimos cuadrados, tienes dos |
| |
opciones para el umbral |
| |
Inicialmente, está configurado al máximo. |
| |
apalancamiento, que va a mantener |
| |
tú dentro de la envoltura convexa de |
| |
los datos, o puede cambiar a un |
| |
multiplicador por el promedio |
| |
términos de apalancamiento o modelo sobre |
| |
observaciones. Y quiero |
| |
cambiar a ese umbral. Así que es |
| |
Establecido en 3 como multiplicador |
| |
Por defecto. Así que esto va a |
| |
ser 3 veces el apalancamiento promedio |
| |
y hago clic en Aceptar y noto que |
| |
Mi umbral va a cambiar. |
| |
En realidad se hizo más pequeño, así que esto |
| |
es más conservador |
| |
definición de extrapolación. |
| |
Y voy a volverlo a hacer. |
| |
para restringir el seguimiento de mi perfil. |
| |
Y ahora solo puedo ir a |
| |
regiones en las que estoy dentro de 3 |
| |
veces el apalancamiento promedio. |
| |
Ahora también tenemos |
| |
optimización implementada |
| |
que obedece a la |
| |
extrapolación |
| |
restricciones. Entonces ahora si yo |
| |
Activar la deseabilidad del conjunto |
| |
y hago la optimización, |
| |
Obtendré un valor óptimo que |
| |
satisface la extrapolación |
| |
restricción. Tenga en cuenta que esto |
| |
la métrica es menor o igual a |
| |
el umbral. Así que ahora cuando voy |
| |
A mi siguiente diapositiva, que va |
| |
comparar en un gráfico, un diagrama de dispersión |
| |
matriz, la diferencia |
| |
entre el valor óptimo con |
| |
control de extrapolación activado |
| |
y con ella apagada. |
| |
Así que este es el diagrama de dispersión |
| |
matriz que creé con JMP, |
| |
y muestra el original |
| |
datos de variables predictoras, así como |
| |
como valores de la variable predictora |
| |
para la solución óptima utilizando |
| |
Sin control de extrapolación, en |
| |
azul, y la solución óptima usando |
| |
control de extrapolación en rojo. |
| |
Y observe cómo el sin restricciones |
| |
Solución aquí en azul, |
| |
Aquí mismo, viola la |
| |
Estructura de correlación para la |
| |
datos originales para el pulso de ejecución y |
| |
Pulso máximo, aumentando así la |
| |
incertidumbre de esta predicción. |
| |
Considerando que la solución óptima |
| |
que sí utilizó extrapolación |
| |
El control está mucho más en línea |
| |
con los datos originales. |
| |
Ahora veamos un ejemplo. |
| |
utilizando el más generalizado |
| |
método de control de extrapolación, |
| |
A lo que nos referimos como un |
| |
método de T cuadrado regularizado. Como |
| |
Chris mencionó anteriormente que nosotros |
| |
Desarrolló este método para modelos |
| |
distintos de los modelos de mínimos cuadrados. |
| |
Así que vamos a ver un |
| |
modelo neuronal para la diabetes |
| |
datos que también están en la muestra |
| |
datos. La respuesta es una medida |
| |
de la progresión de la enfermedad y la |
| |
Los predictores son la línea de base |
| |
variables. Una vez más, el |
| |
métrica de extrapolación utilizada para |
| |
Este ejemplo es el |
| |
T cuadrado regularizado que |
| |
Jeremy lo describirá en |
| |
Más detalles en unos minutos. |
| |
Entonces tengo los datos de diabetes abiertos en |
| |
JMP y yo tenemos un script guardado |
| |
de mi modelo neuronal encaja. Estoy |
| |
Voy a seguir adelante y ejecutar eso |
| |
script. Lanza la red neuronal |
| |
plataforma, y note que estoy |
| |
utilizando el método de validación, aleatorio |
| |
Conténganse. Solo quería señalar |
| |
que cada vez que uses un |
| |
método de validación, el |
| |
El control de extrapolación se basa |
| |
sólo en los datos de entrenamiento |
| |
y no tu validación |
| |
o datos de prueba. |
| |
Entonces tengo el generador de perfiles abierto y |
| |
Puedes ver que está usando el |
| |
trazas completas. Extrapolación |
| |
El control no está activado. Vamos. |
| |
Adelante, enciéndelo. |
| |
Y yo también voy a |
| |
Enciende los detalles. |
| |
Se puede ver que los rastros tienen |
| |
se ha restringido y la métrica |
| |
es el cuadrado T regularizado. El |
| |
El umbral es 3 veces el |
| |
desviación estándar de la muestra |
| |
T cuadrado regularizado. Jeremy es |
| |
Vamos a hablar más sobre lo que |
| |
Todo lo que significa exactamente en unos pocos |
| |
minutos. Y solo quería |
| |
Menciona que cuando estamos usando |
| |
el T cuadrado regularizado |
| |
método, solo hay una opción |
| |
para el umbral, pero puedes |
| |
Ajusta el multiplicador. Así que si |
| |
Vaya al control de extrapolación, configure |
| |
umbral, puedes ajustar esto |
| |
multiplicador, pero voy a |
| |
Déjalo en 3. Y ahora yo |
| |
desea ejecutar la optimización utilizando |
| |
control de extrapolación. Así que estoy |
| |
Solo voy a maximizar y |
| |
recuerda. Ahora tengo un |
| |
solución óptima con |
| |
control de extrapolación activado |
| |
Y ahora quiero mirar. |
| |
en nuestra matriz de diagrama de dispersión, simplemente |
| |
Como vimos antes, con |
| |
los datos originales, así como |
| |
con los valores óptimos con |
| |
y sin extrapolación |
| |
control. |
| |
Así que esta es una matriz de diagrama de dispersión. |
| |
de los datos de Diabetes que tengo |
| |
Creado en JMP. Tiene la |
| |
valores predictores originales, como |
| |
así como la solución óptima |
| |
utilizando el control de extrapolación en |
| |
rojo, y solución óptima sin |
| |
control de extrapolación en azul. |
| |
Y puedes ver que el rojo |
| |
Los puntos parecen ser mucho más |
| |
dentro de la estructura de correlación |
| |
de los datos originales que el |
| |
azul, y eso es particularmente |
| |
Es cierto cuando miras este LDL |
| |
versus colesterol total. |
| |
Ahora veamos un ejemplo. |
| |
usando el generador de perfiles que está debajo |
| |
el menú gráfico, al que llamaré |
| |
El generador de perfiles de gráficos. También utiliza |
| |
el método de T cuadrado regularizado |
| |
y nos permite utilizar |
| |
control de extrapolación en cualquier |
| |
tipo de modelo que puede ser |
| |
creado y guardado como JSL |
| |
fórmula. También nos permite |
| |
tener control de extrapolación en |
| |
más de un modelo a la vez. |
| |
Veamos un ejemplo. |
| |
para una empresa que utiliza polvo |
| |
tecnología metalúrgica a |
| |
producir ejes de transmisión de acero para |
| |
La industria automotriz. |
| |
Quieren poder encontrar |
| |
configuraciones óptimas para sus |
| |
producción que minimizará |
| |
contracción y también minimizar... |
| |
Minimizar las fallas debidas a malas |
| |
condiciones de servicio. Así que tenemos |
| dos |
la contracción de las respuestas (que es |
| |
Continuo y vamos a |
| |
ajustar un modelo de mínimos cuadrados para |
| |
eso) y el estado de la superficie (que |
| |
es aprobado/reprobado y vamos a |
| |
ajustar un modelo logístico nominal para |
| |
ese). Y nuestro predictor |
| |
Las variables son solo algunas claves |
| |
variables de proceso en la producción. |
| |
Y una vez más la extrapolación |
| |
La métrica es el cuadrado T regularizado. |
| |
Así que tengo el polvo |
| |
datos metalúrgicos abiertos en JMP |
| |
y ya he encajado al menos |
| |
Modelo de cuadrados para mi contracción |
| |
respuesta, y ya he instalado una |
| |
modelo logístico nominal para el |
| |
condición de la superficie pasa/no pasa |
| |
respuesta, y he guardado el |
| |
fórmulas de predicción a los datos |
| |
mesa para que estén listos para |
| |
se utilizará en el generador de perfiles gráficos. |
| |
Entonces, si voy al menú de gráficos |
| |
perfilador, puedo cargar el |
| |
fórmula de predicción para la contracción |
| |
y mi fórmula de predicción es para |
| |
La condición de la superficie. |
| |
Haga clic en Aceptar. Y ahora tengo |
| |
Mis dos modelos se lanzaron a |
| |
El perfilador de gráficos. |
| |
Y antes de encenderlo |
| |
control de extrapolación, usted |
| |
Puedo ver que tengo el contenido completo |
| |
trazas de perfil. Una vez que enciendo |
| |
control de extrapolación |
| |
Puedes ver que las huellas |
| |
encogerme un poco y también voy |
| |
Para activar los detalles, |
| |
Sólo para demostrar que de hecho lo soy |
| |
utilizando el cuadrado T regularizado |
| |
Aquí en este método. |
| |
Así que lo que realmente quiero hacer es... |
| |
quiero encontrar el óptimo |
| |
condiciones donde minimice |
| |
contracción y minimizo |
| |
Fallos con la extrapolación |
| |
control y quiero asegurarme |
| |
No estoy extrapolando. Quiero |
| |
encontrar una solución útil. Y |
| |
Antes de poder hacer la optimización, |
| |
En realidad necesito configurar mi |
| |
deseabilidades. Así que voy a |
| |
establecer deseabilidades. Ya está |
| |
correcto para la contracción, pero yo |
| |
Es necesario configurarlos para el servicio |
| |
condición. Voy a intentar maximizar |
| |
pasa y minimizar fallas. |
| |
K. |
| |
Y ahora debería poder hacerlo |
| |
la optimización con |
| |
controles de extrapolación activados. |
| |
Maximiza y recuerda. |
| |
Y ahora tengo mi óptimo |
| |
solución con extrapolación |
| |
control activado. Así que ahora veamos |
| |
Una vez más en el |
| |
matriz de diagrama de dispersión de la |
| |
datos originales, junto con la |
| |
solución con extrapolación |
| |
control en la solución, |
| |
con el control de extrapolación |
| |
apagado. |
| |
Así que esta es una matriz de diagrama de dispersión. |
| |
de los datos de pulvimetalurgia |
| |
que creé en JMP. Y es |
| |
También tiene la solución óptima |
| |
con control de extrapolación como |
| |
punto rojo y el óptimo |
| |
solución sin extrapolación |
| |
control como un punto azul. Y una vez |
| |
De nuevo puedes ver que cuando nosotros |
| |
no hagas la extrapolación |
| |
control, la solución óptima |
| |
Está bastante lejos de la |
| |
estructura de correlación de la |
| |
datos. Podemos ver especialmente |
| |
que aquí con ratio versus |
| |
presión de compactación. |
| |
Así que ahora quiero entregar |
| |
La presentación a Jeremy |
| |
para entrar en mucho más |
| |
Detalles sobre nuestros métodos. |
| |
Hola, aquí tenéis una serie de |
| |
objetivos para el control de la extrapolación |
| |
que presentamos en el |
| |
inicio del proyecto. Nosotros |
| |
Necesitaba una métrica de extrapolación |
| |
que podría calcularse rápidamente |
| |
con un gran número de |
| |
observaciones y variables, y |
| |
Necesitábamos una forma rápida de evaluar |
| |
si la métrica indicada |
| |
extrapolación o no. Esto fue |
| |
Para mantener la interactividad de |
| |
El perfilador rastrea y |
| |
Necesitábamos esto para |
| |
realizar optimización. |
| |
Queríamos poder |
| |
apoyar las diversas variables |
| |
tipos disponibles en el |
| |
perfilador. Estos son |
| |
esencialmente continuo, |
| |
categórico y ordinal. |
| |
Queríamos aprovechar |
| |
observaciones con células faltantes, |
| |
porque algunos métodos de modelado |
| |
incluirá estas observaciones |
| |
en ???. |
| |
Queríamos un método que fuera |
| |
robusto a las dependencias lineales en |
| |
los datos. Estos ocurren cuando el |
| |
el número de variables es mayor |
| |
que el número de observaciones, |
| |
por ejemplo. Y queríamos |
| |
algo que era fácil de |
| |
automatizar sin necesidad de un |
| |
Mucha entrada de usuario. |
| |
Para los modelos de mínimos cuadrados, |
| |
aterrizó en apalancamiento, que es |
| |
A menudo se utiliza para identificar valores atípicos. |
| |
en modelos lineales. El apalancamiento |
| |
Para el nuevo punto de predicción es |
| |
calculado de acuerdo con esto |
| |
fórmula. Hay muchas |
| |
Interpretaciones para el apalancamiento. |
| |
Una interpretación es que es |
| |
la distancia multivariada de una |
| |
punto de predicción desde el centro |
| |
de los datos de entrenamiento. Otro |
| |
La interpretación es que se trata de una |
| |
varianza de predicción escalada. Por lo tanto |
| |
a medida que se mueve el punto de predicción |
| |
más lejos del centro |
| |
de los datos, la incertidumbre |
| |
de predicción aumenta. Y nosotros |
| |
utilizar dos umbrales comunes en |
| |
La literatura estadística para |
| |
determinar si esta distancia |
| |
es demasiado grande. El primero es |
| |
apalancamiento máximo, predicción |
| |
puntos más allá de este umbral |
| |
o fuera de la envoltura convexa de |
| |
Los datos de entrenamiento. |
| |
Y el segundo es 3 veces el |
| |
promedio de los apalancamientos. |
| |
Se puede demostrar que esto es |
| |
equivalente a tres veces la |
| |
número de términos del modelo dividido |
| |
por el número de observaciones. |
| |
Y como lo describió Laura |
| |
Antes, puedes cambiar el |
| |
multiplicador de estos |
| |
umbrales. |
| |
Finalmente, cuando las deseabilidades |
| |
se están optimizando, el |
| |
La restricción de extrapolación es una |
| |
restricción no lineal, y |
| |
Anteriormente el generador de perfiles permitía |
| |
optimización restringida con |
| |
Restricciones lineales. Este tipo de |
| |
La optimización es más |
| |
desafiante, por lo que Laura lo implementó |
| |
un algoritmo genético. Y si tú |
| |
No estoy familiarizado con estos, |
| |
Los algoritmos genéticos utilizan la |
| |
principios de la biología molecular |
| |
evolución para optimizar |
| |
funciones de costos complicadas. |
| |
A continuación hablaré sobre el |
| |
enfoque que utilizamos para generalizar |
| |
control de extrapolación a modelos |
| |
distintos de los modelos lineales. Cuando |
| |
Estás construyendo un predictivo |
| |
modelo en JMP, comienzas con un |
| |
conjunto de variables predictoras y una |
| |
conjunto de variables de respuesta. Algunas |
| |
El modelo supervisado se entrena y |
| |
Entonces se puede utilizar un generador de perfiles para |
| |
Visualizar la superficie del modelo. |
| |
Existen numerosas variaciones en |
| |
El generador de perfiles en JMP. Puedes |
| |
utilizar el generador de perfiles internamente en |
| |
plataformas de modelado. Puedes |
| |
fórmulas de predicción de salida y |
| |
Construir un generador de perfiles para múltiples |
| |
modelos. Como demostró Laura, |
| |
Puedes construir perfiladores para |
| |
modelos de conjunto. Queríamos un |
| |
método de control de extrapolación |
| |
Eso generalizaría todo esto |
| |
escenarios, así que en lugar de |
| |
atando nuestro método a un |
| |
modelo específico, vamos |
| |
utilizar un dispositivo sin supervisión |
| |
acercarse. |
| |
Y sólo vamos a marcar una |
| |
punto de predicción como |
| |
extrapolación si está lejos |
| |
afuera donde están los datos |
| |
concentrado en el predictor |
| |
espacio. Y esto nos permite |
| |
ser consistente en todo |
| |
perfiladores para que nuestros |
| |
método de control de extrapolación |
| |
Se conectará a cualquier generador de perfiles. |
| |
La distancia multivariada |
| |
interpretación del apalancamiento |
| |
La T cuadrada de Hotelling sugerida es |
| |
una distancia para el general |
| |
control de extrapolación. De hecho, |
| |
alguna manipulación algebraica |
| |
Demuestre que la T cuadrada de Hotelling es |
| |
simplemente se cambió el apalancamiento y |
| |
escalado. Esta figura muestra cómo |
| |
Medidas de la T cuadrada de Hotelling |
| |
¿Qué elipse es una observación? |
| |
se encuentra donde están las elipses |
| |
centrado en la media de la |
| |
datos y la forma está definida |
| |
por la matriz de covarianza. |
| |
Ya que ya no estamos en |
| |
modelos lineales, esta métrica |
| |
no tiene lo mismo |
| |
conexión con la predicción |
| |
varianza. Entonces, en lugar de |
| |
confiando en los umbrales utilizados |
| |
De vuelta en los modelos lineales, estamos |
| |
Voy a hacer algunos |
| |
supuestos distribucionales |
| |
para determinar si T al cuadrado |
| |
Para el punto de predicción debe |
| |
puede considerarse una extrapolación. |
| |
Aquí estoy mostrando la fórmula para |
| |
T cuadrada de Hotelling. La media y |
| |
Se estima la matriz de covarianza |
| |
utilizando los datos de entrenamiento para el |
| |
modelo. Si P es menor que N, |
| |
donde P es el número de |
| |
predictores, N es el número |
| |
de observaciones y si la |
| |
predictores de multivariante |
| |
normal, luego T al cuadrado para |
| |
El punto de adicción tiene una F |
| |
distribución. Sin embargo, queríamos |
| |
un método para generalizar la |
| |
conjuntos de datos con datos complicados |
| |
tipos, como una mezcla de continuos |
| |
y conjuntos de datos categóricos donde P |
| |
es mayor que N, conjuntos de datos con |
| |
valores faltantes. Entonces, en lugar de |
| |
calculando las distribuciones |
| |
Analíticamente en cada caso, |
| |
Se utilizó un conservador simple |
| |
límite de control que encontramos |
| |
funciona bien en la práctica. Esto es |
| |
un límite de control de tres Sigma |
| |
utilizando la distribución empírica |
| |
de T al cuadrado del entrenamiento |
| |
datos y, como mencionó Laura, usted |
| |
También puedes sintonizar este multiplicador. |
| |
Una complicación es que cuando P |
| |
es mayor que N, T de Hotelling |
| |
El cuadrado no está definido. Hay |
| |
demasiados parámetros en el |
| |
matriz de covarianza para estimar |
| |
con los datos disponibles, y |
| |
Esto ocurre a menudo en el uso típico |
| |
Casos de control de extrapolación |
| |
como en mínimos cuadrados parciales. |
| |
Así que decidimos escribir una novela. |
| |
Aproximación al cálculo de la T de Hotelling |
| |
al cuadrado, que se ocupa de estos |
| |
casos, y lo llamamos un |
| |
T cuadrado regularizado. |
| |
Para calcular la covarianza |
| |
matriz utilizamos una regularizada |
| |
estimador originalmente |
| |
desarrollado por Schafer y |
| |
Desbrozadora para altura |
| |
datos genómicos dimensionales. |
| |
Es solo un peso ponderado |
| |
combinación de la totalidad |
| |
matriz de covarianza de muestra, |
| |
cual es U aquí y a |
| |
matriz objetivo de restricción |
| |
cual es D. |
| |
Para el peso Lambda |
| |
parámetros, Schafer y Strimmer |
| |
Derivó un análisis |
| |
expresión que minimiza la |
| |
MSE, el estimador |
| |
asintóticamente. |
| |
Schafer y Strimmer propusieron |
| |
varios objetivos posibles |
| |
matrices. La matriz objetivo que |
| |
La matriz elegida fue una matriz diagonal con |
| |
las varianzas muestrales de la |
| |
variables predictoras de la |
| |
diagonal. Esta matriz objetivo tiene |
| |
una serie de ventajas para |
| |
control de extrapolación. Primero, |
| |
No asuma ninguna correlación |
| |
estructura entre las variables |
| |
antes de ver los datos, que |
| |
Funciona bien como una prioridad general. |
| |
Además, cuando hay pocos datos |
| |
para estimar la covarianza |
| |
matriz, ya sea debido a N pequeño o |
| |
Falta una gran fracción, la |
| |
La restricción elíptica es |
| |
expandido por un gran peso en |
| |
la matriz diagonal, y esta |
| |
resulta en una visión más conservadora |
| |
Prueba de control de extrapolación. |
| |
Consideramos que esto era necesario |
| |
obtener un control razonable de la |
| |
tasa de falsos positivos. Para poner esto en práctica |
| |
Más sencillamente, cuando hay |
| |
datos de entrenamiento limitados, el |
| |
El T cuadrado regularizado es menor |
| |
Es probable que etiqueten las predicciones como |
| |
extrapolación, que es lo que |
| |
quiero, porque eres más |
| |
Es probable que se observen covarianzas |
| |
Por casualidad. Tenemos algunos |
| |
resultados de la simulación |
| |
demostrando estos detalles, |
| |
pero no tengo tiempo para ir |
| |
en todo eso. En cambio en |
| |
En la página web de la Comunidad, pusimos un |
| |
Enlace a un documento sobre archivo y |
| |
Planeamos presentar esto a la |
| |
Revista de Computación |
| |
Estadísticas gráficas. |
| |
La siguiente diapositiva muestra algunas otras |
| |
detalles importantes que necesitábamos |
| |
considerar. Necesitábamos averiguar |
| |
Cómo lidiar con las categorías |
| |
variables. Solo somos |
| |
convirtiéndolos en indicadores |
| |
variables ficticias codificadas. Esto es |
| |
comparable a un múltiplo |
| |
análisis de correspondencia. Otro |
| |
La complicación es cómo calcular |
| |
T al cuadrado de Hotelling cuando |
| |
Faltan datos. Varios |
| |
Modelado predictivo JMP |
| |
Las plataformas utilizan observaciones con |
| |
faltan datos para entrenarlos |
| |
modelos. Estos incluyen modelos ingenuos |
| |
Bosque Bayesiano y Bootstrap. Y |
| |
Estas fórmulas muestran la |
| |
método de eliminación por pares que usamos |
| |
utilizado para estimar la covarianza |
| |
matriz. Es más común usar |
| |
Eliminación por filas. Esto significa |
| |
todas las observaciones con datos faltantes |
| |
Los valores se eliminan antes |
| |
Calcular la matriz de covarianza. |
| |
Y esto es lo más sencillo, pero puede ser. |
| |
Resultar en desechar cosas útiles |
| |
datos si el tamaño de la muestra de la |
| |
Los datos de entrenamiento son pequeños. Con |
| |
observaciones de eliminación por pares |
| |
y se eliminan solo si hay |
| |
valores faltantes en el par de |
| |
variables utilizadas para calcular la |
| |
entrada correspondiente y eso es |
| |
Lo que muestran estas fórmulas. |
| |
Parece algo sencillo de hacer. |
| |
Simplemente estás usando todos los datos |
| |
que está disponible, pero |
| |
En realidad puede conducir a una serie de |
| |
problemas porque hay |
| |
Diferentes observaciones utilizadas para |
| |
Calcular cada entrada. Esto puede |
| |
hacer que sucedan cosas raras, |
| |
como matrices de covarianza con |
| |
valores propios negativos, que son |
| |
algo con lo que tuvimos que lidiar. |
| |
A continuación se muestran algunas ventajas de |
| |
el T cuadrado regularizado |
| |
encontrado al comparar con otros |
| |
métodos en nuestras evaluaciones. Uno |
| |
¿Es esa la regularización? |
| |
Funciona de la misma manera que la regularización. |
| |
Normalmente funciona. Golpea un |
| |
equilibrio entre el sobreajuste de la |
| |
Datos de entrenamiento y sesgo excesivo |
| |
el estimador. Esto hace que el |
| |
estimador más robusto al ruido |
| |
y especificación incorrecta del modelo. |
| |
A continuación, Schafer y Strimmer |
| |
demostraron en su artículo que |
| |
La regularización da como resultado una |
| |
estimador más preciso en |
| |
configuraciones de alta dimensión. |
| |
Esto ayuda con la cursiva. |
| |
dimensionalidad que plaga |
| |
la mayoría de los métodos basados en la distancia |
| |
para el control de extrapolación. |
| |
Luego en los campos que tienen |
| |
desarrolló la metodología para |
| |
control de extrapolación, |
| |
A menudo ambos tienen niveles altos |
| |
datos dimensionales y altamente |
| |
predictores correlacionados. Para |
| |
ejemplo en quimioinformática y |
| |
quimiometría, la química |
| |
Las características suelen ser muy |
| |
correlacionado. Control de extrapolación |
| |
se utiliza a menudo en combinación |
| |
con modelos PCA y PLS, donde |
| |
T cuadrado DModX se utilizan para |
| |
detectar violaciones de correlación |
| |
Estructura. Esto es similar a |
| |
Lo que hacemos en modelos impulsados |
| |
gráfico de control multivariado. |
| |
Dado que este es un caso de uso común, |
| |
Queríamos tener una opción que |
| |
No se desvió demasiado de |
| |
Estos métodos. Nuestra T regularizada |
| |
Squared proporciona el mismo tipo |
| |
de control de extrapolación, pero |
| |
no requiere paso de proyección |
| |
lo cual tiene algunas ventajas. |
| |
Descubrimos que esto nos permite |
| |
mejor generalizar otros tipos |
| |
de modelos predictivos. Además, en |
| |
En nuestras evaluaciones observamos que |
| |
Si una proyección lineal no |
| |
funcionan bien para sus datos, como |
| |
Tienes relaciones no lineales |
| |
entre predictores, los errores |
| |
Puede inflar los límites de control |
| |
de métodos basados en proyecciones, |
| |
Lo que conducirá a un mal |
| |
protección contra |
| |
extrapolación y nuestro enfoque |
| |
es más robusto que esto. |
| |
Y luego otro punto importante |
| |
es que encontramos el |
| |
métrica de extrapolación única |
| |
Era mucho más sencillo de usar y |
| |
interpretar. |
| |
Y aquí hay un resumen rápido de |
| |
las características de la extrapolación |
| |
control. El método proporciona un mejor |
| |
visualización de factibles |
| |
regiones de alta dimensión |
| |
modelos en el generador de perfiles. |
| |
Un nuevo algoritmo genético ha |
| |
Se ha implementado para mayor flexibilidad |
| |
optimización restringida. |
| |
Nuestra T cuadrada regularizada |
| |
Maneja observaciones desordenadas |
| |
datos, casos como P más grandes |
| |
que N, y continua y |
| |
variables categóricas. |
| |
El método está disponible en la mayoría |
| |
de los modelos predictivos en JMP |
| |
16 Pro y es compatible con muchos de |
| |
sus idiosincrasias. También es |
| |
Disponible en el generador de perfiles en |
| |
gráfico, que realmente abre su |
| |
utilidad porque puedes operar |
| |
en cualquier fórmula de predicción. |
| |
Y luego, como dirección futura, |
| |
Estamos considerando implementar |
| |
Un vecino más cercano basado en K |
| |
restricción que iría más allá |
| |
la correlación actual |
| |
restricción de estructura. A menudo |
| |
Los predictores son generados por |
| |
distribuciones múltiples resultantes |
| |
en la agrupación en el predictor |
| |
espacio. Y un K-vecinos más cercanos |
| |
Un enfoque basado en la nube permitiría |
| |
Nosotros controlamos la extrapolación |
| |
entre grupos. |
| |
Así que gracias a todos los que |
| |
Sintonizado para ver esto y |
| |
Aquí están nuestros correos electrónicos si los tienes |
| |
¿Alguna otra pregunta? |