Vocero
|
Transcripción
|
| Phil Kay |
Bien, entonces vamos a hablar sobre repensar el diseño y análisis de experimentos. Soy Phil Kay. Soy el director de aprendizaje del equipo de habilitación técnica global y me acompaña Pete Hersh. |
| Peter Hersh |
Sí, también soy miembro del equipo de habilitación técnica global y estoy emocionado de hablar sobre DOE y algunas de las nuevas técnicas que ... estamos explorando hoy. |
| Phil Kay |
Entonces, lo primero que debo decir es que somos grandes admiradores de DOE. Es impresionante. Ha tenido un gran valor en ciencia e ingeniería durante mucho tiempo. |
| |
Y habiendo dicho eso, hay algunas suposiciones con las que tenemos que estar de acuerdo para poder usar el DOE por mucho tiempo. |
| |
Y no siempre se sienten muy cómodos, como científicos o ingenieros. Entonces, cosas como la escasez de efectos, por lo que la idea de que no todo lo que estás viendo resultó ser importante |
| |
y de hecho, solo algunas de las cosas con las que estás experimentando resultan ser importantes. O la herencia del efecto es otra suposición. |
| |
Eso significa que solo esperamos ver comportamientos complejos o efectos de orden superior para los factores que están activos en sus formas más simples. |
| |
Y, y solo esta idea de efectos activos e inactivos, tan comúnmente, el proceso secuencial de diseño de experimentos es filtrar los efectos activos de los efectos inactivos. |
| |
Y eso a veces se siente como una decisión demasiado binaria. Parece un poco loco, creo, mucho tiempo, esta idea de que algunas de las cosas que estamos experimentando de forma completamente inactiva, |
| |
cuando realmente creo que sabemos que realmente todo va a tener algún efecto. Puede que sea menos importante pero |
| |
todavía va a tener algún efecto. Y estos son en gran parte supuestos que utilizamos para |
| |
Supere algunos de los desafíos de diseñar experimentos cuando no puede permitirse hacer una gran cantidad de carreras y sí. Pete, no sé si quieres comentar eso también desde tu perspectiva. |
| Peter Hersh |
Sí, estoy completamente de acuerdo. Creo que pensar en algo como que la temperatura esté inactiva es ... Creo que es difícil imaginar que la temperatura no tenga ningún efecto en un experimento. |
| Phil Kay |
Sí, es algo absurdo, ¿no? Asi que, |
| |
sí, si eso está en su experimento, entonces siempre estará activo de alguna manera, pero tal vez no sea tan importante como otras cosas. |
| |
Así que pasaré directamente a los resultados de |
| |
de lo que hemos visto. Así que hemos estado analizando esta técnica de validación automática que Chris Gotwalt y Phil Ramsey esencialmente inventaron. |
| |
y usar eso en el análisis de experimentos diseñados, y realmente ha proporcionado resultados que son una locura. Simplemente no pensamos que fueran posibles. |
| |
Entonces, en primer lugar miré un sistema con 13 efectos activos y analicé un diseño de cribado definitivo de 13 corridas y de ahí pude identificar que 13 efectos estaban activos, que es ... eso es lo que llamamos una situación saturada. Nosotros no lo haríamos ... |
| |
Por lo general, hemos hablado de que los diseños de detección definitivos son efectivos para identificar los efectos activos cuando tenemos escasez de efectos, cuando solo hay una pequeña cantidad de efectos que son realmente importantes o activos. Pero en este caso logré identificar los 13 efectos activos. |
| |
Y no solo eso, en realidad fue capaz de construir un modelo con todos esos 13 efectos activos de este diseño de cribado definitivo de 13 corridas. |
| |
Entonces, de nuevo eso es algo increíble; no esperamos poder tener un modelo con tantos efectos activos ya que tenemos filas de datos a partir de las cuales lo estamos construyendo. |
| |
Y Pete, miraste otras cosas y obtuviste otros resultados realmente interesantes. |
| Peter Hersh |
Sí, absolutamente, y los resultados de Phil son muy, muy impresionantes. creo |
| |
El siguiente paso que probamos fue hacer un diseño súper saturado, que tiene más efectos activos que carreras y lo probamos con |
| |
DOE muy pequeñas. Entonces, un DOE de seis ejecuciones con siete efectos activos, que si lo hiciéramos en técnicas estándar de DOE, no habría forma de analizar |
| |
eso correctamente. Y miramos comparar eso con ocho y diez DOE ejecutadas y cuánto nos compró. Así que obtuvimos modelos bastante útiles, incluso de un DOE de seis ejecuciones, que fue |
| |
mejor de lo que esperaba. |
| Phil Kay |
Sí, es mejor de lo que tienes derecho a esperar, ¿no? |
| |
Y así tenemos estos resultados realmente impresionantes y la capacidad de identificar una gran cantidad de efectos activos a partir de un pequeño |
| |
diseño de pantalla definitivo y realmente construir ese modelo con todos esos efectos activos. Y en el caso de Pete, he podido construir un modelo con siete efectos activos desde muy pequeños |
| |
Experimentos diseñados. |
| |
Entonces, ¿cómo hicimos esto? ¿Cómo funciona la metodología de autovalidación? Bueno, está tomando ideas del aprendizaje automático, y una de las herramientas realmente útiles del aprendizaje automático es la validación. Por lo tanto, la validación de retención es una forma realmente agradable de garantizar que usted construya |
| |
el modelo más útil. Así que es un modelo robusto. Así que guardamos una parte de los datos, los usamos para probar diferentes modelos que construimos y |
| |
Básicamente, el modelo que hace la mejor predicción de estos datos que hemos ofrecido es el modelo que usamos, y eso es realmente probado y probado. |
| |
En realidad, es prácticamente el estándar de oro para construir los modelos más útiles, pero con DOE es un desafío mayor, ¿no es así, Pete? Realmente, obviamente, no se presta a eso. |
| Peter Hersh |
Sí, sí, toda la idea detrás de DOE es explorar el espacio de diseño de la manera más eficiente posible. Y si empezamos a aguantar carreras o aguantar |
| |
análisis de ejecuciones, entonces vamos a perder parte de ese espacio de diseño y |
| |
Realmente no podemos hacer eso con muchas de estas técnicas DOE como diseños de detección definitivos. |
| Phil Kay |
Correcto, correcto, por lo que sería bueno si hubiera algún truco para poder obtener los beneficios de esta validación de exclusión y no sufrir por la retención de datos críticos. Eso nos lleva a esta validación automática. |
| |
idea y, Pete, ¿quieres describir un poco cómo funciona esto? |
| Peter Hersh |
Absolutamente, así que esta fue una idea realmente inteligente desarrollada por Chris y Phil Ramsey, y ellos esencialmente toman nuestros datos originales de un DOE y los vuelven a muestrear, por lo que |
| |
repita los resultados. Entonces, si observa que la tabla aquí en la parte inferior de la diapositiva, las carreras en gris son los mismos resultados que las carreras en blanco. Simplemente se repiten. |
| |
Y la forma en que se salen con la suya es haciendo esta columna de ponderación que se empareja. Básicamente, si uno tiene un peso elevado, el |
| |
la ejecución repetida de eso tiene una tasa baja ... peso y así sucesivamente. Y esto es ... esto es ... nos permite usar los datos con esta validación y la ponderación y entraremos en un poco más de detalle sobre cómo se hace. |
| Phil Kay |
Sí, verás cómo sucede cuando revisemos las demostraciones. Así que básicamente tenemos dos estudios de caso de ejemplos simulados que usamos para ilustrar esta metodología. Entonces, este primer estudio de caso del que voy a hablar, |
| |
Destaco que es un ejemplo simulado. Y de alguna manera, es un ejemplo poco realista, pero creo que hace un buen trabajo al demostrar el poder de esta metodología. |
| |
Tenemos seis factores y para que parezca un poco más real, hemos elegido algunos factores reales de un estudio de caso aquí en el que estaban tratando de cultivar algún organismo biológico y optimizar los nutrientes que alimentan al sistema para optimizarlo. la tasa de crecimiento. |
| |
Entonces tenemos estos seis nutrientes diferentes y esos son nuestros factores. Podemos agregar diferentes cantidades de esos, así que diseñé un diseño de detección definitiva de 13 corridas para explorar esos factores con esta respuesta de tasa de crecimiento. |
| |
Y los datos de respuesta fueron completamente simulados por mí, y fueron simulados de tal manera que hubo 13 efectos fuertemente activos. Asi que |
| |
Lo simulé para que todos los efectos principales, los seis efectos principales, estén activos. |
| |
Y luego, para cada uno de esos factores, los efectos cuadráticos también están activos, por lo que tenemos seis efectos cuadráticos. |
| |
Además, tenemos una intersección que siempre debemos estimar, por lo que hay 13 efectos en total que están activos, que son importantes para comprender el sistema. |
| |
1 de la señal al ruido, pero eso sigue siendo un verdadero desafío con la metodología estándar para modelar eso, y llegaremos a eso en la demostración. |
| |
Entonces, realmente, la pregunta es, ¿podemos identificar todos esos efectos importantes y, si podemos, entonces podemos construir un modelo con todos esos efectos importantes también? Porque como dije, eso sería realmente notable |
| |
versus lo que podemos hacer con la metodología estándar. |
| |
¿Y luego el estudio de caso n. ° 2, Pete? |
| Peter Hersh |
Si absolutamente. Muy, muy similar al caso de estudio de Phil. La misma idea es que estamos alimentando diferentes nutrientes en diferentes niveles a un organismo y comprobando su tasa de crecimiento. En este caso, simplifiqué lo que Phil había hecho y lo dividí en solo tres factores de nutrientes. Y esto es |
| |
construyendo un tipo diferente de diseño, por lo que un diseño sobresaturado óptimo en el que estamos buscando una superficie de respuesta completa |
| |
de manera sobresaturada y miramos seis, ocho y diez carreras |
| |
diseños. Y así, la misma idea. |
| |
La la |
| |
los efectos fueron muy, muy |
| |
alta relación señal / ruido, por lo que realmente quería poder seleccionar esos efectos si estaban activos. Y al igual que Phil, mantuve activos los efectos principales en las cuadráticas, así como la intersección y estamos tratando de seleccionarlos. |
| |
Y la misma idea, entonces, ¿cuántas carreras necesitaríamos para ver estos efectos activos y qué tan preciso de un modelo podemos hacer a partir de estos diseños tan pequeños? |
| Phil Kay |
Sí, porque sabes, como dije, realmente no tienes derecho a esperar poder construir un buen modelo a partir de un diseño tan pequeño. |
| Peter Hersh |
Si, exacto. Bueno. |
| Phil Kay |
Así que iré ahora a una demostración del estudio de caso n. ° 1. |
| |
Y estoy presentando esto a través de un proyecto JMP, por lo que es una forma realmente agradable de presentar sus resultados. Recomiendo probar esto. |
| |
Y esa es nuestra |
| |
diseño, por lo que este es nuestro diseño de cribado definitivo de 13 corridas, donde variamos estos factores de nutrientes y tenemos la respuesta de tasa de crecimiento simulada. Como dije, eso ha sido simulado de tal manera que |
| |
los efectos principales, las cuadráticas de todos estos factores están fuertemente activos, además tenemos que estimar esta intersección. |
| |
Ahora, con un diseño de cribado definitivo, en general, le recomiendo que utilice el cribado definitivo de ajuste como una forma de ver los resultados como uno de los análisis que puede hacer. |
| |
Funciona realmente bien cuando este principio de dispersión de efectos es cierto. Por lo tanto, siempre que solo algunos de los efectos estén fuertemente activos ... estén activos y el resto de ellos no sean importantes, |
| |
luego encontrará esos ... los pocos efectos importantes y los separará de los que no lo son. |
| |
Pero en este caso no esperaba que funcionara bien y no funciona bien. No identifica que los seis factores estén activos. De hecho, solo identifica uno de los factores como activo aquí. |
| |
Así que no es una gran sorpresa, es una situación demasiado difícil, demasiado desafiante para este tipo de análisis. |
| |
Si de alguna manera supiéramos que todos estos efectos activos están activos e intentamos ajustar un modelo con los seis efectos principales, los seis cuadráticos y la intersección, |
| |
entonces ese es un modelo saturado. Tenemos tantos parámetros para estimar como filas de datos, por lo que podemos ajustar ese modelo, pero no obtenemos ninguna estadística. |
| |
Y en cualquier caso, ya sabes, aparte del hecho de que he simulado estos datos, en una situación de la vida real, no sabríamos cuáles están activos, por lo que ni siquiera sabríamos qué modelo encajar. |
| |
Ahora, usando el método de validación automática, pude identificar de manera muy convincente los efectos activos, y hablaré sobre cómo lo hicimos. |
| |
Y esto es solo una visualización de mis resultados aquí. No es necesario que lo visualice de esta manera. Esto es para fines de presentación. |
| |
Pude identificar que, en primer lugar, la intercepción estaba activa. Tengo mis seis efectos principales |
| |
y mis efectos cuadráticos, y luego mis interacciones de dos factores, que simulé para tener un efecto cero. Puedes ver que están bien abajo |
| |
versus los otros. Y en realidad hay un factor nulo aquí que usamos eso ... así que un factor ficticio. Entonces, cualquier cosa menos que el factor nulo, podemos declararlo como sin importancia o inactivo, si lo desea. |
| |
Y lo que somos en realidad ... la métrica que estamos viendo aquí es algo llamado proporción distinta de cero y explicaré lo que eso significa, a medida que avanzamos en esto. Esa es una especie de métrica que estamos usando aquí para identificar la fuerza de un efecto, de la importancia de un efecto. |
| |
Así que un poco sobre cómo pasé por esto. Así que tomé mi diseño de cribado definitivo original de 13 ejecuciones y luego lo configuré para la validación automática, por lo que ahora tenemos 26 filas que hemos duplicado. |
| |
Y hay un complemento para hacer esto, uno de nuestros colegas, Mike Anderson. creó un complemento que puede usar para hacer esto en JMP 15. |
| |
En JMP 16, en realidad, están agregando la capacidad en las herramientas de modelado predictivo en la plataforma de la columna de validación. |
| |
Y lo que eso hace, obtenemos este conjunto duplicado de nuestros datos, y luego obtenemos esta ponderación y, como dijo Pete, tenemos ... cada fila está en el conjunto de entrenamiento y en el conjunto de validación. |
| |
En el conjunto de entrenamiento, si tiene una ponderación baja, tendrá una ponderación alta en la validación. Entonces, si tiene una ponderación alta en el conjunto de entrenamiento, tendrá una ponderación baja en el conjunto de validación. |
| |
Y lo que hacemos en realidad es, leemos ... estos básicamente han sido asignados al azar. |
| |
Los reasignamos y pudimos iterar sobre esto cientos de veces, ajustando los modelos cada vez y luego mirando el agregado ... resultados agregados en muchas ejecuciones de simulación. Entonces, ¿qué harías? |
| |
es para adaptarse al modelo y estoy usando GenReg aquí en JMP Pro. |
| |
Y necesitará JMP Pro de todos modos, porque necesita poder especificar este rol de validación, así que ponemos ... la columna de validación del tren entra en validación. |
| |
Y la ponderación entra en frecuencia y luego configuramos todo lo demás como lo haríamos normalmente con nuestra respuesta. Y luego tengo un modelo, que es el modelo de superficie de respuesta aquí con todos estos efectos, y luego hago clic en ejecutar. |
| |
Y se ajustará a un modelo, y podemos usar la selección hacia adelante o el lazo. Aquí, he usado el Lasso. |
| |
No es muy importante en este caso. |
| |
Y lo que realmente sucedió es que hemos identificado solo la intersección como importante en este caso, por lo que solo tenemos la intersección en el modelo. |
| |
Pero si cambiamos la ponderación, si volvemos a nuestra tabla de datos y volvemos a simular estas ponderaciones, es probable que obtengamos un resultado diferente del modelo. |
| |
Ponderamos diferentes filas de datos, diferentes ejecuciones en el experimento, que cambia el modelo que se ajusta. Así que vamos a hacer eso cientos de veces, y lo que voy a hacer es usar la función de simulación en JMP Pro. |
| |
Y lo que hacemos es cambiar la columna de ponderación y cambiar a una versión recalculada de la columna de ponderación. Y puedes hacerlo unos cientos de veces. De hecho, lo hice 250 veces en este caso. En realidad, no voy a dejar que eso corra, porque tomará uno o dos minutos. |
| |
Una vez que haya hecho eso, lo que obtendrá es una tabla que se ve así. |
| |
Así que ahora tengo la estimación de parámetros para cada uno de esos 250 modelos para cada uno de estos efectos. Asi que |
| |
en mi primer modelo en esta ejecución que hice, este fue el parámetro estimado para este efecto principal del ácido cítrico. En el siguiente modelo, cuando volvimos a muestrear la ponderación, |
| |
El efecto principal del ácido cítrico no entró en el modelo, por lo que fue cero en ese caso. |
| |
Y puede ejecutar distribuciones en todas estas estimaciones de parámetros. Y una de las cosas que puedes hacer es |
| |
personalice estas estadísticas, las estadísticas de resumen, para ver la proporción distinta de cero. Para que pueda ver la intersección aquí, |
| |
las estimaciones que hemos tenido de la intersección. Puede ver con el ácido cítrico, muchas veces se ha estimado que es cero, por lo que los modelos fueron, |
| |
El efecto principal del ácido cítrico no estaba en el modelo, y muchas veces se ha estimado en alrededor de 3, que es lo que yo había simulado. |
| |
Entonces, lo que observamos es la proporción de veces que no es cero y podemos hacer una tabla de datos combinados a partir de ellos. Y ya lo hice, y solo hice un poco de ... |
| |
un poco de aumento adicional aquí. Acabo de agregar una columna para saber si es un efecto principal o cualquier otra cosa, y así fue como creé |
| |
esta visualización aquí. Entonces, lo que está viendo es la proporción de veces que cada uno de esos efectos es distinto de cero, por lo que la proporción de veces que cada uno de los efectos está en nuestro modelo sobre todos esos |
| |
Hemos realizado 250 ejecuciones de simulación, en las que hemos vuelto a simular la ponderación fraccional. Y eso es lo que usamos para identificar |
| |
los efectos activos, y eso es ... y ha hecho un trabajo extraordinario. Ha podido hacer lo que nuestros métodos estándar no podrían hacer. Se identificaron 13 efectos activos de una carrera de 13 |
| |
diseño de cribado definitivo. |
| |
Ahora, ¿qué le gustaría hacer a continuación? Tal vez queramos ajustar ese modelo con todos esos efectos y he podido hacerlo. Y estoy comparando el modelo que encajo aquí |
| |
versus la verdadera respuesta simulada, y puede ver cuán estrechamente coinciden. Así que he podido construir un modelo con todos estos efectos principales, todas estas cuadráticas y la intersección. |
| |
Así que tengo un modelo de 13 parámetros aquí que pude ajustar a este diseño de pantalla definitivo de 13 ejecuciones, que nuevamente es simplemente extraordinario. |
| |
Y no voy a explicar exactamente cómo llegué a esa parte. Ahora se lo entregaré a Pete. Va a hablar un poco más sobre esta idea de modelos de conjuntos autovalidados. |
| Peter Hersh |
Absolutamente. Gracias, Phil. Veamos. Voy a compartir mi pantalla aquí y solo echaremos un vistazo a este proyecto. Asi que |
| |
puedes ver aquí |
| |
en el mismo |
| |
fluir como Phil, estamos viendo un proyecto aquí y tengo |
| |
comencé con seis carreras DOE sobresaturadas, y aquí pueden ver, tengo tres factores, |
| |
cuál es mi tasa de crecimiento del modelo subyacente real y luego cuál fue la tasa de crecimiento ... la tasa de crecimiento simulada y luego, como lo mencionó Phil, |
| |
Creo esta columna de validación automática, que se puede hacer con un complemento en JMP 15 que desarrolló Mike Anderson. O en JMP 16, está integrado directamente en el software y puede acceder a eso en la columna de validación de creación de plataforma de análisis predictivo. |
| |
Así que, tal como lo mostró Phil, mostró un excelente ejemplo de cómo podemos encontrar qué factores están activos, por lo que un análisis de factores. Y ese es a menudo nuestro principal objetivo con DOE, pero si queremos dar un paso más y construir un modelo a partir de eso, |
| |
Pasaríamos por este mismo proceso, ¿verdad? Así que construimos nuestro DOE, obtenemos una validación automática agregada a ese DOE, construimos nuestro modelo, tal como lo mostró Phil, usando regresión generalizada y uno de los |
| |
técnicas de selección de variables. Así que Phil Ramsey y Chris Gotwalt han analizado muchas de estas técnicas diferentes y todas parecen funcionar bastante bien. Entonces, ya sea que esté usando un Lazo o incluso una selección de avance de dos etapas, todos parecen tener resultados similares y |
| |
funciona bastante bien. Entonces, una vez que configura esto y lo inicia, obtiene un modelo, como el que Phil había mostrado, y sabe que algunos de estos modelos tendrán |