Análisis de un DOE mixto con regresión por pasosEn los estudios de casos de Mixture (biblioteca de documentación de webcast y JMP) noté que se usa la regresión hacia atrás para analizar los resultados. ¿Por qué no se usa la regresión por pasos con la regresión directa o todos los modelos posibles en JMP regular (no Pro)? ¿No es posible paso a paso debido a la naturaleza especial de los modelos mixtos?
Diseño de experimentosRe: Análisis de un DOE mixto con regresión por pasosAquí están mis pensamientos, en su mayoría de naturaleza filosófica:
Mi primer pensamiento es NO hacer paso a paso para el diseño experimental, nunca.El experimento está diseñado para investigar factores y un modelo predicho para esos factores (p. ej., primer orden, primer orden más segundo orden, etc.). El modelo debe predecirse a priori.Stepwise es un procedimiento para descubrir relaciones que pueden no ser conocidas o predichas.
Los diseños de mezcla, en su mayor parte, son diseños de optimización.Es decir, ya se sabe que los componentes de la mezcla son importantes y ahora está tratando de encontrar la mejor "área" de la superficie para operar.Ya debería conocer los términos del modelo y está optimizando esos términos.También puede haber ser una buena cantidad de colinealidad en los diseños de mezcla, lo que hace que sea un desafío paso a paso.
Re: Análisis de un DOE mixto con regresión por pasosEntonces, ¿cómo encontrar el mejor modelo, la regresión hacia atrás? ¿Todos los modelos posibles en stewise?...
Re: Análisis de un DOE mixto con regresión por pasosEl enfoque depende en gran medida de dónde se encuentre en el continuo del conocimiento (p. ej., cribado, optimización, si está explicando o prediciendo). Al experimentar en la fase de selección, de hecho recomiendo comenzar con el modelo completo (saturado si es posible) y eliminar los términos insignificantes de allí (construcción del modelo hacia atrás o sustractivo).Cuando está optimizando, las preguntas son un poco diferentes (como, en general, diseños de mezcla).Ya debería tener una buena idea de 1er y 2do orden lineal y no lineal.La significación estadística es menos importante (ya se ha establecido).Está "afinando" la configuración del nivel.
Re: Análisis de un DOE mixto con regresión por pasosHola @frankderuyck ,
Estoy de acuerdo con el punto de vista "filosófico" de @statman con respecto a la regresión Stepwise, más orientada a conjuntos de datos "no diseñados" para descubrir algunos factores y efectos en ausencia de un modelo a priori.Las técnicas tradicionales de selección de modelos que utilizan valores p no son útiles para las mezclas: debido a la multicolinealidad entre los efectos estimados (aliasing entre efectos), los errores estándar de las estimaciones son bastante grandes, lo que da como resultado valores p engañosos y distorsionados.
Para diseños mixtos (basados en modelos), la regresión progresiva progresiva puede ser posible, pero con salvaguardas y precaución (por ejemplo, forzar los efectos principales en el modelo y no interceptar). Puede ser interesante considerar dos opciones para los diseños de Mixture, y las destacó el Dr. Philip J. Ramsey en una de sus presentaciones, " Estrategias de análisis para experimentos de procesos de mezclas y mezclas restringidas con JMP Pro 14 " :
- Selección directa tradicional usando el método del pseudo factor de Miller
- Selección de avance tradicional mediante autovalidación y arranque ponderado fraccionariamente: SVEM en JMP Pro, plataforma de regresión generalizada (Gotwalt y Ramsey)
El Dr. Ramsey no recomienda el uso de "Todos los modelos posibles" para las mezclas, en parte debido a la necesidad de forzar los términos de los componentes puros en cada modelo. Desde una perspectiva pragmática y práctica, el método de "Todos los modelos posibles" puede ser muy exigente en términos de cálculos (y no muy efectivo), ya que se construyen todos los modelos posibles con varios efectos, sin importar la jerarquía y la herencia entre los efectos. Por lo tanto, hay una gran parte de los modelos creados que pueden no ser muy interesantes (y relevantes) para considerar, pero que aún así se crean y evalúan de manera agnóstica y de "fuerza bruta".
Dado que se asume un modelo a priori para los diseños de mezclas basados en modelos, la regresión hacia atrás es más segura de usar con un método de validación basado en criterios de información como AICc (plataforma de regresión generalizada en JMP Pro o Backward Stepwise en JMP).
Dado que está más interesado en el rendimiento predictivo que en la selección de factores, también puede hacer "manualmente" la regresión hacia atrás, comenzando desde el modelo completo con todos los supuestos efectos del modelo (JMP, mínimos cuadrados estándar), y eliminar términos siempre y cuando ayude a disminuir el RMSE (errores de predicción) del modelo.
Para diseños de mezclas independientes del modelo (como diseños de relleno de espacio), el uso de métodos de aprendizaje automático, eficientes y efectivos en la interpolación, puede ser muy útil para construir un modelo predictivo en los puntos distribuidos homogéneamente (pero el sobreajuste puede ocurrir rápidamente): SVM , redes neuronales, k-vecinos más cercanos, proceso gaussiano, ...
Al final, pueden ser necesarias ejecuciones de validación para validar y estimar los rendimientos predictivos del modelo.
Espero que esta respuesta adicional te ayude,
Re: Análisis de un DOE mixto con regresión por pasosVi en los seminarios web que el gráfico de Pareto -logworth (valor p) se usa para la regresión hacia atrás; si los valores p no son adecuados para mezclas, ¿es correcto? Nota: necesito dar una capacitación a los usuarios que no son jmp pro para que no pueda usar el aprendizaje automático generalizado.
Re: Análisis de un DOE mixto con regresión por pasosEstoy analizando un DOE de mezcla de tres factores FLA 1, FLA 2 y FLA 3 basado en un modelo Scheffé cúbico completo. Presionando el botón estándar de mínimos cuadrados y tratando de eliminar los parámetros de bajo efecto utilizando la regresión hacia atrás basada en el pareto logarítmico (¿valores P para el análisis de mezclas?) Obtengo el resultado a continuación: ¿debo eliminar también todos los efectos seleccionados o solo los efectos no contenidos?
También hice el análisis con "Todos los modelos posibles" en Stepwise y obtuve un modelo muy bueno basado en la clasificación AICC, tal vez un modelo incorrecto (¿la regresión hacia atrás basada en el valor P generará un modelo correcto ...?) Sin embargo, es muy útil especificar ajustes óptimos de salida Y!
Definitivamente estoy de acuerdo en que, debido a la fuerte colinealidad en el análisis de mezcla, es necesaria una columna de validación y el uso de herramientas de regresión generalizada y herramientas de aprendizaje automático real es el enfoque correcto; Echaré un vistazo de cerca a SVEM. En cuanto a mi entrenamiento DOE para usuarios no profesionales, tengo que confiar en métodos clásicos; ¿"Todos los modelos posibles" no se ve tan mal como se muestra arriba? Por supuesto, para casos más complejos, con efectos de proceso de> 3 componentes de mezcla que producen demasiados modelos, definitivamente es necesario un enfoque secuencial; sin embargo, debido a la fuerte colinealidad, será bastante difícil hacer una buena selección de parámetros para pasar al siguiente paso secuencial.
Re: Análisis de un DOE mixto con regresión por pasosHola @frankderuyck ,
No importa si su DoE es factorial o mixto, si hay un modelo asumido a priori, debe respetar los tres principios detrás del Diseño de Experimentos:
- Escasez de efectos : El principio de dispersión del efecto en realidad se refiere a la idea de que solo unos pocos efectos en un experimento serán estadísticamente significativos. La mayor parte de la variación en la respuesta se explica por un pequeño número de efectos, por lo que es muy probable que los efectos principales (factor único) y las interacciones de dos factores sean las respuestas más significativas en un experimento factorial. También se le llama principio de Pareto.
- Jerarquía de efectos : El principio de jerarquía establece que cuanto mayor sea el grado de interacción, menos probable será que la interacción explique la variación en la respuesta. Por lo tanto, los efectos principales explican más variación que las interacciones de 2 factores, los 2FI explican más variación que los 3FI, … por lo que se debe dar prioridad a la estimación de los efectos de orden inferior.
- efecto herencia : De forma similar a la herencia genética, el principio de la herencia del efecto postula que los términos de interacción solo pueden considerarse si los términos ordenados que preceden a la interacción son significativos. Este principio tiene dos posibles implementaciones: fuerte o débil herencia. Herencia fuerte implica que un término de interacción puede incluirse en el modelo solo si ambos efectos principales correspondientes están presentes. Herencia débil implica que un término de interacción se incluye en el modelo si al menos uno de los efectos principales correspondientes está presente.
En su caso, cuando intenta eliminar estos efectos, está en conflicto con el principio de herencia del efecto: no puede eliminar el efecto principal FLA1 y la interacción FLA2xFLA3 a menos que ya haya eliminado todos los demás términos de efectos que contienen estos términos. Así que aquí deberías guardarlos.
Como se indicó anteriormente, la creación de modelos basados únicamente en el valor p para diseños de mezclas puede ser muy engañosa.
La segunda opción que probó con el criterio AICc (¿o BIC?) parece más razonable, ya que AICc (o BIC) es un criterio de información que intenta "equilibrar" la complejidad del modelo con su precisión (cuanto menor, mejor).
Con respecto a sus capturas de pantalla, parece que los modelos con mayor cantidad de términos pueden ser útiles en su caso, ya que el modelo número 9 tiene un RMSE y un BIC más bajos. También puede corregir el gráfico de residuos que parece mostrar algún tipo de heteroscedasticidad (residuos más grandes para una puntuación de sabor más alta).
Espero que este comentario complementario te ayude,
Re: Análisis de un DOE mixto con regresión por pasosHola Víctor, definitivamente estoy de acuerdo con tus principios de herencia y es por eso que en este caso la regresión hacia atrás basada en valores p no funciona aquí.Así que utilicé Todos los modelos posibles con selección AICC directa con muy buenos resultados. Ahora estoy trabajando en otro caso de mezcla con una variable de proceso y, de nuevo, el método de todos los modelos posibles genera un modelo, quizás incorrecto, ¡pero muy útil! Para los usuarios de JMP que no son profesionales, recomiendo usar paso a paso todos los métodos de modelos posibles para el análisis DOE de mezcla.
Re: Análisis de un DOE mixto con regresión por pasosHmmm, tienes uno o dos experimentos de mezcla y concluyes " Recomiendo usar paso a paso todos los métodos de modelos posibles para el análisis DOE de mezclas".Le sugiero que tenga cuidado con esta recomendación o, como dice Danial, tendrá el fracaso de la "generalización prematura".
Re: Análisis de un DOE mixto con regresión por pasosAl menos los modelos que obtengo satisfacen la afirmación pragmática de Cox "Incorrecto pero útil para alcanzar mi objetivo" ¿Cuál es una mejor alternativa en regular, no JMP pro? ¿Serán mejores estos modelos?
Re: Análisis de un DOE mixto con regresión por pasosPara usuarios profesionales definitivamente recomiendo métodos de aprendizaje automático con validación
Re: Análisis de un DOE mixto con regresión por pasosMi noción podría haber sido expresada previamente en esta discusión, pero quiero exponerla explícitamente. En primer lugar, no probaríamos las estimaciones de los parámetros del efecto principal. ¿Por qué no? La restricción de que las proporciones de los componentes suman uno tiene ramificaciones más allá de las matemáticas del modelo lineal. Un efecto es un cambio en la respuesta cuando un factor cambia su nivel. Los cambios en los niveles de los factores son independientes en un experimento sin mezcla, por lo que el efecto de cambiar un factor se determina únicamente en un experimento diseñado adecuadamente. Es imposible cambiar un componente de la mezcla independientemente de todos los demás componentes. Por lo tanto, no podemos asignar únicamente el efecto a un componente en un experimento de mezcla.
En segundo lugar, no podemos probar las estimaciones de los parámetros del efecto principal. JMP prueba incorrectamente la estimación del parámetro para los efectos principales frente a una hipótesis nula de que el parámetro es cero. El parámetro del efecto principal es la respuesta media más el cambio medio en la respuesta de una mezcla pura, por lo que la hipótesis nula es la respuesta media, no cero. Además, las pruebas conjuntas son imposibles porque la respuesta media es parte de todos los parámetros del efecto principal.
La verdadera respuesta media en este conjunto de datos simulados es 20. Los verdaderos parámetros del efecto principal, que incluyen la respuesta media, son 10, 20 y 30 para X1, X2 y X3, respectivamente. Los parámetros son significativamente diferentes de 0, pero esa es la hipótesis nula incorrecta. Cada una de las estimaciones del efecto principal está marcada con la nota de que las pruebas están confundidas.
No preguntamos sobre los efectos principales, pero podemos y debemos preguntar sobre los términos de orden superior porque nos informan sobre la forma de la superficie y son comprobables.
Re: Análisis de un DOE mixto con regresión por pasosMuy interesante Marc, ¿qué método de análisis de resultados DOE de mezcla recomiendas para los usuarios que no son profesionales de JMP? En mi ejemplo anterior, la regresión hacia atrás con Logworth Pareto no funcionó; AICc adelante con stewise todos los modelos posibles funcionaron bien.
Re: Análisis de un DOE mixto con regresión por pasosNo recomiendo un método particular para seleccionar el modelo lineal para un experimento de mezcla. reitero @statman 's consejo para tener en cuenta todos a priori conocimiento mientras se diseña el experimento y nuevamente mientras se analiza el experimento.
Re: Análisis de un DOE mixto con regresión por pasos¿Esto significa que debemos centrarnos en los puntos interiores de la gráfica ternaria tratando de estimar los términos de orden superior? Entonces, ¿un DOE que llena el espacio es una mejor opción que tratar de estimar un modelo de interacción bidireccional?
Re: Análisis de un DOE mixto con regresión por pasosEstoy completamente de acuerdo y eso es lo que hice en mi ejemplo anterior, ¿utilicé el enfoque correcto?
Re: Análisis de un DOE mixto con regresión por pasosSolo para aclarar cómo se generan los puntos cuando se usa un diseño de mezcla óptima (en el caso de 3 factores de mezcla):
- Los puntos en los vértices ayudan a estimar los parámetros de los efectos principales,
- Los puntos en el medio de los bordes ayudan a estimar las interacciones de 2 factores.
- El punto en el centro se usa para la interacción de tercer grado.
El diseño de relleno de espacio crea puntos distribuidos aleatoria y homogéneamente en el espacio experimental, en ausencia de cualquier modelo a priori.
Si ya tiene una idea sobre el tipo de modelo que utilizará (como un modelo de interacción bidireccional), un diseño óptimo puede ser más útil y efectivo, ya que la generación de puntos se optimizará para la estimación de parámetros de los términos del efecto. ha especificado en su modelo asumido (a diferencia de la "aleatoriedad" de la generación de puntos de diseño que llenan el espacio).
Los diseños de relleno de espacio son útiles en ausencia de conocimiento a priori sobre un posible modelo, con una probabilidad de superficie de respuesta no lineal, y tienen más flexibilidad en cuanto a las posibilidades de modelado en el caso de puntos que no son medibles (problemas de estabilidad). , valores muy altos o bajos, ...).
Espero que esto aclare la diferencia entre el uso de estos dos tipos de metodologías.Re: Análisis de un DOE mixto con regresión por pasosSuponga que está probando una mezcla con 5 componentes y quiere saber qué componentes tienen un efecto en la respuesta, ¿cómo descarta estos ingredientes efectivos? ¿Es esto posible debido a la confusión?
Re: Análisis de un DOE mixto con regresión por pasos¿Supongo que incluso con diseños que llenan el espacio, la proyección será muy difícil?
Observación: tengo una amplia experiencia en DOE sin mezclas, por lo que mis preguntas anteriores pueden parecer ingenuas para los expertos en mezclas.Hasta ahora, mi conclusión es que el DOE mixto requiere experiencia y, dado que los métodos de análisis son menos claros que los que no son mixtos, para los científicos parece un poco artificial. Me estoy preparando para muchas preguntas en una próxima capacitación del DOE donde las formulaciones son importantes. Gracias a todos por sus aportes, es de gran ayuda!
Re: Análisis de un DOE mixto con regresión por pasosLos diseños de relleno de espacio tienden a centrarse un poco más en el interior que en los bordes del espacio experimental y en la optimización (ajustar el mejor modelo predictivo gracias a los puntos de diseño distribuidos uniformemente y una gran variedad de opciones de modelado/algoritmos).
Los diseños de mezclas se usan más en una estrategia de optimización para encontrar las mejores proporciones de formulación para desempeños/respuestas específicas, pero hay diseños que pueden ayudarlo a "examinar" los factores de mezcla (o al menos evaluar la importancia relativa de los factores de mezcla entre sí, ya que la significación estadística no es apropiada para los efectos de pantalla aquí, debido a la multicolinealidad).
- En JMP, los diseños ABCD pueden ser útiles para comparar la influencia de los factores de mezcla (y el ejemplo es bastante parecido al caso que mencionaste con 5 factores de mezcla): JMP-Ejemplo de un diseño ABCD
- También puede usar el diseño Simplex Centroïd con un grado de centroïd relativamente bajo (2 o 3 por ejemplo): JMP-Ejemplo de diseño Simplex Centroid
En general, si no está familiarizado con los diseños de Mixture, hay muchos recursos disponibles en Internet. Aquí hay algunos ejemplos para ayudarte:
https://reliawiki.org/index.php/Mixture_Design
https://online.stat.psu.edu/stat503/lesson/11/11.3
https://www.lexjansen.com/sugi/sugi21/iv/138-21.pdf
Espero que esta respuesta te ayude,
Re: Análisis de un DOE mixto con regresión paso a paso¡Gracias Víctor!
Re: Análisis de un DOE mixto con regresión por pasosSi el modelo de orden superior es 'correcto', entonces el diseño que llena el espacio no es necesariamente 'mejor'. Piense en una situación más simple: un efecto de primer orden solo de un único factor continuo. ¿Cuál es el mejor diseño de 10 carreras? Cinco carreras en el ajuste bajo y cinco carreras en el ajuste alto. Un diseño de "relleno de espacio" distribuiría las corridas en más de dos niveles, lo que no es estadísticamente eficiente.
Un diseño de relleno de espacio para mezclas es ventajoso cuando la respuesta cambia rápidamente en una región estrecha del símplex y la región es desconocida. Es un diseño de cribado con un giro para experimentos de mezcla.
Re: Análisis de un DOE mixto con regresión por pasosEn mi humilde opinión, antes de capacitar a otros en una metodología, debe dominar muchas aplicaciones en su haber. Le sugiero que lea Cornell (Cornell es uno de los principales expertos en mezclas) para comenzar su viaje hacia la comprensión de las mezclas.
Cornell, John (1990) “ Experimentos con mezclas, diseños, modelos y el análisis ”, Wiley (SBN: 047152221X)
Algunos papeles favoritos:
Snee, Ronald D., Diseño y Análisis de Experimentos de Mezclas , revista de tecnología de calidad, vol. 3, núm. 4, octubre de 1971
Cornell, Juan, Incorporación de experimentos de mezcla dentro de experimentos factoriales , Revista de tecnología de calidad , vol. 22, núm. 4, octubre de 1990
Snee, Ronald D., Donald Marquard, Cribado de conceptos y diseños para experimentos con mezcla s, tecnometría , vol. 18, N° 1, febrero de 1976
y nuestro propio Dan Obermiller: Consejos sobre JMPing en experimentos de mezclas
Re: Análisis de un DOE mixto con regresión por pasosEl Modelo de mezcla de Cox es un intento de ayudar a un experimentador a responder esta pregunta. Requiere especificar una mezcla de referencia. El modelo se utiliza para determinar los efectos únicos de cada componente.
Re: Análisis de un DOE mixto con regresión por pasos¡Sinceramente gracias por esta mezcla de referencias! Iré y profundizaré en este tema desafiante.
Re: Análisis de un DOE mixto con regresión por pasosVi en una presentación de Louis Valente una excelente manera de etiquetar y colorear los puntos de diseño de la mezcla mediante una columna Tipo de punto, ver más abajo. ¿Cómo se crea esta columna de tipo de punto?
Re: Análisis de un DOE mixto con regresión por pasosHay un script en la carpeta Sample Scripts (en la carpeta JMP en \Samples\Scripts) que hace esto.El nombre del script es "LabelMixturePoints.jsl".
Re: Análisis de una mezcla DOE con regresión por pasosGracias por sus respuestas detalladas, que me inspiraron a pensar en el trabajo de formulación.
cómo sugiere tratar si se desconoce el término del modelo, por ejemplo: quiero descubrir los efectos, especialmente la interacción bidireccional debido al nuevo ingrediente en la formulación.El objetivo del estudio es más una detección que una optimización. ¿Sería una buena opción en este caso el paso a paso?
Re: Análisis de una mezcla DOE con regresión por pasosEstoy confundido por tu pregunta. Dice "término desconocido del modelo" y luego dice que el término es un ingrediente nuevo conocido. Experimentaría con el nuevo ingrediente con un diseño de mezcla y utilizaría el análisis de diseños de mezcla para evaluar el efecto del nuevo ingrediente y las posibles interacciones. No usaría paso a paso en este caso. Lamento ser redundante, en mi humilde opinión, paso a paso se utiliza para exponer factores que no se han identificado (por ejemplo, extracción de datos), no para el análisis de experimentos donde se conocen los factores del estudio.
