Cómo lidiar con la multicolinealidad cuando se realiza la regresión de modelos de mezcla múltipleEstoy haciendo un modelo de regresión sin intercepción ya que todos mis predictores son parte de una mezcla química y la suma de todos los predictores es igual a uno. Tengo una buena validación de R2 y R2, pero mi VIF para los términos principales y los términos cruzados son mucho más altos que 5.
¿Cuál es la mejor manera de lidiar con esto?
Estoy usando este modelo para predecir la propiedad de la mezcla. ¿Debo proporcionar restricciones adicionales para mis predictores como las proporciones (por ejemplo, x1 / x2 en el rango)?
Re: Cómo lidiar con la multicolinealidad al hacer la regresión de modelos de mezcla múltiplePrimero, un punto de aclaración. Para los modelos de mezcla Scheffe hay una intersección. No se muestra porque se combina con las estimaciones de los parámetros del efecto principal. Este NO es un modelo de no intercepción. Puede confirmar que está ajustando un modelo de Scheffe mirando la tabla Análisis de varianza. Debería decir "Prueba contra modelo reducido: Y = media". Si no es así, no está ajustando un modelo de mezcla Scheffe como cree.
Ahora para los altos VIF. Esto es MUY común para un modelo mixto. Hay poco que se pueda hacer por ello. Primero, ¿está utilizando valores codificados con pseudocomponentes? Si el diseño se creó en JMP, esto debería usarse automáticamente. Puede ver si la codificación del pseudocomponente se usa mirando las estimaciones de los parámetros. Debería ver algo como (X1-c) / d donde cyd son constantes. Si no ve esto, puede activar la propiedad de columna de codificación de pseudocomponente y luego ajustar su modelo.
Incluso con la codificación de pseudocomponentes, los VIF podrían ser muy altos. Cuanto más limitados estén los componentes de su mezcla, mayores serán los VIF. Aunque los VIF altos no son deseables, el objetivo de un modelo mixto es la predicción. Todavía puede obtener buenas predicciones del modelo. Recuerda que este es el objetivo final. Los VIF altos causarán errores estándar más altos para las estimaciones de parámetros que afectan la prueba. Reducir el modelo sería más difícil, pero puede usar el modelo para la predicción.
Re: Cómo lidiar con la multicolinealidad al hacer la regresión de modelos de mezcla múltipleDan, gracias por la respuesta! En la medida en que mi diseño no se creó en JMP, no hay codificación de pseudocomponentes, pero marqué todos mis predictores como Mezcla a través del cuadro desplegable de propiedades de columna.
También veo casillas de verificación para L Pseudo Component Coding y U Pseudo Component Coding, ¿debo marcarlas? Traté de estandarizar manualmente todos mis predictores, pero ya no serían una mezcla (la suma no es igual a 1) y JMP no informa R2.
Además, después de construir el modelo de mezcla con VIF alto, ¿cree que tiene sentido informar los rangos de mis proporciones de predicción junto con el modelo? Por lo general, solo probé el min-max para evitar la extrapolación.
Re: Cómo lidiar con la multicolinealidad al hacer la regresión de modelos de mezcla múltipleYo marcaría las casillas para la codificación del pseudocomponente L. Puede verificar ambos, pero corre el riesgo de que se utilicen diferentes tipos de codificación para diferentes factores. Me resulta más fácil limitarme a un solo tipo, y la codificación del pseudocomponente L suele ser la mejor.
Tenga en cuenta que esta estandarización es diferente del diseño tradicional de experimentos para factores independientes.
En cuanto a su última pregunta, puede decidir qué tiene más sentido para las personas que utilizarán este modelo. Personalmente, solo quisiera los rangos de componentes. Encontraría relaciones incómodas ya que el modelo no está en términos de relaciones. Finalmente, si está utilizando JMP y tiene los componentes configurados correctamente (una ventaja de usar JMP para crear su diseño), el generador de perfiles establecerá automáticamente los rangos de los componentes para evitar la extrapolación. Además, tiene el generador de perfiles de mezcla que mostrará los rangos válidos para sus componentes.
Re: Cómo lidiar con la multicolinealidad al hacer la regresión de modelos de mezcla múltipleKonstantin
Mi $ .02, tómalo o déjalo.
Estás en el mundo de la optimización. Esto requiere un uso e interpretación diferentes de los análisis estadísticos. Por ejemplo, no está tan interesado en la significación estadística, esto ya se ha determinado. Si bien los cuadrados R (y los cuadrados R ajustados) pueden ser bastante útiles en ciertas etapas de la construcción del modelo, no son tan útiles durante la optimización. (Por cierto, los cuadrados R tienen poco que ver con la extrapolación de resultados, solo pertenecen a los datos disponibles). Mi consejo sería utilizar los mapas de contornos proporcionados por JMP y ejecutar esas mezclas y comparar los resultados reales con los resultados predichos (de los mapas de contornos). Haga un análisis de residuos y modifique los mapas según corresponda utilizando datos empíricos. Me mantendría alejado de valores demasiado complicados con proporciones u otras transformaciones. Otra advertencia: si está ejecutando diseños de optimización sin comprender realmente el ruido y el efecto del ruido a lo largo del tiempo (por ejemplo, errores de medición, variación de lote a lote de productos químicos de entrada, condiciones ambientales, etc.), los mapas de contorno no serán muy buenos predictores de resultados reales.
Re: Cómo lidiar con la multicolinealidad al hacer la regresión de modelos de mezcla múltipleStatman, gracias! No estoy en la optimización, pero pensé que podría llegar más tarde. Por ahora, solo necesito predecir la cierta propiedad del vidrio conociendo su composición. Utilizo datos históricos muy "costosos" para modelar y no está bien diseñado (o no lo está en absoluto) y algunos de mis componentes tienen correlaciones de más de 0.7.
Por lo tanto, estoy pensando en cómo seleccionar términos cruzados significativos para mi modelo, así como para definir la ira adecuada de los constituyentes de vidrio para la predicción. Comprobaré con mapas de contorno como sugirió, ¡ya que suena muy prometedor!
Re: Cómo lidiar con la multicolinealidad al hacer la regresión de modelos de mezcla múltipleQuizás no me estoy comunicando muy bien. Si está haciendo diseños de mezclas, de hecho, se encuentra en el mundo de la optimización. Esto significa que ya ha determinado factores importantes para modelar (tener al menos un modelo de primer orden) y comprende el ruido. Su última publicación sugiere que está viendo un conjunto de datos históricos de un estudio mal diseñado. Entonces, mi analogía de usar diseños de mezclas en esta aplicación: "estás mapeando la base de la montaña". No estoy seguro de su conocimiento de los diseños de mezclas, pero le sugiero que obtenga el libro de Cornell "Experimentos con mezclas".
Obviamente, puede ver los datos históricos para obtener pistas, pero generalmente este es algún tipo de procedimiento de regresión. Luego, iterará hasta llegar a un punto en el que desee experimentar con los componentes de una mezcla para optimizar.
Re: Cómo lidiar con la multicolinealidad al hacer la regresión de modelos de mezcla múltipleYa tengo el libro, gracias!Re: Cómo lidiar con la multicolinealidad al hacer la regresión de modelos de mezcla múltipleTambién recomiendo el nuevo libro de Snee y Hoerl sobre experimentos de mezclas para formulaciones con JMP. Este es un buen momento para obtener una copia con un promoción de SAS Press para eBooks, también!
