Comment gérer la multicolinéarité lors de la régression du modèle de mélange multipleJe fais un modèle de régression sans intercept puisque tous mes prédicteurs font partie d'un mélange chimique et la somme de tous les prédicteurs est égale à un. J'ai une bonne validation R2 et R2 mais mon VIF pour les termes principaux et les termes croisés est bien supérieur à 5.
Quelle est la meilleure façon de gérer cela?
J'utilise ce modèle pour prédire la propriété du mélange. Dois-je fournir des contraintes supplémentaires pour mes prédicteurs comme des ratios (par exemple x1/x2 dans la plage) ?
Re : Comment gérer la multicolinéarité lors de la régression d'un modèle de mélange multipleJe recommande également le nouveau livre de Snee et Hoerl sur les expériences de mélange pour les formulations utilisant JMP. C'est le bon moment pour obtenir une copie avec un promotion de SAS Press pour les eBooks aussi !
Re : Comment gérer la multicolinéarité lors de la régression d'un modèle de mélange multipleJ'ai déjà le livre, merci !Re : Comment gérer la multicolinéarité lors de la régression d'un modèle de mélange multiplePeut-être que je ne communique pas très bien. Si vous faites des conceptions de mélanges, vous êtes en fait dans le monde de l'optimisation. Cela signifie que vous avez déjà déterminé des facteurs significatifs à modéliser (avoir au moins un modèle de premier ordre) et que vous comprenez le bruit. Votre dernier article suggère que vous examinez un ensemble de données historiques provenant d'une étude mal conçue. Donc, mon analogie avec l'utilisation de conceptions de mélange dans cette application : "vous cartographiez la base de la montagne". Je ne suis pas sûr de vos connaissances de base sur les conceptions de mélanges, mais je vous suggère de vous procurer le livre de Cornell "Experiments with Mixtures".
Évidemment, vous pouvez consulter les données historiques pour obtenir des indices, mais il s'agit généralement d'une sorte de procédure de régression. Ensuite, vous itérerez jusqu'à ce que vous arriviez à un point où vous souhaitez expérimenter sur les composants d'un mélange à optimiser.
Re : Comment gérer la multicolinéarité lors de la régression d'un modèle de mélange multipleStatman, merci ! Je ne suis pas dans l'optimisation mais je pensais que cela pourrait venir plus tard. Pour l'instant, j'ai juste besoin de prédire la propriété certaine du verre connaissant sa composition. J'utilise des données historiques très "coûteuses" pour la modélisation et ce n'est pas bien conçu (ou pas du tout) et certains de mes composants ont des corrélations supérieures à 0,7.
Je réfléchis donc à la manière de sélectionner des termes croisés significatifs pour mon modèle afin de définir la rage appropriée des constituants du verre pour la prédiction. Je vais vérifier avec les cartes de contour comme vous l'avez suggéré car cela semble très prometteur !
Re : Comment gérer la multicolinéarité lors de la régression d'un modèle de mélange multipleConstantin,
Mon 0,02 $, à prendre ou à laisser.
Vous êtes dans le monde de l'optimisation. Cela nécessite une utilisation et une interprétation différentes des analyses statistiques. Par exemple, vous n'êtes pas aussi intéressé par la signification statistique, cela a déjà été déterminé. Bien que les R-carrés (et les R-carrés ajustés) puissent être très utiles à certaines étapes de la construction du modèle, ils ne sont pas aussi utiles lors de l'optimisation. (BTW, les R-carrés ont peu à voir avec l'extrapolation des résultats, ils ne concernent que les données en main). Mon conseil serait d'utiliser les cartes de contour fournies par JMP et d'exécuter réellement ces mélanges et de comparer les résultats réels aux résultats prévus (des cartes de contour). Effectuez une analyse des résidus et modifiez les cartes selon les besoins en utilisant des données empiriques. J'éviterais de trop compliquer les valeurs avec des ratios ou d'autres transformations. Un autre mot d'avertissement, si vous exécutez des conceptions d'optimisation sans vraiment comprendre le bruit et l'effet du bruit au fil du temps (par exemple, erreurs de mesure, variation d'un lot à l'autre des produits chimiques d'entrée, conditions ambiantes, etc.), les cartes de contour ne seront pas très bons prédicteurs des résultats réels.
Re : Comment gérer la multicolinéarité lors de la régression d'un modèle de mélange multipleJe cocherais les cases pour le codage des pseudocomposants L. Vous pouvez vérifier les deux, mais vous courez le risque que différents types de codage soient utilisés pour différents facteurs. Je trouve plus facile de s'en tenir à un seul type, et le codage des pseudo-composants L est généralement le meilleur.
Notez que cette normalisation est différente de la conception traditionnelle des expériences pour des facteurs indépendants.
Quant à votre dernière question, vous devez décider ce qui a le plus de sens pour les personnes qui utiliseront ce modèle. Personnellement, je voudrais juste les gammes de composants. Je trouverais les ratios gênants puisque le modèle n'est pas en termes de ratios. Enfin, si vous utilisez JMP et que les composants sont correctement configurés (un avantage d'utiliser JMP pour créer votre conception), le profileur définira automatiquement les plages des composants pour éviter toute extrapolation. De plus, vous avez le profileur de mélange qui montrera les plages valides pour vos composants.
Re : Comment gérer la multicolinéarité lors de la régression d'un modèle de mélange multipleDan, merci pour la réponse ! Dans la mesure où ma conception n'a pas été créée dans JMP, il n'y a pas de codage de pseudo-composant, mais j'ai marqué tous mes prédicteurs comme Mélange via la liste déroulante des propriétés de colonne.
Je vois également des cases à cocher pour le codage des pseudo-composants L et le codage des pseudo-composants U, dois-je les cocher ? J'ai essayé de standardiser manuellement tous mes prédicteurs, mais ils ne seraient plus un mélange (la somme n'est pas égale à 1) et JMP ne signale pas R2.
De plus, après avoir construit le modèle de mélange avec un VIF élevé, pensez-vous qu'il est logique de rapporter les plages de mes ratios de prédicteur avec le modèle ? Habituellement, je ne prouvais que le min-max pour éviter l'extrapolation.
Re : Comment gérer la multicolinéarité lors de la régression d'un modèle de mélange multipleTout d'abord, une précision. Pour les modèles de mélange de Scheffe, il EXISTE une interception. Il n'est pas affiché car il est combiné avec les estimations des principaux paramètres d'effet. Ce n'est PAS un modèle sans interception. Vous pouvez confirmer que vous ajustez un modèle de Scheffe en consultant le tableau Analyse de la variance. Il devrait indiquer "Test par rapport au modèle réduit : Y = Moyenne". Si ce n'est pas le cas, vous n'ajustez pas un modèle de mélange de Scheffe comme vous le pensez.
Passons maintenant aux VIF élevés. Ceci est TRÈS courant pour un modèle de mélange. Il y a peu de choses à faire pour cela. Tout d'abord, utilisez-vous des valeurs codées en pseudo-composants ? Si la conception a été créée dans JMP, cela devrait être utilisé automatiquement. Vous pouvez voir si le codage des pseudo-composants est utilisé en examinant les estimations des paramètres. Vous devriez voir quelque chose comme (X1-c)/d où c et d sont des constantes. Si vous ne voyez pas cela, vous pouvez activer la propriété de colonne de codage de pseudocomposant, puis ajuster votre modèle.
Même avec un codage en pseudo-composants, les VIF peuvent être très élevés. Plus les composants de votre mélange sont contraints, plus les VIF seront élevés. Bien que des VIF élevés ne soient pas souhaitables, l'objectif d'un modèle de mélange est la prédiction. Vous pouvez toujours obtenir de bonnes prédictions à partir du modèle. Rappelez-vous que c'est le but ultime. Les VIF élevés entraîneront des erreurs standard plus élevées pour les estimations des paramètres, ce qui affecte les tests. Réduire le modèle serait plus difficile, mais vous pouvez utiliser le modèle pour la prédiction.
