Analyse d'un DOE de mélange avec régression pas à pasDans les études de cas Mixture (webcast & bibliothèque de documentation JMP), je remarque que la régression vers l'arrière est utilisée pour analyser les résultats. Pourquoi la régression pas à pas n'est-elle pas utilisée avec la régression directe ou tous les modèles possibles dans JMP standard (non Pro) ? Stepwise n'est-il pas possible en raison de la nature particulière des modèles de mélange ?
Conception d'expériencesRe : Analyse d'un mélange DOE avec régression pas à pasVoici mes réflexions, principalement de nature philosophique :
Ma première pensée est de NE PAS faire par étapes pour la conception expérimentale, jamais.L'expérience est conçue pour étudier des facteurs et un modèle prédit pour ces facteurs (par exemple, premier ordre, premier ordre plus second ordre, etc.). Le modèle doit être prédit a priori.Stepwise est une procédure pour découvrir des relations qui peuvent ne pas être connues ou prédites.
Les conceptions de mélange, pour la plupart, sont des conceptions d'optimisation.Autrement dit, les composants du mélange sont déjà connus pour être importants et vous essayez maintenant de trouver la meilleure "zone" de la surface pour opérer.Vous devez déjà connaître les termes du modèle et optimiser ces termes.Il peut aussi être une bonne quantité de colinéarité dans les conceptions de mélange, ce qui rend difficile l'étape par étape.
Re : Analyse d'un mélange DOE avec régression pas à pasComment alors trouver le meilleur modèle, régression arrière ? Tous les modèles possibles en stewise ?...
Re : Analyse d'un mélange DOE avec régression pas à pasL'approche dépend grandement de l'endroit où vous vous situez dans le continuum des connaissances (par exemple, sélection, optimisation, si vous expliquez ou prédisez). Lors de l'expérimentation dans la phase de dépistage, je recommande en effet de commencer par le modèle complet (saturé si possible) et d'en supprimer les termes insignifiants (construction de modèles à rebours ou soustractif).Lorsque vous optimisez, les questions sont un peu différentes (comme, en général, les conceptions de mélange).Vous devriez déjà avoir une bonne idée du 1er et du 2ème ordre linéaire et non linéaire.La signification statistique est moins importante (elle a déjà été établie).Vous « affinez » le réglage du niveau.
Re : Analyse d'un mélange DOE avec régression pas à pasSalut @frankderuyck ,
Je suis d'accord avec le point de vue "philosophique" de @statman concernant la régression pas à pas, plus orientée pour les ensembles de données "non conçus" afin de découvrir certains facteurs et effets en l'absence de modèle a priori.Les techniques traditionnelles de sélection de modèles utilisant des valeurs de p ne sont pas utiles pour les mélanges : en raison de la multicolinéarité entre les effets estimés (alias entre les effets), les erreurs types des estimations sont assez importantes, ce qui entraîne des valeurs de p trompeuses et déformées.
Pour les conceptions de mélange (basées sur un modèle), la régression progressive vers l'avant peut être possible, mais avec des garanties et des précautions (par exemple, effets principaux de la force dans le modèle et pas d'interception). Deux options peuvent être intéressantes à considérer pour les conceptions de mélanges, et mises en évidence par le Dr Philip J. Ramsey dans l'une de ses présentations, " Stratégies d'analyse pour les expériences de mélange contraint et de processus de mélange à l'aide de JMP Pro 14 " :
- Sélection directe traditionnelle utilisant la méthode du pseudo-facteur de Miller
- Sélection directe traditionnelle à l'aide d'un amorçage à pondération fractionnaire et d'une validation automatique : SVEM dans JMP Pro, plate-forme de régression généralisée (Gotwalt et Ramsey)
Le Dr Ramsey ne recommande pas l'utilisation de "Tous les modèles possibles" pour les mélanges en partie en raison de la nécessité de forcer les termes de composants purs dans chaque modèle. D'un point de vue pragmatique et pratique, la méthode "Tous les modèles possibles" peut être très exigeante en termes de calculs (et peu efficace), car tous les modèles possibles avec un nombre variable d'effets sont construits, quelle que soit la hiérarchie et l'hérédité entre les effets. Il y a donc une assez grande partie des modèles créés qui ne sont peut-être pas très intéressants (et pertinents) à considérer, mais qui sont toujours créés et évalués de manière agnostique et "force brute".
Puisqu'il existe un modèle a priori supposé pour les conceptions de mélanges basées sur un modèle, la régression vers l'arrière est plus sûre à utiliser avec une méthode de validation basée sur un critère d'information comme AICc (plate-forme de régression généralisée dans JMP Pro, ou Backward Stepwise dans JMP).
Puisque vous vous intéressez plus aux performances prédictives qu'au filtrage des facteurs, vous pouvez également faire "manuellement" la régression vers l'arrière, en partant du modèle complet avec tous les effets supposés du modèle (JMP, Standard Least Squares), et supprimer des termes tant que cela aide RMSE (erreurs de prédiction) du modèle à diminuer.
Pour les conceptions de mélange indépendantes du modèle (comme les conceptions Space-Filling), l'utilisation de méthodes d'apprentissage automatique, efficaces et performantes en interpolation, peut être très utile pour construire un modèle prédictif sur les points distribués de manière homogène (mais le surajustement peut arriver rapidement) : SVM , réseaux de neurones, k-plus proches voisins, processus gaussien, ...
A la fin, des runs de validation peuvent être nécessaires afin de valider et d'estimer les performances prédictives du modèle.
J'espère que cette réponse supplémentaire vous aidera,
Re : Analyse d'un mélange DOE avec régression pas à pasJ'ai vu dans les webinaires que le diagramme de Pareto -logworth(p-value) est utilisé pour la régression vers l'arrière ; si les valeurs p ne conviennent pas aux mélanges, est-ce correct ? Remarque : Je dois donner une formation aux utilisateurs professionnels non jmp afin de ne pas pouvoir utiliser l'apprentissage automatique généralisé.
Re : Analyse d'un mélange DOE avec régression pas à pasJ'analyse un DOE à trois facteurs FLA 1, FLA 2 et FLA 3 basé sur un modèle de Scheffé cubique complet. En poussant le bouton standard des moindres carrés et en essayant de supprimer les paramètres à faible effet en utilisant la régression vers l'arrière sur le logworht pareto (valeurs P pour l'analyse de mélange ?), j'obtiens le résultat ci-dessous : dois-je également supprimer tous les effets sélectionnés ou uniquement les effets non contenus ?
J'ai également fait l'analyse avec "Tous les modèles possibles" dans Stepwise et j'obtiens un très beau modèle basé sur le classement AICC, peut-être un mauvais modèle (la régression en arrière basée sur la valeur P générera-t-elle un bon modèle ...?) cependant très utile pour spécifier paramètres de sortie Y optimaux !
Je suis tout à fait d'accord qu'en raison de la forte colinéarité dans l'analyse des mélanges, une colonne de validation est nécessaire et que l'utilisation d'outils de régression généralisée et d'outils d'apprentissage automatique réels est la bonne approche ; Je vais regarder de près SVEM. Quant à mes formations DOE utilisateurs non pro je dois m'appuyer sur des méthodes classiques ; "Tous les modèles possibles" n'ont pas l'air trop mal, comme indiqué ci-dessus ? Bien sûr, pour les cas plus complexes, avec > 3 effets de processus de composants de mélange donnant trop de modèles, une approche séquentielle est définitivement nécessaire ; cependant, en raison de la forte colinéarité, faire une bonne sélection de paramètres pour passer à l'étape séquentielle suivante sera assez difficile.
Re : Analyse d'un mélange DOE avec régression pas à pasSalut @frankderuyck ,
Peu importe si votre DoE est factorielle ou mixte, s'il y a un modèle supposé a priori, vous devez respecter les trois principes du Design of Experiments :
- Effet clairsemé : Le principe de parcimonie des effets fait en fait référence à l'idée que seuls quelques effets dans une expérience seront statistiquement significatifs. La majeure partie de la variation de la réponse s'explique par un petit nombre d'effets, il est donc très probable que les effets principaux (facteur unique) et les interactions à deux facteurs soient les réponses les plus significatives dans une expérience factorielle. On l'appelle aussi le principe de Pareto.
- Hiérarchie des effets : Le principe de hiérarchie stipule que plus le degré d'interaction est élevé, moins l'interaction expliquera la variation de la réponse. Par conséquent, les effets principaux expliquent plus de variation que les interactions à 2 facteurs, les 2FI expliquent plus de variation que les 3FI, … la priorité doit donc être donnée à l'estimation des effets d'ordre inférieur.
- Hérédité de l'effet : Semblable à l'hérédité génétique, le principe d'hérédité d'effet postule que les termes d'interaction ne peuvent être considérés que si les termes ordonnés précédant l'interaction sont significatifs. Ce principe a deux implémentations possibles : fort ou faible hérédité. Forte hérédité implique qu'un terme d'interaction ne peut être inclus dans le modèle que si les deux effets principaux correspondants sont présents. Faible hérédité implique qu'un terme d'interaction est inclus dans le modèle si au moins un des effets principaux correspondants est présent.
Dans votre cas, lorsque vous essayez de supprimer ces effets, vous êtes en conflit avec le principe d'hérédité des effets : vous ne pouvez pas supprimer l'effet principal FLA1 et l'interaction FLA2xFLA3 à moins d'avoir déjà supprimé tous les autres termes d'effet contenant ces termes. Donc ici, vous devriez les garder.
Comme indiqué précédemment, la création de modèles basés uniquement sur la valeur p pour les conceptions de mélange peut être très trompeuse.
La deuxième option que vous avez essayée avec le critère AICc (ou BIC ?) semble plus raisonnable, car AICc (ou BIC) est un critère d'information essayant de "balancer" la complexité du modèle avec sa précision (plus elle est faible, mieux c'est).
En ce qui concerne vos captures d'écran, il semble que les modèles avec un nombre plus élevé de termes peuvent être utiles dans votre cas, car le modèle numéro 9 a un RMSE inférieur et un BIC inférieur. Cela peut également corriger le tracé des résidus qui semble montrer une sorte d'hétéroscédasticité (résidus plus grands pour un score de saveur plus élevé).
En espérant que ce commentaire supplémentaire vous aidera,
Re : Analyse d'un mélange DOE avec régression pas à pasSalut Victor, je suis tout à fait d'accord sur vos principes d'héridité et c'est pourquoi dans ce cas, la régression arrière basée sur les valeurs p ne fonctionne pas ici.J'ai donc utilisé All Possible Models avec une sélection AICC avant avec de très bons résultats. Je travaille maintenant sur un autre cas de mélange avec une variable de processus et la méthode de tous les modèles possibles génère un modèle - peut-être faux - mais très utile ! Pour les utilisateurs non professionnels de JMP, je recommande d'utiliser par étapes toutes les méthodes de modèle possibles pour l'analyse DOE de mélange.
Re : Analyse d'un mélange DOE avec régression pas à pasHmmm, vous avez une ou deux expériences de mélange et concluez " Je recommande d'utiliser toutes les méthodes de modèle possibles par étapes pour l'analyse DOE du mélange".Je vous suggère d'être prudent avec cette recommandation ou, comme le dit Danial, vous aurez l'échec de la "généralisation prématurée".
Re : Analyse d'un mélange DOE avec régression pas à pasAu moins, les modèles que j'obtiens satisfont à la déclaration pragmatique de Cox "Mauvais mais utile pour atteindre mon objectif" Quelle est la meilleure alternative dans le pro régulier, non JMP? Ces modèles seront-ils meilleurs ?
Re : Analyse d'un mélange DOE avec régression pas à pasPour les utilisateurs professionnels, je recommande définitivement les méthodes d'apprentissage automatique avec validation
Re : Analyse d'un mélange DOE avec régression pas à pasMa notion a peut-être été exprimée précédemment dans cette discussion, mais je veux l'énoncer explicitement. Tout d'abord, nous ne testerions pas les estimations des principaux paramètres d'effet. Pourquoi pas? La contrainte selon laquelle les proportions des composants s'additionnent à un a des ramifications au-delà des mathématiques du modèle linéaire. Un effet est un changement dans la réponse lorsqu'un facteur change de niveau. Les changements dans les niveaux de facteur sont indépendants dans une expérience sans mélange, de sorte que l'effet de la modification d'un facteur est déterminé de manière unique dans une expérience correctement conçue. Il est impossible de changer un composant du mélange indépendamment de tous les autres composants. Nous ne pouvons donc pas attribuer l'effet de manière unique à un composant dans une expérience de mélange.
Deuxièmement, nous ne pouvons pas tester les estimations des principaux paramètres d'effet. JMP teste de manière incorrecte l'estimation du paramètre pour les effets principaux par rapport à une hypothèse nulle selon laquelle le paramètre est égal à zéro. Le paramètre d'effet principal est la réponse moyenne plus la variation moyenne de la réponse d'un mélange pur, de sorte que l'hypothèse nulle est la réponse moyenne et non nulle. De plus, les tests conjoints sont impossibles car la réponse moyenne fait partie de tous les paramètres d'effet principaux.
La véritable réponse moyenne dans cet ensemble de données simulées est de 20. Les véritables paramètres de l'effet principal, qui incluent la réponse moyenne, sont 10, 20 et 30 pour X1, X2 et X3, respectivement. Les paramètres sont significativement différents de 0, mais c'est la mauvaise hypothèse nulle. Chacune des estimations de l'effet principal est signalée par la note que les tests sont confondus.
Nous ne posons pas de questions sur les effets principaux, mais nous pouvons et devons poser des questions sur les termes d'ordre supérieur car ils nous renseignent sur la forme de la surface et sont testables.
Re : Analyse d'un mélange DOE avec régression pas à pasTrès intéressant Marc, quelle méthode d'analyse des résultats du mélange DOE recommandez-vous pour les non-utilisateurs de JMP pro ? Dans mon exemple ci-dessus, la régression vers l'arrière avec le logworth pareto n'a pas fonctionné ; AICc vers l'avant avec stewise tous les modèles possibles ont bien fonctionné.
Re : Analyse d'un mélange DOE avec régression pas à pasJe ne recommande pas une méthode particulière pour sélectionner le modèle linéaire pour une expérience de mélange. je réitère @statman le conseil de tout considérer a priori connaissances lors de la conception de l'expérience et à nouveau lors de l'analyse de l'expérience.
Re : Analyse d'un mélange DOE avec régression pas à pasCela signifie que nous devrions nous concentrer sur les points intérieurs du diagramme ternaire en essayant d'estimer les termes d'ordre supérieur ? Donc, un DOE de remplissage d'espace est une meilleure option que d'essayer d'estimer un modèle d'interaction bidirectionnelle ?
Re : Analyse d'un mélange DOE avec régression pas à pasJe suis entièrement d'accord et c'est ce que j'ai fait dans mon exemple ci-dessus, ai-je utilisé la bonne approche ?
Re : Analyse d'un mélange DOE avec régression pas à pasJuste pour clarifier comment les points sont générés lors de l'utilisation d'un plan optimal de mélange (avec le cas de 3 facteurs de mélange) :
- Les points aux sommets permettent d'estimer les principaux paramètres d'effets,
- Les points au milieu des arêtes aident à estimer les interactions à 2 facteurs.
- Le point au centre est utilisé pour l'interaction au 3ème degré.
La conception de remplissage d'espace crée des points répartis de manière aléatoire et homogène dans l'espace expérimental, en l'absence de tout modèle a priori.
Si vous avez déjà une idée du type de modèle que vous utiliserez (comme un modèle d'interaction bidirectionnelle), une conception optimale peut être plus utile et efficace, car la génération de points sera optimisée pour l'estimation des paramètres des termes d'effet que vous avez spécifié dans votre modèle supposé (contrairement au "caractère aléatoire" de la génération de points de conception remplissant l'espace).
Les conceptions de remplissage d'espace sont utiles en l'absence de toute connaissance a priori sur un modèle possible, avec une probabilité de surface de réponse non linéaire, et ont plus de flexibilité concernant les possibilités de modélisation en cas de points non mesurables (problèmes de stabilité , valeurs très hautes ou basses, ...).
J'espère que cela clarifiera la différence entre l'utilisation de ces deux types de méthodologies.Re : Analyse d'un mélange DOE avec régression pas à pasSupposons que vous testiez un mélange avec 5 composants et que vous vouliez savoir quels composants ont un effet sur la réponse, comment filtrez-vous ces ingrédients efficaces ? Est-ce possible en raison de la confusion?
Re : Analyse d'un mélange DOE avec régression pas à pasJe suppose que même avec des conceptions de remplissage d'espace, le dépistage sera très difficile ?
Remarque : J'ai une vaste expérience dans le DOE sans mélange, donc mes questions ci-dessus peuvent sembler naïves pour les experts en mélange.Jusqu'à présent, ma conclusion est que le mélange DOE nécessite de l'expérience et que les méthodes d'analyse sont moins claires que le non-mélange, pour les scientifiques, cela semble peu artificiel. Je me prépare à beaucoup de questions dans une prochaine formation du DOE où les formulations sont importantes. Merci à tous pour vos contributions, c'est d'une grande aide !
Re : Analyse d'un mélange DOE avec régression pas à pasLes conceptions Space-Filling ont tendance à se concentrer un peu plus sur l'intérieur que sur les frontières de l'espace expérimental, et sur l'optimisation (ajustement du meilleur modèle prédictif grâce aux points de conception uniformément répartis et à une grande variété d'options de modélisation/algorithmes).
Les conceptions de mélange sont plus utilisées dans une stratégie d'optimisation pour trouver les meilleurs ratios de formulation pour des performances/réponses spécifiques, mais il existe des conceptions qui peuvent vous aider à « filtrer » les facteurs de mélange (ou au moins évaluer l'importance relative des facteurs de mélange entre eux, puisque la signification statistique n'est pas appropriée pour filtrer les effets ici, en raison de la multicolinéarité).
- Dans JMP, les plans ABCD peuvent être utiles pour comparer l'influence des facteurs de mélange (et l'exemple est assez proche du cas que vous avez mentionné avec 5 facteurs de mélange) : JMP-Exemple de conception ABCD
- Vous pouvez également utiliser un plan Simplex Centroïd avec un degré centroïde relativement bas (2 ou 3 par exemple) : JMP-Exemple de conception Simplex Centroid
En général, si vous n'êtes pas familier avec les designs Mixture, il y a beaucoup de ressources disponibles sur internet. Voici quelques exemples pour vous aider :
https://reliawiki.org/index.php/Mixture_Design
https://online.stat.psu.edu/stat503/lesson/11/11.3
https://www.lexjansen.com/sugi/sugi21/iv/138-21.pdf
J'espère que cette réponse vous aidera,
Re : Analyse d'un mélange DOE avec régression pas à pasMerci Viktor !
Re : Analyse d'un mélange DOE avec régression pas à pasSi le modèle d'ordre supérieur est « correct », la conception qui remplit l'espace n'est pas nécessairement « meilleure ». Pensez à une situation plus simple : un effet de premier ordre d'un seul facteur continu. Quelle est la meilleure conception à 10 passages ? Cinq passages au réglage bas et cinq passages au réglage haut. Une conception «remplissant l'espace» répartirait les exécutions sur plus de deux niveaux, ce qui n'est pas statistiquement efficace.
Une conception de remplissage d'espace pour les mélanges est avantageuse lorsque la réponse change rapidement dans une région étroite du simplexe et que la région est inconnue. Il s'agit d'une conception de dépistage avec une torsion pour les expériences de mélange.
Re : Analyse d'un mélange DOE avec régression pas à pasÀ mon humble avis, avant de former les autres à une méthodologie, vous devez maîtriser de nombreuses applications à votre actif. Je vous suggère de lire Cornell (Cornell est l'un des principaux experts en mélanges) pour commencer votre voyage vers la compréhension des mélanges.
Cornell, John (1990) " Expériences avec des mélanges, des conceptions, des modèles et l'analyse », Wiley (SBN : 047152221X)
Quelques papiers préférés :
Snee, Ronald D., Conception et analyse d'expériences de mélange , Journal de la technologie de la qualité, Vol. 3, n° 4, octobre 1971
Cornell, John, Intégration d'expériences de mélange dans des expériences factorielles , Journal de la technologie de la qualité , Vol. 22, n° 4, octobre 1990
Snee, Ronald D., Donald Marquart, Concepts et conceptions de criblage pour des expériences avec mélange s, Technométrie , Vol. 18, n° 1, février 1976
et notre propre Dan Obermiller's: Tips on JMPing into Mixture Experiments
Re : Analyse d'un mélange DOE avec régression pas à pasLe Modèle de mélange de Cox est une tentative d'aider un expérimentateur à répondre à cette question. Cela nécessite de spécifier un mélange de référence. Le modèle est utilisé pour déterminer les effets uniques de chaque composant.
Re : Analyse d'un mélange DOE avec régression pas à pasSincèrement merci pour ces refefence-mix ! Je vais creuser ce sujet difficile
Re : Analyse d'un mélange DOE avec régression pas à pasJ'ai vu dans une présentation de Louis Valente un excellent moyen d'étiqueter et de colorer les points de conception du mélange par une colonne Type de point, voir ci-dessous. Comment créez-vous cette colonne de type de point ?
Re : Analyse d'un mélange DOE avec régression pas à pasIl existe un script dans le dossier Sample Scripts (dans le dossier JMP sous \Samples\Scripts) qui fait cela.Le nom du script est "LabelMixturePoints.jsl".
Re : Analyse d'un mélange DOE avec régression pas à pasmerci pour vos réponses détaillées, qui m'ont donné envie de réfléchir à un travail de formulation.
comment vous suggérez de gérer s'il existe un terme inconnu du modèle, par exemple : je veux découvrir les effets, en particulier l'interaction bidirectionnelle due au nouvel ingrédient dans la formulation.Le but de l'étude s'apparente davantage à un dépistage qu'à une optimisation, une étape par étape conviendrait-elle dans ce cas ?
Re : Analyse d'un mélange DOE avec régression pas à pasJe suis confus par votre question. Vous dites « terme inconnu du modèle », puis vous dites que le terme est un nouvel ingrédient connu. J'expérimenterais sur le nouvel ingrédient avec une conception de mélange et j'utiliserais l'analyse des conceptions de mélange pour évaluer l'effet du nouvel ingrédient et les interactions possibles. Je n'utiliserais pas par étapes dans ce cas. Désolé d'être redondant, à mon humble avis, par étapes est utilisé pour exposer des facteurs qui n'ont pas été identifiés (par exemple, l'exploration de données), et non pour l'analyse d'expériences où les facteurs de l'étude sont connus.
