920431_fr-FR

liliconcom

Ajustement RSM efficace et régression pas à pas sur de grands ensembles de données DoE en quelques clics dans JMP Pro

Bonjour à tous,

Je travaille avec un très grand jeu de données de plans d'expériences (DoE) dans JMP Pro et je souhaite l'analyser rapidement en limitant au maximum les interventions manuelles. Étant encore novice sur JMP Pro, j'ai jusqu'à récemment principalement analysé des études DoE à l'aide de la méthode des moindres carrés. Par conséquent, malgré la lecture de la documentation et des tutoriels, je ne suis toujours pas certain(e) de la méthode la plus efficace pour ma tâche actuelle.

Mon dispositif expérimental comprend trois facteurs et une vingtaine de réponses, regroupées selon différents traitements. Je souhaite ajuster un modèle de surface de réponse (MSR) pour chaque réponse et les analyser de manière cohérente.

Mes principales questions sont :

1. Existe-t-il un moyen d'exécuter une régression pas à pas ou un ajustement RSM plus efficacement sans avoir à cliquer sur « Go » à chaque étape ?

2. Existe-t-il dans JMP des outils ou des options permettant des flux de travail semi-automatisés ou en un seul clic pour plusieurs réponses (par exemple, les préréglages Fit Definitive Screening / Fit Model, les boîtes de dialogue de modèle ou d'autres raccourcis) ?

3. Question subsidiaire : si une automatisation complète est nécessaire, le scripting (JSL) ou le traitement par lots seraient-ils les meilleures solutions pour une mise à l’échelle optimale ? Si oui, existe-t-il des points de départ ou des modèles recommandés pour les débutants ?

Mon objectif est d'accélérer autant que possible les étapes d'évaluation et de réajustement du modèle, idéalement sans programmation lourde.

Merci d'avance pour votre aide et vos suggestions.

Modélisation statistique avancéeAutomatisation et scriptageExploration et visualisation des donnéesConception des expériencesPersonnalisation de masseModélisation prédictive et apprentissage automatiqueRe : Ajustement RSM efficace et régression pas à pas sur de grands ensembles de données DoE en un minimum de clics dans JMP Pro

Il est pratiquement impossible de vous donner des conseils précis avec les informations que vous avez fournies. Pourriez-vous joindre le protocole expérimental ? Ou au moins le code correspondant ?

Excusez-moi, votre question me laisse un peu perplexe. Votre message laisse entendre que vous disposez d'un seul grand jeu de données de plans d'expériences (DOE). Or, je ne suis pas certain de comprendre, car vous n'avez que trois facteurs. Pourquoi mettre en place un flux de travail ? Quoi qu'il en soit, la première étape de toute expérience consiste à déterminer si la variation générée est suffisante d'un point de vue pratique. Les variables de réponse ont-elles suffisamment varié pour justifier l'analyse de l'expérience ? Si oui, l'étape suivante consiste à effectuer une corrélation multivariée des nombreuses variables Y. Parallèlement, vérifiez la présence de valeurs aberrantes à l'aide du test de Mahalanobis. Selon le nombre de variables Y corrélées (si elles le sont, l'analyse sera identique), il peut être nécessaire d'ajuster les variables Y séparément. La méthode pas à pas n'est pas adaptée à l'analyse des DOE. Elle est conçue pour les données historiques ou observationnelles lors de la recherche d'un modèle. Dans le cadre d'un DOE, vous avez un modèle en tête (ou vous devriez en avoir un), et l'outil « Ajuster le modèle » est donc la plateforme appropriée.

Re: Ajustement RSM efficace et régression pas à pas sur de grands ensembles de données DoE en un minimum de clics dans JMP Pro

Salut Statman,

Merci pour ces précisions. Je vais vous expliquer ma configuration plus en détail :

Je travaille avec un plan expérimental RSM à trois facteurs, mais pour chacun de ces facteurs, j'ai mesuré 25 réponses différentes. Ces réponses sont regroupées en cinq groupes de traitement (à l'aide du rôle « Par »). Ainsi, bien que l'espace factoriel soit restreint, le nombre total de combinaisons réponse/traitement est important. De plus, je dispose de plusieurs jeux de données de ce type (cinq plans d'expériences au total), ce qui augmente considérablement le nombre d'étapes d'analyse répétitives.

Je comprends parfaitement que cet ensemble de données serait utile et j'aimerais beaucoup le partager, mais je ne peux pas le partager ici en raison des accords de confidentialité, et l'anonymisation n'est malheureusement pas possible non plus.

J'ai généré les modèles à l'aide de l'outil Custom Designer de JMP et j'utilise la plateforme Fit Model pour l'analyse. Mon intention était de choisir la méthode de personnalité par étapes plutôt que la méthode des moindres carrés ordinaires afin d'introduire plus d'objectivité en utilisant les critères AIC/BIC plutôt qu'une sélection basée sur la p-valeur, et de réduire le nombre de clics puisqu'il suffit de cliquer sur le bouton « GO ». La méthode de personnalité par étapes ajuste toujours un modèle polynomial à mes données, mais de manière plus automatisée, avec moins de biais et sans être uniquement basée sur la p-valeur.

Cependant, le problème pratique est que pour chaque réponse dans chaque groupe de traitement, je dois encore cliquer à plusieurs reprises sur le bouton « Lancer ». Avec de nombreuses réponses et plusieurs ensembles de données, cela devient extrêmement chronophage. Ma question est simplement de savoir si cette partie du processus peut être automatisée ou accélérée.

Mon objectif final est d'ajuster toutes les réponses, de les évaluer et de générer des profils de prédiction à l'aide de la plateforme d'ajustement DOE. Je préfère ne pas supprimer les valeurs aberrantes au préalable, car je souhaite les évaluer après l'ajustement et éviter ainsi de biaiser l'analyse dès le départ.

La question fondamentale demeure donc :
Existe-t-il un moyen d'exécuter Stepwise (ou Fit Model) sur plusieurs réponses et groupes de traitement sans cliquer manuellement sur « Go » pour chaque réponse, que ce soit par le biais des raccourcis d'interface utilisateur existants ou par l'exécution de scripts/par lots ?

Cela réduirait considérablement le nombre de clics manuels nécessaires.

Ce contexte supplémentaire permet-il de répondre à ma question concernant le flux de travail ?

J'analyse des plans d'expériences (DoE) depuis plusieurs années avec JMP, en utilisant toujours la méthode traditionnelle des moindres carrés. Maintenant que je possède la version JMP Pro, j'espère bénéficier de nouvelles options permettant de gagner du temps.

Re : Ajustement RSM efficace et régression pas à pas sur de grands ensembles de données DoE en un minimum de clics dans JMP Pro

Avez-vous essayé d'utiliser CTRL+clic sur « GO » ?
Utiliser CTRL avant une action permet de la diffuser à tous les boutons/cases similaires. Cela permet également de modifier simultanément les paramètres d'estimation par étapes pour toutes les réponses.

Cependant, les remarques de Bill concernant la sélection par étapes restent pertinentes. Si vous avez créé un plan d'expériences (DoE) avec la plateforme Custom Design, cela signifie que vous disposez d'un modèle a priori pour ce scénario expérimental. Il est conseillé de l'utiliser en premier lieu, puis d'utiliser d'autres méthodes de modélisation (avec prudence) comme modèles concurrents afin de comparer leurs performances et d'en évaluer les avantages et les inconvénients.

Re : Ajustement RSM efficace et régression pas à pas sur de grands ensembles de données DoE en un minimum de clics dans JMP Pro

Salut Victor,

Tout d'abord, merci pour votre aide comme toujours !!

Merci, cette petite combinaison est vraiment utile ici.
Concernant votre commentaire sur la restriction du modèle d'ajustement, je suis un peu perplexe.
Si j'ai bien compris, la régression linéaire standard avec sélection manuelle de la valeur p ainsi que la régression par étapes ajustent un modèle polynomial à mes données, les termes du modèle polynomial étant spécifiés dans la boîte de dialogue du modèle (dans mon cas, il s'agit d'un RSM avec).
J'ai trouvé cette très bonne vidéo : (Maîtriser JMP) Déploiement des méthodes de régression par étapes dans JMP et JMP Pro - YouTube.
et cette explication : 11.2 - Régression pas à pas | STAT 462

Les différences entre la régression linéaire par les moindres carrés et la régression pas à pas sont bien expliquées ici. De prime abord, il me semble que c'est assez similaire, à ceci près que la régression pas à pas utilise non seulement la sélection de la p-valeur, mais aussi le critère BIC (ou AIC), ce qui est logique. En effet, la question de savoir quelles variables sont importantes pour le modèle sans en augmenter la complexité (en résumé :-)) permet d'éviter les biais subjectifs liés à la p-valeur et d'automatiser l'ensemble du processus de construction du modèle, ce qui le rend plus objectif. Êtes-vous d'accord ?

Ma question reste sans réponse, je vais donc la reposter ici et en ajouter d'autres :

1) Existe-t-il un moyen pratique et rapide d'automatiser la construction de modèles DoE dans JMP Pro pour d'énormes ensembles de données avec des tonnes de réponses (conception simple réalisée avec un concepteur personnalisé, par exemple RSM, conception personnalisée, etc.) ?
2) La régression par étapes est-elle une option envisageable ici ?
3) Comme je n'ai besoin que du profil de prédiction final regroupant toutes mes réponses, je rencontre un autre problème : comment sauvegarder ce profil sans avoir à refaire toute l'analyse ? Si je le sauvegarde actuellement sous forme de script, je dois tout recommencer, car le profil de prédiction n'est pas sauvegardé après la construction du modèle.
4) Dans JMP Pro, l'option de régression générale est automatiquement présente dans ma fenêtre de script et je peux l'utiliser (l'infobulle précise qu'il s'agit de la méthode par défaut pour toutes les régressions linéaires). Quel est l'avantage de cette option par rapport à la régression linéaire classique ou à la régression pas à pas ? Comment automatiser l'analyse dans le générateur de modèles de régression générale (l'option Ctrl+clic ne fonctionne pas) ?

Merci d'avance pour votre aide ! Je suppose que la question de l'automatisation de l'analyse DoE et de la modélisation de vastes ensembles de données n'est pas seulement un problème auquel je suis confronté et pourrait aider beaucoup de personnes !

Re : Ajustement RSM efficace et régression pas à pas sur de grands ensembles de données DoE en un minimum de clics dans JMP Pro

La meilleure façon d'analyser une RSM est d'utiliser des graphiques de contours. Si vous êtes à l'étape d'optimisation, qui est l'objectif de la RSM, vous devriez déjà connaître l'importance des effets de modèle du premier et du second ordre.

Lors de l'ajustement d'un modèle et de l'évaluation de sa pertinence, la p-valeur n'est qu'une des statistiques à utiliser (et seulement si vous comprenez le contexte du calcul de l'erreur quadratique moyenne et que ce contexte est représentatif). Avant toute chose, vérifiez l'intégrité des données (plusieurs méthodes permettent de le faire). Ensuite, évaluez la pertinence pratique. Il est également nécessaire d'évaluer le R² ajusté (plus il est élevé, mieux c'est), la différence entre le R² et le R² ajusté (plus elle est faible, sinon le modèle est surspécifié), et l'erreur quadratique moyenne (plus elle est faible, mieux c'est). Enfin, évaluez toujours les implications pratiques. Le modèle est-il utilisable ?

Franchement, votre situation n'est pas très complexe. L'analyse ne devrait pas prendre beaucoup de temps (j'ai déjà fait un test avec 3281 réponses).

Vous pouvez créer un flux de travail, mais les étapes peuvent varier en fonction de ce que vous découvrirez au fur et à mesure.

https://www.jmp.com/support/help/en/19.0/?os=mac&source=application#page/jmp/workflow-builder.shtml

Re : Ajustement RSM efficace et régression pas à pas sur de grands ensembles de données DoE en un minimum de clics dans JMP Pro

Salut Statman,

Merci encore pour vos explications. Je comprends bien le point de vue classique de la méthodologie des plans d'expériences : dans une méthodologie de surface de réponse à trois facteurs, le modèle est prédéfini, l'accent est mis sur l'optimisation plutôt que sur la recherche du modèle idéal, et des indicateurs comme le R² ajusté, l'erreur quadratique moyenne et la pertinence pratique sont importants pour évaluer l'adéquation du modèle. Je partage ce point de vue.

Mon problème ne réside pas dans les statistiques, mais dans la charge de travail concrète. Dans mon domaine (l'étude de la stabilité des protéines), je travaille souvent avec une vingtaine de réponses par jeu de données (niveaux d'agrégation, variants de charge, taille hydrodynamique, Tm, etc.), regroupées par traitement. Le protocole expérimental reste le même (trois facteurs), mais le comportement de la réponse varie d'une protéine à l'autre. Je ne peux donc pas simplement réutiliser un modèle de Workflow Builder ; chaque jeu de données protéiques doit être évalué individuellement, même si la structure du modèle quadratique est identique.

Je comprends également les tracés de contours ou de surfaces pour la RSM. Ils sont utiles pour l'intuition. Mais ils sont essentiellement qualitatifs, car ils montrent la surface prédite en 2D :

y_hat(x1, x2 | x3 = constante)

où

• y_hat est la réponse prédite par le modèle,

• x1, x2, x3 sont les trois facteurs,

• et « | x3 = constante » signifie simplement que x3 est maintenu fixe.

Cela convient pour une seule réponse, mais avec 20 à 25 réponses, il devient difficile de fonder les décisions uniquement sur des graphiques de contours.

En pratique, je privilégie l'outil de profilage des prédictions (et la désirabilité) car il me permet d'évaluer et d'optimiser quantitativement plusieurs réponses simultanément. Par exemple, pour k réponses, j'ai des valeurs prédites y1_hat, y2_hat, …, yk_hat, chacune associée à sa propre fonction de désirabilité d1(y1_hat), d2(y2_hat), …, dk(yk_hat). La désirabilité globale que je cherche à optimiser est :

D(x) = (d1 * d2 * … * nsp)^(1/k)

avec x = (x1, x2, x3).
Cela me permet d'optimiser numériquement les paramètres des facteurs pour plusieurs mesures de stabilité simultanément. C'est quelque chose que les surfaces de contour/d'erreur ne peuvent pas faire facilement lorsque le nombre de réponses est élevé.

Le problème fondamental n'est donc pas la méthodologie, mais le temps passé à cliquer. Pour passer des données brutes au profilage et aux décisions basées sur la désirabilité, il me faut actuellement plus d'une heure par jeu de données, rien que pour exécuter le même modèle quadratique pour chaque réponse. Sur plusieurs jeux de données, cela représente quatre ou cinq heures de clics répétitifs, même si la définition du modèle reste inchangée.

Workflow Builder ne résout pas ce problème pour moi, car même si les facteurs restent identiques, chaque ensemble de données protéiques donne des réponses différentes et je dois toujours examiner l'adéquation du modèle individuellement.

C’est pourquoi je recherche une méthode plus efficace, idéalement via JSL, pour :

• parcourir une liste de colonnes de réponse,

• appliquer le même modèle RSM quadratique dans Fit Model et optimiser en minimisant par exemple p ou en maximisant R2 ajusté,

• et générer automatiquement des profils (et des indicateurs de désirabilité)

sans avoir à appuyer sans cesse sur le bouton « Exclure ».

Ma question est simple : existe-t-il une méthode dans JMP Pro pour automatiser ce processus ? Si vous connaissez un modèle JSL ou un exemple de script adapté, cela me serait d'une grande aide. Je souhaite respecter les bonnes pratiques du DOE et limiter les clics manuels.

Re : Ajustement RSM efficace et régression pas à pas sur de grands ensembles de données DoE en un minimum de clics dans JMP Pro

Existe-t-il une corrélation entre les variables de réponse ? Si oui, cela pourrait alléger la charge de calcul. Si les variables Y ne sont pas corrélées, il faudra revoir les priorités. Les modèles seront différents. Je ne sais pas comment écrire un script qui intègre un raisonnement logique et rationnel à la prise de décision concernant l'amélioration des modèles. Il existe peut-être un code permettant d'être plus efficace, mais je ne le connais pas.

Si c'était moi, j'étudierais ce qui différencie chaque protéine et pourquoi/comment les facteurs devraient être définis différemment pour chaque protéine (peut-être que les protéines peuvent être catégorisées ?), mais je ne suis pas un expert.

Re : Ajustement RSM efficace et régression pas à pas sur de grands ensembles de données DoE en un minimum de clics dans JMP Pro

Bonjour, vous pouvez gagner du temps en enregistrant un script Fit Model et en le répétant pour toutes les réponses. Ainsi, vous n'aurez plus besoin de cliquer sur « Go » à répétition. Au fait, je suis Al Salman, responsable marketing chez Premium Crystal. Si vous recherchez une location de voiture sans dépôt à Dubaï , nous avons la solution idéale. Nous proposons des locations de voitures à Dubaï sans dépôt, pour une réservation plus simple et plus économique.

Re : Ajustement RSM efficace et régression pas à pas sur de grands ensembles de données DoE en un minimum de clics dans JMP Pro

Salut @DualARIMACougar ,

Comme l'a souligné @statman dans ses réponses, de nombreuses métriques permettent d'évaluer et de comparer les modèles, selon vos objectifs et l'orientation de la modélisation (explicative, prédictive, mixte, etc.). Vous pouvez consulter des discussions antérieures sur ce vaste sujet : Analyse de plans en parcelles divisées avec plan factoriel complet vs RSM / meilleur modèle / signification statistique / … Pour des objectifs d'optimisation, vous pourriez privilégier les performances prédictives par rapport aux performances d'autres métriques ; dans ce cas, l'erreur quadratique moyenne (RMSE) et les critères d'information (AICc, BIC, … afin d'éviter d'utiliser des modèles trop complexes pour la tâche prédictive) pourraient constituer des indicateurs pertinents.
Je pense également qu'au lieu de créer plusieurs modèles, chacun pour une protéine différente, ces différentes protéines pourraient être utilisées comme facteur catégoriel dans le modèle, les autres facteurs étant imbriqués dans la nature/le type de protéine. Si vous disposez de caractérisations/mesures numériques de ces protéines, ou si vous pouvez utiliser leurs structures chimiques pour les différencier et calculer des descripteurs moléculaires, vous pouvez les regrouper en fonction de ces valeurs (pour mieux comprendre les différences et les similitudes de leurs résultats), ou utiliser ces valeurs comme covariables pour créer votre modèle (afin de vous assurer d'avoir un échantillon de protéines qui couvre et est représentatif de la diversité de la population protéique étudiée). L'utilisation de facteurs continus au lieu de facteurs catégoriels contribue à élargir l'espace d'inférence. Vous pouvez consulter ces deux présentations pour vous inspirer : « Increase Efficiency and Model Applicability Domain » et « Testing Options That are at First Lance Multilevel Catégoriegorical Factors ».
Codage avec des variables continues et mixtes pour explorer davantage l'espace d'entrée (2022-US-45MP-1103)

Plus vous automatisez la phase de modélisation, plus votre analyse risque d'être sujette aux erreurs et aux risques (et plus vous devrez examiner et valider les résultats de modélisation et de prédiction avec soin). Par exemple, vous pouvez ajuster plusieurs dizaines de modèles dans JMP pour vos réponses, mais vous devez tout de même évaluer la validité de chaque modèle, notamment en ce qui concerne la validité des hypothèses de régression .

Cependant, concernant vos autres points, je peux vous suggérer d'autres options :

• Si vous utilisez JMP Pro, je vous recommande la plateforme de régression généralisée , avec les méthodes d'estimation « Normal Pruned Forward » et « Two Stage Forward » , et le critère AICc (vous pouvez utiliser CTRL+clic pour appliquer le même type de modèle à toutes vos réponses). Les modèles obtenus avec ce type de modélisation sont souvent très satisfaisants, et je dois approfondir l'analyse lorsque certaines métriques semblent faibles ou si les résidus présentent un comportement anormal (non aléatoire/non normal). Si vous ajustez plusieurs réponses, vous pouvez activer le Profiler pour toutes les réponses (icône en forme de triangle rouge) une fois les modèles ajustés, ainsi que d'autres types de Profiler. Vous pouvez également enregistrer ces formules de prédiction dans votre tableau ou dans Dépôt de formules . En cas de plusieurs modèles concurrents, utilisez la plateforme de comparaison de modèles (directement depuis Formula Depot ou dans le menu « Modélisation prédictive ») pour mieux évaluer et comparer les modèles.
• Si plusieurs de vos réponses sont corrélées, vous pouvez également utiliser la modélisation de régression par les moindres carrés partiels , qui peut exploiter les corrélations entre vos Y pour mieux modéliser le lien entre les X et les Y.
• Puisque votre priorité est probablement la performance prédictive, vous pouvez également envisager d'ajuster un modèle flexible à l'aide de différentes techniques d'apprentissage automatique, telles que les processus gaussiens , les machines à vecteurs de support ou les forêts aléatoires . Ces modèles sont plus faciles à mettre en œuvre, reposent sur des hypothèses moins nombreuses ou moins restrictives, mais nécessitent un effort particulier pour définir une stratégie de validation appropriée afin d'éviter le surapprentissage. La plateforme de sélection de modèles peut également s'avérer utile pour examiner, comparer et sélectionner rapidement plusieurs modèles d'apprentissage automatique. Cependant, si vos conceptions sont basées sur un modèle de réponse de surface du second ordre, ces options de modélisation pourraient ne pas être optimales.
• Enfin, puisque vous utilisez un plan d'expériences optimisé, vous souhaitez optimiser plusieurs réponses grâce aux facteurs identifiés. Dans un premier temps, vous pourriez essayer de réduire et de visualiser l'espace des réponses à l'aide d' une ACP, d'autres projections multivariées (non linéaires) comme UMAP ou d'une analyse multidimensionnelle , afin de mieux comprendre les similarités et les compromis de vos expériences. Si vous disposez de données de référence, vous pouvez les ajouter au tableau avant de lancer ce type d'analyse, afin de visualiser et d'extraire les distances entre vos expériences et ces données. Une fois l'espace des réponses réduit, vous pouvez ajuster des modèles à ces réponses « agrégées » transformées.

Une fois vos modèles ajustés aux réponses, vous pouvez utiliser le simulateur pour générer des points de données synthétiques dans votre espace expérimental et utiliser la formule de prédiction de vos modèles pour prédire les valeurs de réponse (afin de voir dans quelle mesure elles correspondent à vos objectifs), ou même enregistrer et utiliser les colonnes de formule de désirabilité pour chaque réponse afin de calculer les désirabilités sur cet ensemble de données synthétiques et de mieux mettre en évidence le front de Pareto optimal des meilleurs candidats (données synthétiques ou expériences réelles) : les points de données qui présentent la meilleure valeur de désirabilité globale pour différents compromis/importances de réponses.

J'espère que ces suggestions pourront vous aider.
Profitez des fêtes de fin d'année !