Les gens utilisent-ils parfois PLS sur des données historiques pour la sélection de variables afin de trouver des variables importantes comme entrées pour le DOE ?J'ai vu plusieurs webinaires JMP où ils utilisent la forêt Bootstrap pour trouver les variables VIP, généralement suivies d'un réseau élastique ou d'une régression pas à pas pour réduire davantage les termes qui pourraient être importants pour les futurs DOE ?
Je suis curieux de savoir si quelqu'un utilise la régression PLS dans le processus - peut-être après la forêt Bootstrap, pour identifier davantage les variables importantes ou corrélées avant de faire Elastic Net, etc., ou le fait qu'Elastic Net conserve/supprime des ensembles de variables corrélées annule-t-il la nécessité de cela ?
Je me demandais si quelqu'un utilisait cela dans son processus ? J'ai vu quelques webinaires où PLS était utilisé pour exploiter des données de processus biologiques.
Modélisation prédictive et apprentissage automatiqueRe : Les gens utilisent-ils parfois PLS sur des données historiques pour la sélection de variables afin de trouver des variables importantes comme entrées pour le DOE ?Salut @mjz5448 ,
Comme pour toutes les approches statistiques, la réponse la plus simple est « ça dépend ». Vous avez raison : Elastic Net effectue déjà efficacement la sélection des variables, ce qui évite d'avoir à appliquer la méthode PLS. L'autre avantage est que les coefficients du modèle dans les EN sont directement interprétables, ce qui permet de relier directement les prédicteurs à la variable de réponse. Il faut également tenir compte de l'objectif principal de la méthode PLS, qui est de produire un modèle prédictif et non explicatif (même si cela est possible, mais avec une complexité accrue en raison du chargement et des combinaisons linéaires de tous les facteurs). Pour sélectionner les facteurs du DOE, il est donc préférable d'utiliser une approche plus adaptée à la modélisation explicative qu'à la modélisation prédictive.
J'espère que cela aide, je suis sûr que d'autres ont des discussions précieuses à ajouter.
Merci,
Ben
Re : Les gens utilisent-ils parfois PLS sur des données historiques pour la sélection de variables afin de trouver des variables importantes comme entrées pour le DOE ?Il y a quelques années, lorsque je travaillais dans une grande entreprise chimique qui excellait dans le revêtement de matériaux sur un substrat (pensez aux films et papiers photographiques), nous utilisions constamment le PLS pour nous aider à concevoir des expériences pour les raisons suivantes :
1. Très petit nombre de cycles de fabrication avec de nombreux facteurs d'entrée. Pensez à des ensembles de données vastes et courts. Conçu sur mesure pour PLS.
2. Beaucoup de multicolinéarité entre les facteurs.
3. La véritable compréhension du processus s'est perdue au fil des siècles... nous fabriquons certains de ces produits depuis des dizaines d'années et le mantra habituel dans la fabrication est « faites-le comme la dernière fois »... parce que nous ne savons vraiment pas comment tout cela fonctionne.
4. Les méthodes de sélection de variables basées sur la régression pénalisée ou l'arbre n'étaient pas encore couramment utilisées dans les logiciels.
5. Et ce qui motive toute cette démarche, c'est que « La magie de la physique, de la chimie ou de la biologie n'a pas opéré hier soir lorsque nous avons essayé de faire (à compléter). Et nous n'avons aucune idée des causes profondes. »
Nous avons donc utilisé la méthode PLS pour identifier les facteurs clés, puis nous sommes allés dans des installations pilotes/à petite échelle pour mener des expériences planifiées afin de mieux comprendre les processus et d'identifier les causes profondes des modes de défaillance systémiques. Deux des ingénieurs avec lesquels j'ai travaillé avaient des dictons qui ont résonné en moi (en tant que statisticien au sein de nombreuses équipes de résolution de problèmes) : « Parfois, savoir ce qui n'est pas est aussi précieux que savoir ce qui est. » Et l'autre disait : « Tant qu'on ne peut pas activer et désactiver un mode de défaillance… on ne connaît pas la cause profonde. »
En bref, c'est la combinaison du PLS et du DOE qui nous a permis d'obtenir ce que nous recherchions. J'espère que cela vous sera utile.
Re: Les gens utilisent-ils jamais des pls sur des données historiques pour la sélection des variables pour trouver des variables importantes comme entrées pour DOE?Salut @mjz5448 ,
Je suis entièrement d'accord avec @P_Bartell sur l'utilisation des PLS, principalement dans les situations impliquant une colinéarité/corrélation entre les entrées et les sorties, où le nombre de variables d'entrée est supérieur au nombre d'expériences. Les moindres carrés partiels permettent de développer des modèles utilisant les corrélations entre les Y et les X.
Le PLS est un modèle fréquemment utilisé en chimiométrie pour l'analyse des données spectrales, car il présente un nombre très élevé de X corrélés (intensité pour chaque longueur d'onde, par exemple) et peu d'observations/expériences pour prédire certaines réponses. Dans ce cas, les corrélations entre X permettent d'obtenir un bon modèle prédictif grâce au PLS (avec une méthodologie de validation et de test appropriée). Ce type de modèle permet une interprétation et une explicabilité optimales. En chimiométrie, vous pouvez utiliser le graphique d'importance des variables et d'autres graphiques pour identifier les bandes/zones de longueurs d'onde importantes liées à une fonction/un groupe/une molécule chimique spécifique. L'utilisation du Profiler disponible sur cette plateforme permet également de visualiser de manière interactive l'importance des variables, et vous pouvez également calculer les indices de sensibilité de Sobol dans le Profiler grâce à l'option « Évaluer l'importance des variables ».
L'utilisation de toute méthode de modélisation doit être liée au niveau des connaissances antérieures, à vos objectifs et à votre contexte expérimental.
Lors des premières étapes de sélection, avec peu de connaissances préalables et peu d'essais, l'objectif est souvent d'identifier les effets importants, quelle que soit la précision des estimations (ces effets pouvant ensuite être confirmés et précisés par la collecte de données informatives via DoE). Dans ce cas, la régression pénalisée (Lasso, Ridge, Elastic Net, sélecteur de Dantzig) est souvent utile pour identifier les effets importants, au prix d'un biais accru dans les estimations. Notez que l'utilisation des différentes méthodes de pénalisation diffère selon vos hypothèses de parcimonie des effets : Lasso sélectionne les variables en imposant des estimations à 0 pour les variables corrélées, ce qui peut être judicieux si vous prévoyez un petit nombre de prédicteurs importants parmi un grand nombre de candidats. Une approche moins « agressive » serait Ridge, qui réduit la taille des effets corrélés sans effectuer d'estimation à 0 (en cas de plusieurs prédicteurs corrélés d'importance similaire), ou l'estimation Elastic Net, qui combine les pénalisations de Lasso et Ridge.
Si vous disposez de plus d'observations/expériences, vous pouvez essayer d'autres méthodes de sélection de caractéristiques qui ne reposent pas sur le biais/la pénalisation, comme la forêt aléatoire , ou l'utiliser comme option de filtrage des prédicteurs , en utilisant l'importance des caractéristiques (contribution des colonnes) pour identifier les caractéristiques les plus importantes/actives. Vous pouvez également utiliser le module complémentaire « Assistant de sélection de prédicteurs », qui facilite la sélection de variables grâce à une version améliorée de la fonction de filtrage des prédicteurs utilisant la méthode de sélection de caractéristiques Boruta et la forêt aléatoire.
Vous pouvez également vérifier les conversations connexes dans ces sujets:
Régression multiple avec variables corrélées
Quelle est la meilleure plate-forme JMP pour la sélection des fonctionnalités?
Existe-t-il un équivalent à la multicolinéarité pour les variables catégorielles dans JMP?
Je vous recommande de tester, comparer et (éventuellement) combiner les différentes approches de modélisation ci-dessus (et d'autres), et de comparer les modèles obtenus pour identifier les termes inclus et leurs similarités/différences. Cela pourrait vous aider à comprendre ce qui compte le plus.
J'espère que cette réponse vous aidera,
Re : Les gens utilisent-ils parfois PLS sur des données historiques pour la sélection de variables afin de trouver des variables importantes comme entrées pour le DOE ?Il n'existe pas d'outil ni de séquence d'outils unique et efficace qui puisse apporter une compréhension universelle. Chacun a sans doute son propre avis quant à l'outil le plus efficace ou efficient selon la situation. Quoi qu'il en soit, la réponse ne réside pas dans l'outil. La clé réside dans la pensée critique, qui nécessite des itérations.
On peut commencer par des hypothèses scientifiques ou techniques (par exemple, la thermodynamique, l'entropie). Si vous n'avez pas d'hypothèses, l'exploration de données peut s'avérer utile. J'utilise l'exploration de données assez largement. Il s'agit essentiellement d'examiner les données pour identifier des tendances (ou leur absence). Bien sûr, il est préférable de le faire graphiquement.
Il existe de nombreuses formes de régression visant à quantifier les relations (par exemple, la méthode des MCO, la méthode par étapes, la méthode PCR, la méthode de crête, la méthode ACP, la méthode PLS, etc.). Si ces méthodes demandent au chercheur d'expliquer les résultats, cela peut s'avérer très utile (par exemple, pourquoi tel facteur semble-t-il significatif ou non). Il s'agit de l'élaboration d'hypothèses (éventuellement évaluées dans le cadre d'expériences planifiées).
Juste quelques mots de prudence en utilisant des données historiques ou observationnelles.
1. Si un facteur a été jugé critique par le passé (quel que soit le moyen utilisé), des contrôles peuvent être appliqués pour limiter ses variations. L'analyse de ce facteur pourrait révéler son insignifiance dans une analyse de régression (il n'a pas beaucoup varié).
2. Des facteurs de confusion cachés peuvent être présents (des x qui n'ont pas été identifiés ou étiquetés dans l'ensemble de données).
3. La capacité de modéliser ce qui s’est passé ne signifie pas que nous pouvons prédire ce qui se passera.
4. L'extrapolation du modèle en dehors de la plage des x collectés, sans compréhension, pourrait êtredangereux.
5. La régression utilisée avec des données historiques ne prend pas en compte le contexte dans lequel les données ont été acquises (par exemple, connaissez-vous l'incertitude de mesure ?)
6. Peut être facilement affecté par des points de données « mauvais ».
