Salut @HelenaG
Merci pour les questions. Je pense que Predictor Screening est un excellent outil et je suis heureux que vous le trouviez utile. Au lieu de répondre à votre question individuelle, permettez-moi d'expliquer un peu plus en détail ce qui se passe dans cette analyse.
L'analyse Predictor Screening exécute un modèle de partition Bootstrap Forest (avec 100 arbres de décision par défaut), puis classe les prédicteurs en fonction de leur contribution au modèle. En bref, l'analyse Bootstrap Forest calcule la moyenne de nombreux arbres de décision. Pour créer un arbre, il faut un amorcer échantillon d'observations et ajuste récursivement un modèle en effectuant des scissions avec un ensemble aléatoire de prédicteurs. Cela continue jusqu'à ce qu'une règle d'arrêt soit satisfaite. Ensuite, un autre arbre est créé avec un nouvel ensemble d'observations bootstrap et des fractionnements de prédicteurs aléatoires. Une fois que tous les arbres ont été créés, ils sont moyennés dans une "forêt" d'arbres (d'où le nom).
De retour à la sortie du filtrage des prédicteurs, la colonne de contribution fournit la somme des carrés pour une réponse numérique continue et G^2 pour une réponse catégorique. La colonne de la portion est la contribution du prédicteur individuel divisée par la somme de toutes les contributions. Ce n'est pas la même chose que la variance expliquée par chaque prédicteur individuel.
Pour en savoir plus sur ces plateformes, je vous recommande de lire le Modèle de partition et Forêt Boostrap aperçus dans la documentation.
-Scott
Salut @nick_shelton,
Grâce à votre présentation, j'utilise le dépistage Predictor et je suis vraiment satisfait des résultats. Concernant cette plateforme, je demande maintenant votre expertise approfondie sur les points suivants :
1. Comment est calculée la part qui est présentée dans les résultats du JMP pour le dépistage des prédicteurs ? Je veux dire, en termes de Bootstrap Forest (BF), que signifie cette partie et comment la valeur spécifique est-elle atteinte ? (J'écris un article scientifique à l'aide de cela et j'aurais besoin de ce détail).
2. En termes d'interprétation, j'ai compris que cette partie explique le pourcentage de variabilité d'une réponse (rendement) expliquée par un prédicteur. Est-ce correct?
3. Toujours dans la plate-forme de filtrage des prédicteurs, que signifie "colonne de contribution" ?Comment est-il calculé en termes d'algorithme BF?
Merci d'avance, Nick!
Nick Shelton @nick_shelton , responsable de JMP SE, a présenté ce sujet dans le passé et j'ai retiré les anciennes vidéos.J'ai emprunté un commentaire qu'il a fait au spectateur @HelenaG parce qu'il peut être pertinent pour toute personne visionnant cette vidéo et Q&A par JMP SEs Scot Allen @scott_allen et Byron Wingerd @Byron_JMP :
Hélène a demandé :
J'aimerais mieux comprendre ce qui suit : toutes les étapes liées à l'identification et à l'évaluation des interactions (avec les outils de dépistage des réponses et de régression pas à pas) sont basées sur une hypothèse linéaire - est-ce exact ? Si oui, y a-t-il une suggestion pour vérifier les interactions non linéaires ?
Nick a écrit :
J L'identification des interactions est mieux réalisée par l'expertise du domaine et une compréhension scientifique/physique connue des variables analysées.
Lorsque les interactions entre les variables ne sont pas bien comprises, la personnalité du modèle "Response Screening" dans Fit Model fonctionne bien pour quantifier la force entre les termes d'interaction individuels et la variable de réponse.
La personnalité du modèle "Régression pas à pas" dans Fit Model fonctionne bien pour identifier la meilleure combinaison de termes (Ex : effets principaux, interactions...) à utiliser pour un modèle potentiel.
Le terme modèle "linéaire" fait référence à la façon dont la formule du modèle est structurée, mais les personnalités des modèles "Response Screening" et "Stepwise Regression" dans Fit Model peuvent également être utilisées pour explorer des relations non linéaires.
Nous pouvons inclure des effets et des interactions non linéaires dans une analyse en ajoutant des termes polynomiaux.
Dans Ajuster le modèle, vous pouvez explorer toutes les relations polynomiales (non linéaires) en ajoutant le terme correspondant dans la zone Effets du modèle (Ex : Relation quadratique (x1*x1), Relation cubique (x1*x1*x1), Interaction quadratique (x1* x1*x2)...)
Pour plus d'informations sur les polynômes et sur la manière dont ils peuvent aider à comprendre les relations entre les variables, veuillez regarder la courte vidéo ci-dessous :
https://community.jmp.com/t5/Short-Videos/Fitting-Polynomial-Models/ta-p/271953
Découvrez comment utiliser des techniques statistiques simples pour identifier les variables et interactions importantes dans vos données, avant de créer des modèles de prédiction très performants et de découvrir des informations supplémentaires.
https://www.youtube.com/watch?v=8ENEPPHMphI
Découvrez comment :
- Comprendre les prérequis à prendre en compte avant de commencer à identifier les variables importantes
- Nettoyer et préparer les données à l'aide de Column Viewer
- Identifiez et décidez comment gérer les valeurs aberrantes et les données manquantes à l'aide d'Explorer les valeurs manquantes, d'Explorer les valeurs aberrantes et d'Explorer les modèles.
- Assurez-vous que l'ensemble de données est la meilleure représentation du système que vous envisagez d'étudier <
- Utilisez les distributions dans les en-têtes de colonnes et le générateur de graphiques pour explorer les données et visualiser les tendances.
- Effectuer une analyse multivariée pour identifier variables corrélées
- Utilisez le dépistage des réponses pour identifier les variables les plus importantes qui affectent la réponse
- Utiliser Predictor Screening (méthodes d’arbre de décision) pour tester de nombreux facteurs permettant de prédire une réponse
- Utiliser l'analyse multivariée pour identifier les variables avec une corrélation élevée
- Regroupez les variables pour regrouper les variables corrélées et identifie la variable unique la plus représentative
- Utilisez Ajuster le modèle > Criblage des réponses et Régression pas à pas pour rechercher des interactions et des termes d'ordre supérieur en fonction de vos variables importantes et uniques.
Questions répondues par Scott @scott_allen et @Byron_JMP lors du webinaire en direct de juin 2023.
Q : Comment avez-vous « désélectionné » dans le générateur de graphiques ?
R : Cliquez sur l'espace blanc du graphique, pas sur un marqueur.
Q : Pourriez-vous développer davantage votre explication concernant la valeur P et son rang ? Qu'est-ce que cela signifie, son haut par rapport à son bas, à quoi s'attendre lorsque nous voyons certaines valeurs ou tendances, etc.
R : Pour la valeur p et la plupart des statistiques, considérez .De plus, lorsque vous êtes dans JMP et que vous souhaitez de l'aide sur une statistique (ou tout autre élément affiché).Sélectionnez Outils > ? et cliquez sur la zone (dans ce cas, l'en-tête de colonne de valeur p) pour laquelle vous souhaitez obtenir de l'aide.Regarde aussi ce explication.
Q : En quoi la plate-forme de sélection de prédicteurs est-elle différente du modèle de forêt aléatoire ?
R : Dans JMP, nous appelons Random Forest Forêt d'amorçage (car Random Forest est une marque déposée). C'est la même chose. Predictor Screening n'inclut pas de modèle, seulement le classement.
Q : Étant donné que l'écran du prédicteur ne vous indique pas que le pourcentage de variation est attribué à chaque prédicteur individuel, existe-t-il une autre plate-forme qui fait exactement cela ?
R : Le rapport de sélection des prédicteurs affiche la liste des prédicteurs avec leurs contributions et leur classement respectifs. Les prédicteurs ayant les contributions les plus élevées sont susceptibles de jouer un rôle important dans la prédiction de Y. La colonne Contribution affiche la contribution de chaque prédicteur au modèle Bootstrap Forest. La colonne Portion du rapport indique la contribution en pourcentage de chaque variable.
Q : L'analyse multivariée peut-elle avoir des nombres de corrélation absolus au lieu de -1 à 1 ?
R : Oui et non. Le tableau est une matrice de coefficients de corrélation qui résume la force des relations linéaires entre chaque paire de variables de réponse (Y). Voir méthodes multivariées .
Q : Comment sélectionneriez-vous les variables les plus importantes si vous aviez des variables indépendantes continues, binomiales (oui/non) et ordonnées (faible, moyenne, élevée) ?
R : Oui, vous pouvez utiliser toutes ces méthodes : sélection des prédicteurs et sélection des réponses.
Q : Utilisez-vous parfois la régression pas à pas ? JMP propose-t-il toutes les régressions de sous-ensembles possibles ?
R : Voir détails sur la régression pas à pas .
Q : Une grande partie de mes données contiennent plusieurs réponses, et je trouve que cela limite certaines choses que je peux faire dans JMP. Effectuez-vous un nettoyage spécial des données à réponses multiples, ou les travaillez-vous telles quelles ? Je fais référence à une propriété de colonne « Réponse multiple » (une liste de plusieurs points de données). Je suppose qu'il est plus facile de les diviser en deux colonnes différentes, mais je voulais voir s'il existe une meilleure façon.
R : Oui, nous vous laissons stocker plusieurs réponses dans une cellule en tant que, mais pour les analyser, il est correct de les diviser en différentes colonnes.
Q : Comment les méthodes arborescentes se comparent-elles au PLS ou au PCA ?
R : Avec PCA ou PLS, nous essayons de représenter toutes les données avec ce plus petit nombre de variables latentes.Vous essayez de trouver un nombre réduit de dimensions pouvant représenter toutes les données. C’est différent des méthodes basées sur les arbres, qui vous aident à déterminer ce qui explique réellement quelque chose. Les méthodes arborescentes supplantent PCA et PLS pour mieux construire. Les méthodes arborescentes sont fantastiques pour la modélisation des données, mais sont très sensibles aux changements et peuvent être surajustées dans de nombreux cas. Avec les méthodes basées sur les arbres où vous prenez un échantillon aléatoire des lignes et un échantillon aléatoire des colonnes chaque fois que vous créez un nouvel arbre, cela le rend vraiment robuste aux valeurs aberrantes et est capable de modéliser des interactions similaires et des quadratiques similaires. ou des cubes, s'ils existent dans les données. Vous n’êtes donc pas obligé de faire beaucoup d’hypothèses.
Q : Puis-je utiliser le filtrage des prédicteurs et le filtrage des réponses pour les variables dépendantes qui sont numériques et mes variables indépendantes sont continues, binomiales et ordonnées.
R : Oui.
Découvrez comment :
- Utilisez JMP Partition pour identifier les facteurs importants
- Avec précision et automatiquement tous les effets d'interaction du modèle
Modeling Workflow with Factor SelectionModeling Workflow with Factor SelectionFlux de travail de modélisation avec sélection de facteurs
PRIME: Scott Allen @scott_allen et Byron Wingerd @Byron_JMP a également répondu aux questions après la démo de 2022 !
Q : Existe-t-il un didacticiel vidéo pour les outils aberrants ?
R : C'est un bon document qui couvre le Explorer les valeurs aberrantes outil dans JMP.Vous pouvez également travailler à travers le documentation et exemples .
Q : Pourquoi ne vous débarrasseriez-vous pas d’abord des variables corrélées ?
R : La présence de variables corrélées éclaire souvent la méthode de modélisation. PLS, par exemple, est plus robuste aux X corrélés. De plus, la commande peut être une préférence. Vous pouvez procéder dans les deux sens : filtrage des prédicteurs puis regroupement ou vice versa.Sachez que le clustering peut être un peu imprécis lorsque vous avez beaucoup de valeurs manquantes ou de colonnes qui ne changent pas (comme le paramètre d'un instrument).Parfois, un nettoyage et une préparation supplémentaires des données sont nécessaires si vous souhaitez démarrer avec le clustering.
Q : Comment décideriez-vous de l'algorithme de prédiction ?
R : C'est une question complexe et la réponse dépend de votre situation. La plupart du temps, un modèle linéaire sera le plus simple et le plus informatif. D'autres méthodes permettent de contourner des problèmes spécifiques liés aux données ou aux objectifs d'analyse.
Q : Pourquoi les termes linéaires sont-ils si fortement recommandés ?Si ma corrélation est Y=X^2, pourquoi JMP continue-t-il d'essayer d'ajouter le terme X ?
R : Cela concerne l’hérédité des effets. Parfois, vos conditions d’ordre supérieur sont significatives mais ne constituent pas l’effet principal. Donc, vous voulez conserver l’effet principal.Par exemple, si vous supprimez l'effet principal, dans le fichier de prédiction, vous ne verrez pas la pente changer, vous verrez simplement la courbure et vous obtiendrez une prédiction moins bonne.
Q : Pour le dépistage des prédicteurs, les données des facteurs et les réponses doivent-elles être collectées dans le même ordre (paires) ou des données collectées de manière aléatoire (non appariées) peuvent être utilisées.
R : L'ordre n'a pas vraiment d'importance, mais pour l'analyse multivariée, nous aimons souvent ajouter des Y dans un groupe.L'ordre dans lequel vous les ajoutez à Y est l'ordre dans lequel il sera affiché dans la matrice.
Q : L'analyse de régression multilinéaire des facteurs X (600 colonnes) aiderait-elle à déterminer quelles colonnes X contribuent le plus au rendement ?
R : Si vous effectuez simplement une régression linéaire sur 600 colonnes, vous diluez réellement ce qui explique votre Y. Les méthodes arborescentes telles que Partition fonctionnent très bien pour essayer de déterminer laquelle de ces 600 colonnes vous y amène. Lorsque Scott a montré Predictor Screening, il a pris un échantillon aléatoire de lignes et de colonnes et construit un arbre, le fait 100 fois et fait la moyenne sur ces cent arbres pour vous donner le résultat.Avec Partition, vous pouvez forcer les choses à se produire, vous pouvez forcer les décisions à se produire à différents endroits ou suivre quelque chose au fur et à mesure qu'il se divise. Vous pouvez ensuite consulter le rapport sur l'importance des écarts, ou
l'historique des divisions et les modifications de R-Square.Cet exemple est trop volumineux pour faire cela, mais vous donnera une idée de la façon d'utiliser la partition.
Q : Si les 600 régressions linéaires distinctes diluent le pouvoir explicatif de votre modèle, est-ce la raison pour laquelle Response Screening utilise la correction FDR (False Discovery Rate) dans ces statistiques récapitulatives (que Scott a montrées et raccourcies en ordre croissant auparavant) pour essayer de compenser cela ?
R : Par hasard, vous allez trouver des choses qui sont vraiment bonnes, vous voulez essayer de les filtrer. Nous ne voulons pas trouver des choses par hasard, seuls, donc FDR aide à corriger cela.J'insiste sur AIDE, car aucun modèle n'est parfait. De même, tous les modèles arborescents, dans les situations où vous avez plusieurs linéarités, sont meilleurs lorsque vous essayez d'abord de séparer la variance et de trouver les variables qui sont vraiment les plus importantes au lieu de tout jeter dans le modèle.Parfois tu peux créer des modèles d'ensemble à l'aide de JMP Pro .
Q : Existe-t-il d'autres méthodes pour procéder ainsi avec JMP Pro ?
UN; Oui, y compris en utilisant le Complément XGBoost .Voir ci-dessous.
