398679_fr-FR

liliconcom

Re : Contrôle de l'extrapolation dans le profileur de prédiction dans JMP Pro 16 (2021-US-45MP-838)

@MC17 Je suis heureux que vous ayez soulevé cette question importante.J'en ai parlé un peu dans l'exposé, mais je n'ai probablement pas assez insisté là-dessus.

 

Donc, ce que je pense que vous demandez, c'est pourquoi nous ne contrôlons que T2 et non DModX, comme c'est courant dans les modèles PCA/PLS.C'est ce que nous faisons au MDMCC, par exemple ( https://www.jmp.com/support/help/en/16.1/index.shtml#page/jmp/model-driven-multivariate-control-charts.shtml ). Si nous devions adopter une approche similaire, nous placerions probablement une limite de contrôle sur DModX, car les données d'entraînement auront toutes DModX > 0, donc l'astuce consiste à permettre aux prédictions de s'écarter de la manière dont les données d'entraînement le font, sans devenir trop fou .Si vous voulez DModX = 0, alors vous pouvez adopter l'approche d'Isaac Himanga ( https://community.jmp.com/t5/Discovery-Summit-Americas-2021/Optimizing-Multivariate-Models-From-Data-Collection-to-Optimal/ta-p/398760 ).

 

La réponse courte est que notre T2 régularisé est calculé sur les variables prédictives d'origine et ne vous oblige pas à diviser vos données en un composant de modèle et un composant d'erreur.Pour les modèles PCA/PLS, la régularisation se traduit par une contrainte similaire au contrôle de T2 et DModX, mais vous pouvez le faire avec une seule métrique, plus simple et plus facile à interpréter.

 

Dans les modèles PCA/PLS, T2 signale les prédictions avec des écarts importants par rapport à vos données d'entraînement dans le plan du modèle, tandis que DModX signale les prédictions avec des écarts importants par rapport au plan du modèle, comme le décrit votre scénario. Cela a du sens lorsque votre méthode de modélisation suppose une projection linéaire de faible dimension de vos données.Cependant, la plupart de nos méthodes de modélisation n'effectuent pas une telle projection. Nous voulons une approche cohérente sur toutes les plateformes pour diverses raisons (assemblage, etc.). Effectuer une projection linéaire peut ne pas être raisonnable si vous avez des relations non linéaires entre des variables, des variables catégorielles, etc. De plus, comment choisissez-vous le nombre de composants pour ces modèles ? Nous avons constaté dans nos évaluations que si une projection linéaire ne convient pas à vos données, les erreurs gonfleront votre limite de contrôle DModX et entraîneront une mauvaise protection contre l'extrapolation. Nous avons trouvé qu'une meilleure approche générale consistait à placer des contraintes d'extrapolation en utilisant T2 sur l'espace prédicteur d'origine, ce qui protège contre la violation de la structure de corrélation dans toutes les directions des données.

 

La régularisation de T2 accorde une grande importance aux variables fortement corrélées et une faible importance aux variables faiblement corrélées lors du contrôle de l'extrapolation, et fonctionne lorsque p>n.Il en résulte une contrainte similaire à T2 et DModX dans les modèles PCA et PLS. J'ai quelques résultats de simulation montrant comment la méthode fonctionne dans le livre blanc ci-joint.J'espère mettre à jour ceci avec une comparaison avec une approche T2 et DModX bientôt, et ajouter quelques discussions supplémentaires.J'ai commencé par montrer simplement que notre méthode fonctionne, que le papier est toujours un travail en cours.

 

Est-ce que ça a du sens? Je suis heureux de discuter davantage et d'entendre vos opinions/préoccupations à ce sujet.

Contrôle de l'extrapolation dans le profileur de prédiction dans JMP Pro 16 (2021-US-45MP-838)

Niveau : Intermédiaire

 

Laura Lancaster, JMP Principal Research Statistician Developer, SAS
Jeremy Ash, testeur de logiciels d'analyse JMP, SAS
Christopher Gotwalt, JMP Directeur de la recherche et du développement statistiques, SAS

 

L'extrapolation non contrôlée du modèle conduit à deux types d'erreurs graves : (1) le modèle peut être complètement invalide loin des données, et (2) les combinaisons de valeurs de variables peuvent ne pas être physiquement réalisables. L'utilisation du profileur pour optimiser des modèles adaptés aux données d'observation peut conduire à des solutions extrapolées qui ne sont d'aucune utilité pratique sans aucun avertissement. JMP Pro 16 introduit le contrôle d'extrapolation dans de nombreuses plates-formes de modélisation prédictive et dans la plate-forme Profiler elle-même. Cette nouvelle fonctionnalité du Prediction Profiler alerte l'utilisateur d'une éventuelle extrapolation ou évite complètement de dessiner des points extrapolés où le modèle peut ne pas être valide. De plus, l'utilisateur peut effectuer une optimisation sur une région contrainte qui évite l'extrapolation. Dans cette présentation, nous discutons de la motivation et de l'utilité du contrôle par extrapolation, montrons comment il peut être facilement utilisé dans JMP et décrivons les détails de nos méthodes.

 

 

Transcription générée automatiquement...

 

Conférencier	Transcription
Tim Pierce	Aller.
	D'accord, je vais passer en sourdine.
	Bonjour, je suis Chris Gotwalt. Mes co-présentateurs Laura Lancaster et Jeremy Ash et moi-même présentons une nouvelle fonctionnalité utile de JMP Pro appelée contrôle d'extrapolation.
	Presque tous les modèles avec lesquels vous voudriez prédire ont une plage d'applicabilité,
	une région de l'espace d'entrée où leurs prédictions sont considérées comme étant
	assez fiable. En dehors de cette région, nous commençons à extrapoler le modèle en deux points, loin des données utilisées pour ajuster le modèle. L'utilisation des prédictions de ce modèle à ces points pourrait conduire à des prédictions totalement non fiables.
Il existe deux sources principales d'extrapolation	extrapolation statistique et extrapolation par domaine. Les deux types sont couverts par la nouvelle fonctionnalité.
	L'extrapolation statistique se produit lorsque l'on tente de prédire à l'aide d'un modèle à un X qui n'est pas proche des valeurs utilisées pour entraîner ce modèle.
	L'extrapolation basée sur le domaine se produit lorsque vous essayez d'évaluer à un X qui est impossible en raison de
	ou des contraintes d'ingénierie. L'exemple ici illustre les deux types d'extrapolation dans un exemple. Ici, nous voyons un profileur à partir d'un modèle d'un processus de production métallurgique.
	La prédiction se lit à -2,96 sans aucune indication que nous évaluons à une combinaison de température et de pression qui est impossible
	dans un sens de domaine à atteindre pour cette machine. Nous avons également une extrapolation statistique car elle s'éloigne des données utilisées
	pour ajuster le modèle, comme le montre le nuage de points des données d'apprentissage sur la droite. Dans JMP Pro 16, Jeremy, Laura et moi avons collaboré pour ajouter une nouvelle fonctionnalité qui peut donner un avertissement lorsque le profileur pense que vous pourriez extrapoler.
	Ou si vous activez le contrôle d'extrapolation, il limitera l'ensemble de points que vous voyez uniquement à ceux qu'il ne pense pas extrapoler.
	Nous avons deux types de contrôle d'extrapolation.
	L'un est basé sur le concept d'effet de levier et utilise un modèle des moindres carrés. Ce premier type n'est disponible que dans la version Pro des moindres carrés du modèle fit.
	L'autre type, que nous appelons contrôle général d'extrapolation de l'apprentissage automatique, est disponible dans la plate-forme du profileur et plusieurs des plates-formes d'apprentissage automatique les plus courantes dans JMP Pro.
	Sur demande, nous pourrions même l'ajouter à mor. Le contrôle d'extrapolation par les moindres carrés utilise le concept d'effet de levier, qui est comme une version mise à l'échelle de la variance de prédiction. Il est basé sur un modèle et donc
	il utilise des informations sur les interactions des effets principaux et des termes d'ordre supérieur pour déterminer l'extrapolation.
	Pour le cas général de contrôle d'extrapolation de l'apprentissage automatique, nous devons proposer leur propre approche. Nous voulions une méthode robuste aux valeurs manquantes,
	les dépendances linéaires, un calcul plus rapide, peuvent gérer des mélanges de variables d'entrée continues et catégorielles, et nous voulions également explicitement séparer le modèle d'extrapolation du modèle utilisé pour ajuster les données.
	Ainsi, lorsque nous avons activé le contrôle général d'extrapolation, il n'y a qu'un seul modèle supervisé qui est... qui adapte les variables d'entrée aux réponses que nous voyons dans les traces du profileur.
	Le profil qui propose un modèle non supervisé rapide et sale pour décrire l'ensemble d'apprentissage Xs, et ce modèle non supervisé est utilisé en coulisse par le profileur pour déterminer la contrainte de contrôle d'extrapolation.
	Je dois donc changer parce que mon appareil photo PowerPoint ne s'entend pas en ce moment, pour une raison quelconque.
	Nous savons que des extrapolations risquées sont effectuées chaque jour par des personnes travaillant dans le domaine de la science des données et nous sommes convaincus que l'utilisation d'extrapolations conduit à de mauvaises prévisions et, finalement, à de mauvais résultats commerciaux.
	Le contrôle de l'extrapolation place des garde-fous sur les prédictions du modèle et conduira à de meilleures décisions quantifiables par les utilisateurs de JMP Pro.
	Lorsque les utilisateurs voient une extrapolation se produire, l'utilisateur doit décider si la prédiction doit être utilisée ou non, en fonction de sa connaissance du domaine et de sa familiarité avec le problème à résoudre.
	Si vous commencez à voir des avertissements de contrôle d'extrapolation se produire, c'est très souvent la fin du cycle de vie de ce modèle et le temps de le réadapter aux nouvelles données, car la distribution des entrées s'est éloignée de celle des données d'apprentissage.
	Nous sommes honnêtement assez surpris et alarmés que la nécessité d'identifier l'extrapolation ne soit pas mieux appréciée par la communauté de la science des données
	et ont rendu le contrôle de l'extrapolation aussi simple et automatique que possible. Laura, qui l'a développé dans JMP Pro, fera ensuite la démonstration de l'option. Ensuite, Jeremy, qui a effectué une grande partie des recherches dans notre équipe, abordera les détails mathématiques et la motivation statistique de l'approche.
	Bonjour. Je m'appelle Laura Lancaster et je suis ici pour faire une démonstration du contrôle d'extrapolation qui a été ajouté à JMP Pro 16. Je voulais commencer par un exemple assez simple utilisant la plate-forme des moindres carrés du modèle d'ajustement.
	Je vais utiliser des données qui peuvent être familières. Ce sont les données de fitness qui se trouvent dans les exemples de données.
	Et je vais utiliser l'absorption d'oxygène comme réponse et temps d'exécution, le pouls et le pouls max comme prédicteurs. Et je voulais réitérer que dans le modèle d'ajustement par les moindres carrés, la métrique d'extrapolation utilisée est l'effet de levier, alors allons-y et démarrons JMP.
	Alors maintenant, j'ai ouvert les données de fitness dans JMP et j'ai un script à enregistrer dans la table de données pour lancer automatiquement mon modèle d'ajustement des moindres carrés.
	Je vais donc aller de l'avant et exécuter ce script. Il lance la plateforme des moindres carrés.
	Et j'ai ouvert automatiquement le profileur et nous pouvons voir que le profileur ressemble à ce qu'il a toujours été dans le passé,
	où les limites des facteurs sont définies par la plage de chaque facteur individuellement, nous donnant des contraintes de limites rectangulaires.
	Et lorsque j'ai modifié les paramètres de facteur, en raison de ces contraintes liées, il peut être très difficile de dire si vous vous déplacez loin de la structure de corrélation des données.
	Et c'est pourquoi nous avons voulu ajouter le contrôle d'extrapolation. Cela a donc été ajouté à plusieurs plates-formes dans JMPs Pro 16,
	y compris l'ajustement des moindres carrés. Et pour accéder au contrôle d'extrapolation, vous allez dans le menu sous le menu du profileur. Donc, si je regarde ici, je vois qu'il y a une nouvelle option appelée contrôle d'extrapolation.
	Il est désactivé par défaut, mais je peux l'activer ou l'avertir pour activer le contrôle d'extrapolation. Si je l'active, notez qu'il restreint mes traces de profil pour n'aller qu'aux valeurs pour lesquelles je n'extrapole pas.
	Si je devais l'activer en avertissement, je verrais les traces complètes du profil, mais je recevrais un avertissement lorsque j'irais dans une région où cela serait considéré comme une extrapolation.
	Je peux également activer les détails d'extrapolation, ce que je trouve vraiment utile,
	et cela me donne beaucoup plus d'informations. Tout d'abord, cela me dit que ma métrique que j'utilise pour définir l'extrapolation est l'effet de levier, ce qui est vrai dans la plate-forme des moindres carrés d'ajustement,
	et le seuil qui est utilisé par défaut initialement va être un effet de levier maximal, mais c'est quelque chose que je peux changer et je vais vous le montrer dans une minute.
	De plus, je peux voir quelle est ma métrique d'extrapolation pour mes paramètres actuels. C'est ce nombre ici, qui changera au fur et à mesure que je changerai mes paramètres de facteur.
	Chaque fois que ce nombre est supérieur au seuil, je vais recevoir cet avertissement que je pourrais extrapoler. S'il descend en dessous, je ne recevrai plus cet avertissement.
	Ce seuil ne changera pas à moins que je modifie quelque chose dans le menu pour ajuster mon seuil. Alors laissez-moi aller de l'avant et le faire maintenant. je vais aller au menu,
	et je vais aller définir le critère des seuils. Ainsi, dans l'ajustement des moindres carrés, vous avez deux options pour le seuil. Initialement, il est réglé sur un effet de levier maximal, ce qui vous maintiendra dans le trou convexe des données,
	ou vous pouvez passer à un multiplicateur multiplié par l'effet de levier moyen ou les termes du modèle par rapport aux observations. Et je veux passer à ce seuil, donc il est réglé sur trois
	comme multiplicateur par défaut, cela va donc être trois fois l'effet de levier moyen. Cliquez sur OK et notez que mon seuil va changer. Il est en fait devenu plus petit, il s'agit donc d'une définition plus conservatrice de l'extrapolation.
	Et je vais le réactiver pour restreindre mes traces de profil, et maintenant je ne peux aller que dans les régions
	où je suis dans les trois fois l'effet de levier moyen.
	Maintenant, nous avons également implémenté une optimisation qui obéit aux contraintes d'extrapolation. Alors maintenant, si j'active la désirabilité définie
	et je fais l'optimisation,
	J'obtiendrai une valeur optimale qui satisfasse la contrainte d'extrapolation. Notez que cette métrique est inférieure ou égale au seuil.
	Alors maintenant, quand je passe à ma diapositive suivante, qui va comparer dans un graphique (une matrice de nuage de points), la différence entre la valeur optimale avec le contrôle d'extrapolation activé et avec celui-ci désactivé.
	Voici donc la matrice de nuage de points que j'ai créée avec JMP, et elle montre les données de variable de prédicteur d'origine, ainsi que les valeurs de variable de prédicteur
	pour la solution optimale sans contrôle d'extrapolation en bleu et la solution optimale avec contrôle d'extrapolation en rouge. Et remarquez comment la solution sans contrainte ici en bleu, à droite
	ici, viole la structure de corrélation des données d'origine pour l'impulsion d'exécution et l'impulsion maximale, augmentant ainsi l'incertitude de cette prédiction, alors que la solution optimale qui a utilisé le contrôle d'extrapolation est beaucoup plus conforme aux données d'origine.
	Regardons maintenant un exemple utilisant la méthode de contrôle d'extrapolation plus généralisée, que nous appelons méthode T au carré régularisée.
	Comme Chris l'a mentionné précédemment, nous avons développé cette méthode pour des modèles autres que les modèles des moindres carrés. Nous allons examiner un modèle neuronal pour les données sur le diabète qui se trouve également dans les exemples de données.
	La réponse est une mesure de la progression de la maladie et les prédicteurs sont les variables de base. Encore une fois, la métrique d'extrapolation utilisée pour cet exemple est le T carré régularisé que Jeremy décrira plus en détail dans quelques minutes.
	J'ai donc ouvert des données sur le diabète dans JMP et j'ai enregistré un script de mes ajustements de modèle neuronal. Je vais aller de l'avant et exécuter ce script.
	Il lance la plate-forme neuronale. Et notez que j'utilise la méthode de validation random hold back. Je voulais juste noter que chaque fois que vous utilisez une méthode de validation, le contrôle d'extrapolation est basé uniquement sur les données d'entraînement
	et non vos données de validation ou de test.
	J'ai donc ouvert le profileur et vous pouvez voir qu'il utilise toutes les traces. Le contrôle d'extrapolation n'est pas activé.
	Allons-y et allumez-le.
	Et je vais aussi activer les détails.
	Vous pouvez voir que les traces ont été restreintes et que la métrique est le T carré régularisé.
	Le seuil est de trois fois l'écart-type du T carré régularisé de l'échantillon. Jeremy va parler plus de ce que tout cela signifie exactement dans quelques minutes.
	Et je voulais juste mentionner que, lorsque nous utilisons la méthode T au carré régularisé, il n'y a qu'un seul choix pour le seuil, mais vous pouvez ajuster le multiplicateur. Alors si tu vas à
	contrôles d'extrapolation, seuils fixés, vous pouvez ajuster ce multiplicateur, mais je vais le laisser à trois. Et maintenant, je veux exécuter l'optimisation en utilisant
	contrôle d'extrapolation, donc je vais juste maximiser et me souvenir. J'ai maintenant une solution optimale avec le contrôle d'extrapolation activé.
	Et maintenant, je veux regarder notre matrice de nuage de points, tout comme nous l'avons vu auparavant avec les données d'origine, ainsi qu'avec les valeurs optimales avec et sans contrôle d'extrapolation.
	Il s'agit donc d'une matrice de nuages de points des données sur le diabète que j'ai créées dans JMP. Il a les valeurs de prédicteur d'origine,
	ainsi que la solution optimale utilisant le contrôle d'extrapolation en rouge et la solution optimale sans contrôle d'extrapolation en bleu. Et tu peux voir ça
	les points rouges semblent être beaucoup plus dans la structure de corrélation des données d'origine que les bleus. Et c'est particulièrement vrai lorsque vous regardez ce LDL par rapport au cholestérol total.
	Voyons maintenant un exemple utilisant le profileur qui se trouve dans le menu graphique, que j'appellerai le profileur graphique.
	Il utilise également la méthode du T carré régularisé et nous permet d'utiliser le contrôle d'extrapolation sur tout type de modèle pouvant être créé et enregistré sous forme de formule JSL. Cela nous permet également d'avoir un contrôle d'extrapolation sur plus d'un modèle à la fois.
	Prenons l'exemple d'une entreprise qui utilise la technologie de la métallurgie des poudres pour produire des arbres de transmission en acier pour l'industrie automobile.
	Ils veulent pouvoir trouver des réglages optimaux pour leur production qui minimiseront le retrait et minimiseront également les défaillances dues à de mauvaises conditions de surface. Nous avons donc deux réponses
	le retrait, qui est continu et nous allons ajuster le modèle des moindres carrés pour cela, et l'état de surface, qui est réussite/échec et nous allons ajuster un modèle logistique nominal pour celui-là.
	Et nos variables prédictives ne sont que quelques variables de processus clés en production. Et encore une fois, la métrique d'extrapolation est le T carré régularisé.
	J'ai donc ouvert les données de métallurgie des poudres dans JMP et j'ai déjà ajusté un modèle des moindres carrés pour ma réponse de retrait,
	et j'ai déjà adapté un modèle logistique nominal pour la réponse réussite/échec de l'état de surface. Et j'ai enregistré les formules de prédiction dans la table de données afin qu'elles soient prêtes à être utilisées dans le profileur graphique.
	Donc, si je vais dans le profileur du menu graphique, je peux charger la formule de prédiction du retrait, et ma formule de prédiction concerne l'état de la surface.
	Cliquez sur OK.
	Et maintenant, mes deux modèles sont lancés dans le profileur de graphes.
	Et, avant d'activer le contrôle d'extrapolation, vous pouvez voir que j'ai les traces complètes du profil. Une fois que j'ai activé le contrôle d'extrapolation,
	vous pouvez voir que les traces rétrécissent un peu. Et je vais aussi activer les détails
	juste pour montrer qu'en effet, j'utilise le carré T régularisé ici dans cette méthode.
	Donc ce que je veux vraiment faire, c'est trouver les conditions optimales où je minimise le rétrécissement et je minimise les échecs
	avec contrôle d'extrapolation activé. Je veux m'assurer de ne pas extrapoler. Je veux trouver une solution utile.
	Et avant de pouvoir faire l'optimisation, je dois en fait définir mes désirs. Je vais définir les désirabilités ; c'est déjà correct pour le retrait, mais je dois les régler pour l'état de surface.
	Je vais essayer de maximiser les passes et de minimiser les échecs.
	D'ACCORD.
	Et maintenant, je devrais pouvoir faire l'optimisation avec les contrôles d'extrapolation activés, maximiser et mémoriser.
	J'ai maintenant ma solution optimale
	avec contrôle d'extrapolation activé. Examinons maintenant à nouveau la matrice du nuage de points des données d'origine, ainsi que la solution avec le contrôle d'extrapolation activé et la solution avec le contrôle d'extrapolation désactivé.
	Il s'agit donc d'une matrice de nuage de points des données de métallurgie des poudres que j'ai créées dans JMP et qui contient également la solution optimale
	avec contrôle d'extrapolation sous forme de point rouge et la solution optimale sans contrôle d'extrapolation sous forme de point bleu. Et, encore une fois, vous pouvez voir que lorsque nous n'activons pas le contrôle d'extrapolation,
	la solution optimale est assez éloignée de la structure de corrélation des données. On peut notamment voir cela ici avec le rapport en fonction de la pression de compactage.
	Alors maintenant, je veux remettre la présentation à Jeremy pour entrer beaucoup plus dans les détails de nos méthodes.
	Salut. Voici donc un certain nombre d'objectifs pour le contrôle de l'extrapolation que nous avons définis au début du projet.
	Nous avions besoin d'une métrique d'extrapolation pouvant être calculée rapidement avec un grand nombre d'observations et de variables, et nous avions besoin d'un moyen rapide d'évaluer si la métrique indiquait ou non une extrapolation. Il s'agissait de maintenir l'interactivité des traces du profileur et
	nous en avions besoin pour effectuer l'optimisation.
	Nous voulons qu'il soit capable de prendre en charge les différents types de variables disponibles dans le profileur. Celles-ci sont essentiellement continues, catégoriques et ordinales.
	Nous voulions utiliser des observations avec des cellules manquantes car certaines méthodes de modélisation incluront ces observations et ???.
	Nous voulions une méthode robuste aux dépendances linéaires dans les données. Celles-ci se produisent lorsque le nombre de variables est supérieur au nombre d'observations, par exemple.
	Et nous voulions quelque chose qui soit facile à automatiser sans avoir besoin de beaucoup d'interventions de l'utilisateur.
	Pour les modèles des moindres carrés, nous avons atterri sur l'effet de levier, qui est souvent utilisé pour identifier les valeurs aberrantes dans les modèles linéaires.
	L'effet de levier pour le nouveau point de prédiction est calculé selon cette formule. Il existe de nombreuses interprétations de l'effet de levier. Une interprétation est que
	il s'agit de la distance multivariée d'un point de prédiction au centre des données d'entraînement. Une autre interprétation est qu'il s'agit d'une variance de prédiction mise à l'échelle, donc à mesure que le point de prédiction s'éloigne du centre des données, l'incertitude de la prédiction augmente.
	Et nous utilisons deux seuils communs dans la littérature statistique pour déterminer si cette distance est trop grande.
	Le premier est l'effet de levier maximal. Les points de prédiction au-delà de ce seuil sont en dehors du trou convexe des données d'apprentissage.
	Et le second est trois fois la moyenne des leviers. On peut montrer que cela équivaut à trois fois le nombre de termes du modèle divisé par le nombre d'observations.
	Et comme Laura l'a décrit plus tôt, vous pouvez modifier le multiplicateur de ces seuils.
	Enfin, lorsque les désirabilités sont optimisées, la contrainte d'extrapolation est une contrainte non linéaire. Et auparavant, le profileur permettait une optimisation contrainte avec des contraintes linéaires,
	mais ce type d'optimisation est plus difficile, Laura a donc mis en place un algorithme génétique. Et si vous ne les connaissez pas, les algorithmes génétiques utilisent les principes de l'évolution moléculaire pour optimiser des fonctions de coût complexes.
	Ensuite, je parlerai de l'approche que nous utilisons pour généraliser le contrôle d'extrapolation à deux modèles autres que les modèles linéaires.
	Lorsque vous construisez un modèle prédictif dans JMP, vous commencez avec un ensemble de variables prédictives et un ensemble de variables de réponse.
	Certains modèles supervisés sont entraînés, puis un profileur peut être utilisé pour visualiser la surface du modèle.
	Il existe de nombreuses variantes du profileur dans JMP. Vous pouvez utiliser le profileur en interne dans les plateformes de modélisation, vous pouvez générer des formules de prédiction et créer
	profileur pour plusieurs modèles, comme Laura l'a démontré. Vous pouvez créer des profileurs pour des modèles d'ensemble. Nous voulions une méthode de contrôle d'extrapolation qui se généraliserait à tous ces scénarios, donc au lieu de lier notre méthode à un modèle spécifique, nous allons utiliser une approche non supervisée.
	Et nous n'allons marquer un point de prédiction comme extrapolation que s'il se trouve bien en dehors de l'endroit où les données sont concentrées dans l'espace de prédiction. Et cela nous permet d'être cohérents entre les profileurs afin que notre méthode de contrôle d'extrapolation se connecte à n'importe quel profileur.
	L'interprétation de distance multivariée de l'effet de levier a suggéré le T carré de Hotelling comme distance pour le contrôle général de l'extrapolation. En fait, certaines manipulations algébriques montreront que le T carré de Hotelling est juste un effet de levier décalé et mis à l'échelle.
	Cette figure montre comment le T carré de Hotelling mesure l'ellipse sur laquelle repose une observation, où les ellipses sont centrées à la moyenne des données et la forme est définie par la matrice de covariance.
	Comme nous ne sommes plus dans des modèles linéaires, cette métrique n'a pas le même lien avec la variance de prédiction. Ainsi, au lieu de nous fier aux seuils utilisés dans les modèles linéaires, nous allons faire des hypothèses de distribution pour déterminer si
	T au carré pour le point de prédiction doit être considéré comme une extrapolation.
	Ici, je montre la formule du T de Hotelling au carré. La matrice de moyenne et de covariance est estimée à l'aide des données d'apprentissage du modèle.
	Si P est inférieur à N, où P est le nombre de prédicteurs et N le nombre d'observations,
	et si le prédicteur est en normale multivariée, alors T au carré pour un point de prédiction a une distribution F. Cependant, nous voulions une méthode pour
	généraliser les ensembles de données avec des types de données complexes, comme un mélange d'ensembles de données continus et catégoriels, où P est supérieur à N ;
	ensembles de données avec des valeurs manquantes. Ainsi, au lieu d'établir la distribution analytiquement dans chaque cas, nous utilisons une simple limite de contrôle conservatrice qui, selon nous, fonctionne bien dans la pratique.
	Il s'agit d'une limite de contrôle trois Sigma utilisant la distribution empirique de T au carré à partir des données d'apprentissage et, comme Laura l'a mentionné, vous pouvez également régler ce multiplicateur.
	Une complication est que lorsque P est plus grand que N, le T carré de Hotelling est indéfini. Il y a trop de paramètres dans la matrice de covariance à estimer avec les données disponibles.
	Et cela se produit souvent dans des cas d'utilisation typiques pour le contrôle d'extrapolation, comme dans les moindres carrés partiels. Nous avons donc décidé d'une nouvelle approche du calcul du T carré de Hotelling, qui traite ces cas et nous l'appelons un T carré régularisé.
	Pour calculer la matrice de covariance, nous utilisons un estimateur régularisé développé à l'origine par Schafer et Strimmer pour les données de génomique de grande dimension. Il s'agit simplement d'une combinaison pondérée de la matrice de covariance de l'échantillon complet, qui est ici U et d'une matrice cible de contrainte, qui est D.
	Pour le paramètre de poids Lambda, Schafer et Strimmer ont dérivé une expression analytique qui minimise l'EQM, l'estimateur asymptotiquement.
	Schafer et Strimmer ont proposé plusieurs matrices cibles possibles. La matrice cible que nous avons choisie était une matrice diagonale avec les variances d'échantillon des variables prédictives sur la diagonale. Cette matrice cible présente un certain nombre d'avantages pour le contrôle de l'extrapolation.
	Premièrement, nous ne supposons aucune structure de corrélation entre les variables avant de voir les données, ce qui fonctionne bien comme a priori général.
	De plus, lorsqu'il y a peu de données pour estimer la matrice de covariance, soit en raison d'un petit N ou d'une grande fraction manquante,
	la contrainte elliptique est étendue d'un poids important sur la matrice diagonale, ce qui donne un test plus conservateur pour le contrôle de l'extrapolation. Nous avons constaté que cela est nécessaire pour obtenir un contrôle raisonnable du taux de faux positifs.
	Pour dire les choses plus simplement, lorsque les données d'entraînement sont limitées, le T au carré régularisé est moins susceptible d'étiqueter les prédictions comme une extrapolation, ce que vous voulez car vous êtes plus susceptible d'observer des covariances par hasard.
	Nous avons des résultats de simulation démontrant ces détails, mais je n'ai pas le temps d'entrer dans tout cela. Au lieu de cela, sur la page Web de la communauté, nous avons mis un lien vers un article dans les archives et nous prévoyons de le soumettre au Journal of Computational Graphical Statistics.
	La diapositive suivante montre d'autres détails importants que nous devions prendre en compte. Nous devions trouver comment traiter les variables catégorielles.
	Nous les convertissons simplement en variables fictives codées par indicateur. Ceci est comparable à une analyse des correspondances multiples.
	Une autre complication est de savoir comment calculer le T carré de Hotelling lorsqu'il manque des données. Plusieurs plates-formes de modélisation prédictive JMP utilisent des observations avec des données manquantes pour entraîner les modèles.
	Ceux-ci incluent Naive Bayes et la forêt bootstrap, et ces formules montrent la méthode de suppression par paire que nous utilisons pour estimer la matrice de covariance.
	Il est plus courant d'utiliser la suppression par ligne, cela signifie que toutes les observations avec des valeurs manquantes sont supprimées avant le calcul de la matrice de covariance. Et c'est le plus simple, mais cela peut entraîner la suppression de données utiles si la taille de l'échantillon des données d'apprentissage est petite.
	Avec la suppression par paire, les observations ne sont supprimées que s'il manque des valeurs dans la paire de variables utilisées pour calculer une entrée correspondante.
	Et c'est ce que montrent ces formules. Cela semble être une chose simple à faire, vous utilisez simplement toutes les données disponibles, mais cela peut en fait entraîner une multitude de problèmes, car différentes observations sont utilisées pour calculer chaque entrée.
	Cela peut provoquer des choses étranges, comme des matrices de covariance avec des valeurs propres négatives, ce à quoi nous avons dû faire face.
	Voici quelques avantages du T au carré régularisé que nous avons trouvé par rapport à d'autres méthodes dans nos évaluations.
	La première est que la régularisation fonctionne comme la régularisation fonctionne normalement. Il établit un équilibre entre le surajustement des données d'apprentissage et le biais excessif de l'estimateur. Cela rend l'estimateur plus robuste au bruit et aux erreurs de spécification du modèle.
	Ensuite, Schafer et Strimmer ont montré dans leur article que la régularisation permet d'obtenir un estimateur plus précis dans des contextes de grande dimension. Cela aide avec la malédiction de la dimensionnalité qui afflige la plupart des méthodes basées sur la distance pour le contrôle de l'extrapolation.
	Et puis, dans les domaines qui ont développé la méthodologie de contrôle d'extrapolation,
	souvent, ils ont à la fois des données de grande dimension et des prédicteurs fortement corrélés. Par exemple, en chimiométrie et en chimiométrie, les caractéristiques chimiques sont souvent fortement corrélées.
	Le contrôle d'extrapolation est souvent utilisé en combinaison avec les modèles PCA et PLS où T au carré et DModX sont utilisés pour détecter les violations de la structure de corrélation. Ceci est similaire à ce que nous faisons dans la carte de contrôle multivariée pilotée par un modèle.
	Comme il s'agit d'un cas d'utilisation courant, nous voulions avoir une option qui ne s'écarte pas trop de ces méthodes.
	Notre T au carré régularisé fournit
	même type de contrôle d'extrapolation, mais il ne nécessite pas d'étape de projection, ce qui présente certains avantages.
	Nous avons constaté que cela nous permet de mieux généraliser à d'autres types de modèles prédictifs.
	Également dans nos évaluations, nous avons observé que si une projection linéaire ne fonctionne pas bien pour vos données, comme vous avez des relations non linéaires entre les prédicteurs,
	les erreurs peuvent gonfler les limites de contrôle des méthodes basées sur la projection, ce qui conduira à une mauvaise protection contre l'extrapolation, et notre approche est plus robuste que cela.
	Et puis un autre point important est que nous avons trouvé le
	métrique d'extrapolation unique était beaucoup plus simple à utiliser et à interpréter.
	Et voici un bref résumé des fonctionnalités du contrôle d'extrapolation. La méthode permet une meilleure visualisation des régions réalisables dans
	modèles de grande dimension dans le profileur. Un nouvel algorithme génétique a été implémenté pour une optimisation contrainte flexible.
	Et notre T au carré régularisé gère les données d'observation désordonnées dans des cas tels que P supérieur à N et les variables continues et catégorielles.
	La méthode est disponible dans la plupart des modèles prédictifs de JMP 16 Pro et prend en charge bon nombre de leurs particularités. Il est également disponible dans le profileur en graphique, ce qui ouvre vraiment son utilité car il peut fonctionner sur n'importe quelle formule de prédiction.
	Et puis, comme orientation future, nous envisageons d'implémenter une contrainte basée sur le K-plus proche voisin qui irait au-delà de la contrainte de structure de corrélation actuelle.
	Les prédicteurs sont souvent générés par de multiples distributions résultant en un regroupement dans l'espace des prédicteurs et une approche basée sur les K plus proches voisins nous permettrait de contrôler l'extrapolation entre les clusters.
	Donc, merci à tous ceux qui se sont connectés pour regarder cela, et voici des e-mails si vous avez d'autres questions.
Jeremy Ash, JMP	Vous êtes toujours là.
Chris Gotwalt	Oui je suis.
Laura Lancaster	Seulement.

Le meilleur du sommetÉclaterVisualisation de donnéesStatistiques et modélisationRe : Contrôle de l'extrapolation dans le profileur de prédiction dans JMP Pro 16 (2021-US-45MP-838)

Je me demande pourquoi une valeur Hotelling T2 strictement garantirait l'intégrité de la prédiction ?Nous devons convenir que Hotelling T2 définit vraiment l'espace de conception des données que nous avons utilisées dans le modèle.Cela ne signifie pas que la structure de données elle-même a une structure de corrélation correcte.Je vois souvent des cas où j'aurai des valeurs de prédiction dans la région de conception Hotelling T2, mais la structure de données utilisée pour prédire les valeurs ne correspond pas à la structure de données du modèle d'origine.Par conséquent, la prédiction est très discutable.Un exemple simple de ceci serait un modèle simple prédisant les jus d'orange en fonction des oranges entrantes.Cependant, si quelqu'un place accidentellement des citrons dans la ligne, le modèle prédit toujours le jus d'orange.La quantité de jus serait probablement encore dans la plage de la région Hotelling T2.Cependant, nous savons tous que ce n'est pas du jus d'orange que nous obtenons.La structure des données a changé sur nous.C'est pourquoi dans un modèle de type PLS, nous devons conserver le DmodX = 0 pour garantir que toute valeur d'optimisation future reste dans la structure de données du modèle d'origine utilisé.

 

Si vous pouvez m'expliquer comment le T2 régularisé répond à la structure de données du modèle utilisée et non à la région de données du modèle, alors je serais plus confiant dans l'utilisation de ce nouvel outil.