398679_fr-FR

liliconcom

Contrôle de l'extrapolation dans Prediction Profiler dans JMP Pro 16 (2021-US-45MP-838)

Niveau : Intermédiaire

 

Laura Lancaster, JMP Principal Research Statistician Developer, SAS
Jeremy Ash, testeur de logiciels JMP Analytics, SAS
Christopher Gotwalt, JMP Directeur de la recherche et du développement statistiques, SAS

 

L'extrapolation incontrôlée du modèle conduit à deux types d'erreurs graves : (1) le modèle peut être complètement invalide loin des données, et (2) les combinaisons de valeurs variables peuvent ne pas être physiquement réalisables. L'utilisation du profileur pour optimiser les modèles adaptés aux données d'observation peut conduire à des solutions extrapolées qui ne sont d'aucune utilité pratique sans aucun avertissement. JMP Pro 16 introduit le contrôle d'extrapolation dans de nombreuses plates-formes de modélisation prédictive et dans la plate-forme Profiler elle-même. Cette nouvelle fonctionnalité du Prediction Profiler avertit l'utilisateur d'une éventuelle extrapolation ou évite complètement de dessiner des points extrapolés où le modèle peut ne pas être valide. De plus, l'utilisateur peut effectuer une optimisation sur une région contrainte qui évite l'extrapolation. Dans cette présentation, nous discutons de la motivation et de l'utilité du contrôle d'extrapolation, démontrons comment il peut être facilement utilisé dans JMP et décrivons les détails de nos méthodes.

 

 

Transcription générée automatiquement...

 

Conférencier	Transcription
Tim Pierce	Aller.
	Bon, je vais passer en mode muet.
	Salut, je suis Chris Gotwalt. Mes co-présentateurs Laura Lancaster et Jeremy Ash et moi-même présentons une nouvelle fonctionnalité utile de JMP Pro appelée contrôle d'extrapolation.
	Presque tous les modèles avec lesquels vous voudriez prédire ont une gamme d'applicabilité,
	une région de l'espace d'entrée où leurs prédictions sont considérées comme
	suffisamment fiable. En dehors de cette région, nous commençons à extrapoler le modèle deux points, loin des données utilisées pour ajuster le modèle. L'utilisation des prédictions de ce modèle à ces points pourrait conduire à des prédictions totalement non fiables.
Il existe deux principales sources d'extrapolation	extrapolation statistique et extrapolation basée sur le domaine. Les deux types sont couverts par la nouvelle fonctionnalité.
	L'extrapolation statistique se produit lorsque l'on tente de prédire à l'aide d'un modèle à un X qui n'est pas proche des valeurs utilisées pour former ce modèle.
	L'extrapolation basée sur le domaine se produit lorsque vous essayez d'évaluer à un X qui est impossible en raison de critères scientifiques.
	ou des contraintes basées sur l'ingénierie. L'exemple ici illustre les deux types d'extrapolation dans un exemple. Ici, nous voyons un profileur à partir d'un modèle d'un processus de production métallurgique.
	La prédiction se lit à -2,96 sans aucune indication que nous évaluons à une combinaison de température et de pression qui est impossible
	dans un sens de domaine à atteindre pour cette machine. Nous avons également une extrapolation statistique car elle s'éloigne des données utilisées
	pour ajuster le modèle, comme le montre le nuage de points des données d'apprentissage à droite. Dans JMP Pro 16, Jeremy, Laura et moi avons collaboré pour ajouter une nouvelle fonctionnalité qui peut donner un avertissement lorsque le profileur pense que vous extrapolez.
	Ou si vous activez le contrôle d'extrapolation, il limitera l'ensemble de points que vous voyez uniquement à ceux qu'il ne pense pas extrapoler.
	Nous avons deux types de contrôle d'extrapolation.
	L'un est basé sur le concept d'effet de levier et utilise un modèle des moindres carrés. Ce premier type n'est disponible que dans la version Pro des moindres carrés du modèle d'ajustement.
	L'autre type, que nous appelons le contrôle d'extrapolation d'apprentissage automatique général, est disponible dans la plate-forme de profilage et plusieurs des plates-formes d'apprentissage automatique les plus courantes dans JMP Pro.
	Sur demande, nous pourrions même l'ajouter à mor. Le contrôle d'extrapolation des moindres carrés utilise le concept d'effet de levier, qui est comme une version mise à l'échelle de la variance de prédiction. Il est basé sur un modèle et donc
	il utilise des informations sur les interactions des effets principaux et des termes d'ordre supérieur pour déterminer l'extrapolation.
	Pour le cas général de contrôle d'extrapolation d'apprentissage automatique, nous devons proposer leur propre approche. Nous voulions une méthode robuste en valeurs manquantes,
	les dépendances linéaires, un calcul plus rapide, peuvent gérer des mélanges de variables d'entrée continues et catégorielles, et nous voulions également séparer explicitement le modèle d'extrapolation du modèle utilisé pour ajuster les données.
	Ainsi, lorsque nous avons activé le contrôle d'extrapolation générale, il n'y a qu'un seul modèle supervisé qui est... qui adapte les variables d'entrée aux réponses que nous voyons dans les traces du profileur.
	Le profil qui propose un modèle non supervisé rapide et sale pour décrire l'ensemble d'apprentissage Xs, et ce modèle non supervisé est utilisé dans les coulisses par le profileur pour déterminer la contrainte de contrôle d'extrapolation.
	Je dois donc changer parce que mon appareil photo PowerPoint ne fonctionne pas en ce moment, pour une raison quelconque.
	Nous savons que des extrapolations risquées sont faites chaque jour par des personnes travaillant dans la science des données et sommes convaincus que l'utilisation d'extrapolations conduit à de mauvaises prévisions et, finalement, à de mauvais résultats commerciaux.
	Le contrôle de l'extrapolation place des garde-fous sur les prédictions du modèle et conduira à de meilleures décisions quantifiables par les utilisateurs de JMP Pro.
	Lorsque les utilisateurs voient une extrapolation se produire, ils doivent décider si la prédiction doit être utilisée ou non, en fonction de leur connaissance du domaine et de leur familiarité avec le problème en question.
	Si vous commencez à voir des avertissements de contrôle d'extrapolation se produire, c'est souvent la fin du cycle de vie de ce modèle et le temps de le réadapter à de nouvelles données, car la distribution des entrées s'est éloignée de celle des données d'apprentissage.
	Nous sommes honnêtement assez surpris et alarmés que la nécessité d'identifier l'extrapolation ne soit pas mieux appréciée par la communauté scientifique des données.
	et ont rendu le contrôle de l'extrapolation aussi simple et automatique que possible. Laura, qui l'a développé dans JMP Pro, présentera ensuite l'option. Ensuite, Jeremy, qui a fait beaucoup de recherches dans notre équipe, entrera dans les détails mathématiques et la motivation statistique de l'approche.
	Bonjour. Je m'appelle Laura Lancaster et je suis ici pour faire une démonstration du contrôle d'extrapolation qui a été ajouté à JMP Pro 16. Je voulais commencer par un exemple assez simple utilisant la plate-forme des moindres carrés du modèle d'ajustement.
	Je vais utiliser des données qui peuvent être familières. Ce sont les données de condition physique qui se trouvent dans les données d'échantillon.
	Et je vais utiliser la consommation d'oxygène comme réponse et le temps d'exécution, le pouls de course et le pouls maximum comme prédicteurs. Et je voulais répéter que dans le modèle d'ajustement des moindres carrés, la métrique d'extrapolation utilisée est l'effet de levier, alors allons-y et démarrons JMP.
	Alors maintenant, j'ai les données de fitness ouvertes dans JMP et j'ai un script à enregistrer dans la table de données pour lancer automatiquement mon modèle d'ajustement des moindres carrés.
	Je vais donc continuer et exécuter ce script. Il lance la plateforme des moindres carrés.
	Et j'ai le profileur ouvert automatiquement et nous pouvons voir que le profileur ressemble à ce qu'il a toujours fait dans le passé,
	où les limites des facteurs sont définies par la plage de chaque facteur individuellement, ce qui nous donne des contraintes de limites rectangulaires.
	Et lorsque j'ai modifié les paramètres de facteur, à cause de ces contraintes liées, il peut être très difficile de dire si vous vous éloignez loin de la structure de corrélation des données.
	Et c'est pourquoi nous avons voulu ajouter le contrôle d'extrapolation. Cela a donc été ajouté à plusieurs plates-formes dans JMPs Pro 16,
	y compris l'ajustement des moindres carrés. Et pour accéder au contrôle d'extrapolation, vous allez dans le menu sous le menu profileur. Donc, si je regarde ici, je vois qu'il y a une nouvelle option appelée contrôle d'extrapolation.
	Il est désactivé par défaut, mais je peux l'activer ou l'avertir pour activer le contrôle d'extrapolation. Si je l'active, notez qu'il limite mes traces de profil pour n'aller qu'aux valeurs où je n'extrapole pas.
	Si je devais activer l'avertissement, je verrais les traces complètes du profil, mais je recevrais un avertissement lorsque j'irais dans une région où cela serait considéré comme une extrapolation.
	Je peux également activer les détails d'extrapolation, ce que je trouve très utile,
	et cela me donne beaucoup plus d'informations. Tout d'abord, cela me dit que ma métrique que j'utilise pour définir l'extrapolation est l'effet de levier, ce qui est vrai dans la plate-forme des moindres carrés,
	et le seuil utilisé par défaut au départ sera l'effet de levier maximal, mais c'est quelque chose que je peux changer et je vous le montrerai dans une minute.
	De plus, je peux voir quelle est ma métrique d'extrapolation pour mes paramètres actuels. C'est ce nombre ici, qui changera au fur et à mesure que je modifierai mes paramètres de facteur.
	Chaque fois que ce nombre est supérieur au seuil, je reçois cet avertissement que je pourrais extrapoler. S'il descend en dessous, je ne recevrai plus cet avertissement.
	Ce seuil ne va pas changer à moins que je change quelque chose dans le menu pour ajuster mon seuil. Alors laissez-moi aller de l'avant et le faire maintenant. je vais aller au menu,
	et je vais aller définir des critères de seuils. Donc, dans fit moindres carrés, vous avez deux options pour le seuil. Initialement, il est réglé sur un effet de levier maximal, ce qui vous maintiendra dans le trou convexe des données,
	ou vous pouvez passer à un multiplicateur multiplié par l'effet de levier moyen ou les termes du modèle sur les observations. Et je veux passer à ce seuil, donc il est fixé à trois
	comme multiplicateur par défaut, cela va donc être trois fois l'effet de levier moyen. Cliquez sur OK et notez que mon seuil va changer. Il est en fait devenu plus petit, il s'agit donc d'une définition plus conservatrice de l'extrapolation.
	Et je vais le réactiver pour restreindre les traces de mon profil, et maintenant je ne peux aller que dans les régions
	où je suis à moins de trois fois l'effet de levier moyen.
	Maintenant, nous avons également implémenté une optimisation qui obéit aux contraintes d'extrapolation. Alors maintenant, si j'active la désirabilité de l'ensemble
	et je fais l'optimisation,
	Je vais obtenir une valeur optimale qui satisfait la contrainte d'extrapolation. Notez que cette métrique est inférieure ou égale au seuil.
	Alors maintenant, quand je vais à ma prochaine diapositive, qui va comparer dans un graphique (une matrice de nuages de points), la différence entre la valeur optimale avec le contrôle d'extrapolation activé et désactivé.
	Il s'agit donc de la matrice de nuages de points que j'ai créée avec JMP, et elle montre les données de variable de prédicteur d'origine, ainsi que les valeurs de variable de prédicteur
	pour la solution optimale sans commande d'extrapolation en bleu et la solution optimale avec commande d'extrapolation en rouge. Et remarquez comment la solution sans contrainte ici en bleu, à droite
	ici, viole la structure de corrélation des données d'origine pour l'impulsion de course et l'impulsion maximale, augmentant ainsi l'incertitude de cette prédiction, alors que la solution optimale qui a utilisé le contrôle d'extrapolation est beaucoup plus conforme aux données d'origine.
	Examinons maintenant un exemple utilisant la méthode de contrôle d'extrapolation plus généralisée, que nous appelons une méthode T au carré régularisée.
	Comme Chris l'a mentionné précédemment, nous avons développé cette méthode pour des modèles autres que les modèles des moindres carrés. Nous allons examiner un modèle neuronal pour les données sur le diabète qui se trouve également dans les données d'échantillon.
	La réponse est une mesure de la progression de la maladie et les prédicteurs sont les variables de base. Encore une fois, la métrique d'extrapolation utilisée pour cet exemple est le T au carré régularisé que Jérémy décrira plus en détail dans quelques minutes.
	J'ai donc des données sur le diabète ouvertes dans JMP et j'ai enregistré un script de mes ajustements de modèle neuronal. Je vais continuer et exécuter ce script.
	Il lance la plate-forme neuronale. Et remarquez que j'utilise la méthode de validation random hold back. Je voulais juste noter que chaque fois que vous utilisez une méthode de validation, le contrôle d'extrapolation est basé uniquement sur les données d'entraînement
	et non vos données de validation ou de test.
	J'ai donc le profileur ouvert et vous pouvez voir qu'il utilise les traces complètes. Le contrôle d'extrapolation n'est pas activé.
	Allons-y et allumons-le.
	Et je vais aussi activer les détails.
	Vous pouvez voir que les traces ont été restreintes et que la métrique est le carré T régularisé.
	Le seuil est trois fois l'écart type du carré T régularisé de l'échantillon. Jeremy va parler davantage de ce que tout cela signifie exactement dans quelques minutes.
	Et je voulais juste mentionner que, lorsque nous utilisons la méthode T au carré régularisée, il n'y a qu'un seul choix pour le seuil, mais vous pouvez ajuster le multiplicateur. Donc, si vous allez à
	contrôles d'extrapolation, définir des seuils, vous pouvez ajuster ce multiplicateur, mais je vais le laisser à trois. Et maintenant, je veux exécuter l'optimisation en utilisant
	contrôle d'extrapolation, donc je vais juste maximiser et me souvenir. J'ai maintenant une solution optimale avec le contrôle d'extrapolation activé.
	Et donc maintenant, je veux regarder notre matrice de nuages de points, tout comme nous l'avons vu auparavant avec les données d'origine, ainsi qu'avec les valeurs optimales avec et sans contrôle d'extrapolation.
	Il s'agit donc d'une matrice de nuages de points des données sur le diabète que j'ai créées dans JMP. Il a les valeurs de prédicteur d'origine,
	ainsi que la solution optimale utilisant le contrôle d'extrapolation en rouge et la solution optimale sans contrôle d'extrapolation en bleu. Et vous pouvez voir que
	les points rouges semblent être beaucoup plus à l'intérieur de la structure de corrélation des données d'origine que les points bleus. Et c'est particulièrement vrai quand on regarde ce LDL par rapport au cholestérol total.
	Alors maintenant, regardons un exemple utilisant le profileur qui se trouve sous le menu graphique, que j'appellerai le profileur graphique.
	Il utilise également la méthode T au carré régularisée et nous permet d'utiliser le contrôle d'extrapolation sur tout type de modèle pouvant être créé et enregistré sous forme de formule JSL. Cela nous permet également d'avoir un contrôle d'extrapolation sur plus d'un modèle à la fois.
	Prenons l'exemple d'une entreprise qui utilise la technologie de la métallurgie des poudres pour produire des arbres de transmission en acier pour l'industrie automobile.
	Ils veulent pouvoir trouver des paramètres optimaux pour leur production qui minimiseront le retrait et minimiseront également les défaillances dues à de mauvaises conditions de surface. Nous avons donc deux réponses
	le retrait, qui est continu et nous allons ajuster le modèle des moindres carrés pour cela, et l'état de surface, qui est réussite/échec et nous allons ajuster un modèle logistique nominal pour celui-là.
	Et nos variables prédictives ne sont que quelques variables de processus clés en production. Et encore une fois, la métrique d'extrapolation est le T carré régularisé.
	J'ai donc les données de métallurgie des poudres ouvertes dans JMP, et j'ai déjà ajusté un modèle des moindres carrés pour ma réponse au rétrécissement,
	et j'ai déjà ajusté un modèle logistique nominal pour la réponse réussite/échec de l'état de surface. Et j'ai enregistré les formules de prédiction dans la table de données afin qu'elles soient prêtes à être utilisées dans le profileur graphique.
	Donc, si je vais dans le profileur du menu graphique, je peux charger la formule de prédiction pour le retrait, et ma formule de prédiction est pour l'état de surface.
	Cliquez sur OK.
	Et maintenant, mes deux modèles sont lancés dans le profileur de graphes.
	Et, avant que j'active le contrôle d'extrapolation, vous pouvez voir que j'ai les traces de profil complètes. Une fois que j'active le contrôle d'extrapolation,
	vous pouvez voir que les traces diminuent un peu. Et je vais aussi activer les détails
	juste pour montrer qu'en effet, j'utilise le carré T régularisé ici dans cette méthode.
	Donc, ce que je veux vraiment faire, c'est trouver les conditions optimales où je minimise le rétrécissement et je minimise les échecs
	avec contrôle d'extrapolation activé. Je veux m'assurer que je n'extrapole pas. Je veux trouver une solution utile.
	Et avant de pouvoir faire l'optimisation, je dois en fait définir mes désirabilités. Je vais définir les désirabilités ; c'est déjà correct pour le retrait, mais je dois les régler pour l'état de surface.
	Je vais essayer de maximiser les passes et de minimiser les échecs.
	D'ACCORD.
	Et maintenant, je devrais pouvoir faire l'optimisation avec les contrôles d'extrapolation activés, maximiser et me souvenir.
	Maintenant j'ai ma solution optimale
	avec contrôle d'extrapolation activé. Examinons maintenant à nouveau la matrice de nuages de points des données d'origine, ainsi que la solution avec le contrôle d'extrapolation activé et la solution avec le contrôle d'extrapolation désactivé.
	Il s'agit donc d'une matrice de nuages de points des données de métallurgie des poudres que j'ai créée dans JMP et qui contient également la solution optimale
	avec contrôle d'extrapolation sous forme de point rouge et la solution optimale sans contrôle d'extrapolation sous forme de point bleu. Et, encore une fois, vous pouvez voir que lorsque nous n'activons pas le contrôle d'extrapolation,
	la solution optimale est assez éloignée de la structure de corrélation des données. On le voit surtout ici avec le ratio versus la pression de compactage.
	Alors maintenant, je veux remettre la présentation à Jeremy pour qu'il entre dans beaucoup plus de détails sur nos méthodes.
	Salut. Voici donc un certain nombre d'objectifs pour le contrôle de l'extrapolation que nous avons définis au début du projet.
	Nous avions besoin d'une métrique d'extrapolation pouvant être calculée rapidement avec un grand nombre d'observations et de variables, et nous avions besoin d'un moyen rapide d'évaluer si la métrique indiquait une extrapolation ou non. Il s'agissait de maintenir l'interactivité des traces du profileur et
	nous en avions besoin pour effectuer l'optimisation.
	Nous voulons qu'il soit capable de prendre en charge les différents types de variables disponibles dans le profileur. Celles-ci sont essentiellement continues, catégoriques et ordinales.
	Nous voulions utiliser des observations avec des cellules manquantes car certaines méthodes de modélisation incluront ces observations et ???.
	Nous voulions une méthode robuste aux dépendances linéaires dans les données. Celles-ci se produisent lorsque le nombre de variables est supérieur au nombre d'observations, par exemple.
	Et nous voulions quelque chose qui soit facile à automatiser sans avoir besoin de beaucoup d'interventions de la part de l'utilisateur.
	Pour les modèles des moindres carrés, nous avons atterri sur l'effet de levier, qui est souvent utilisé pour identifier les valeurs aberrantes dans les modèles linéaires.
	L'effet de levier pour un nouveau point de prédiction est calculé selon cette formule. Il existe de nombreuses interprétations de l'effet de levier. Une interprétation est que
	il s'agit de la distance multivariée entre un point de prédiction et le centre des données d'apprentissage. Une autre interprétation est qu'il s'agit d'une variance de prédiction mise à l'échelle, de sorte que plus le point de prédiction s'éloigne du centre des données, plus l'incertitude de la prédiction augmente.
	Et nous utilisons deux seuils communs dans la littérature statistique pour déterminer si cette distance est trop grande.
	Le premier est l'effet de levier maximal. Les points de prédiction au-delà de ce seuil se trouvent en dehors du trou convexe des données d'apprentissage.
	Et le second est trois fois la moyenne des leviers. On peut montrer que cela équivaut à trois fois le nombre de termes du modèle divisé par le nombre d'observations.
	Et comme Laura l'a décrit précédemment, vous pouvez modifier le multiplicateur de ces seuils.
	Enfin, lorsque les désirabilités sont optimisées, la contrainte d'extrapolation est une contrainte non linéaire. Et auparavant, le profileur permettait une optimisation contrainte avec des contraintes linéaires,
	mais ce type d'optimisation étant plus difficile, Laura a mis en place un algorithme génétique. Et si vous ne les connaissez pas, les algorithmes génétiques utilisent les principes de l'évolution moléculaire pour optimiser les fonctions de coût complexes.
	Ensuite, je parlerai de l'approche que nous utilisons pour généraliser le contrôle de l'extrapolation sur deux modèles autres que les modèles linéaires.
	Lorsque vous construisez un modèle prédictif dans JMP, vous commencez avec un ensemble de variables prédictives et un ensemble de variables de réponse.
	Un modèle supervisé est formé, puis un profileur peut être utilisé pour visualiser la surface du modèle.
	Il existe de nombreuses variantes du profileur dans JMP. Vous pouvez utiliser le profileur en interne dans les plates-formes de modélisation, vous pouvez générer des formules de prédiction et créer
	profileur pour plusieurs modèles, comme Laura l'a démontré. Vous pouvez créer des profileurs pour les modèles d'ensemble. Nous voulions une méthode de contrôle d'extrapolation qui se généraliserait à tous ces scénarios, donc au lieu de lier notre méthode à un modèle spécifique, nous allons utiliser une approche non supervisée.
	Et nous n'allons signaler un point de prédiction comme extrapolation que s'il se trouve loin de l'endroit où les données sont concentrées dans l'espace du prédicteur. Et cela nous permet d'être cohérents entre les profileurs afin que notre méthode de contrôle d'extrapolation se connecte à n'importe quel profileur.
	L'interprétation de la distance multivariée de l'effet de levier suggérait le T de Hotelling au carré comme distance pour le contrôle général de l'extrapolation. En fait, certaines manipulations algébriques montreront que le T au carré de Hotelling n'est qu'un effet de levier décalé et mis à l'échelle.
	Cette figure montre comment le T au carré de Hotelling mesure sur quelle ellipse se trouve une observation, où les ellipses sont centrées sur la moyenne des données et la forme est définie par la matrice de covariance.
	Puisque nous ne sommes plus dans des modèles linéaires, cette métrique n'a pas le même lien avec la variance de prédiction. Ainsi, au lieu de nous fier aux seuils utilisés dans les modèles linéaires, nous allons faire des hypothèses de distribution pour déterminer si
	T au carré pour le point de prédiction doit être considéré comme une extrapolation.
	Ici, je montre la formule du T au carré de Hotelling. La moyenne et la matrice de covariance sont estimées à l'aide des données d'apprentissage du modèle.
	Si P est inférieur à N, où P est le nombre de prédicteurs et N le nombre d'observations,
	et si le prédicteur est dans la normale multivariée, alors T au carré pour un point de prédiction a une distribution F. Cependant, nous voulions une méthode pour
	généraliser les ensembles de données avec des types de données complexes, comme un mélange d'ensembles de données continues et catégorielles, où P est supérieur à N ;
	ensembles de données avec des valeurs manquantes. Ainsi, au lieu de calculer analytiquement la distribution dans chaque cas, nous utilisons une simple limite de contrôle conservatrice qui, selon nous, fonctionne bien dans la pratique.
	Il s'agit d'une limite de contrôle à trois sigma utilisant la distribution empirique de T au carré à partir des données de formation et, comme Laura l'a mentionné, vous pouvez également régler ce multiplicateur.
	Une complication est que lorsque P est supérieur à N, le T au carré de Hotelling n'est pas défini. Il y a trop de paramètres dans la matrice de covariance pour estimer avec les données disponibles.
	Et cela se produit souvent dans des cas d'utilisation typiques pour le contrôle d'extrapolation, comme dans les moindres carrés partiels. Nous avons donc décidé d'une nouvelle approche pour calculer le T au carré de Hotelling, qui traite ces cas et nous l'appelons un T au carré régularisé.
	Pour calculer la matrice de covariance, nous utilisons un estimateur régularisé développé à l'origine par Schafer et Strimmer pour les données génomiques de grande dimension. Il s'agit simplement d'une combinaison pondérée de la matrice de covariance de l'échantillon complet, qui est U ici, et d'une matrice cible de contrainte, qui est D.
	Pour le paramètre de pondération Lambda, Schafer et Strimmer ont dérivé une expression analytique qui minimise l'EQM, l'estimateur asymptotiquement.
	Schafer et Strimmer ont proposé plusieurs matrices cibles possibles. La matrice cible que nous avons choisie était une matrice diagonale avec les variances d'échantillon des variables prédictives sur la diagonale. Cette matrice cible présente un certain nombre d'avantages pour le contrôle de l'extrapolation.
	Premièrement, nous ne supposons aucune structure de corrélation entre les variables avant de voir les données, ce qui fonctionne bien comme a priori général.
	De plus, lorsqu'il y a peu de données pour estimer la matrice de covariance, soit en raison d'un petit N ou d'une grande fraction manquante,
	la contrainte elliptique est étendue par un poids important sur la matrice diagonale, ce qui se traduit par un test plus conservateur pour le contrôle de l'extrapolation. Nous avons constaté que cela était nécessaire pour obtenir un contrôle raisonnable du taux de faux positifs.
	Pour le dire plus simplement, lorsque les données d'entraînement sont limitées, le T au carré régularisé est moins susceptible d'étiqueter les prédictions comme une extrapolation, ce que vous voulez, car vous êtes plus susceptible d'observer des covariances par hasard.
	Nous avons des résultats de simulation démontrant ces détails, mais je n'ai pas le temps d'entrer dans tout cela. Au lieu de cela, sur la page Web de la communauté, nous mettons un lien vers un article dans les archives et nous prévoyons de le soumettre au Journal of Computational Graphical Statistics.
	Cette diapositive suivante montre d'autres détails importants que nous devions prendre en compte. Nous devions comprendre comment traiter les variables catégorielles.
	Nous les convertissons simplement en variables nominales codées par des indicateurs. Ceci est comparable à une analyse des correspondances multiples.
	Une autre complication est de savoir comment calculer le T de Hotelling au carré lorsqu'il manque des données. Plusieurs plates-formes de modélisation prédictive JMP utilisent des observations avec des données manquantes pour entraîner les modèles.
	Celles-ci incluent Naive Bayes et la forêt bootstrap, et ces formules montrent la méthode de suppression par paires que nous utilisons pour estimer la matrice de covariance.
	Il est plus courant d'utiliser la suppression par ligne, cela signifie que toutes les observations avec des valeurs manquantes sont supprimées avant de calculer la matrice de covariance. Et c'est le plus simple, mais cela peut entraîner la suppression de données utiles si la taille de l'échantillon des données d'apprentissage est petite.
	Avec la suppression par paires, les observations sont supprimées uniquement s'il y a des valeurs manquantes dans la paire de variables utilisées pour calculer une entrée correspondante.
	Et c'est ce que montrent ces formules. Cela semble être une chose simple à faire, vous utilisez simplement toutes les données disponibles, mais cela peut en fait entraîner une foule de problèmes, car différentes observations sont utilisées pour calculer chaque entrée.
	Cela peut provoquer des choses étranges, comme des matrices de covariance avec des valeurs propres négatives, ce que nous avons dû gérer.
	Voici quelques avantages du T au carré régularisé que nous avons trouvé lors de la comparaison avec d'autres méthodes dans nos évaluations.
	La première est que la régularisation fonctionne comme la régularisation fonctionne normalement. Il établit un équilibre entre le surajustement des données d'apprentissage et le biais excessif de l'estimateur. Cela rend l'estimateur plus robuste au bruit et aux erreurs de spécification du modèle.
	Ensuite, Schafer et Strimmer ont montré dans leur article que la régularisation aboutit à un estimateur plus précis dans des paramètres de grande dimension. Cela aide à lutter contre la malédiction de la dimensionnalité qui afflige la plupart des méthodes basées sur la distance pour le contrôle de l'extrapolation.
	Et puis, dans les domaines qui ont développé la méthodologie de contrôle par extrapolation,
	souvent, ils ont à la fois des données de grande dimension et des prédicteurs hautement corrélés. Par exemple, en chimioinformatique et en chimiométrie, les caractéristiques chimiques sont souvent fortement corrélées.
	Le contrôle d'extrapolation est souvent utilisé en combinaison avec les modèles PCA et PLS où T au carré et DModX sont utilisés pour détecter les violations de la structure de corrélation. Ceci est similaire à ce que nous faisons dans la carte de contrôle multivariée pilotée par modèle.
	Puisqu'il s'agit d'un cas d'utilisation courant, nous voulions avoir une option qui ne s'écarte pas trop de ces méthodes.
	Notre T au carré régularisé fournit
	même type de contrôle d'extrapolation, mais il ne nécessite pas d'étape de projection, ce qui présente certains avantages.
	Nous avons constaté que cela nous permet de mieux généraliser à d'autres types de modèles prédictifs.
	Dans nos évaluations également, nous avons observé que si une projection linéaire ne fonctionne pas bien pour vos données, comme si vous aviez des relations non linéaires entre les prédicteurs,
	les erreurs peuvent gonfler les limites de contrôle des méthodes basées sur la projection, ce qui conduira à une mauvaise protection contre l'extrapolation, et notre approche est plus robuste que cela.
	Et puis un autre point important est que nous avons trouvé le
	la métrique d'extrapolation unique était beaucoup plus simple à utiliser et à interpréter.
	Et voici un bref résumé des fonctionnalités du contrôle d'extrapolation. La méthode fournit une meilleure visualisation des régions réalisables dans
	modèles de grande dimension dans le profileur. Un nouvel algorithme génétique a été implémenté pour une optimisation flexible contrainte.
	Et notre T au carré régularisé gère des données d'observation désordonnées dans des cas comme P supérieur à N et des variables continues et catégorielles.
	La méthode est disponible dans la plupart des modèles prédictifs de JMP 16 Pro et prend en charge bon nombre de leurs idiosyncrasies. Il est également disponible dans le profileur en graphique, ce qui ouvre vraiment son utilité car il peut fonctionner sur n'importe quelle formule de prédiction.
	Et puis, comme direction future, nous envisageons de mettre en œuvre une contrainte basée sur le plus proche voisin K qui irait au-delà de la contrainte de structure de corrélation actuelle.
	Souvent, les prédicteurs sont générés par plusieurs distributions, ce qui entraîne un regroupement dans l'espace des prédicteurs et une approche basée sur les K plus proches voisins nous permettrait de contrôler l'extrapolation entre les clusters.
	Donc, merci à tous ceux qui ont regardé cela, et voici des e-mails si vous avez d'autres questions.
Jeremy Ash, JMP	Vous êtes toujours là.
Chris Gotwal	Oui je suis.
Laura Lancastre	Juste.

Le meilleur du sommetÉclaterVisualisation de donnéesStatistiques et modélisationObjet : Contrôle de l'extrapolation dans le profileur de prédiction dans JMP Pro 16 (2021-US-45MP-838)

@MC17 Je suis heureux que vous ayez soulevé cette question importante.J'en ai parlé un peu dans le discours, mais je n'ai probablement pas assez insisté là-dessus.

 

Donc, ce que je crois que vous demandez, c'est pourquoi nous ne contrôlons que T2 et non DModX, comme c'est courant dans les modèles PCA/PLS.C'est ce que nous faisons dans le MDMCC, par exemple ( https://www.jmp.com/support/help/en/16.1/index.shtml#page/jmp/model-driven-multivariate-control-charts.shtml ). Si nous devions adopter une approche similaire, nous placerions probablement une limite de contrôle sur DModX, car les données d'entraînement auront toutes DModX> 0, donc l'astuce consiste à permettre aux prédictions de dévier de la façon dont les données d'entraînement le font, sans devenir trop fou .Si vous voulez DModX = 0, alors vous pouvez suivre l'approche d'Isaac Himanga ( https://community.jmp.com/t5/Discovery-Summit-Americas-2021/Optimizing-Multivariate-Models-From-Data-Collection-to-Optimal/ta-p/398760 ).

 

La réponse courte est que notre T2 régularisé est calculé sur les variables prédictives d'origine et ne vous oblige pas à diviser vos données en un composant de modèle et un composant d'erreur.Pour les modèles PCA/PLS, la régularisation se traduit par une contrainte similaire au contrôle de T2 et DModX, mais vous pouvez le faire avec une seule métrique, ce qui est plus simple et plus facile à interpréter.

 

Dans les modèles PCA/PLS, T2 signale la prédiction avec de grands écarts par rapport à vos données d'entraînement dans le plan du modèle, tandis que DModX signale les prédictions avec de grands écarts par rapport au plan du modèle, comme le décrit votre scénario. Cela a du sens lorsque votre méthode de modélisation suppose une projection linéaire de faible dimension de vos données.Cependant, la plupart de nos méthodes de modélisation n'effectuent pas une telle projection. Nous voulons une approche cohérente sur toutes les plateformes pour diverses raisons (assemblage, etc.). Effectuer une projection linéaire peut ne pas être raisonnable si vous avez des relations non linéaires entre les variables, les variables catégorielles, etc. De plus, comment choisissez-vous le nombre de composants pour ces modèles ? Nous avons constaté dans nos évaluations que si une projection linéaire ne correspond pas à vos données, les erreurs gonfleront votre limite de contrôle DModX et entraîneront une mauvaise protection contre l'extrapolation. Nous avons trouvé qu'une meilleure approche générale consistait à placer des contraintes d'extrapolation à l'aide de T2 sur l'espace prédicteur d'origine, ce qui protège contre la violation de la structure de corrélation dans toutes les directions des données.

 

La régularisation de T2 accorde une grande importance aux variables hautement corrélées et une faible importance aux variables faiblement corrélées lors du contrôle de l'extrapolation, et fonctionne lorsque p> n.Il en résulte une contrainte similaire à T2 et DModX dans les modèles PCA et PLS. J'ai quelques résultats de simulation montrant comment la méthode fonctionne dans le livre blanc ci-joint.J'espère mettre à jour cela avec une comparaison avec une approche T2 et DModX bientôt, et ajouter quelques discussions supplémentaires.J'ai commencé par montrer que notre méthode fonctionne, que le papier est toujours un travail en cours.

 

Est-ce que ça a du sens? Je suis heureux d'en discuter davantage et d'entendre vos opinions/préoccupations à ce sujet.

Objet : Contrôle de l'extrapolation dans le profileur de prédiction dans JMP Pro 16 (2021-US-45MP-838)

Je me demande pourquoi strictement une valeur Hotelling T2 garantirait l'intégrité de la prédiction ?Nous devons convenir que Hotelling T2 définit vraiment l'espace de conception des données que nous avons utilisées dans le modèle.Cela ne signifie pas que la structure de données elle-même a une structure de corrélation correcte.Je vois souvent des cas où j'aurai des valeurs de prédiction dans la région de conception Hotelling T2, mais la structure de données utilisée pour prédire les valeurs ne correspond pas à la structure de données du modèle d'origine.Par conséquent, la prédiction est très discutable.Un exemple simple de ceci serait un modèle simple prédisant les jus d'orange en fonction des oranges entrantes.Cependant, si quelqu'un place accidentellement des citrons dans la ligne, le modèle prédira toujours le jus d'orange.La quantité de jus serait probablement encore dans la fourchette de la région Hotelling T2.Cependant, nous savons tous que ce n'est pas du jus d'orange que nous obtenons.La structure des données a changé sur nous.C'est pourquoi, dans un modèle de type PLS, nous devons conserver DmodX = 0 pour garantir que toute valeur d'optimisation future reste dans la structure de données du modèle d'origine utilisée.

 

Si vous pouvez m'expliquer comment le T2 régularisé répond à la structure de données du modèle utilisé et non à la région de données du modèle, alors je serais plus confiant dans l'utilisation de ce nouvel outil.