Conférencier | Transcription |
| Bonjour, je m'appelle Chris Gotwalt. Mon co |
| présentateurs, Laura Lancaster et |
| Jeremy Ash et moi présentons |
| un nouveau JMP Pro utile |
| capacité appelée Extrapolation |
| Contrôle. Presque tous les modèles qui |
| tu voudrais un jour prédire |
| avec a une gamme de |
| applicabilité, une région du |
| espace d'entrée, où le |
| les prédictions sont considérées comme |
| assez fiable. En dehors de ça |
| région, nous commençons à extrapoler |
| le modèle vers des points éloignés du |
| données utilisées pour ajuster le modèle. En utilisant |
| les prédictions de ce modèle |
| à ces moments-là, cela pourrait conduire à |
| complètement peu fiable |
| prédictions. Il y en a deux |
| sources primaires de |
| extrapolation | statistique |
| extrapolation et domaine basé |
| extrapolation. Les deux types sont |
| couvert par la nouvelle fonctionnalité. |
| Une extrapolation statistique se produit |
| quand on tente de |
| prédire à l'aide d'un modèle à un x |
| ce n'est pas proche des valeurs |
| utilisé pour entraîner ce modèle. |
| Extrapolation basée sur le domaine |
| se produit lorsque vous essayez d'évaluer |
| à un x c'est impossible à cause |
| à la science ou à l'ingénierie |
| contraintes basées. L'exemple |
| illustre ici les deux types de |
| extrapolation dans un exemple. |
| Ici, nous voyons un profileur d'un |
| modèle d'une production métallurgique |
| processus. La prédiction se lit |
| out dit -2,96 sans |
| indication que nous évaluons |
| à une combinaison de température |
| et une pression impossible |
| dans un sens de domaine, pour atteindre |
| cette machine. Nous avons aussi |
| extrapolation statistique car elle |
| est loin des données utilisées pour ajuster |
| le modèle tel qu'on le voit dans le scatter |
| tracé des données d'entraînement sur le |
| droite. Dans JMP Pro 16, Jérémie, |
| Laura et moi avons collaboré pour |
| ajouter une nouvelle fonctionnalité qui peut |
| donner un avertissement lorsque le profileur |
| pense que tu pourrais l'être |
| extrapoler. Ou si tu te tournes |
| contrôle d'extrapolation activé, il |
| limitera l'ensemble des points |
| que tu ne t'occupes que de ceux qui |
| il ne pense pas que ce soit le cas |
| extrapoler. Nous avons deux types |
| de contrôle d’extrapolation. L'un est |
| basé sur le concept de levier |
| et utilise un modèle des moindres carrés. |
| Ce premier type est uniquement |
| disponible dans la version Pro de |
| Ajuster les moindres carrés du modèle. Le |
| autre type que nous appelons général |
| extrapolation d'apprentissage automatique |
| contrôle et est disponible dans le |
| Plateforme Profiler et plusieurs de |
| l'apprentissage automatique le plus courant |
| plates-formes dans JMP Pro. Sur |
| demande, nous pourrions même l'ajouter à |
| plus. Moindres carrés |
| le contrôle d’extrapolation utilise le |
| concept de levier, qui est |
| comme une version à l'échelle du |
| variance de prédiction. C'est un modèle- |
| basé et donc il utilise des informations |
| sur les principaux effets |
| interactions d'ordre supérieur |
| termes pour déterminer le |
| extrapolation. Pour le général |
| extrapolation d'apprentissage automatique |
| cas de contrôle, nous avons dû arriver |
| avec notre propre approche. Nous |
| je voulais une méthode qui serait |
| robuste aux valeurs manquantes, linéaire |
| dépendances, calcul plus rapide, |
| pourrait gérer des mélanges de |
| contribution continue et catégorique |
| variables, et nous aussi |
| voulait explicitement se séparer |
| le modèle d'extrapolation à partir du |
| modèle utilisé pour ajuster les données. Donc |
| quand nous avons général |
| contrôle d'extrapolation activé, |
| il n'y en a qu'un seul supervisé |
| modèle qui est... qui correspond au |
| variables d'entrée dans les réponses |
| que l'on voit dans le profileur |
| traces. Le profileur vient |
| avec un rapide et sale |
| modèle non supervisé pour décrire |
| les axes de formation, et ce |
| un modèle non supervisé est utilisé |
| dans les coulisses par le |
| profileur pour déterminer le |
| contrôle d'extrapolation |
| contrainte. Je dois donc |
| changer parce que PowerPoint et mon |
| la caméra ne s'entend pas |
| en ce moment pour une raison quelconque. Nous |
| sachez que les extrapolations risquées |
| sont fabriqués chaque jour par |
| les personnes travaillant dans la science des données |
| et sommes convaincus que l'utilisation |
| des extrapolations conduisent à de mauvaises |
| prédictions et finalement à |
| mauvais résultats commerciaux. |
| Lieux de contrôle d’extrapolation |
| garde-fous sur les prédictions du modèle |
| et conduira à des résultats quantifiables |
| de meilleures décisions grâce à JMP Pro |
| utilisateurs. Quand les utilisateurs voient une extrapolation |
| se produit, l'utilisateur doit faire un |
| décision quant à savoir si le |
| la prédiction doit être utilisée ou non |
| utilisés en fonction de leur domaine |
| connaissance et familiarité avec |
| le problème à résoudre. Si tu |
| commencer à voir l'extrapolation |
| les avertissements de contrôle se produisent assez |
| souvent, c'est probablement la fin de |
| le cycle de vie de ce modèle dans |
| il est temps de le réadapter aux nouvelles données |
| parce que la répartition des |
| les intrants se sont éloignés de |
| celui des données d’entraînement. Nous |
| sont honnêtement assez surpris et |
| alarmé par la nécessité de |
| identifier l'extrapolation n'est pas |
| mieux apprécié par les données |
| communauté scientifique et ont fait |
| contrôler l'extrapolation comme |
| aussi simple et automatique que possible. |
| Laura, qui l'a développé dans JMP |
| Pro, fera la démonstration du |
| option suivante. Puis Jeremy, qui |
| fait beaucoup de recherches sur notre |
| équipe, je vais passer aux maths |
| détails et statistiques |
| motivation pour la démarche. |
| Bonjour mon nom est Laura |
| Lancaster et moi sommes ici pour faire un |
| démo de l'extrapolation |
| contrôle ajouté à JMP |
| Pro 16. je voulais commencer |
| avec un exemple assez simple |
| en utilisant le moins le modèle d'ajustement |
| plate-forme de carrés. je vais |
| utiliser certaines données qui peuvent être |
| familier; ce sont les données de remise en forme |
| c'est dans des exemples de données et je suis |
| je vais utiliser l'absorption d'oxygène comme |
| ma réponse et Run Time, Run |
| Pulse et Max Pulse comme mon |
| prédicteurs. Et je voulais |
| réitérons que dans le modèle d'ajustement, |
| ajuster les moindres carrés aux |
| métrique d'extrapolation qui est |
| utilisé est l’effet de levier. Alors allons-y |
| avancez et démarrez JMP. |
| Alors maintenant, j'ai les données de condition physique |
| ouvert dans JMP et j'ai un script |
| enregistré dans la table de données pour |
| lancer automatiquement mon fit |
| modèle des moindres carrés. Donc je suis |
| je vais aller de l'avant et exécuter ça |
| script, il lance le moins |
| plate-forme de carrés. Et j'ai le |
| le profileur s'ouvre automatiquement. Et |
| on voit que le profileur |
| on dirait que c'est toujours le cas dans le |
| passé, où les limites du facteur |
| sont définis par la portée de chacun |
| facteur individuellement, nous donnant |
| contraintes liées rectangulaires. |
| Et quand je change le facteur |
| paramètres, à cause de ceux-ci liés |
| contraintes, cela peut être vraiment |
| difficile de savoir si tu déménages |
| bien en dehors de la corrélation |
| structure des données. |
| Et c'est pourquoi nous voulions ajouter |
| le contrôle d’extrapolation. Donc |
| cela a été ajouté à plusieurs |
| des plateformes dans JMP Pro |
| 16, y compris les moindres carrés ajustés. |
| Et pour arriver à l'extrapolation |
| contrôle, vous allez dans le menu sous |
| le menu du profileur. Donc si je regarde |
| ici, je vois qu'il y a une nouvelle option |
| appelé contrôle d’extrapolation. |
| Il est désactivé par défaut, |
| mais je peux le tourner vers l'un ou l'autre |
| allumé ou avertissement allumé pour allumer |
| contrôle des extrapolations. Si je |
| allumez-le, remarquez que |
| ça restreint mon profil |
| traces pour accéder uniquement aux valeurs |
| où je n'extrapole pas. |
| Si je devais le transformer en avertissement |
| sur, je verrais le profil complet |
| des traces, mais j'obtiendrais un |
| avertissement quand je vais dans une région |
| où il serait considéré |
| être une extrapolation. |
| Je peux aussi activer l'extrapolation |
| des détails, que je trouve vraiment |
| utile, et cela me donne un |
| beaucoup plus d'informations. D'abord |
| tout, ça me dit que mon |
| métrique que j'utilise pour |
| définir l'extrapolation est |
| effet de levier, ce qui est vrai dans le |
| adapter la plateforme des moindres carrés. |
| Et le seuil qui est en train d'être |
| utilisé par défaut initialement est |
| il y aura un effet de levier maximum, |
| mais c'est quelque chose que je peux |
| change et je vais te montrer que |
| dans une minute. Aussi, je peux voir |
| quelle est ma métrique d'extrapolation |
| est pour mes paramètres actuels. |
| C'est ce numéro juste ici, |
| qui changera à mesure que je change |
| mes paramètres de facteur. |
| Chaque fois que ce nombre est supérieur |
| que le seuil, je vais |
| je reçois cet avertissement que je pourrais être |
| extrapoler. Si ça descend en dessous, |
| je n'aurai plus ça |
| avertissement. Ce seuil n'est pas |
| je vais changer à moins que je change |
| quelque chose dans le menu à régler |
| mon seuil. Alors laisse-moi continuer |
| et faites-le maintenant. Alors je vais |
| pour aller au menu |
| et je vais aller me coucher |
| critère de seuil. Donc |
| dans les moindres carrés ajustés, vous avez deux |
| options pour le seuil |
| au départ, il est réglé au maximum |
| effet de levier, qui va garder |
| vous dans la coque convexe de |
| les données, ou vous pouvez passer à un |
| multiplicateur multiplié par la moyenne |
| effet de levier ou conditions de modèle sur |
| observations. Et je veux |
| passer à ce seuil. Alors c'est |
| réglé sur 3 comme multiplicateur |
| par défaut. Donc ça va |
| être 3 fois supérieur à l'effet de levier moyen |
| et je clique sur OK, et je remarque que |
| mon seuil va changer. |
| En fait, il est devenu plus petit, donc ça |
| est un plus conservateur |
| définition de l’extrapolation. |
| Et je vais y retourner |
| activé pour restreindre les traces de mon profil. |
| Et maintenant je ne peux qu'y aller |
| régions où je me trouve dans un rayon de 3 |
| fois l’effet de levier moyen. |
| Maintenant, nous avons aussi |
| optimisation mise en œuvre |
| qui obéit au |
| extrapolation |
| contraintes. Alors maintenant, si je |
| activer la désirabilité définie |
| et je fais l'optimisation, |
| J'obtiendrai une valeur optimale qui |
| satisfait l'extrapolation |
| contrainte. Notez que ceci |
| la métrique est inférieure ou égale à |
| le seuil. Alors maintenant, quand je pars |
| à ma prochaine diapositive, qui va |
| comparer dans un graphique, un nuage de points |
| matrice, la différence |
| entre la valeur optimale avec |
| contrôle d'extrapolation activé |
| et avec il éteint. |
| Voici donc le nuage de points |
| matrice que j'ai créée avec JMP, |
| et il montre l'original |
| données de variables prédictives, ainsi que |
| comme valeurs des variables prédictives |
| pour la solution optimale en utilisant |
| pas de contrôle d'extrapolation, en |
| bleu, et la solution optimale en utilisant |
| contrôle d’extrapolation en rouge. |
| Et remarquez comment le sans contrainte |
| solution ici en bleu, |
| ici, viole le |
| structure de corrélation pour le |
| données originales pour le pouls d'exécution et |
| Impulsion maximale, augmentant ainsi le |
| l'incertitude de cette prédiction. |
| Alors que la solution optimale |
| qui a utilisé l'extrapolation |
| le contrôle est beaucoup plus cohérent |
| avec les données originales. |
| Voyons maintenant un exemple |
| en utilisant le plus généralisé |
| méthode de contrôle d'extrapolation, |
| que nous appelons un |
| méthode T au carré régularisée. Comme |
| Chris l'a mentionné plus tôt, nous |
| développé cette méthode pour les modèles |
| autres que les modèles des moindres carrés. |
| Nous allons donc examiner un |
| modèle neuronal pour le diabète |
| données qui sont également dans l'échantillon |
| données. La réponse est une mesure |
| de la progression de la maladie, et le |
| les prédicteurs sont la référence |
| variables. Une fois de plus, le |
| métrique d'extrapolation utilisée pour |
| cet exemple est le |
| carré T régularisé qui |
| Jeremy décrira dans |
| plus de détails dans quelques minutes. |
| J'ai donc les données sur le diabète ouvertes dans |
| JMP et moi avons enregistré un script |
| de mon modèle neuronal s'adapte. Je suis |
| je vais aller de l'avant et exécuter ça |
| scénario. Il lance le neurone |
| plate-forme, et remarquez que je suis |
| utilisant la méthode de validation, aléatoire |
| retenir. je voulais juste noter |
| que chaque fois que vous utilisez un |
| méthode de validation, le |
| le contrôle d’extrapolation est basé |
| uniquement sur les données d'entraînement |
| et pas votre validation |
| ou des données de test. |
| J'ai donc le profileur ouvert et |
| vous pouvez voir qu'il utilise le |
| traces complètes. Extrapolation |
| la commande n’est pas allumée. Allons |
| allez-y et allumez-le. |
| Et je vais aussi |
| allumez les détails. |
| Vous pouvez voir que les traces ont |
| été restreint et la métrique |
| est le carré T régularisé. Le |
| le seuil est 3 fois le |
| écart type de l'échantillon |
| régularisé T au carré. Jérémie est |
| je vais parler davantage de quoi |
| tout cela veut dire exactement en quelques |
| minutes. Et je voulais juste |
| mentionner que lorsque nous utilisons |
| le T régularisé au carré |
| méthode, il n'y a qu'un seul choix |
| pour le seuil, mais vous pouvez |
| ajuster le multiplicateur. Alors si tu |
| allez au contrôle d'extrapolation, définissez |
| seuil, vous pouvez ajuster ce |
| multiplicateur, mais je vais |
| laissez-le à 3 heures. Et maintenant je |
| souhaitez exécuter l'optimisation en utilisant |
| contrôle des extrapolations. Donc je suis |
| je vais juste maximiser et |
| souviens-toi. Maintenant j'ai un |
| solution optimale avec |
| le contrôle d'extrapolation est devenu |
| sur. Et donc maintenant je veux regarder |
| sur notre matrice de nuages de points, juste |
| comme nous l'avons vu auparavant, avec |
| les données originales, ainsi que |
| avec les valeurs optimales avec |
| et sans extrapolation |
| contrôle. |
| C'est donc une matrice de nuages de points |
| des données sur le diabète que j'ai |
| créé dans JMP. Il a le |
| valeurs prédictives originales, comme |
| ainsi que la solution optimale |
| en utilisant le contrôle d'extrapolation dans |
| rouge et solution optimale sans |
| contrôle d’extrapolation en bleu. |
| Et tu peux voir que le rouge |
| les points semblent être beaucoup plus |
| au sein de la structure de corrélation |
| des données originales que le |
| bleu, et c'est particulièrement |
| vrai quand on regarde ce LDL |
| par rapport au cholestérol total. |
| Alors maintenant, regardons un exemple |
| en utilisant le profileur qui se trouve sous |
| le menu graphique, que j'appellerai |
| le profileur de graphiques. Il utilise également |
| la méthode du T carré régularisé |
| et cela nous permet d'utiliser |
| contrôle d'extrapolation sur n'importe quel |
| type de modèle qui peut être |
| créé et enregistré en JSL |
| formule. Cela nous permet également de |
| avoir un contrôle d'extrapolation activé |
| plus d'un modèle à la fois. |
| Alors regardons un exemple |
| pour une entreprise qui utilise de la poudre |
| technologie métallurgique pour |
| produire des arbres de transmission en acier pour |
| l'industrie automobile. |
| Ils veulent pouvoir trouver |
| réglages optimaux pour leur |
| production qui minimisera |
| rétrécissement et également minimiser... |
| minimiser les échecs dus à de mauvais |
| Conditions de service. Donc nous avons |
| deux | rétrécissement des réponses (qui est |
| continu et nous allons |
| adapter un modèle des moindres carrés pour |
| cela) et l'état de surface (qui |
| c'est réussite/échec et nous allons |
| adapter un modèle logistique nominal pour |
| Celui-la). Et notre prédicteur |
| les variables ne sont qu'une clé |
| variables de processus en production. |
| Et encore une fois l'extrapolation |
| la métrique est le carré T régularisé. |
| Alors j'ai la poudre |
| données métallurgiques ouvertes dans JMP |
| et je suis déjà au moins en forme |
| modèle de carrés pour mon rétrécissement |
| réponse, et j'ai déjà adapté un |
| modèle logistique nominal pour le |
| état de surface réussite/échec |
| réponse, et j'ai enregistré le |
| formules de prédiction aux données |
| table pour qu'ils soient prêts à |
| être utilisé dans le profileur de graphiques. |
| Donc si je vais dans le menu graphique |
| profileur, je peux charger le |
| formule de prédiction du retrait |
| et ma formule de prédiction est pour |
| l'état des surfaces. |
| Cliquez sur OK. Et maintenant j'ai |
| mes deux modèles se sont lancés dans |
| le profileur de graphiques. |
| Et avant de m'allumer |
| contrôle d'extrapolation, vous |
| je peux voir que j'ai le plein |
| traces de profil. Une fois que j'allume |
| contrôle d'extrapolation |
| vous pouvez voir que les traces |
| rétrécir un peu, et je vais aussi |
| pour activer les détails, |
| juste pour montrer qu'en effet je le suis |
| en utilisant le carré T régularisé |
| ici dans cette méthode. |
| Donc ce que je veux vraiment faire, c'est |
| je veux trouver l'optimum |
| conditions où je minimise |
| rétrécissement et je minimise |
| échecs avec extrapolation |
| contrôle et je veux m'assurer |
| Je n'extrapole pas. Je veux |
| trouver une solution utile. Et |
| avant de pouvoir faire l'optimisation, |
| En fait, je dois régler mon |
| désirabilités. Alors je vais |
| définir des désirs. C'est déjà |
| correct pour le rétrécissement, mais je |
| besoin de les définir pour le service |
| condition. je vais essayer de maximiser |
| réussit et minimise les échecs. |
| K. |
| Et maintenant je devrais pouvoir le faire |
| l'optimisation avec |
| contrôles d'extrapolation activés. |
| Maximisez et souvenez-vous. |
| Et maintenant j'ai mon optimal |
| solution avec extrapolation |
| contrôle activé. Alors maintenant regardons |
| encore une fois au |
| matrice de nuages de points du |
| données originales, ainsi que les |
| solution avec extrapolation |
| contrôle dans la solution, |
| avec le contrôle d'extrapolation |
| désactivé. |
| C'est donc une matrice de nuages de points |
| des données de métallurgie des poudres |
| que j'ai créé dans JMP. Et cela |
| a également la solution optimale |
| avec contrôle d'extrapolation comme |
| point rouge, et l'optimal |
| solution sans extrapolation |
| contrôle sous forme de point bleu. Et une fois |
| encore une fois, vous pouvez le constater lorsque nous |
| ne pas appliquer l'extrapolation |
| contrôle, la solution optimale |
| est assez loin en dehors du |
| structure de corrélation du |
| données. On voit surtout |
| qu'ici avec le ratio versus |
| pression de compactage. |
| Alors maintenant je veux céder le relais |
| la présentation à Jérémie |
| aller dans beaucoup plus |
| détails sur nos méthodes. |
| Bonjour, voici donc un certain nombre de |
| objectifs pour le contrôle de l'extrapolation |
| que nous avons aménagé au |
| début du projet. Nous |
| j'avais besoin d'une métrique d'extrapolation |
| cela pourrait être calculé rapidement |
| avec un grand nombre de |
| observations et variables, et |
| nous avions besoin d'un moyen rapide d'évaluer |
| si la métrique indiquait |
| extrapolation ou non. C'était |
| pour maintenir l'interactivité de |
| le profileur trace et |
| nous avions besoin de ça pour |
| effectuer une optimisation. |
| Nous voulions pouvoir |
| prendre en charge les différentes variables |
| types disponibles dans le |
| profileur. Ceux-ci sont |
| essentiellement continu, |
| catégorique et ordinal. |
| Nous voulions utiliser |
| observations avec cellules manquantes, |
| car certaines méthodes de modélisation |
| inclura ces observations |
| dans ???. |
| Nous voulions une méthode qui soit |
| robuste aux dépendances linéaires dans |
| les données. Celles-ci se produisent lorsque le |
| le nombre de variables est plus grand |
| que le nombre d'observations, |
| Par exemple. Et nous voulions |
| quelque chose de facile à faire |
| automatiser sans avoir besoin d'un |
| beaucoup de commentaires des utilisateurs. |
| Pour les modèles des moindres carrés, nous |
| a atterri sur l'effet de levier, ce qui est |
| souvent utilisé pour identifier les valeurs aberrantes |
| dans les modèles linéaires. L'effet de levier |
| car le nouveau point de prédiction est |
| calculé selon ceci |
| formule. Il y a beaucoup de |
| interprétations pour l’effet de levier. |
| Une interprétation est que c'est |
| la distance multivariée d'un |
| point de prédiction du centre |
| des données d’entraînement. Un autre |
| l'interprétation est qu'il s'agit d'un |
| variance de prédiction mise à l’échelle. Donc |
| à mesure que le point de prédiction se déplace |
| plus loin du centre |
| des données, l'incertitude |
| de prédiction augmente. Et nous |
| utiliser deux seuils communs dans |
| la littérature statistique pour |
| déterminer si cette distance |
| est trop grand. Le premier est |
| effet de levier maximum, prédiction |
| points au-delà de ce seuil |
| ou à l'extérieur de la coque convexe de |
| les données d’entraînement. |
| Et la seconde est 3 fois la |
| moyenne des leviers. Il |
| on peut montrer que c'est |
| équivalent à trois fois le |
| nombre de termes du modèle divisés |
| par le nombre d'observations. |
| Et comme Laura l'a décrit |
| plus tôt, vous pouvez modifier le |
| multiplicateur de ceux-ci |
| seuils. |
| Enfin, quand les désirs |
| sont optimisés, les |
| la contrainte d'extrapolation est une |
| contrainte non linéaire, et |
| auparavant, le profileur autorisait |
| optimisation contrainte avec |
| contraintes linéaires. Ce type de |
| l'optimisation est plus |
| difficile, alors Laura a mis en œuvre |
| un algorithme génétique. Et si tu |
| je ne les connais pas, |
| les algorithmes génétiques utilisent le |
| principes de la moléculaire |
| évolution pour optimiser |
| fonctions de coût compliquées. |
| Ensuite, je parlerai du |
| approche que nous avons utilisée pour généraliser |
| contrôle d'extrapolation aux modèles |
| autres que les modèles linéaires. Quand |
| vous construisez un prédictif |
| modèle dans JMP, vous commencez avec un |
| ensemble de variables prédictives et un |
| ensemble de variables de réponse. Quelques |
| le modèle supervisé est formé, et |
| alors un profileur peut être utilisé pour |
| visualiser la surface du modèle. |
| Il existe de nombreuses variantes dans |
| le profileur dans JMP. Tu peux |
| utiliser le profileur en interne dans |
| plateformes de modélisation. Tu peux |
| formules de prédiction de sortie et |
| créer un profileur pour plusieurs |
| des modèles. Comme Laura l'a démontré, |
| vous pouvez construire des profileurs pour |
| modèles d’ensemble. Nous voulions un |
| méthode de contrôle d'extrapolation |
| ça généraliserait tout ça |
| scénarios, donc au lieu de |
| lier notre méthode à un |
| modèle spécifique, nous allons |
| utiliser un véhicule sans surveillance |
| approche. |
| Et nous allons seulement signaler un |
| point de prédiction comme |
| extrapolation si c'est loin |
| à l'extérieur où se trouvent les données |
| concentré dans le prédicteur |
| espace. Et cela nous permet de |
| être cohérent à travers |
| profileurs afin que nos |
| méthode de contrôle d'extrapolation |
| se branchera sur n’importe quel profileur. |
| La distance multivariée |
| interprétation de l'effet de levier |
| a suggéré le T de Hotelling au carré comme |
| une distance pour le général |
| contrôle des extrapolations. En fait, |
| quelques manipulations algébriques |
| montrer que le T au carré de Hotelling est |
| il suffit de déplacer l'effet de levier et |
| escaladé. Cette figure montre comment |
| Mesures du T carré de Hotelling |
| qui ellipse une observation |
| se trouve là où se trouvent les ellipses |
| centré à la moyenne des |
| données, et la forme est définie |
| par la matrice de covariance. |
| Puisque nous ne sommes plus là |
| modèles linéaires, cette métrique |
| n'a pas la même chose |
| lien avec la prédiction |
| variance. Alors au lieu de |
| en s'appuyant sur les seuils utilisés |
| de retour dans les modèles linéaires, nous sommes |
| je vais en faire |
| hypothèses de distribution |
| pour déterminer si T est au carré |
| pour le point de prédiction devrait |
| être considérée comme une extrapolation. |
| Ici, je montre la formule pour |
| Le T de Hotelling au carré. La moyenne et |
| la matrice de covariance est estimée |
| en utilisant les données d'entraînement pour le |
| modèle. Si P est inférieur à N, |
| où P est le nombre de |
| prédicteurs, N est le nombre |
| d'observations et si le |
| prédicteurs de multivarié |
| normal, alors T au carré pour |
| le point de dépendance a un F |
| distribution. Cependant, nous voulions |
| une méthode pour généraliser |
| ensembles de données avec des données complexes |
| types, comme un mélange de continu |
| et des ensembles de données catégorielles où P |
| est supérieur à N, les ensembles de données avec |
| valeurs manquantes. Alors au lieu de |
| élaborer les distributions |
| analytiquement dans chaque cas, nous |
| utilisé un simple conservateur |
| limite de contrôle que nous avons trouvée |
| fonctionne bien dans la pratique. C'est |
| une limite de contrôle trois Sigma |
| en utilisant la distribution empirique |
| de T au carré de la formation |
| données et, comme Laura l'a mentionné, vous |
| peut également régler ce multiplicateur. |
| Une complication est que lorsque P |
| est plus grand que N, le T de Hotelling |
| au carré n’est pas défini. Il y a |
| trop de paramètres dans le |
| matrice de covariance pour estimer |
| avec les données disponibles, et |
| cela se produit souvent lors d'une utilisation typique |
| cas pour le contrôle de l'extrapolation |
| comme dans les moindres carrés partiels. |
| Nous avons donc opté pour un roman |
| approche du calcul du T de Hotelling |
| au carré, qui traite de ces |
| cas, et nous appelons cela un |
| régularisé T au carré. |
| Pour calculer la covariance |
| matrice, nous utilisons une matrice régularisée |
| estimateur à l'origine |
| développé par Schafer et |
| Débroussailleuse pour haute |
| données génomiques dimensionnelles. |
| C'est juste un poids |
| combinaison du plein |
| exemple de matrice de covariance, |
| qui est U ici et un |
| matrice cible de contrainte |
| qui est D. |
| Pour le poids Lambda |
| paramètre, Schafer et Strimmer |
| dérivé une analyse |
| expression qui minimise le |
| MSE, l'estimateur |
| asymptotiquement. |
| Schafer et Strimmer ont proposé |
| plusieurs cibles possibles |
| matrices. La matrice cible que nous |
| choisi était une matrice diagonale avec |
| les variances de l'échantillon de |
| variables prédictives sur le |
| diagonale. Cette matrice cible a |
| un certain nombre d'avantages pour |
| contrôle des extrapolations. Premièrement, nous |
| ne suppose aucune corrélation |
| structure entre les variables |
| avant de voir les données, qui |
| fonctionne bien comme prieur général. |
| De plus, lorsqu'il y a peu de données |
| pour estimer la covariance |
| matrice, soit en raison du petit N, soit |
| une grande fraction manquante, le |
| la contrainte elliptique est |
| élargi par un poids important sur |
| la matrice diagonale, et ceci |
| donne lieu à une approche plus conservatrice |
| test de contrôle d’extrapolation. |
| Nous avons estimé que cela était nécessaire pour |
| obtenir un contrôle raisonnable de |
| taux de faux positifs. Pour mettre ça |
| plus simplement, quand il y a |
| données de formation limitées, le |
| le T au carré régularisé est inférieur |
| susceptible de qualifier les prédictions de |
| extrapolation, c'est ce que vous |
| veux, parce que tu es plus |
| susceptible d'observer des covariances |
| par chance. Nous avons des |
| résultats de la simulation |
| démontrant ces détails, |
| mais je n'ai pas le temps d'y aller |
| dans tout ça. Au lieu de cela, sur |
| la page Web de la communauté, nous mettons un |
| lien vers un article sur les archives et |
| nous prévoyons de le soumettre au |
| Journal de calcul |
| Statistiques graphiques. |
| La diapositive suivante montre d'autres |
| détails importants dont nous avions besoin |
| considérer. Nous devions comprendre |
| comment gérer les catégoriques |
| variables. Nous sommes juste |
| les convertir en indicateur- |
| variables fictives codées. C'est |
| comparable à un multiple |
| analyse des correspondances. Un autre |
| la complication est de savoir comment calculer |
| Le T de Hotelling au carré quand |
| il manque des données. Plusieurs |
| Modélisation prédictive JMP |
| les plateformes utilisent des observations avec |
| données manquantes pour former leurs |
| des modèles. Ceux-ci incluent des naïfs |
| Forêt Bayes et Bootstrap. Et |
| ces formules montrent le |
| méthode de suppression par paire nous |
| utilisé pour estimer la covariance |
| matrice. Il est plus courant d'utiliser |
| suppression par ligne. Cela signifie |
| toutes les observations avec manquant |
| les valeurs sont supprimées avant |
| calculer la matrice de covariance. |
| Et c'est le plus simple, mais cela peut |
| aboutir à jeter des objets utiles |
| données si la taille de l’échantillon du |
| les données de formation sont petites. Avec |
| observations de suppression par paire |
| et supprimé uniquement s'il y a |
| valeurs manquantes dans la paire de |
| variables utilisées pour calculer le |
| entrée correspondante et c'est |
| ce que montrent ces formules. |
| Cela semble être une chose simple à faire. |
| Vous utilisez simplement toutes les données |
| c'est disponible, mais c'est |
| peut en fait conduire à une foule de |
| problèmes parce qu'il y a |
| différentes observations utilisées pour |
| calculer chaque entrée. Ceci peut |
| provoquer des choses étranges, |
| comme les matrices de covariance avec |
| valeurs propres négatives, ce qui est |
| quelque chose auquel nous avons dû faire face. |
| Voici quelques avantages de |
| le T régularisé au carré nous |
| trouvé en comparant avec d'autres |
| méthodes dans nos évaluations. Un |
| c'est que la régularisation |
| fonctionne de la même manière que la régularisation |
| fonctionne normalement. Cela frappe un |
| équilibre entre le surapprentissage du |
| données de formation et biais excessifs |
| l’estimateur. Cela rend le |
| estimateur plus robuste au bruit |
| et une mauvaise spécification du modèle. |
| Ensuite, Schafer et Strimmer |
| ont montré dans leur article que |
| la régularisation entraîne une |
| estimateur plus précis dans |
| paramètres dimensionnels élevés. |
| Cela aide avec la cursive |
| dimensionnalité qui tourmente |
| la plupart des méthodes basées sur la distance |
| pour le contrôle des extrapolations. |
| Puis dans les domaines qui ont |
| développé la méthodologie pour |
| contrôle d'extrapolation, |
| souvent, ils ont tous les deux un niveau élevé |
| données dimensionnelles et hautement |
| prédicteurs corrélés. Pour |
| exemple en chimioinformatique et |
| chimiométrie, la chimie |
| les fonctionnalités sont souvent très |
| corrélée. Contrôle des extrapolations |
| est souvent utilisé en combinaison |
| avec les modèles PCA et PLS, où |
| T au carré DModX sont utilisés pour |
| détecter les violations de corrélation |
| structure. Ceci est similaire à |
| ce que nous faisons en mode piloté par modèle |
| carte de contrôle multivariée. |
| Puisqu'il s'agit d'un cas d'utilisation courant, |
| nous voulions avoir une option qui |
| ne s'est pas trop écarté de |
| ces méthodes. Notre T régularisé |
| au carré fournit le même type |
| de contrôle d'extrapolation, mais il |
| ne nécessite pas d'étape de projection |
| ce qui présente certains avantages. |
| Nous avons constaté que cela nous permettait de |
| d'autres types mieux généralisés |
| de modèles prédictifs. Aussi dans |
| nos évaluations, nous avons constaté que |
| si une projection linéaire ne le fait pas |
| fonctionne bien pour vos données, comme |
| vous avez des relations non linéaires |
| entre les prédicteurs, les erreurs |
| peut gonfler les limites de contrôle |
| de méthodes basées sur la projection, |
| ce qui conduira à de pauvres |
| protection contre |
| extrapolation, et notre approche |
| est plus robuste que cela. |
| Et puis un autre point important |
| c'est que nous avons trouvé le |
| métrique d'extrapolation unique |
| était beaucoup plus simple à utiliser et |
| interpréter. |
| Et voici un bref résumé de |
| les caractéristiques de l'extrapolation |
| contrôle. La méthode permet de mieux |
| visualisation du réalisable |
| régions en haute dimension |
| modèles dans le profileur. |
| Un nouvel algorithme génétique a |
| été mis en œuvre pour une flexibilité |
| optimisation contrainte. |
| Notre T au carré régularisé |
| gère les observations désordonnées |
| données, cas comme P plus grands |
| que N, et continu et |
| variables catégorielles. |
| La méthode est disponible dans la plupart |
| des modèles prédictifs dans JMP |
| 16 Pro et prend en charge de nombreux |
| leurs particularités. C'est aussi |
| disponible dans le profileur dans |
| graphique, qui ouvre vraiment son |
| utilitaire parce que vous pouvez utiliser |
| sur n’importe quelle formule de prédiction. |
| Et puis comme orientation future, |
| nous envisageons de mettre en œuvre |
| un K-voisin le plus proche basé |
| contrainte qui irait au-delà |
| la corrélation actuelle |
| contrainte structurelle. Souvent |
| les prédicteurs sont générés par |
| plusieurs distributions résultant |
| en clustering dans le prédicteur |
| espace. Et un K-voisins les plus proches |
| une approche fondée permettrait |
| à nous de contrôler l'extrapolation |
| entre les grappes. |
| Alors merci à tous ceux qui |
| je me suis connecté pour regarder ça et |
| voici nos emails si vous en avez |
| toute autre question. |
