Conférencier | Transcription |
| Salut, je suis Chris Gotwalt. Mon co |
| présentateurs, Laura Lancaster et |
| Jeremy Ash et moi présentons |
| un nouveau JMP Pro utile |
| capacité appelée Extrapolation |
| Contrôler. Presque tous les modèles |
| tu voudrais jamais prédire |
| avec a une gamme de |
| applicabilité, une région du |
| espace d'entrée, où le |
| les prédictions sont considérées comme |
| assez fiable. En dehors de ça |
| région, nous commençons à extrapoler |
| le modèle aux points éloignés du |
| données utilisées pour ajuster le modèle. Utilisant |
| les prédictions de ce modèle |
| à ces moments-là pourrait conduire à |
| complètement peu fiable |
| prédictions. Il y en a deux |
| sources primaires de |
| extrapolation | statistique |
| extrapolation et basé sur le domaine |
| extrapolation. Les deux types sont |
| couvert par la nouvelle fonctionnalité. |
| Une extrapolation statistique se produit |
| quand on essaie de |
| prédire en utilisant un modèle à un x |
| qui n'est pas proche des valeurs |
| utilisé pour former ce modèle. |
| Extrapolation basée sur le domaine |
| se produit lorsque vous essayez d'évaluer |
| à un x qui est impossible en raison |
| aux scientifiques ou à l'ingénierie |
| contraintes fondées. L'exemple |
| illustre ici les deux types de |
| extrapolation dans un exemple. |
| Ici, nous voyons un profileur d'un |
| maquette d'une production métallurgique |
| traiter. La prédiction lit |
| out dit -2,96 sans |
| indication que nous évaluons |
| à une combinaison de température |
| et une pression impossible |
| dans un sens du domaine à atteindre pour |
| cette machine. Nous avons aussi |
| extrapolation statistique comme il |
| est loin des données utilisées pour ajuster |
| le modèle vu dans le scatter |
| tracé des données d'entraînement sur le |
| droit. Dans JMP Pro 16, Jeremy, |
| Laura et moi avons collaboré pour |
| ajouter une nouvelle capacité qui peut |
| donner un avertissement lorsque le profileur |
| pense que tu pourrais être |
| extrapolant. Ou si vous tournez |
| contrôle d'extrapolation activé, il |
| restreindra l'ensemble des points |
| que vous ne voyez que ceux qui |
| il ne pense pas que ce soit |
| extrapolant. Nous avons deux types |
| de contrôle d'extrapolation. L'un est |
| basé sur le concept d'effet de levier |
| et utilise un modèle des moindres carrés. |
| Ce premier type est uniquement |
| disponible dans la version Pro de |
| Ajuster les moindres carrés du modèle. Le |
| autre type que nous appelons général |
| extrapolation de l'apprentissage automatique |
| control et est disponible dans le |
| Plateforme Profiler et plusieurs |
| l'apprentissage automatique le plus courant |
| plates-formes dans JMP Pro. Sur |
| demande, nous pourrions même l'ajouter à |
| Suite. Moindres carrés |
| le contrôle d'extrapolation utilise le |
| concept d'effet de levier, qui est |
| comme une version à l'échelle du |
| variance de prédiction. C'est modèle- |
| basé et donc il utilise des informations |
| sur les principaux effets |
| interactions d'ordre supérieur |
| termes pour déterminer le |
| extrapolation. Pour le général |
| extrapolation de l'apprentissage automatique |
| cas de contrôle, nous devions monter |
| avec notre propre approche. Nous |
| voulait une méthode qui serait |
| robuste aux valeurs manquantes, linéaire |
| dépendances, calcul plus rapide, |
| pourrait gérer des mélanges de |
| entrée continue et catégorielle |
| variables, et nous aussi |
| voulait explicitement séparer |
| le modèle d'extrapolation du |
| modèle utilisé pour ajuster les données. Alors |
| quand on a général |
| contrôle d'extrapolation activé, |
| il n'y en a qu'un supervisé |
| modèle qui est ... qui correspond à la |
| variables d'entrée dans les réponses |
| que nous voyons dans le profileur |
| traces. Le profileur vient |
| avec un rapide et sale |
| modèle non supervisé à décrire |
| les axes du set de formation, et ce |
| un modèle non supervisé est utilisé |
| dans les coulisses par le |
| profiler pour déterminer le |
| contrôle d'extrapolation |
| contrainte. Alors je dois |
| basculer parce que PowerPoint et mon |
| la caméra ne s'entend pas |
| dès maintenant pour une raison quelconque. Nous |
| sachez que les extrapolations risquées |
| sont faits chaque jour par |
| personnes travaillant dans la science des données |
| et sommes convaincus que l'utilisation |
| des extrapolations conduit à une mauvaise |
| prédictions et finalement à |
| mauvais résultats commerciaux. |
| Lieux de contrôle d'extrapolation |
| garde-corps sur les prédictions de modèle |
| et mènera à quantifiablement |
| meilleures décisions par JMP Pro |
| utilisateurs. Lorsque les utilisateurs voient une extrapolation |
| se produisant, l'utilisateur doit faire un |
| décision de savoir si le |
| la prédiction doit être utilisée ou non |
| utilisé en fonction de son domaine |
| connaissance et familiarité avec |
| le problème à résoudre. Si tu |
| commencer à voir l'extrapolation |
| les avertissements de contrôle se produisent assez |
| souvent, c'est probablement la fin de |
| le cycle de vie de ce modèle en |
| il est temps de le remettre sur de nouvelles données |
| parce que la distribution du |
| les intrants se sont éloignés de |
| celle des données d'entraînement. Nous |
| sont honnêtement assez surpris et |
| alarmé que la nécessité de |
| identifier l'extrapolation n'est pas |
| mieux apprécié par les données |
| communauté scientifique et ont fait |
| contrôler l'extrapolation comme |
| facile et automatique que possible. |
| Laura, qui l'a développé en JMP |
| Pro, fera la démonstration du |
| option suivante. Puis Jeremy, qui |
| fait beaucoup de recherches sur notre |
| équipe, ira dans les maths |
| détails et statistiques |
| motivation pour la démarche. |
| Bonjour mon nom est Laura |
| Lancaster et je suis ici pour faire un |
| démo de l'extrapolation |
| contrôle qui a été ajouté à JMP |
| Pro 16. Je voulais commencer |
| avec un exemple assez simple |
| en utilisant le moins le modèle d'ajustement |
| plate-forme de carrés. je vais |
| utiliser des données qui peuvent être |
| familier; ce sont les données de remise en forme |
| c'est dans des exemples de données et je suis |
| va utiliser l'absorption d'oxygène comme |
| ma réponse et Run Time, Run |
| Pulse et Max Pulse comme mon |
| prédicteurs. Et je voulais |
| réitérer que dans le modèle en forme, |
| ajuster les moindres carrés |
| métrique d'extrapolation |
| utilisé est un levier. Alors allons-y |
| à venir et commencer à JMP. |
| Alors maintenant, j'ai les données de fitness |
| ouvert dans JMP et j'ai un script |
| enregistré dans la table de données pour |
| lance automatiquement ma coupe |
| modèle des moindres carrés. Donc je suis |
| va aller de l'avant et exécuter ça |
| script, il lance le moins |
| plate-forme de carrés. Et j'ai le |
| profiler s'ouvre automatiquement. Et |
| on peut voir que le profileur |
| on dirait que ça a toujours été dans le |
| passé, où le facteur limite |
| sont définis par la plage de chacun |
| facteur individuellement, nous donnant |
| contraintes liées rectangulaires. |
| Et quand je change le facteur |
| paramètres, en raison de ces |
| contraintes, ça peut être vraiment |
| difficile de dire si tu bouges |
| loin de la corrélation |
| structure des données. |
| Et c'est pourquoi nous avons voulu ajouter |
| le contrôle d'extrapolation. Alors |
| cela a été ajouté à plusieurs |
| des plates-formes dans JMP Pro |
| 16, y compris l'ajustement des moindres carrés. |
| Et pour arriver à l'extrapolation |
| contrôle, vous allez dans le menu sous |
| le menu du profileur. Alors si je regarde |
| ici, je vois qu'il y a une nouvelle option |
| appelé Contrôle d'extrapolation. |
| Il est désactivé par défaut, |
| mais je peux le tourner soit |
| allumé ou avertissement activé pour allumer |
| contrôle d'extrapolation. Si je |
| allumez-le, remarquez que |
| ça limite mon profil |
| traces pour aller uniquement aux valeurs |
| où je n'extrapole pas. |
| Si je devais le transformer en avertissement |
| sur, je verrais le profil complet |
| traces, mais j'obtiendrais un |
| avertissement quand je vais dans une région |
| où il serait considéré |
| être une extrapolation. |
| Je peux également activer l'extrapolation |
| détails, que je trouve vraiment |
| utile, et cela me donne un |
| beaucoup plus d'informations. D'abord |
| tout ça me dit que mon |
| métrique que j'utilise pour |
| définir l'extrapolation est |
| effet de levier, ce qui est vrai dans le |
| adapter la plate-forme des moindres carrés. |
| Et le seuil qui est |
| utilisé par défaut initialement est |
| va être un effet de levier maximal, |
| mais c'est quelque chose que je peux |
| changer et je vais vous montrer que |
| dans une minute. Aussi, je peux voir |
| quelle est ma métrique d'extrapolation |
| est pour mes paramètres actuels. |
| C'est ce numéro ici, |
| qui changera à mesure que je change |
| mes paramètres de facteur. |
| Chaque fois que ce nombre est supérieur |
| que le seuil, je vais |
| recevoir cet avertissement que je pourrais être |
| extrapolant. Si ça va en dessous, |
| Je ne comprendrai plus ça |
| Attention. Ce seuil n'est pas |
| va changer à moins que je change |
| quelque chose dans le menu pour régler |
| mon seuil. Alors laisse-moi aller de l'avant |
| et faites-le maintenant. Alors je vais |
| aller au menu |
| et je vais aller mettre |
| critère de seuil. Alors |
| dans les moindres carrés, vous en avez deux |
| options pour le seuil |
| initialement, il est réglé au maximum |
| effet de levier, qui va garder |
| vous dans la coque convexe de |
| les données, ou vous pouvez passer à un |
| multiplicateur multiplié par la moyenne |
| effet de levier ou modéliser les termes |
| observations. Et je veux |
| passer à ce seuil. Alors c'est |
| mis à 3 comme multiplicateur |
| par défaut. Donc ça va |
| être 3 fois le levier moyen |
| et je clique sur OK, et remarque que |
| mon seuil va changer. |
| Il est devenu plus petit, donc ce |
| est un plus conservateur |
| définition de l'extrapolation. |
| Et je vais revenir sur |
| activé pour limiter les traces de mon profil. |
| Et maintenant je ne peux aller qu'à |
| régions où je suis à moins de 3 |
| fois l'effet de levier moyen. |
| Maintenant nous avons aussi |
| optimisation mise en œuvre |
| qui obéit au |
| extrapolation |
| contraintes. Alors maintenant si je |
| activer la désirabilité de l'ensemble |
| et je fais l'optimisation, |
| J'obtiendrai une valeur optimale qui |
| satisfait l'extrapolation |
| contrainte. Notez que ceci |
| la métrique est inférieure ou égale à |
| le seuil. Alors maintenant, quand je pars |
| à ma prochaine diapositive, qui va |
| pour comparer dans un graphe, un nuage de points |
| matrice, la différence |
| entre la valeur optimale avec |
| contrôle d'extrapolation activé |
| et avec il éteint. |
| Voici donc le nuage de points |
| matrice que j'ai créée avec JMP, |
| et il montre l'original |
| données de variables prédictives, ainsi que |
| comme valeurs de variable prédictive |
| pour la solution optimale en utilisant |
| pas de contrôle d'extrapolation, en |
| bleu, et la solution optimale en utilisant |
| contrôle d'extrapolation en rouge. |
| Et remarquez comment le sans contrainte |
| solution ici en bleu, |
| ici, viole le |
| structure de corrélation pour le |
| données d'origine pour l'impulsion de marche et |
| Max impulsion, augmentant ainsi le |
| l'incertitude de cette prédiction. |
| Alors que la solution optimale |
| qui a utilisé l'extrapolation |
| le contrôle est beaucoup plus en ligne |
| avec les données originales. |
| Regardons maintenant un exemple |
| en utilisant le plus généralisé |
| méthode de contrôle d'extrapolation, |
| que nous appelons un |
| méthode régularisée au carré du T. Comme |
| Chris a mentionné plus tôt, nous |
| développé cette méthode pour les modèles |
| autres que les modèles des moindres carrés. |
| Nous allons donc examiner un |
| modèle neuronal pour le diabète |
| données qui sont également dans l'échantillon |
| Les données. La réponse est une mesure |
| de la progression de la maladie, et le |
| les prédicteurs sont la base |
| variables. Une fois de plus, le |
| métrique d'extrapolation utilisée pour |
| cet exemple est le |
| carré T régularisé qui |
| Jeremy décrira dans |
| plus de détails en quelques minutes. |
| J'ai donc les données sur le diabète ouvertes dans |
| JMP et moi avons un script enregistré |
| de mon modèle neuronal correspond. je suis |
| va aller de l'avant et exécuter ça |
| scénario. Il lance le neural |
| plate-forme, et remarquez que je suis |
| utilisant la méthode de validation, aléatoire |
| retenir. Je voulais juste noter |
| que chaque fois que vous utilisez un |
| méthode de validation, la |
| le contrôle d'extrapolation est basé |
| uniquement sur les données d'entraînement |
| et pas votre validation |
| ou des données de test. |
| J'ai donc le profileur ouvert et |
| vous pouvez voir qu'il utilise le |
| traces pleines. Extrapolation |
| la commande n'est pas activée. Allons |
| allez-y et allumez-le. |
| Et je vais aussi |
| activez les détails. |
| Vous pouvez voir que les traces ont |
| été restreint et la métrique |
| est le carré T régularisé. Le |
| seuil est 3 fois le |
| écart type de l'échantillon |
| T régularisé au carré. Jeremy est |
| va parler plus de quoi |
| tout cela signifie exactement dans quelques |
| minutes. Et je voulais juste |
| mentionner que lorsque nous utilisons |
| le T régularisé au carré |
| méthode, il n'y a qu'un seul choix |
| pour seuil, mais vous pouvez |
| ajustez le multiplicateur. Alors si tu |
| aller au contrôle d'extrapolation, définir |
| seuil, vous pouvez l'ajuster |
| multiplicateur, mais je vais |
| laissez-le à 3. Et maintenant je |
| souhaitez exécuter l'optimisation en utilisant |
| contrôle d'extrapolation. Donc je suis |
| va juste maximiser et |
| rappelles toi. Maintenant j'ai un |
| solution optimale avec |
| contrôle d'extrapolation activé |
| sur. Et donc maintenant je veux regarder |
| à notre matrice de nuage de points, juste |
| comme nous l'avons vu auparavant, avec |
| les données d'origine, ainsi que |
| avec les valeurs optimales avec |
| et sans extrapolation |
| contrôler. |
| Il s'agit donc d'une matrice de nuage de points |
| des données sur le diabète que je |
| créé dans JMP. Il a le |
| valeurs de prédicteur d'origine, comme |
| ainsi que la solution optimale |
| utilisation du contrôle d'extrapolation dans |
| solution rouge et optimale sans |
| contrôle d'extrapolation en bleu. |
| Et tu peux voir que le rouge |
| les points semblent être beaucoup plus |
| au sein de la structure de corrélation |
| des données d'origine que le |
| bleu, et c'est particulièrement |
| vrai quand vous regardez ce LDL |
| par rapport au cholestérol total. |
| Alors maintenant, regardons un exemple |
| en utilisant le profileur sous |
| le menu graphique, que j'appellerai |
| le profileur de graphes. Il utilise également |
| la méthode régularisée au carré du T |
| et cela nous permet d'utiliser |
| contrôle d'extrapolation sur tout |
| type de modèle qui peut être |
| créé et enregistré en tant que JSL |
| formule. Cela nous permet également de |
| avoir le contrôle d'extrapolation sur |
| plus d'un modèle à la fois. |
| Alors regardons un exemple |
| pour une entreprise qui utilise de la poudre |
| la technologie de la métallurgie pour |
| produire des arbres d'entraînement en acier pour |
| l’industrie automobile. |
| Ils veulent pouvoir trouver |
| paramètres optimaux pour leur |
| une production qui minimisera |
| rétrécissement et minimiser également ... |
| minimiser les pannes dues à une mauvaise |
| Conditions de service. Donc nous avons |
| deux | rétrécissement des réponses (qui est |
| continue et nous allons |
| ajuster un modèle des moindres carrés pour |
| que) et l'état de surface (qui |
| est réussite / échec et nous allons |
| adapter un modèle logistique nominal pour |
| Celui-la). Et notre prédicteur |
| les variables ne sont que quelques clés |
| variables de processus en production. |
| Et encore une fois, je suis l'extrapolation |
| métrique est le carré T régularisé. |
| Alors j'ai la poudre |
| données métallurgiques ouvertes dans JMP |
| et je suis déjà au moins en forme |
| modèle carré pour mon rétrécissement |
| réponse, et j'ai déjà adapté un |
| modèle logistique nominal pour le |
| état de surface réussite / échec |
| réponse, et j'ai enregistré le |
| formules de prédiction aux données |
| table pour qu'ils soient prêts à |
| être utilisé dans le profileur de graphe. |
| Donc si je vais dans le menu graphique |
| profiler, je peux charger le |
| formule de prédiction pour le retrait |
| et ma formule de prédiction est pour |
| l'état de surface. |
| Cliquez sur OK. Et maintenant j'ai |
| mes deux modèles se sont lancés dans |
| le profileur de graphes. |
| Et avant de m'allumer |
| contrôle d'extrapolation, vous |
| peux voir que j'ai le plein |
| traces de profil. Une fois que je m'allume |
| contrôle d'extrapolation |
| vous pouvez voir que les traces |
| rétrécir un peu, et je vais aussi |
| pour activer les détails, |
| juste pour montrer qu'en effet je suis |
| en utilisant le carré T régularisé |
| ici dans cette méthode. |
| Donc ce que je veux vraiment faire c'est que je |
| veulent trouver le meilleur |
| conditions où je minimise |
| rétrécissement et je minimise |
| échecs avec extrapolation |
| contrôle et je veux m'assurer |
| Je n'extrapole pas. je veux |
| trouver une solution utile. Et |
| avant que je puisse faire l'optimisation, |
| J'ai vraiment besoin de régler mon |
| désirabilité. Alors je vais |
| définir les souhaits. C'est déjà |
| correct pour le rétrécissement, mais je |
| besoin de les définir pour le service |
| état. Je vais essayer de maximiser |
| réussit et minimise les échecs. |
| K. |
| Et maintenant je devrais pouvoir faire |
| l'optimisation avec |
| contrôles d'extrapolation activés. |
| Maximisez et souvenez-vous. |
| Et maintenant j'ai mon optimal |
| solution avec extrapolation |
| contrôle sur. Alors maintenant regardons |
| encore une fois au |
| matrice de nuage de points |
| les données originales, ainsi que les |
| solution avec extrapolation |
| contrôle dans la solution, |
| avec le contrôle d'extrapolation |
| désactivé. |
| Il s'agit donc d'une matrice de nuage de points |
| des données de métallurgie des poudres |
| que j'ai créé dans JMP. Et cela |
| a également la solution optimale |
| avec contrôle d'extrapolation comme |
| point rouge, et l'optimum |
| solution sans extrapolation |
| contrôle comme un point bleu. Et une fois |
| encore une fois, vous pouvez voir que lorsque nous |
| ne fais pas l'extrapolation |
| control, la solution optimale |
| est assez loin de la |
| structure de corrélation du |
| Les données. On peut surtout voir |
| qu'ici avec ratio versus |
| pression de compactage. |
| Alors maintenant je veux remettre |
| la présentation à Jeremy |
| aller dans beaucoup plus |
| détail de nos méthodes. |
| Salut, voici donc un certain nombre de |
| objectifs de contrôle d'extrapolation |
| que nous avons présenté au |
| début du projet. Nous |
| avait besoin d'une métrique d'extrapolation |
| qui pourrait être calculé rapidement |
| avec un grand nombre de |
| observations et variables, et |
| nous avions besoin d'un moyen rapide d'évaluer |
| si la métrique indiquait |
| extrapolation ou pas. C'était |
| pour maintenir l'interactivité de |
| le profileur trace et |
| nous en avions besoin pour |
| effectuer l'optimisation. |
| Nous voulions pouvoir |
| supporte les différentes variables |
| types disponibles dans le |
| profileur. Ceux-ci sont |
| essentiellement continue, |
| catégorique et ordinale. |
| Nous voulions utiliser |
| observations avec des cellules manquantes, |
| parce que certaines méthodes de modélisation |
| inclura ces observations |
| dans ???. |
| Nous voulions une méthode qui soit |
| robuste aux dépendances linéaires dans |
| les données. Celles-ci se produisent lorsque le |
| le nombre de variables est plus grand |
| que le nombre d'observations, |
| par exemple. Et nous voulions |
| quelque chose qui était facile à |
| automatiser sans avoir besoin d'un |
| beaucoup d'entrées de l'utilisateur. |
| Pour les modèles des moindres carrés, nous |
| atterri sur l'effet de levier, qui est |
| souvent utilisé pour identifier les valeurs aberrantes |
| dans les modèles linéaires. L'effet de levier |
| pour le nouveau point de prédiction est |
| calculé en fonction de cela |
| formule. Il y a beaucoup de |
| interprétations pour l'effet de levier. |
| Une interprétation est que c'est |
| la distance multivariée d'un |
| point de prédiction depuis le centre |
| des données d'entraînement. Un autre |
| l'interprétation est que c'est un |
| variance de prédiction mise à l'échelle. Alors |
| au fur et à mesure que le point de prédiction se déplace |
| plus loin du centre |
| des données, l'incertitude |
| de prédiction augmente. Et nous |
| utiliser deux seuils communs dans |
| la littérature statistique pour |
| déterminer si cette distance |
| est trop grand. Le premier est |
| effet de levier maximal, prédiction |
| points au-delà de ce seuil |
| ou à l'extérieur de la coque convexe de |
| les données d'entraînement. |
| Et le second est 3 fois le |
| moyenne des leviers. Il |
| peut être montré que c'est |
| équivalent à trois fois le |
| nombre de termes du modèle divisé |
| par le nombre d'observations. |
| Et comme Laura l'a décrit |
| plus tôt, vous pouvez modifier le |
| multiplicateur de ces |
| seuils. |
| Enfin, lorsque les souhaits |
| sont en cours d'optimisation, les |
| la contrainte d'extrapolation est une |
| contrainte non linéaire, et |
| auparavant, le profileur autorisait |
| optimisation contrainte avec |
| contraintes linéaires. Ce type de |
| l'optimisation c'est plus |
| difficile, donc Laura a mis en œuvre |
| un algorithme génétique. Et si tu |
| ne sont pas familiers avec ceux-ci, |
| les algorithmes génétiques utilisent le |
| principes de la molécule |
| évolution à optimiser |
| fonctions de coût compliquées. |
| Ensuite, je parlerai de la |
| approche que nous avons utilisée pour généraliser |
| contrôle d'extrapolation aux modèles |
| autres que les modèles linéaires. Lorsque |
| vous construisez un prédictif |
| modèle dans JMP, vous commencez par un |
| ensemble de variables prédictives et un |
| ensemble de variables de réponse. Quelques |
| le modèle supervisé est formé et |
| alors un profileur peut être utilisé pour |
| visualisez la surface du modèle. |
| Il existe de nombreuses variations dans |
| le profileur dans JMP. Tu peux |
| utiliser le profileur en interne dans |
| plates-formes de modélisation. Tu peux |
| sortie des formules de prédiction et |
| créer un profileur pour plusieurs |
| des modèles. Comme Laura l'a démontré, |
| vous pouvez créer des profileurs pour |
| modèles d'ensemble. Nous voulions un |
| méthode de contrôle d'extrapolation |
| qui généraliserait tout cela |
| scénarios, donc au lieu de |
| lier notre méthode à un |
| modèle spécifique, nous allons |
| pour utiliser un non supervisé |
| approcher. |
| Et nous allons seulement signaler un |
| point de prédiction comme |
| extrapolation si c'est loin |
| à l'extérieur où se trouvent les données |
| concentré dans le prédicteur |
| espacer. Et cela nous permet de |
| être cohérent à travers |
| profileurs afin que nos |
| méthode de contrôle d'extrapolation |
| se branche sur n'importe quel profileur. |
| La distance multivariée |
| interprétation de l'effet de levier |
| a suggéré le T de Hotelling au carré comme |
| une distance pour le général |
| contrôle d'extrapolation. En réalité, |
| certaines manipulations algébriques |
| montrer que le T carré de Hotelling est |
| juste l'effet de levier a changé et |
| escaladé. Cette figure montre comment |
| Mesures T au carré de Hotelling |
| quelle ellipse une observation |
| se trouve là où se trouvent les ellipses |
| centré sur la moyenne du |
| données et la forme est définie |
| par la matrice de covariance. |
| Puisque nous ne sommes plus |
| modèles linéaires, cette métrique |
| n'a pas la même chose |
| connexion à la prédiction |
| variance. Donc au lieu de |
| en fonction des seuils utilisés |
| de retour dans les modèles linéaires, nous sommes |
| va en faire |
| hypothèses de distribution |
| pour déterminer si T au carré |
| pour le point de prédiction devrait |
| être considérée comme une extrapolation. |
| Ici, je montre la formule pour |
| Le T de Hotelling a été au carré. La moyenne et |
| la matrice de covariance est estimée |
| en utilisant les données d'entraînement pour le |
| maquette. Si P est inférieur à N, |
| où P est le nombre de |
| prédicteurs, N est le nombre |
| d'observations et si le |
| prédicteurs de multivarié |
| normal, alors T au carré pour |
| le point de dépendance a un F |
| Distribution. Cependant, nous voulions |
| une méthode pour généraliser |
| ensembles de données avec des données complexes |
| types, comme un mélange de |
| et ensembles de données catégoriques où P |
| est plus grand que N, les ensembles de données avec |
| valeurs manquantes. Donc au lieu de |
| élaboration des distributions |
| analytiquement dans chaque cas, nous |
| utilisé un simple conservateur |
| limite de contrôle que nous avons trouvée |
| fonctionne bien dans la pratique. C'est |
| une limite de contrôle de trois sigma |
| en utilisant la distribution empirique |
| de T au carré de la formation |
| données et, comme Laura l'a mentionné, vous |
| peut également régler ce multiplicateur. |
| Une complication est que lorsque P |
| est plus grand que N, le T de Hotelling |
| au carré n'est pas défini. Il y a |
| trop de paramètres dans le |
| matrice de covariance à estimer |
| avec les données disponibles, et |
| cela se produit souvent lors d'une utilisation typique |
| cas pour le contrôle de l'extrapolation |
| comme dans les moindres carrés partiels. |
| Alors nous avons décidé d'un roman |
| approche du calcul du T de Hotelling |
| au carré, qui traite de ces |
| cas, et nous l'appelons un |
| T régularisé au carré. |
| Pour calculer la covariance |
| matrice nous utilisons un régularisé |
| estimateur à l'origine |
| développé par Schafer et |
| Strimmer pour haut |
| données de génomique dimensionnelle. |
| C'est juste un |
| combinaison du plein |
| échantillon de matrice de covariance, |
| qui est U ici et un |
| matrice cible de contraintes |
| qui est D. |
| Pour le poids Lambda |
| paramètre, Schafer et Strimmer |
| dérivé d'un analytique |
| expression qui minimise la |
| MSE, l'estimateur |
| asymptotiquement. |
| Schafer et Strimmer ont proposé |
| plusieurs cibles possibles |
| matrices. La matrice cible nous |
| choisi était une matrice diagonale avec |
| les variances d'échantillon du |
| variables prédictives sur le |
| diagonale. Cette matrice cible a |
| un certain nombre d'avantages pour |
| contrôle d'extrapolation. Premièrement, nous |
| ne présumez aucune corrélation |
| structure entre les variables |
| avant de voir les données, qui |
| fonctionne bien comme un prieur général. |
| Aussi, quand il y a peu de données |
| pour estimer la covariance |
| matrice, soit en raison d'un petit N soit |
| une grande fraction manquante, le |
| la contrainte elliptique est |
| élargi d'un poids important sur |
| la matrice diagonale, et ce |
| se traduit par un plus conservateur |
| test de contrôle d'extrapolation. |
| Nous avons trouvé que cela était nécessaire pour |
| obtenir un contrôle raisonnable de la |
| taux de faux positifs. Pour mettre ça |
| plus simplement, quand il y a |
| données d'entraînement limitées, le |
| T au carré régularisé est inférieur |
| susceptibles d'étiqueter les prédictions comme |
| l'extrapolation, c'est ce que vous |
| veux, parce que tu es plus |
| susceptibles d'observer des covariances |
| par chance. Nous avons des |
| résultats de la simulation |
| démontrant ces détails, |
| mais je n'ai pas le temps de partir |
| dans tout ça. Au lieu de |
| la page Web de la communauté, nous mettons un |
| lien vers un article sur les archives et |
| nous prévoyons de le soumettre au |
| Journal de calcul |
| Statistiques graphiques. |
| Cette diapositive suivante montre d'autres |
| détails importants dont nous avions besoin |
| considérer. Nous avions besoin de comprendre |
| comment gérer les |
| variables. Nous sommes juste |
| les convertir en indicateur |
| variables factices codées. C'est |
| comparable à un multiple |
| analyse de la correspondance. Un autre |
| la complication est de savoir comment calculer |
| Le T de Hotelling est au carré quand |
| il manque des données. Plusieurs |
| Modélisation prédictive JMP |
| les plateformes utilisent des observations avec |
| données manquantes pour former leur |
| des modèles. Ceux-ci incluent naïf |
| Forêt de Bayes et Bootstrap. Et |
| ces formules montrent le |
| méthode de suppression par paire nous |
| utilisé pour estimer la covariance |
| matrice. Il est plus courant d'utiliser |
| suppression par ligne. Ça signifie |
| toutes les observations avec manquant |
| les valeurs sont supprimées avant |
| calculer la matrice de covariance. |
| Et c'est le plus simple, mais ça peut |
| aboutir à jeter utile |
| données si la taille de l'échantillon de |
| les données de formation sont petites. Avec |
| observations de suppression par paire |
| et supprimé uniquement s'il y a |
| valeurs manquantes dans la paire de |
| variables utilisées pour calculer les |
| entrée correspondante et c'est |
| ce que montrent ces formules. |
| Cela semble être une chose simple à faire. |
| Vous utilisez juste toutes les données |
| c'est disponible, mais c'est |
| peut en fait conduire à une multitude de |
| problèmes parce qu'il y a |
| différentes observations utilisées pour |
| calculer chaque entrée. Ceci peut |
| provoquer des choses étranges, |
| comme les matrices de covariance avec |
| valeurs propres négatives, qui est |
| quelque chose que nous avons dû traiter. |
| Voici quelques avantages de |
| le T régularisé au carré nous |
| trouvé en comparant à d'autres |
| méthodes dans nos évaluations. Une |
| est-ce que la régularisation |
| fonctionne comme la régularisation |
| fonctionne normalement. Il frappe un |
| équilibre entre le surajustement du |
| données d'entraînement et biais excessif |
| l'estimateur. Cela rend le |
| estimateur plus robuste au bruit |
| et une erreur de spécification du modèle. |
| Ensuite, Schafer et Strimmer |
| ont montré dans leur article que |
| la régularisation entraîne une |
| estimateur plus précis |
| paramètres dimensionnels élevés. |
| Cela aide avec la cursive |
| dimensionnalité qui plauges |
| la plupart des méthodes basées sur la distance |
| pour le contrôle de l'extrapolation. |
| Puis dans les champs qui ont |
| a développé la méthodologie pour |
| contrôle d'extrapolation, |
| souvent ils ont tous les deux |
| données dimensionnelles et hautement |
| prédicteurs corrélés. Pour |
| exemple en cheminformatique et |
| la chimiométrie, le produit chimique |
| les fonctionnalités sont souvent très |
| corrélé. Contrôle d'extrapolation |
| est souvent utilisé en combinaison |
| avec les modèles PCA et PLS, où |
| T carré DModX sont utilisés pour |
| détecter les violations de corrélation |
| structure. Ceci est similaire à |
| ce que nous faisons dans le modèle |
| carte de contrôle multivariée. |
| Puisqu'il s'agit d'un cas d'utilisation courant, |
| nous voulions avoir une option qui |
| ne s'est pas trop éloigné de |
| ces méthodes. Notre T régularisé |
| au carré fournit le même type |
| de contrôle d'extrapolation, mais il |
| ne nécessite pas d'étape de projection |
| ce qui présente certains avantages. |
| Nous avons constaté que cela nous permet de |
| mieux généralisé d'autres types |
| des modèles prédictifs. Aussi dans |
| nos évaluations nous avons observé que |
| si une projection linéaire ne le fait pas |
| fonctionne bien pour vos données, comme |
| vous avez des relations non linéaires |
| entre prédicteurs, les erreurs |
| peut gonfler les limites de contrôle |
| de méthodes basées sur la projection, |
| ce qui mènera à des pauvres |
| protection contre |
| l'extrapolation et notre approche |
| est plus robuste que cela. |
| Et puis un autre point important |
| est-ce que nous avons trouvé le |
| métrique d'extrapolation unique |
| était beaucoup plus simple à utiliser et |
| interpréter. |
| Et voici un bref résumé de |
| les caractéristiques de l'extrapolation |
| contrôler. La méthode permet de mieux |
| visualisation du faisable |
| régions en haute dimension |
| modèles dans le profileur. |
| Un nouvel algorithme génétique a |
| été implémenté pour flexible |
| optimisation contrainte. |
| Notre T régularisé au carré |
| gère l'observation désordonnée |
| données, cas comme P plus grand |
| que N, et continue et |
| variables catégorielles. |
| La méthode est disponible dans la plupart |
| des modèles prédictifs dans JMP |
| 16 Pro et prend en charge de nombreux |
| leurs particularités. C'est aussi |
| disponible dans le profileur en |
| graphique, qui ouvre vraiment son |
| utilitaire parce que vous pouvez utiliser |
| sur n'importe quelle formule de prédiction. |
| Et puis comme direction future, |
| nous envisageons de mettre en œuvre |
| un K-plus proche voisin basé |
| contrainte qui irait au-delà |
| la corrélation actuelle |
| contrainte de structure. Souvent |
| les prédicteurs sont générés par |
| distributions multiples résultant |
| en clustering dans le prédicteur |
| espacer. Et un K-plus proche voisins |
| une approche basée permettrait |
| nous pour contrôler l'extrapolation |
| entre les clusters. |
| Alors merci à tous ceux qui |
| à l'écoute pour regarder ça et |
| voici nos e-mails si vous avez |
| toute autre question. |
