Conférencier | Transcription |
| Fabio D'Ottaviano | Ok, merci à tous d'avoir regardé cette vidéo ici. Eh bien, comme vous pouvez le voir, je vais parler des effets aléatoires manquants dans l'apprentissage automatique. |
| C'est une idée de travail avec mon collègue Joe Young, nous travaillons tous les deux pour Dow Chemical Company en Corée du Sud et vous aidons à connaître le développement de nouveaux processus et principalement de nouveaux produits. |
| Ce que vous voyez ici sur cet écran est une grande cage de bingo, car notre discussion ici va porter sur la simulation et la simulation a beaucoup à voir, du moins pour moi. |
| Avec le cas du bingo, puisque vous avez décidé de la distribution de vos boules et de vos numéros à l'intérieur de la grande occasion, vous continuez à les choisir comme vous le souhaitez. Très bien. |
| Cette discussion porte également sur la publication, venons-nous de le dire. |
| Dernièrement, ce qui porte le même nom, et vous pouvez gagner ce que vous devriez avoir accès à cette présentation, vous pouvez simplement cliquer ici et vous aurez accès à l'intégralité du document. Voici donc juste un résumé de ce que nous avons publié là-dedans. |
| Bon, quel est le contexte de tout cela ? Eh bien, tout d'abord, l'apprentissage automatique a une sorte d'attrait plug and play pour les sessions de connaissances. |
| Je sais que vous n'êtes pas obligé de supposer quoi que ce soit d'attrayant. De plus, vous disposez aujourd'hui d'un logiciel très convivial. Vous savez, les gens aiment faire ça de nos jours. |
| Cependant, vous savez, les effets aléatoires sont partout et exécuter ces effets est une chose amusante car c'est un concept un peu plus complexe. Donc, cela a tendance à ne pas être |
| Les cours de statistiques de base permettent d'accéder à des sujets plus avancés. Vous allez donc voir beaucoup de gens faire de l'apprentissage automatique sans vraiment comprendre les effets aléatoires. |
| Et même s’ils ont cette compréhension, alors le concept de fait aléatoire |
| Cela ne suscite toujours pas de grand intérêt chez les personnes qui font de l'apprentissage automatique, car il n'existe que quelques algorithmes capables de le faire et qui peuvent utiliser des effets aléatoires. |
| Vous pouvez vérifier ces références ici où vous voyez qu'il y a des arbres et des forêts aléatoires, et cela peut le supporter, mais le récent et ils ne sont pas, vous savez, répandus |
| Partout. Vous aurez donc du mal à trouver quelque chose qui puisse gérer les effets aléatoires dans l'apprentissage automatique. |
| Parlons un peu des effets aléatoires. Comme vous pouvez le voir ici, du moins dans l'industrie chimique d'où je viens. Nous mélangeons généralement trois composants. C'est vrai. Ces composants sont jaune, rouge et vert. |
| Nous, nous faisons cela, vous savez, le pourcentage de chacun de ces composants à différents niveaux. Et puis nous mesurons les réponses au fur et à mesure que nous le modifions, le pourcentage de ces composants avec un certain équipement et parfois vous avez même un opérateur ou un technicien de laboratoire qui va |
| Interférez également dans le résultat que vous souhaitez voir. D'accord. Et puis, lorsque nous faisons ce genre d'expérience, nous voulons généraliser, est-ce que ce sont les résultats, n'est-ce pas, ou quelle que soit la prédiction. Nous essayons d'arriver ici. |
| Mais le problème est que vous savez quand je mélange ces composants verts ici. Si j'achète la prochaine fois au fournisseur qui me fournit ce composant vert année |
| Et la teinte verte, vous savez, très et je ne sais pas quelle sera la prochaine fois que j'achèterai ce composant vert. Est-ce que ce sera exactement le même vert que celui que me donnera le fournisseur, car il y a une variabilité dans l'approvisionnement |
| En plus, vous savez que je peux faire valoir mon expérience en fonction de l'équipement que vous utilisez. Mais si je vais voir dans mon laboratoire ou si je regarde dans d'autres laboratoires, je peux avoir différentes marques de ces équipements. |
| Et en plus, vous avez aussi, vous savez, peut-être des aliments dont la mesure dépend de l'opérateur qui fait cela correctement, donc vous pouvez aussi interférer et en quelque sorte appauvrir mon |
| Prédiction ici sur ma généralisation à |
| Faites tout ce que je veux prédire ici en plus |
| C'est le cas le plus courant, je pense, dans l'industrie chimique, c'est l'expérience de variabilité des lots expérimentaux. |
| Au fil du temps, si vous répétez la même chose encore et encore. |
| Disons que vous avez une expérience ici, vous obtenez votre modèle, votre modèle peut prédire quelque chose, mais ensuite vous répétez cette expérience pour obtenir un autre Malden, obtenez un autre modèle, les prédictions de ces trois modèles. |
| C'est peut-être considérablement différent maintenant. Nick est lisible. Donc, il y a aussi la composante du temps. |
| Alors, quel est le problème dont je parle ici ? En général, nous avons des données stockées et des données historiques, c'est-à-dire un ensemble de morceaux de données que vous avez traitées dans le passé. |
| Et les gens ne se sont pas vraiment préoccupés de généraliser ce résultat. Le résultat était celui de l'époque où ils ont fait cette expérience. Donc, lorsque nous les collectons et les appelons données historiques, nous pouvons ou non avoir des balises pour l'effet aléatoire, n'est-ce pas ? |
| Et puis si vous avez du texte, ce qui est au moins de là d'où je viens. C'est plutôt une exception à la règle, c'est qu'il n'y a pas de taxe pour moi, des faits, quoi, du moins pas pour tous. |
| Supposons que vous ayez des balises. Une chose que vous pouvez faire est d'utiliser des techniques d'apprentissage automatique capables de gérer ces effets aléatoires et de les intégrer au modèle. Et c'est tout. Vous n'avez pas de problème. |
| Mais comme je l'ai dit, il n'existe pas de techniques d'apprentissage automatique très bien anesthésiées qui puissent empêcher les effets aléatoires. Vous pourriez être tenté d'utiliser l'apprentissage automatique. |
| Et laissez les effets aléatoires entrer dans le modèle comme s'ils étaient fixes et vous allez alors rencontrer ces problèmes très connus pour lesquels vous devez traiter l'effet aléatoire comme fixe. |
| Juste pour dire une chose, vous aurez du mal à prédire tout ce qui va arriver car, par exemple, si votre effet aléatoire est européen, vous n'aurez que quelques |
| Les opérateurs dans vos données, c'est vrai, quelques noms, mais s'il y a un nouvel opérateur qui fait des jours, vous ne le savez pas. Vous ne pouvez pas prédire quel sera l'effet de ce nouvel opérateur. Donc, ici, il n'y a pas d'accord |
| Et puis il y a une chose que vous pouvez faire. Vous le faites. Vous devriez avoir ou vous ne devriez pas avoir de recettes fiscales que nous sacrifions à nouveau à toute technique d'apprentissage automatique. |
| Et si vous avez un effet aléatoire, vous devez avoir les balises pour ignorer l'effet aléatoire ou si vous ne l'avez pas. De toute façon, vous allez l'ignorer. Que cela vous plaise ou non. Donc ce que je veux faire, c'est moins simuler un jeu de tir. Nous utilisons la pêche à la corde à sauter. |
| Et vous savez, j’espère que vous avez apprécié les résultats. |
| La simulation, en gros. Je vais donc utiliser un modèle à effets mixtes avec des effets fixes et aléatoires. Et puis nous utilisons ce même modèle pour estimer |
| Avec la réponse à cela pour faire le modèle après avoir simulé et modélisé également, les résultats de ma simulation ici avec un réseau neuronal à droite |
| Ensuite, nous utilisons ce modèle ici comme performance prédictive de ce modèle ici. |
| En tant que référence, nous l'utilisons pour prédire les performances de la périphérie, vous savez, pour comparer plus tard, ils prennent leur ensemble de tests, ce sont des carrés pour voir ce qui va se passer. Vous trouvez que l'effet aléatoire est ici, n'est-ce pas ? |
| Bon, d'accord. Parfois, quand je parle de ces personnes, je pense que je compare un modèle à effets mixtes linéaires à un réseau neuronal d'apprentissage automatique. Et ce n'est pas le cas, vous savez, ici nous comparons un modèle avec et sans effet aléatoire. |
| Même s'il y a un effet aléatoire dans les données. Je pourrais le faire. Par exemple, un |
| Modèle linéaire avec effets d'exécution par rapport à un modèle linéaire sans effets d'exécution. |
| Et je pourrais faire un réseau neuronal avec des effets aléatoires par rapport à l'urine qui n'a pas d'effet aléatoire. Mais le problème est qu'aujourd'hui il n'y a pas d'émerveillement et que, par exemple, cela puisse gérer l'effet aléatoire. J'ai donc été obligé d'utiliser. Par exemple, un effet mixte linéaire de tous |
| Mes facteurs de simulation. Eh bien, je vais utiliser quelque chose qui est typiquement dans l'industrie, qui est un mélange avec le modèle de variable de processus. |
| Disons que j'ai ces trois composants. Je vous l'ai montré avant. Connaissez le jaune, le rouge, le vert, et ils ont un certain pourcentage et ils montent jusqu'à un. |
| J'ai une variable continue qui peut être par exemple la température. J'ai une variable catégorielle qui peut être de type capitaliste et j'ai un effet aléatoire qui peut être très laid d'un lot à l'autre d'expériences. Ok. |
| Le modèle de simulation. Eh bien, il est assez simple. J'ai ici mon mélange d'effets principaux M un, M deux et trois. C'est vrai. Et vous verrez partout dans ce modèle que les effets fixes ont tous soit un, soit moins un. Je leur ai simplement attribué un moins un au hasard. |
| J'ai donc les effets principaux du mélange. Ici, j'ai l'interaction bidirectionnelle du mélange, l'interaction du mélange serait une variable continue. |
| Et l'interaction de la variable catégorielle avec les composantes. Et enfin, l'introduction de la variable continue avec la variable catégorielle. |
| De plus, j'ai ces éléments, pourquoi ici nous choisissons mon effet aléatoire et l'Ej, qui est mon erreur aléatoire. C'est vrai. Et les deux sont normalement distribués avec une certaine variance ici. J'ai dit, la variance entre une meilleure des expériences, c'est vrai, et utilise la divergence au sein de la correspondance du lot d'expériences. |
| De partout dans cette présentation, juste pour que toute cette formule représente une forme, je dis plus de manière soignée ou j'utilise cette forme, un héros X représente en fait tous les effets de correction et la version bêta |
| Représente tous les paramètres que j'ai utilisés. C'est vrai. Et mon pourquoi ici. En fait, l'attendu. Pourquoi XP est-il en fait juste, c'est tout ça sans mon effet aléatoire ici et nous avons traité mon maire Renault. |
| Paramètres de simulation. Eh bien, ici j'en ai un qui est la taille des données, n'est-ce pas, celui qu'elle. Que se passe-t-il si je n'ai pas, pas beaucoup de données et |
| Plus de couches de données et plus de données ici, j'ai deux niveaux 110 000 rôles à chaque ensemble d'expériences ici ont en fait 20 lignes d'effet parfait que 200. L'autre chose que je vais varier est que D décide du badge pour le cluster, comme vous le souhaitez. |
| Parfois, ça va être le cas. C'est, j'ai deux niveaux 4% et 25% donc 4% signifie que si j'ai 100 jets de ces un lot d'expérience mon lot, nous allons |
| Ce sera en fait pour les rôles. Je vais donc avoir 2525 lots. Si j'ai 100 rouleaux au total dans mes tailles de lot, 25 % et je n'ai que quatre lots. |
| Ensuite, l'autre variable que nous modifions ici sera la variance totale. |
| Et bien, nous avons ici deux niveaux, point, cinq et 2,5, c'est la moitié de la taille de l'effet, c'est le bon choix. Donc la formule ici. C'est tout à 1 pour l'effet fixe. |
| Et l'autre consiste à écrire et la somme de cette variance totale est la somme de ma variation entre les lots et au sein des lots, une très grande variance. D'accord. Et enfin, l'autre chose que je vais changer est le rapport entre deux au sein de très |
| Des segments similaires. D'accord. J'en ai donc un et quatre. Donc dans l'un, mon |
| La variation entre les lots sera égale au gain et l'autre sera quatre fois plus grande que le gain |
| Ensuite, une fois que je me suis installé, c'est pour |
| quatre facteurs ici. Je dis paramètres et ensuite vous faites une factorielle complète, est-ce que nous portons nos 16 exécutions directement à |
| À deux niveaux de taille de données, deux niveaux de taille de lot, deux niveaux de variance totale, Angelo était le désert. |
| Avec cela, je peux le calculer entre les segments en conséquence. D'accord. Et c'est la configuration pour la simulation. Ok. Maintenant, je l'appelle hyper paramètre de simulation, car vous pouvez le modifier au fur et à mesure que nous |
| Ce que je ferais, et je vous le montrerai dans la démo. Il s'agirait de 30 simulations de risque ou de l'exécution. Donc, pour chacune des 16 simulations, j'exécute 30 fois chacune. C'est vrai. Donc, par exemple, |
| Je vais faire une simulation 123 jusqu'à sale et pour les effets fixes. Le, les effets de niveau de difficulté. J'utilise la conception de sensation d'espace. |
| Et la raison pour laquelle j'utilise cette conception de remplissage d'espace est que je ne veux pas confondre l'effet de l'absence d'effet là et ensuite avec le fait que j'ai peut-être des appels à la charité ou à des données éparses. |
| C'est une chose typique dans les données historiques. C'est vrai. Je ne veux pas que cela se trouve au milieu de mon chemin. Je veux, je préfère concevoir et ressentir l'espace, ce qui nous permet de diffuser le |
| Niveaux des effets fixes sur l'espace d'entrée. Donc, si je me débarrasse de ce problème de frappe éparse des données ou si je nettoie l'étrangeté à droite, puis que vous allouez au lot, nous randomisons le lot en croisant les exécutions au premier tour, puis nous utilisons le même |
| Séquence sur les 29 autres exécutions. Donc pour toutes les exécutions, nous avons le même lot d'emplacement. |
| En retard. Et enfin, tous les emplacements du Père Noël seront randomisés pour chacune des simulations. Alors laissez-moi juste sortir de l'air et commencer à sauter. |
| Donc il ferait comme moi, j'avais l'habitude de faire des conceptions de déversement à usage spécial. Je vais charger mon facteur ici juste parce que je veux être rapide ici. Donc, de toute façon, ici, j'ai mes effets fixes 12345. |
| Les conceptions de sensation d'espace n'acceptent pas un mélange de variables. Vous devez donc définir |
| Les contraintes linéaires sont là, juste pour dire : regardez ces trois gars ici et il faut qu'ils s'additionnent pour arriver à un. C'est donc ce que je vais faire ici. |
| Bien. |
| Donc, avec cela, une contrainte satisfaite donnera un exemple de la première exécution de ce d qui est où j'ai une taille de données de 100 et une taille de lot relative de 4 % |
| variation totale variance totale point cinq et le ratio va être un. Donc si je reviens ici et que je dois mettre, je dois générer 100 exécutions. De plus, si je veux reproduire cette théorie et que vous devez définir la graine aléatoire et le nombre de démarrages corrects |
| Ensuite, la seule option que j'ai lorsque j'ai dit contrainte est la conception de remplissage flexible plus rapide et plus rapide. Et voilà, j'obtiens le tableau ici, vous pouvez donc inclure ce tableau. |
| Une chose que vous voyez, c'est que si vous utilisez un blocage ternaire et que vous utilisez vos trois composants, vous voyez que tout est étalé. Oups. |
| J'ai un problème ici, c'est qu'elle |
| N'a pas |
| Laisse-moi revenir en arrière. Il y a un problème avec les contraintes, oui. J'ai oublié celle-là. Ouais. |
| Bon, on recommence. Cent |
| Ensemble |
| Siège aléatoire 21234 |
| Et le nombre commence. Génial. |
| Prochain livre, je me sens à table. Ouais. Et puis je dois juste vérifier si tout est étalé. |
| Et découvrez. Oui. Très bien, alors je regarde ma variable catégorielle ici. Je veux voir si elle s'est répartie pour toutes. Comme vous pouvez le voir pour un et deux. Super. Maintenant, j'ai dit, permettez-moi de tout fermer, nous faisons 30 simulations. Donc, c'est une SIMULATION, D'ACCORD. J'AI 100 rôles. |
| Mais maintenant, je dois en faire 30. Donc ce que je vais faire, c'est ajouter des rôles ici. |
| 2900 |
| À la fin |
| Et nous sélectionnons simplement ces 1000 premières exécutions, désolé, 100 exécutions de toutes les variables, par an. |
| Et je sens jusqu'au bout de la table. Super. Alors maintenant je répète le même dessin 30 fois, n'est-ce pas ? |
| Maintenant, |
| Pour le rendre plus rapide, il suffirait de l'ouvrir. J'utilise à nouveau ce tableau. J'utilise simplement un autre tableau dans lequel j'ai déjà configuré tout ce que je voulais afficher. |
| Donc oui, je reviens à ce tableau, c'est ce que j'ai. La prochaine chose que je ferais serait de créer une colonne de simulation ici juste pour dire |
| Avec cette formule ici. Je peux dire que les simulations jusqu'à 100 lignes cent cette simulation une et ensuite toutes les cent vous changez les numéros de simulation. Donc à la fin de la journée, j'obtiens évidemment 30 simulations avec 100 lancers. Chaque grande |
| Ensuite, l'emplacement du lot, juste pour expliquer ce qu'ils ont fait. Je viens de montrer cela dans le PowerPoint. J'ai une ferme. Maintenant, vous allez créer deux lots de 4% de la taille de la taille totale des données, ce qui signifie que j'ai quatre lignes par lot ici, puis quatre et ainsi de suite. Et une fois que le |
| J'arrive à 100 ici et je passe de la simulation à la simulation, puis tout recommence. C'est vrai. Donc j'ai fini la journée. |
| Tous les 25 lots ici. Ok. |
| Ensuite, la prochaine chose que je vais faire est de créer ma validation |
| Colonne, ce qui signifie que je dois diviser l'ensemble correctement, donc |
| Revenons à cette démonstration. Revenons au PowerPoint ici, vous voyez que pour la solution que je vais créer, mais le neurone que j'avais |
| Les rôles sont divisés : 60 % d'entre eux appartiennent à l'ensemble d'entraînement, 20 % à l'ensemble de validation et les 22 % restants à l'ensemble de test. Alors, comment faire dans ce cas-là ? Revenons à John |
| Et voilà. Laisse-moi cacher ça |
| Ok, alors voici pour valider la validation à venir. Comment je fais ça. C'est déjà là, mais n'expliquez pas comment vous faites ça, vous allez dans Analyser |
| Faites en sorte que la colonne de validation que vous utilisez, votre colonne de simulation ait une certification, vous y allez et ensuite vous faites simplement |
| Point 6.5 2.2 et un utilisateur une graine aléatoire ici juste pour être sûr que vous voyez, c'est ainsi que je crée cette colonne, n'est-ce pas ? |
| Ensuite, si je reviens à ma présentation ici. |
| Tous les 60% qui appartiennent à l'ensemble de formation pour la nouvelle année et ces 10 à 20% qui |
| Appartient également à l'ensemble de validation pour le réseau proche. Maintenant, ils appartiennent tous deux à un ensemble appelé ensemble de modélisation pour les effets de mixage. Donc l'effet de mixage. |
| Modèle, il n'y aura pas de validation. Il s'agit simplement d'estimer le modèle avec ces 80% et l'ensemble de test de la solution à effets mixtes qui sera le même 20% que j'utilise pour la nouvelle année sur cette solution. Donc dans ce cas, je reviens au saut et |
| Allez ici ça |
| Et c'est tout simplement génial d'entendre une formule où vous savez que zéro signifie la validation du réseau neuronal à zéro signifie l'entraînement, donc l'entraînement, continuez l'entraînement. |
| Le premier paramètre de validation sera ma modélisation et le deuxième est mon ensemble de tests, et ce sera également mon ensemble de tests ici. J'ai donc créé ceux-ci et ensuite vous |
| nom de colonne pour toutes vos étiquettes zéro va être la modélisation et un va être le bureau, de cette façon vous voyez ici que tout ce qui est caché ici, il le dit ici, mais ce que vous forcez une validation devient une modélisation, alors finalement je dois définir les formules pour ma réponse. |
| Donc, pour la valeur attendue de ma simulation. Je dois juste ici corriger la formule des effets, il n'y a pas de terme aléatoire ici. Très bien. Et c'est ma valeur attendue que ma femme et ma femme ij vont être |
| Ceci et vous regardez la formule, vous avez le y qui est ma valeur attendue plus ici j'ai une formule pour générer |
| Un hasard |
| Valeur suivant une distribution normale avec une moyenne nulle et comprise entre sigma sigma |
| Entre sigma. C'est comme définir les variables ici et comme une variable de table car je peux modifier la valeur plus tard dans une semaine sans passer à la formule. Mais de toute façon, cela va générer une valeur unique à chaque fois que vous modifiez le numéro de lot. Donc si mon lot est |
| Ici, ce sera la même valeur lorsque je la change à 22, cela crée une autre valeur. |
| Et vous quand je passe d'une simulation à une autre. Donc j'aurai une valeur pour 25 par lot 25 notre simulation une et puis quand je passe au lot un de simulation là ça crée une autre valeur. |
| D'accord. Et voici juste mon nombre aléatoire normal avec des choses sigma que j'ai mis sur la table ici, d'accord. Alors, voyons une réplique de l'accord que nous exécutons, j'ai sigma 05 et 05 |
| Très bien, alors maintenant j'ai ici la solution pour ma simulation de modèle d'effets de mixage juste avant cela, laissez-moi revenir ici et vous montrer ce que je fais. |
| Par exemple, pour le modèle d'effet de mélange. Mon mode de simulation est celui-ci, mais mes pieds, ce modèle sera le problème, l'analyse sera peut-être le chapeau. |
| Et mon petit être ici va être piraté, n'est-ce pas. Donc, c'est notre plage pour répondre aux valeurs de tout ce que j'ai simulé |
| Et puis dans le modèle d'effet mixte. Je dois utiliser un modèle de prédiction. L'un est un modèle conditionnel approprié lorsque j'utilise |
| L'une est mon estimation des effets aléatoires et l'autre est ma marge lorsque je ne le fais pas. D'accord. J'ai donc ces deux types de modèles. |
| C'est une bonne chose pour prédire des choses que j'ai déjà dans les données. Et c'est quelque chose que j'ai utilisé pour prédire des données autour de moi, je n'ai pas un ensemble de données complet, n'est-ce pas ? |
| Pour la nouvelle année et que j'utilise un, vous savez, le type de défaut standard à proximité et à la fin et au saut, que vous savez que je n'utilise pas seulement parce que c'est difficile parce qu'il fonctionne à peu près. |
| Vous avez ici les cinq effets fixes. J'utilise une couche avec trois nœuds, toutes des fonctions tangentes hyperboliques comme vous pouvez le voir ici |
| Et puis vous avez ici une fonction appelée hx qui est la somme des fonctions de district, plus un terme de biais ici, n'est-ce pas. |
| Donc si j'ajoute plus de nœuds, ça n'améliorera pas les choses. Vous constaterez que vous n'utilisez que deux nœuds et que la situation devient encore pire. Je vais donc utiliser cela partout. Et c'est ce que je vais vous montrer ici. |
| Mon émission. Oups. D'accord. |
| Montrer. |
| Je reviens vers toi. Alors |
| Ici j'ai mon |
| Solution de modèle à effets mixtes. Comment j'en suis arrivé à ça. Juste pour vous montrer. J'ai ici la réponse que j'ai mis validation validation des effets mixtes par simulation. |
| Tous mes effets fixes par an et mon effet aléatoire sont mon lot, n'est-ce pas, puis une génétique pour cette première simulation. Vous voyez la simulation 1 et elle va jusqu'à la simulation Turquie, n'est-ce pas ? |
| Je n'ai pas pu utiliser, par exemple, cette fonction de simulation de saut ici car je change la colonne de validation pour chaque lot, donc je ne peux pas, du moins je ne sais pas comment le faire, comment incorporer la colonne de validation dans la formule de |
| Je suis blanc G. |
| Et. Ok. Alors, oups, de retour ici, alors maintenant j'ai un autre script ici pour ça et tu es dedans, ça va prendre un peu de temps |
| Cela ne devrait pas être un gros problème. |
| Quand je fais par exemple. |
| Les courses que vous faites. Nous avons 1000 lignes par simulation qui peuvent prendre des cours de tout le temps, quelque chose comme peut-être 10 à 15 minutes |
| Faire les simulations auditives en même temps ici devrait faire apparaître quelques |
| Et |
| Et voilà. |
| Ok, donc ici j'ai, encore une fois, si vous regardez chacun d'eux a cinq trois notes, d'accord, et vous avez la simulation 1 jusqu'à la simulation 30 |
| Bien. Donc maintenant que j'ai tout fait pour la première course de mon année, la prochaine chose que je dois comprendre est quel type de nos carrés. Je vais comparer là-bas sont en fait |
| cinq types de nos carrés ici, n'est-ce pas, voici donc la formule du r au carré. Pourquoi, pourquoi est-ce que je différencie les carrés di par type ici parce que cela dépend de ce que vous utilisez, ce qui est réel par rapport à ce qui est prédit dans cette formule. |
| Vous connaissez votre changement de carré. Donc, par exemple, j'ai ici. Oh, ce sont des types de r au carré ou de comparaison |
| Par exemple, la Rosa qui tourne l'ensemble d'entraînement. Ce que j'ai simulé par rapport à la forme que j'ai obtenue pour le réseau neuronal ici parce que lorsque vous êtes dedans. Et vous savez, c'est en fait |
| Le cas, par exemple, dans tous ces trois cas, c'est la même chose parce que je compare ma femme et les chapeaux de ma femme sont les mêmes. Donc, j'ai le type huit, n'est-ce pas ? |
| Ensuite, j'ai un autre type d'appel, c'est là que je compare. Je ne compare pas la valeur simulée avec la |
| Effet aléatoire dans le terme d'erreur aléatoire Je compare la valeur attendue de ma simulation par rapport à la forme qu'elle prend |
| Donc, cela me fait envoyer les règles de l'ensemble de tests qui sont toujours les mêmes, tout comme la façon dont vous calculez le r au carré qui va changer car de cette façon ici. |
| Lorsque j'ai ce que j'appelle l'ensemble de tests conditionnels. Je vois les performances futures des parents, car c'est exactement ce que nous obtenons lorsque vous avez un ensemble de données, car nous ne pouvons pas dire le réel |
| Nous n'avons pas le vrai modèle pour lequel vous devez simuler et vous avez ensuite l'ensemble de tests attendu, qui est en fait la même rose, mais maintenant je compare le |
| Valeur attendue. Et je peux dire, faute d'un meilleur mot, une performance future réelle. Donc la performance apparente n'est pas nécessairement la performance future réelle. OK. |
| Pour le modèle d'effet mixte, c'est le même. Maintenant, j'ai un autre type de r au carré, car ici je compare la valeur simulée à ma |
| Prédiction conditionnelle des terres agricoles ici et utilisation de l'estimation pour avoir des effets aléatoires, mais lorsque je veux prédire l'avenir. Donc, eh bien, personne ne casse les ensembles de tests des deux conditions ici, j'ai un autre carré ici d qui compare la valeur de simulation entière pour I |
| Pourquoi ij par rapport à mon modèle marginal ici. Je n'utilise pas être ici à droite et Leslie pour avoir un cinquième type de notre carré qui est mon attente qui a envoyé |
| Encore une fois, l'ensemble de tests est toujours le même, c'est juste que j'utilise ici. Maintenant, la valeur attendue par rapport à ma marge. Beaucoup. Donc le problème est |
| Si vous ne faites pas attention, vous risquez de calculer le mauvais r au carré. |
| Donc ce que je fais, c'est que, chaque fois que j'ai ici. Et si je devais mélanger le mode d'effet. Je n'utilise rien de ce qui se trouve dans ce rapport, tout ce que je fais, c'est enregistrer les colonnes ici, j'ai enregistré mon |
| Ferme de prédiction du modèle marginal à droite ici, vous avez enregistré la formule de prédiction du modèle conditionnel à droite et je vais créer des colonnes avec ce formulaire sans forme qui est pour le modèle à effet mixte. Maintenant pour le |
| Près de là ou vous pouvez également enregistrer les formules. J'aime dire des formules de fête, parce que je veux juste calculer nos carrés. J'ai donc été enregistré comme des formules rapides et ensuite ce que vous voyez lorsque je crée ces cinq colonnes ici. |
| Très bien, alors laisse-moi aller vers eux. |
| Donc maintenant mon type A, si vous vous souvenez de Taipei de la présentation ici, je compare le type de pourquoi ij simulé à mon proche dans ce modèle. Donc ce que je fais ici. Désolé, ce que je fais ici est |
| Je vais les appeler les infos et vous voyez ici. Prédire quoi et prédire d'AJ |
| Ok, voilà. Maintenant, j'ai ici De Niro sauvé et celui du double de ce qu'il fait est égal à cette valeur. |
| Mais maintenant, je changerais simplement la prédiction de ce qui est ici. Il s'agit de prédire la valeur attendue. Bon, de cette façon, je peux utiliser cette formule qui fonctionne, sauter ici, qui est la comparaison de modèles, je peux aller utiliser ce type A et j'achète une simulation et j'ai grandi grâce à la validation |
| Et puis ce que vous obtenez. C'est tout ce dont vous avez besoin |
| A voir depuis |
| De la simulation 1 |
| Tout est réduit à la simulation 30 et vous l'avez par ensemble, vous pouvez donc plus tard combiner les données du tableau et vous obtenez tout bien net, n'est-ce pas, pour ceux-là, ce sont des carrés. Donc, pour les autres, j'ai aussi un script ici, par exemple pour être |
| Il était la formule de la paix. Maintenant, cette colonne, et je n'ai prédit que l'ensemble r au carré pour l'ensemble de test, pas pour la modélisation, pas pour l'ensemble de validation. Donc la simulation. Un an. |
| Et puis, si vous descendez jusqu'ici, vous avez la simulation 30. Et encore une fois, vous pouvez toujours combiner le tableau de données et vos données ressortent sous le même format de tableau pour tous ces carrés. |
| Et Daniel, évidemment, je peux avoir un autre script ici pour le type de carrés de feu co, nous choisissons l'ensemble de modélisation du modèle à effet mixte à droite et la simulation 1 jusqu'à l'ensemble moderne jusqu'à la simulation 30 et vous savez qu'ils font la même chose. |
| Voyez maintenant sur l'ensemble de test, mais maintenant je prédis pourquoi ij, n'est-ce pas. Donc, le, le, disons, le secret ici est que vous en avez un même parfois dans le lac. Ici encore, j'ai la même formule parce que c'est mon modèle marginal du |
| Solution du modèle à effet mixte. La seule chose qui a changé est dans votre colonne moi pour vous. Assurez-vous d'avoir prédit quoi et vous pouvez ensuite l'utiliser pour calculer tous ces carrés. |
| D'accord. |
| Permettez-moi de revenir à la présentation et maintenant que j'ai rassemblé tous ces carrés, vous empilez vos tableaux et vous pouvez ensuite faire la visualisation, vous voulez |
| Mais ici, je m'intéresse vraiment à l'ensemble de tests conditionnels des deux solutions et à l'attendu qui dit ici, vous savez, je peux passer 45 minutes à parler simplement de cet affichage de tableau ici. |
| Mais je ne suis pas vraiment intéressé par les valeurs absolues du r au carré, mais plutôt par une sorte de manière comparative de comparer notre carré |
| Mais j'ai besoin de jours juste pour vérifier une chose qui est, comme vous pouvez le voir ici, lorsque la taille des données ici comme vous pouvez le voir |
| Ils utilisent le pointeur ici. Facilitez-vous la tâche. J'ai tous les carrés. J'ai créé ici contre tous les facteurs que vous faites. D'accord. |
| Vous voyez donc que lorsque j'ai un petit ensemble de données, ce qui se passe, c'est que je suis proche et que cela est correctement formé grâce à ma formation. |
| Et mes ensembles de validation ont en quelque sorte notre distribution carrée qui se chevauche. Mais ensuite, lorsque vous regardez l'ensemble de test conditionnel, qui est en fait les données, nous avons toujours raison parce que nous n'avons jamais la valeur attendue. |
| C'est toujours au niveau inférieur, comme vous le voyez pour tout cela lorsque j'ai ce petit ensemble de données, mais ensuite lorsque j'ai un ensemble de données plus grand. |
| La situation est différente avec 1000 rôles, alors ils sont tous alignés, vous savez, en quelque sorte superposés. J'ai donc formé ces rôles correctement. Encore une fois, la valeur absolue de notre carré ici n'a pas beaucoup d'intérêt, ce qui les intéresse vraiment, c'est comment, vous savez, si vous revenez à |
| L'une des diapositives précédentes ici, vous voyez que maintenant je veux comparer. Vous voyez, je dois, je veux que vous compariez les performances prédictives de mon modèle à effets mixtes de référence par rapport à mon réseau neuronal par rapport au test de ce carré noir, n'est-ce pas. Alors, voici ce que vous obtenez. |
| Laissez-moi prendre ce moule. Donc, ce que vous obtenez ici, c'est encore tous les verbes. J'avais pour faire nous, et si ils |
| Maladie et votre solution nette ou n'avez pas mélangé les effets de la solution. Vous voyez donc cela pour l'ensemble de tests conditionnels, qui est la seule partie de la performance. Donc, si vous êtes là pendant ce temps, vous savez toujours quand les tailles de données sont petites. |
| L'effet de mélange Maltais fait toujours un meilleur travail ici lorsque vous incluez le |
| L'effet aléatoire est juste par rapport à ce que vous êtes et c'est parce qu'il y a toujours ça |
| Leur médiane ou même leur moyenne sont toutes plus élevées, mais lorsque vous disposez d'un ensemble de données plus important, alors |
| Vous savez que cette différence n'existe plus jusqu'à un certain point, même si le nouveau fait simplement un meilleur travail ici, mais c'est la performance actuelle. |
| Maintenant, le vrai. Vous voyez maintenant que le modèle à effet mixte a été mieux utilisé qu'un acte contre Internet |
| Et là, il n'y a plus de fondement, vous savez, vous savez, parce qu'en fin de compte, le modèle à effet direct. Il fait un meilleur travail, surtout dans ce scénario qui est celui des big data, des big data. |
| Les derniers ensembles ou la variabilité et plus entre les tanières avec les invités en ce moment trouvent ces lignes que j'ai ici, cela va faire cela pour chaque simulation exécutée, cela va faire la différence entre l'effet de mixage. |
| R carré contre la nouvelle année et c'est carré. Alors, c'est parti. |
| Ici, j'ai quatre tracés, alors concentrons-nous sur un seul, ce que vous avez sur l'axe des Y est le carré du climatiseur. Ensuite, mélangez moins la différence dans le carré du climatiseur, désolé, le |
| L'effet de mélange est r au carré moins alors vous êtes dans ce carré. C'est donc ce que vous obtenez ici, et c'est la différence dans un modèle pour les performances futures. |
| Et ici, sur l'axe des x, ce que vous avez, c'est cette différence dans le R carré attendu, nous choisissons votre performance future réelle, à droite ou à biais. Si vous voulez |
| Maintenant, j'ai quatre blocs. Pourquoi, parce que si vous y pensez, lorsque vous avez des données historiques pour lesquelles vous n'avez pas la technologie, vous savez, |
| Vous savez, si vous analysez les données, vous avez peut-être le contrôle sur deux choses, à savoir la taille des données et la taille relative du lot. |
| Pourquoi, parce que vous ne pouvez pas contrôler la variabilité de vos données. Et si vos effets aléatoires vont être beaucoup plus importants que votre air aléatoire. Donc les deux seules choses que vous pouvez éventuellement |
| Ayez un contrôle sur la taille des données et la taille relative des lots. Si vous n'avez pas la balise, vous pouvez au moins avoir une idée si, vous savez, vous utilisez vos données historiques. |
| Il devrait y avoir de très nombreuses chambres, un ou deux lots seulement. C'est vrai. C'est donc le genre de contrôle que vous avez |
| Vous pourrez au moins avoir une idée de la taille du lot lorsque vous disposerez de données statistiques. |
| Donc ce que je compare ici, là encore, j'ai la différence dans le problème des performances apparentes, juste des différences positives, cela signifie que le modèle à effets mixtes a de meilleures performances. |
| Si cette différence est également positive, cela signifie que l'effet mix est synonyme de meilleures performances futures, n'est-ce pas ? |
| Et comme vous pouvez le voir ici, lorsque vous avez un petit ensemble de données, peu importe ce que vous faites. |
| Et le modèle d'effet de mélange a de meilleures performances et parfois bien meilleures car nous reviendrons sur les différences de R au carré, qui peuvent aller bien au-delà de celles-ci. |
| D'accord, donc il obtient de bien meilleures performances que vous ne le pensiez pour l'un ou l'autre. Donc, lorsque les tailles de données sont petites, il n'y a vraiment pas |
| Non, il n'y a pas de solution ici. Cependant, lorsque vous regardez la taille des données, les côtés des données plus gros sont corrects, mais lorsque vous avez cette petite quantité de lots. C'est vrai. |
| Ici, quelque chose de drôle se produit car ici, vous connaissez la différence : le financement suffisant des performances futures, l'axe Y est négatif, la plupart d'entre eux. |
| Ce qui signifie que le proche et celui de faire un meilleur travail en termes de brevet au test mis sur la place Tahrir à droite ou sous condition |
| Touchez ce carré noir. Alors, quand vous le faites. Qui va ressembler à la nouvelle urine. Ce serait un excellent travail mieux que |
| Le modèle à effet mixte. Cependant, lorsque vous regardez l'axe des x, à droite, qui représente la différence dans les performances futures réelles, cela peut être assez trompeur. |
| Bon, alors ici, quand vous avez beaucoup de données, mais seulement quelques lots, vous savez, vous allez obtenir de bons tests, les ensembles de tests sont des carrés. Mais ensuite, lorsque vous essayez de déployer votre moule dans le futur. |
| Vous pourriez avoir des problèmes. Mais si vous regardez ici, nous avons ici une situation d'atténuation où vous avez beaucoup de données et beaucoup de lots. Ils ont donc tendance à ne pas être si différents. D'accord, donc |
| En conclusion, vous devez utiliser un apprentissage automatique à effets aléatoires non négligeables lorsque l’ensemble de données est petit ; vous savez, les performances prédictives de l’ensemble de test seront très probablement médiocres. |
| Peu importe le nombre de clusters de lots dont vous disposez. Et c'est parce que l'apprentissage automatique nécessite la taille de données minimale pour réussir. C'est vrai. Donc il n'y a pas |
| Il n'y a aucun moyen de gagner la partie ici. Maintenant, lorsque la taille des données est importante et que vous n'avez que quelques clusters. Et c'est une situation quelque peu trompeuse car votre ensemble de tests prédit que les performances peuvent être bonnes, mais les performances, nous le serions probablement plus tard lorsque vous déploierez le modèle. |
| Certaines personnes me disent : « Eh bien, pourquoi ne pas utiliser la régularisation ? » Et même si vous le faites, vous ne le ferez pas dans ces situations, car |
| Votre ensemble de tests R au carré va peut-être être bon, mais vous ne savez pas si vous en avez besoin, vous ne pourrez donc pas le dire. |
| Vous savez, quelles sont vos performances futures à long terme, simplement en regardant vos tests sur le carré noir ou certaines sortes d'erreurs. |
| Mais ensuite, lorsque votre ensemble de données est volumineux et que vous avez de nombreux clusters par jour, la situation dans son ensemble est atténuée et l'effet de biais du type de moyenne plus proche disparaît, car chaque effet aléatoire, vous savez, la somme de tous. |
| C'est zéro. Donc plus vous avez de dernières nouvelles, plus vous pouvez les obtenir |
| En plus, vous savez, je voulais juste dire que ce que j'ai appris de cela, c'est que lorsque les données ne sont pas conçues exprès, il y a deux choses dont je me souviens toujours |
| Les machines ne peuvent pas traiter les données simplement parce qu'elles sont volumineuses. Il faut un minimum de compétences en conception pour que cela fonctionne. |
| Mais plus les données sont volumineuses, plus il est probable qu'un niveau minimal de conception soit déjà présent dans les données par pur hasard. Très bien. Et merci, si vous souhaitez nous contacter. Nous sommes dans la communauté jump. Voici nos adresses. Merci. |
