Ce complément aide à créer des colonnes de validation pour les données qui pourraient inclure une corrélation entre les lignes, soit en raison de l'autocorrélation ou d'autres facteurs, y compris le bruit qui affecte les lignes séquentielles. Les données sont regroupées par ligne, puis des groupes sont affectés à la formation ou à la validation. Il existe également une option pour utiliser le regroupement et la validation des points de coupure ensemble, de sorte que les groupes de validation sont répartis dans le temps tandis que les dernières lignes se trouvent dans le jeu de test. L'utilisateur est présenté avec une recommandation par défaut qui est probablement plus utile lors de l'analyse des données de processus continu que d'utiliser la plate-forme de validation standard. Si des variables cibles sont sélectionnées, des graphiques sont présentés pour aider l'utilisateur à visualiser la répartition formation/validation.
Il a été créé avec JMP Pro version 16.Il n'a pas encore été testé sur les versions standard ou antérieures de JMP.
Retrouvez ce projet sur GitHub , n'hésitez pas à y soumettre des problèmes ou des demandes d'extraction.
Motivation
Par défaut, la plateforme de validation attribue des lignes à la formation et à la validation de manière aléatoire et individuelle. Lorsque les lignes sont indépendantes, c'est l'idéal, mais si une ligne dépend de la ligne précédente, cette division conduira à des attentes irréalistes quant à la puissance prédictive d'un modèle, car les informations contenues dans l'ensemble d'apprentissage sont essentiellement utilisées pour valider et tester le modèle.Dans les séries chronologiques, cela est généralement résolu à l'aide de la validation des points de coupure, en fait @ian_jmp et @julien développé un excellent addin pour cela: Créer une colonne de validation de série chronologique .Pour de nombreux modèles exploratoires, l'utilisation des dernières lignes n'est cependant pas la meilleure approche, en particulier lorsque des modifications récentes ont motivé l'analyse.La sélection de groupes de lignes dans l'ensemble d'apprentissage augmente la probabilité que des données récentes soient toujours disponibles pour le modèle, tout en minimisant le risque que des sources individuelles de bruit soient présentes dans les groupes d'apprentissage et de validation.
Alternatives
Deux autres façons d'analyser les données avec corrélation entre les lignes sont meilleures dans certaines situations mais ne sont pas toujours réalisables :
- Réduisez la table de données pour avoir des lignes véritablement indépendantes, éliminant ainsi la possibilité qu'une ligne soit corrélée avec la ligne précédente.Parfois, il est difficile ou fastidieux de résumer efficacement chaque colonne en lignes indépendantes.Par exemple, si un utilisateur ne sait pas déjà qu'un événement de 15 minutes dans une variable au début d'un temps de séjour de 2 jours affecte sa cible, l'utilisateur peut ne pas savoir comment résumer cette variable sur 2 jours ou plus dans afin d'obtenir des lignes indépendantes.
- Modélisez ou prédisez l'autocorrélation. La plate-forme de séries chronologiques est un excellent point de départ, et l'inclusion de séries de variables décalées dans des modèles multivariés peut fournir de nombreuses informations supplémentaires sur le processus.Pour les processus complexes avec des centaines de variables, cela prend du temps et est complexe, et ils ont tendance à dépasser les compétences des nouveaux utilisateurs.
L'interface utilisateur
L'utilisateur sélectionne les variables cibles, le cas échéant. Par défaut, le premier d'entre eux est utilisé pour la stratification, bien que cela n'affecte pas toujours la répartition en fonction de la taille du groupe et de la table.Le type de validation par défaut est Groupement et une taille de groupe recommandée est présentée.
Certaines informations sur les variables cibles sont affichées pour aider l'utilisateur à identifier une taille de groupe appropriée.
Détails "Sous le capot"
La taille de groupe recommandée est basée sur une analyse de séries chronologiques de chaque variable cible.La plate-forme choisit un temps de latence où les plusieurs lignes suivantes ont une autocorrélation inférieure à 0,1, puis garantissent un nombre minimum de groupes dans les petites tables et augmentent la taille des groupes dans les grandes tables.
Retour d'information
Nous recherchons des suggestions et des idées, à la fois liées à cette interface utilisateur et à d'autres moyens de résoudre ce problème. Pour les discussions philosophiques, n'hésitez pas à créer un nouveau post dans le Discussion forum et balise @ih et @DrewLuebe pour attirer notre attention, cela laissera beaucoup de place à la discussion.
