On souhaite généralement avoir la mesure la plus précise possible. En théorie, c'est bien, mais aux fins de l'analyse des données, plus de précision n'est pas toujours meilleure.
Il est généralement préférable d’examiner toute variable continue et de déterminer une précision raisonnable pour les valeurs enregistrées. Par exemple, supposons que je possède une variable X et que X a les valeurs indiquées dans le tableau ci-dessous:
Les données sont enregistrées avec 10 décimales. Mais si nous analysons ces données, avons-nous vraiment besoin de ce nombre de chiffres à droite de la décimale? Une façon d’examiner cette question consiste à examiner le graphique des estimations de la moyenne et de l’écart type de ces données, en fonction du niveau d’arrondi utilisé. Une bonne question à poser est "Dans quelle mesure les statistiques résumées sont-elles sensibles au niveau de précision?"
En règle générale
Le tableau et le graphique montrent que nous ne perdons pas beaucoup d'informations dans l'estimation de la moyenne, même si nous arrondissons à la première décimale. Une bonne règle empirique concernant la précision requise pour une variable consiste à diviser par 3 l'écart type des données non arrondies et à utiliser le point décimal des principaux chiffres significatifs comme niveau d'arrondi. Dans l'exemple présenté ici, l'écart type des données non arrondies est de 0,3612, donc 1/3 de celui-ci est de 0,12, ce qui indique qu'une seule décimale est suffisante.
Est-ce important lors de la construction de modèles?
Récemment, j'ai rencontré un problème de modélisation prédictive dans lequel le temps nécessaire pour s'adapter à un modèle d'arbre de décision était plus long que souhaité (plusieurs heures de temps de calcul). L'ensemble de données utilisé était assez volumineux (plusieurs millions de lignes). En examinant le problème, j'ai découvert que bon nombre des variables prédictives continues (les X ou les facteurs) étaient enregistrées avec plusieurs décimales. En appliquant la règle empirique d'arrondi, le temps de calcul nécessaire pour ajuster un modèle d'arbre de décision a été réduit à plusieurs minutes. Pourquoi est-ce arrivé? le algorithme de partitionnement récursif qui construit des arbres de décision utilise les niveaux uniques de chaque prédicteur continu et crée des fractionnements binaires basés sur chaque niveau unique afin de trouver le fractionnement optimal. Si les facteurs du modèle sont trop précis, cela ajoute une grande quantité de temps de calcul et ne présente souvent que très peu d'avantages en termes d'amélioration de la précision du modèle. L'arrondi des facteurs a réduit le nombre de niveaux uniques et rendu l'algorithme d'ajustement du modèle beaucoup plus rapide.
Données de binning
En pratique, on sait également que même des indicateurs moins précis des niveaux de variables continues peuvent être utiles et conduire à de meilleurs modèles. Une approche pour réduire la précision d’une variable prédictive consiste à utiliser binning . Le binning affecte simplement chaque variable continue à un niveau catégorique. Arrondir est un exemple de binning. Un autre exemple de tri consiste à créer un histogramme des données et à utiliser les bacs de l’histogramme comme prédicteur. UNE l'article précédent décrivait un outil de binning interactif que vous pouvez utiliser pour faire ce genre de binning manuellement. UNE troisième exemple de binning est d'utiliser une approche supervisée , où les intervalles du prédicteur sont choisis de manière à maximiser la capacité de prédiction de la variable regroupée.
Pour le problème d'analyse des données auquel j'ai été confronté, avec des données trop précises conduisant à un temps de calcul long, j'avais 100 variables prédictives nécessitant un certain niveau de classement en casier. L'approche de binning interactif aurait pris trop de temps et l'approche de binning supervisée est, en elle-même, intense en calcul, elle a donc pris pas mal de temps. J'ai décidé d'utiliser une approche de binning non supervisée qui consiste simplement à rechercher des groupements ou des grappes dans les variables de prédiction, une variable à la fois.
Binning des données en utilisant des distributions de mélange normales
Considérons la variable légèrement "grumeleuse" présentée dans l'histogramme ci-dessous. Une distribution de mélange normale utilisant 3 distributions normales est ajustée aux données (Hotspot> Ajustement continu> Mélanges normaux> Mélange normal 3). Les estimations de paramètres de la distribution de mélange sont enregistrées et une formule de regroupement est créée pour affecter une ligne à un groupe en fonction de la distribution dans le mélange où la probabilité associée est la plus élevée.
La variable regroupée est un entier qui conserve l'ordre dans les données. Elle peut donc être utilisée en tant que variable continue, ordinale ou nominale.
Cliquez sur l'image pour voir la version animée
Pour automatiser le processus d’utilisation des distributions de mélange normales pour le binning non supervisé, j'ai créé un complément JMP ( disponible pour le téléchargement sur l’échange de fichiers JMP - nécessite un profil SAS libre).
Dans le cadre de la préparation des données pour la modélisation, prenez en compte la précision des données de vos variables de prédicteur et voyez si une précision plus faible pourrait être utile lors de votre analyse. J'espère que les idées présentées dans cet article vous seront utiles pour vous aider à construire de meilleurs modèles.
Arati Mejdal a écrit:
Merci Sam! Je mettrai à jour le lien dans le post.
Sam Gardner a écrit:
Berry & Linhoff, Techniques d'exploration de données, 2e édition, p. 237 et p351, mentionnent notamment l'utilité de la création de répertoire. En particulier, ils indiquent "Peut-être de manière inattendue, les valeurs de binning peuvent améliorer les performances des algorithmes d'exploration de données".
chris dorger a écrit:
Sam,
règle intéressante et facile à retenir. Avez-vous une référence pour sa source? Pourquoi ça marche?
