Where should I invest to maximize profits?Where should I invest to maximize profits?Where should I invest to maximize profits?Where should I invest to maximize profits?Où dois-je investir pour maximiser mes profits ? Vous venez de passer l'année dernière à collecter des données, à les restructurer, à analyser les relations et à affiner les paramètres. Vous avez travaillé dur et avez abouti à toute cette expertise dans ce que vous pensez être un modèle de prédiction robuste que vous allez désormais utiliser pour déterminer où votre entreprise dépensera 10 millions de dollars de ses actifs. Dans quelle mesure êtes-vous confiant dans votre décision ? Avez-vous pris en compte tous les scénarios, facteurs et contraintes possibles ? Est-il possible que vous ayez raté quelque chose ?
Bienvenue dans le monde de l’incertitude, où l’inconnu empêche même les praticiens des données les plus expérimentés de dormir la nuit. C'est la peur de ne pas savoir ce que nous ignorons et de passer à côté d'un effet ou d'un résultat imprévu qui peut transformer un simple modèle de prédiction en le pire cauchemar d'une organisation.
Que vous utilisiez les derniers algorithmes d'intelligence artificielle ou que vous utilisiez des méthodes de régression traditionnelles, un certain niveau d'incertitude sera toujours présent dans votre modèle.
Puisqu’elle est inévitable, la question se pose désormais : l’incertitude peut-elle être minimisée et atténuée ? Absolument, je crois qu’il peut être considérablement réduit en incorporant quelques stratégies simples qui ont fait leurs preuves pour améliorer la précision des prédictions et réduire l’incertitude des modèles.
Incertitude liée à l'échantillon de données
Pour commencer, nous devons reconnaître et comprendre qu’il existe de nombreuses sources d’incertitude dans les modèles prédictifs. La variation des données, la technique de modélisation et la sélection des prédicteurs contribueront toutes à la performance du modèle. Pour cette discussion, concentrons notre attention sur l'incertitude liée à l'échantillon de données. La qualité de l'ensemble de données joue un rôle essentiel dans l'exactitude d'une prédiction. Les données sont le carburant d’un modèle de prédiction. Et dans la plupart des scénarios, plus nous pouvons alimenter le modèle, plus notre capacité à améliorer la précision est grande. Mais tout a un coût, et la collecte de grands ensembles de données peut s’avérer un effort coûteux et long. Compte tenu de cette contrainte, la meilleure stratégie au Jour Zéro consiste à élaborer un plan de collecte de données en utilisant plans d'expériences (DOE) pour rassembler dès le départ des données critiques qui capturent les combinaisons de facteurs et de variations nécessaires pour modéliser avec précision les relations.
Malheureusement, la plupart n’empruntent pas cette voie et se retrouvent par la suite dans un besoin désespéré de données complémentaires après la phase de collecte pour enrichir leur modèle. Est-ce que cela vous ressemble ? Que faire maintenant lorsqu'il n'y a plus de budget pour collecter davantage de données ? Pas besoin de s'inquiéter.
3 techniques pour enrichir vos données
Vous serez heureux de savoir que de l'aide est à portée de main sous la forme de trois techniques simples et rapides qui ont fait leurs preuves pour enrichir vos données et retrouver la précision de votre modèle sans avoir à investir des ressources supplémentaires dans la collecte de nouveaux points de données : Bootstrapping, Monte Carlo Simulation et imputation.
Amorçage : Une technique simple dans laquelle nous échantillonnons à plusieurs reprises des observations aléatoires dans nos données pour produire un nouvel ensemble de données « bootstrap », fournissant une meilleure approximation des estimations du modèle.
Jetons un coup d'œil à cette technique en pratique. Dans l'exemple ci-dessous, j'aimerais explorer le paramètre du modèle (perméabilité) et déterminer si ses intervalles de confiance de 0,010 et 0,108 sont une représentation précise des limites théoriques de cette variable. Une fois que j'aurai répondu à cette question, j'aurai une meilleure compréhension de la relation entre la perméabilité et la réponse de mon modèle.
Original confidence limits for permeability are 0.010 and 0.108Original confidence limits for permeability are 0.010 and 0.108Original confidence limits for permeability are 0.010 and 0.108Original confidence limits for permeability are 0.010 and 0.108Les limites de confiance initiales pour la perméabilité sont 0,010 et 0,108.
New bootsrap limits of 0.019 and 0.119 reflect a more accurate estimate of actual valuesNew bootsrap limits of 0.019 and 0.119 reflect a more accurate estimate of actual valuesNew bootsrap limits of 0.019 and 0.119 reflect a more accurate estimate of actual valuesNew bootsrap limits of 0.019 and 0.119 reflect a more accurate estimate of actual valuesLes nouvelles limites bootsrap de 0,019 et 0,119 reflètent une estimation plus précise des valeurs réelles
En utilisant JMP , je génère 2500 échantillons bootstrap pour calculer de nouveaux intervalles de confiance de 0,019 et 0,119. Les limites du bootstrap sont plus grandes que les limites initiales de 0,010 et 0,108, ce qui suggère que la relation entre la perméabilité et les réponses prévues est en fait plus forte que celle estimée précédemment. Grâce à ces nouvelles informations, je peux ajuster les coefficients de mon modèle pour réduire l'incertitude et produire une estimation plus conforme aux résultats réels attendus.
Simulation Monte-Carlo : Utilise des distributions de variation aléatoire pour produire une estimation robuste des résultats de prédiction afin de mieux tenir compte de l'incertitude dans les données du modèle.
Appliquons cette deuxième technique à notre exemple d'ensemble de données. J'ai créé un modèle traditionnel dans lequel je peux estimer la réponse attendue (Ex : REC=847.805) pour un ensemble de conditions. Bien que je puisse calculer la réponse prévue et les intervalles de confiance de ces estimations, ce que je ne peux pas calculer, c'est un résultat qui intègre la variation du monde réel que j'observerais généralement entre mes facteurs. En utilisant l'option simulateur de JMP, je peux désormais modéliser les facteurs sous forme de distributions aléatoires et produire des estimations plus précises de mes valeurs de réponse attendues. Dans mon exemple, Monte Carlo Simulation révèle qu'environ 25 % de mes valeurs de réponse se situent en dehors de ma limite inférieure de 750. Grâce à ce niveau de risque quantifié avec plus de précision, je peux désormais prendre une décision commerciale plus éclairée après avoir simulé plusieurs scénarios et pondéré leurs résultats respectifs en conséquence.
Monte Carlo simulation of predictor variables allows for risk analysis under varying conditionsMonte Carlo simulation of predictor variables allows for risk analysis under varying conditionsMonte Carlo simulation of predictor variables allows for risk analysis under varying conditionsMonte Carlo simulation of predictor variables allows for risk analysis under varying conditionsLa simulation Monte Carlo des variables prédictives permet une analyse des risques dans diverses conditions
Imputation: Technique de remplacement de données utilisée pour remplacer les données manquantes par un résultat calculé.
Les données réelles auront parfois des valeurs manquantes, et mon exemple d'ensemble de données n'est pas différent. Il contient certaines entrées pour lesquelles les données n'ont pas été collectées en raison d'un problème avec un capteur. Malheureusement, puisque ces valeurs ont été omises, elles sont désormais écartées de toute analyse, et je perds toute perspective prospective qui aurait pu être obtenue si mon ensemble de données était complet. En utilisant l'imputation dans JMP , je peux désormais estimer les valeurs de ces entrées manquantes et augmenter la confiance de mes projections. L'imputation peut être effectuée à l'aide de nombreuses techniques ; J'ai opté pour une méthode appelée Imputation SVD multivariée pour prédire les valeurs des 14 entrées manquantes. Il convient de noter que les données imputées ne sont pas des données réelles, mais qu’elles offrent un moyen de réaliser une analyse qui autrement ne pourrait pas être réalisée. En imputant mes données manquantes, j'augmente la précision des estimations des variables prédictives et je peux désormais utiliser pleinement toutes mes données collectées.
Results of 14 imputed values allow for estimation of missing dataResults of 14 imputed values allow for estimation of missing dataResults of 14 imputed values allow for estimation of missing dataResults of 14 imputed values allow for estimation of missing dataLes résultats de 14 valeurs imputées permettent d'estimer les données manquantes
Améliorer les estimations et réduire l’incertitude
Amorçage, simulation de Monte Carlo et imputation. Et voilà : trois techniques simples et rapides qui peuvent être mises en œuvre sur n’importe quel ensemble de données existant pour enrichir la qualité des résultats et améliorer considérablement votre précision prédictive. Les modèles de prédiction sont des choses étonnantes dont les cas d'utilisation se multiplient de plus en plus à l'ère du Big Data. Malgré les progrès réalisés dans les options de modélisation et les algorithmes visant à promouvoir une meilleure robustesse et précision, les performances continuent de dépendre de la qualité des données qui alimentent le modèle.
Dans un monde idéal, l’incertitude serait inexistante et nos données ouvriraient la voie à une prédiction parfaite. Mais nous savons que les données réelles ne se soucient pas de ce que nous pensons. C'est compliqué, imparfait et difficile à gérer, alors relevons ce défi en ajoutant quelques nouveaux outils dans la boîte à outils. Ne laissons pas les inconnus nous empêcher de dormir la nuit. Soyez proactif en utilisant ces stratégies pour améliorer les estimations, réduire l'incertitude et rester sûr que vous prenez les meilleures décisions commerciales possibles.
Ces techniques concernent la qualité de l’information. Compte tenu de vos données et de vos objectifs, ils vous aident à améliorer la qualité des informations que vous générez.
Pour une introduction au bootstrapping, avec des exemples et des exercices, voir ce lien :
Pour une introduction au bootstrapping
Pour une introduction à la qualité de l'information, voir ce lien :
Pour une introduction à la qualité de l'information (InfoQ)
Pour un complément JMP pour évaluer la qualité de l'information (InfoQ), voir Complément JMP pour évaluer InfoQ
