928667_fr-FR

liliconcom

Comment choisir les paramètres d'indépendance pour optimiser un modèle de régression

Salut l'équipe,

Lors de l'ajustement du modèle, j'ai constaté que le choix de différents paramètres générait des résultats différents. Une fois le modèle obtenu, j'ai examiné les points de données présentant un résidu studentisé élevé afin de vérifier leur validité. J'ai dû répéter l'étape de sélection des paramètres à plusieurs reprises pour obtenir un modèle satisfaisant. Prenons l'exemple suivant :

Modèle 1 :

Modèle 2 :

Comme vous pouvez le constater, le modèle 2 présente de nombreux points de données avec un résidu studentisé élevé, comparativement au modèle 1. Lors de la validation de ces points de données, ceux-ci ont été classés comme non valides. Il semble donc que le modèle 2 soit plus robuste.

Ma question est la suivante : bien que les deux modèles présentent des scores R² élevés, pourquoi le modèle 2 a-t-il permis d’éliminer davantage de points de données aberrants ? Cela pourrait être dû aux paramètres que j’ai choisis lors de la création du modèle.
Questions :
-Si je classe les points de données comme Bons/Mauvais dans une nouvelle colonne de l'ensemble de données, existe-t-il une méthode dans JMP qui pourrait me suggérer les paramètres à choisir afin que le modèle soit plus robuste pour éliminer les points de données mauvais ?

-Si je ne classe pas les points de données, existe-t-il une méthode dans JMP qui pourrait me suggérer les paramètres à choisir afin que le modèle soit plus robuste pour éliminer les points de données erronés ?

J'espère pouvoir obtenir des conseils de la communauté.

Apprécie

Modélisation statistique avancéeAnalyse et modélisation de données de baseModélisation prédictive et apprentissage automatiqueRe : Comment choisir les paramètres d’indépendance pour optimiser un modèle de régression

Je vous conseille de fournir davantage d'informations. Certes, votre deuxième modèle semble mieux correspondre aux données que le premier, mais cela ne me semble pas suffisant pour décider lequel (le cas échéant) utiliser. Vous indiquez avoir choisi des paramètres différents, mais je pense que vous vouliez dire des variables différentes comme facteurs dans votre modèle. Le choix des variables est une question complexe, à laquelle la qualité de l'ajustement du modèle aux données ne répond que partiellement. Il semble que les deux modèles soient linéaires ; vous pourriez donc essayer divers modèles non linéaires, surtout si les valeurs aberrantes vous préoccupent. Concernant ces résidus importants, j'ai deux remarques. Premièrement, avec autant de données, je doute que ces résidus importants influencent beaucoup le modèle. Deuxièmement, vous devriez expliquer pourquoi ces résidus importants vous préoccupent (une transformation logarithmique pourrait être une solution).

En général, j'aurais besoin de plus d'informations sur votre variable réponse, le type de données dont vous disposez et les objectifs de votre analyse. Le « modèle le plus adapté » ne représente qu'une partie de l'analyse. De plus, la plupart des mesures d'« ajustement optimal » se basent sur des moyennes plutôt que sur des types d'observations particuliers. Votre préoccupation concernant les résidus importants semble indiquer que certains points sont plus importants que d'autres à vos yeux. Dans ce cas, un modèle de régression linéaire n'est peut-être pas le plus approprié (ces résidus importants ont peu d'importance ; par exemple, une régression quantile pourrait être plus pertinente si vous vous souciez de la précision de votre modèle dans des régions d'observations spécifiques plutôt qu'en moyenne).

Re : Comment choisir les paramètres d’indépendance pour optimiser un modèle de régression

« Quels sont les objectifs de votre analyse ? »
En général, ma recette pour fabriquer un produit (dont le poids dépend) comporte cinq facteurs : la température, la force, la hauteur, l'épaisseur et le temps. Je suppose que si je dispose d'un historique suffisant de données pour ces facteurs (température, force, hauteur, épaisseur et temps) et pour la variable dépendante (le poids du produit), je peux élaborer un modèle et obtenir une formule du type : y = b₀ + b₁x₁ + b₂x₂ + ... J'applique ensuite cette formule à mon système de production en ligne afin de comparer le poids réel au poids prédit par le modèle. Je ne suis pas certain de mon hypothèse, mais je suppose qu'un résidu élevé indique une forte probabilité qu'un ou deux facteurs soient anormaux, ce qui expliquerait ce résidu élevé. C'est pourquoi je souhaite utiliser un modèle de régression.
Pour reprendre mon exemple précédent, je disposais d'un jeu de données historiques et je savais précisément quelles données étaient erronées. J'ai ensuite appliqué le modèle pour vérifier si un modèle de régression pouvait identifier les produits défectueux. Parmi les deux modèles présentés, le modèle 2 était celui que je recherchais, car il mettait en évidence les points de données présentant des résidus élevés. Cependant, l'obtention de ce modèle 2 a nécessité de nombreux essais et un temps considérable.

Re : Comment choisir les paramètres d’indépendance pour optimiser un modèle de régression

Élaborer des modèles à partir de données historiques est à la fois complexe et risqué. Je suggère d'utiliser ces données pour formuler des hypothèses à explorer par le biais d'une conception expérimentale. Les données historiques manquent de contexte. Par exemple, connaissez-vous les erreurs de mesure associées aux valeurs de chaque variable x et Y ? Savez-vous quels autres facteurs ont influencé la collecte des données ? Existe-t-il des problèmes de distorsion des données ? Qu'en est-il des effets potentiels de facteurs différés ? Et de la variation des matières premières ? Votre raisonnement n'est pas erroné, mais il est dangereux. Une valeur résiduelle élevée indique un problème de modélisation, et non de « mauvaises » données comme vous le suggérez. Si vous souhaitez évaluer la constance du poids au fil du temps, l'échantillonnage est une méthode plus efficace.

Bien qu'il n'existe pas de méthode unique, lors de la construction de modèles à partir de données historiques, je recommande généralement une approche additive. Cette approche nécessite l'expertise d'un spécialiste. Commencez par un modèle du premier ordre et ajoutez des termes supplémentaires selon les besoins. Plusieurs statistiques peuvent s'avérer utiles (par exemple, le R² ajusté, la différence entre le R² ajusté et le R², l'erreur quadratique moyenne, les p-valeurs, les résidus, l'AIC, le BIC, etc.). Les résidus correspondent à la différence entre les valeurs observées et les valeurs prédites par le modèle. Ils permettent d'évaluer les hypothèses de base (NID(0, variance constante)). Ils sont utiles pour identifier les valeurs aberrantes, lorsque le modèle prédit mal certains points de données. Ils peuvent également révéler des problèmes liés à l'hypothèse d'erreurs aléatoires de moyenne nulle, ce qui indique là encore des problèmes au niveau du modèle. Ils permettent souvent de détecter les insuffisances du modèle, notamment lorsqu'un terme non linéaire est nécessaire.