Comment sélectionner les termes du modèle pour un petit échantillon (Dois-je utiliser Lasso ? Choisir les termes manuellement avec la valeur p ?)Salut,
Je cherche la meilleure façon de sélectionner les termes à inclure dans mon modèle quadratique. 
J'utilise la méthode des moindres carrés pour comprendre comment le pH et d'autres variables continues (et peut-être aussi quelques indicateurs discrets à ajouter prochainement à mon modèle) sont affectés par trois facteurs différents : la concentration A, la concentration B et le rapport C. Je dois donc déterminer la relation entre ces facteurs (leurs carrés et leurs interactions) et les mesures que j'ai effectuées (pH, valeurs rhéologiques, etc.).
J'ai obtenu mes données en réalisant un plan d'expériences de Taguchi L9 (trois paramètres à trois niveaux chacun), ce qui me donne seulement 9 expériences. Je dois choisir les termes de mes modèles pour chaque variable de sortie. (Un premier modèle pour le pH, un autre pour les mesures rhéologiques, etc.)
Avec seulement 9 simulations, je sais que je ne peux pas ajuster le modèle quadratique complet (10 paramètres). Les effets principaux sont orthogonaux, mais les interactions à deux facteurs sont confondues avec les effets principaux (|r| ≈ 0,58), je prévois donc de les supprimer. Il reste alors les effets principaux et les termes quadratiques (6 paramètres). Ma question porte sur la méthode de sélection parmi ces termes restants : réduction manuelle (suppression progressive des termes non significatifs) ou LASSO ? Quelle méthode est la plus appropriée pour une thèse de doctorat ?
Merci d'avance pour votre aide !
Cordialement,
Anna
Re : Comment sélectionner les termes du modèle pour un petit échantillon (Dois-je utiliser Lasso ? Choisir les termes manuellement avec la valeur p ?)N'hésitez pas à demander des détails supplémentaires !
Re : Comment sélectionner les termes du modèle pour un petit échantillon (Dois-je utiliser Lasso ? Choisir les termes manuellement avec la valeur p ?)Salut @FrancesBudgie97 ,
Bienvenue dans la communauté !
Il est assez rare de voir des plans d'expériences de Taguchi utilisés. Pour être sûr, vos trois facteurs sont numériques continus, mais pour créer le plan, vous les avez définis comme catégoriels ou numériques discrets ?
Je ne supprimerais pas d'emblée les termes susceptibles d'être corrélés à d'autres dans le modèle. La corrélation entre les termes est fréquente dans les plans d'expérience, et cela n'empêche pas leur inclusion dans le modèle. Il en résultera certaines restrictions quant à l'inclusion des termes (vous ne pourrez pas tous les inclure, sous peine de créer une singularité dans votre modèle), une certaine imprécision dans leur estimation (avec des intervalles de confiance plus larges autour des valeurs estimées) et un certain degré de colinéarité (vous pouvez vérifier les valeurs du facteur d'inflation de la variance (VIF) des termes inclus dans votre modèle afin d'évaluer le degré de colinéarité).
Comme il est impossible d'estimer tous les termes possibles d'un modèle de surface de réponse (MSR) à partir de votre plan d'expérience, vous vous trouvez dans une situation de sursaturation. Vous devrez utiliser des méthodes spécifiques pour déterminer quels termes ont le plus d'impact sur vos différentes réponses. Voici quelques options intéressantes :
Vous pouvez trouver un cas d'utilisation présenté dans le groupe d'utilisateurs français de JMP ici , où j'ai utilisé ces différentes plateformes pour comparer les métriques d'ajustement du modèle (R² / RMSE / ...), l'équilibre complexité/précision du modèle (avec des critères d'information comme la vraisemblance, l'AICc et le BIC) , l'accord entre les modèles pour les inclusions de termes, etc.
Concernant votre question sur l'ajout/la suppression de termes pour construire vos modèles, les méthodes mentionnées ci-dessus peuvent vous aider. Mais surtout, vous devez définir :
- Votre objectif : Êtes-vous dans une situation de criblage (où les valeurs p peuvent aider à différencier un signal réel d’une variation aléatoire ou du bruit) ? Ou dans un scénario d’optimisation/prédiction (où la précision du modèle peut être plus importante, vous pouvez donc vous fier à l’erreur quadratique moyenne et à d’autres métriques prédictives) ? Ou êtes-vous entre les deux et vous hésitez (le critère d’information peut vous aider à comparer les modèles et à déterminer le bon équilibre entre précision et complexité pour les termes et leur nombre).
- Vos connaissances/votre expertise du domaine : Êtes-vous capable de supprimer ou d’ajouter des termes en fonction des données historiques ou de vos connaissances du système étudié ? Existe-t-il déjà des interactions ou des effets principaux connus pour être actifs et importants ? Pouvez-vous vérifier ou évaluer un modèle avec des experts du domaine afin d’en vérifier la pertinence ?
- Votre stratégie de validation : Une fois que vous avez sélectionné des modèles qui semblent adaptés à vos réponses, vous devez les valider. Selon vos objectifs et votre budget expérimental, différents scénarios de validation sont possibles. Souhaitez-vous uniquement valider les points optimaux ? Ou préférez-vous valider le modèle sur les plages de valeurs des facteurs étudiées (et, pour ce faire, tester des combinaisons de niveaux de facteurs non prévues dans le plan expérimental, mais respectant les plages de valeurs) ? Il n’existe pas de règles strictes pour valider vos résultats, mais consacrer un soin particulier (et du temps !) à la réalisation de ces expériences de validation peut considérablement renforcer votre confiance dans les modèles (et celle de vos relecteurs !).
J'espère que cette réponse vous aidera.
