194323_fr-FR

liliconcom

Modèle significatif avec LoF significatif

Chers JMPers,

 

Je pense avoir un défi!

 

Il s'agit d'un modèle significatif avec des résultats de LoF significatifs. J'ai tout essayé dans la communauté JMP, en ajoutant des interactions, des termes d'ordre plus élevé et en excluant certains résultats (valeurs aberrantes potentielles) pour corriger le LoF. Le problème est que: X1, X2 et X3 sont fortement corrélés. Je préférerais garder ces 3 facteurs à la fin du modèle pour atteindre un espace de conception dans lequel travailler, mais ce n'est pas indispensable.

 

Je me suis donc retrouvé avec 2 modèles (régression linéaire multiple):

- le premier plus simple, pas d'interactions - seul X3 a été conservé, les VIF sont faibles mais les LoF sont toujours significatives pour Y1, Y2 et Y3

- la seconde avec interactions - tous les X1, X2 et X3 ont été conservés dans les équations, avec des interactions significatives. Y1 a un LoF non significatif, mais pas le même pour Y2 et Y3... De plus, les VIF augmentent beaucoup en Y3, et le profileur n'est pas brillant ...  

 

Remarque: les exécutions ne proviennent pas d'un DoE (c'était empirique).

 

Donc d’une manière générale, les modèles (moindres carrés standards) me semblent tout à fait bien. Mais il semble que je doive parvenir à un compromis entre LoF + normalité des résidus OU faibles VIF + simplicité du modèle. 

 

Est-ce que je manque quelque chose ici? Puis-je améliorer mes modèles et corriger les résultats LoF?

 

Merci d'avance pour votre conseil,

Marta

Modèle significatif avec LoF significatif

Données intéressantes.

 

 

Vous semblez avoir des observations très influentes ainsi qu'une forte colinéarité. Ces deux problèmes constituent un problème pour la régression multiple.

 

 

Vous n'avez pas beaucoup d'informations indépendantes.

 

La colinéarité rend très difficile la détermination de la signification.

 

 

Le très faible effet de levier signifie que de très petits changements dans les valeurs de données peuvent produire de très grands changements dans les statistiques (par exemple, les estimations de paramètres et les rapports t).

Modèle significatif avec LoF significatif

Certains problèmes peuvent être évités en n'utilisant pas de prédicteur linéaire ni de régression. Voici le résultat d'un modèle de réseau neuronal simple (5 nœuds cachés dans une couche cachée, tous utilisant la fonction d'activation de la tangente hyperbolique):

 

 

Les prédictions du modèle semblent raisonnablement précises:

 

 

Le modèle semble bien se profiler:

 

Modèle significatif avec LoF significatif

Bonjour @markbailey ! Merci pour votre précieuse suggestion! En fait, je n'ai jamais envisagé un réseau de neurones. Je crois que vous avez raison, il semble que la solution parfaite pour ce cas.

En tout cas, quand j'essaie de reproduire dans mon JMP, j'obtiens toujours une pente positive pour X2 et non une négative comme la vôtre (et je sais que la bonne doit être négative!) Une suggestion pour cela? 

 

 

Modèle significatif avec LoF significatif

Je ne suis pas sûr de ce qui pourrait causer ce retournement de pente, mais j'ai quelques idées. Il y a trois choses à considérer. Tout d’abord, l’affectation des observations aux ensembles d’apprentissage et de validation est aléatoire, de sorte que le processus fera varier les résultats, bien que les différences soient généralement faibles si l’ensemble de données est très volumineux.

 

Deuxièmement, votre ensemble de données n'est pas très volumineux! Vous pouvez imaginer que si 1/3 des données sont soumises à une validation aléatoire, les résultats ne peuvent pas être les mêmes. En outre, certaines de vos variables n’avaient que deux ou trois niveaux. Certains des niveaux se sont produits seulement quelques fois. Cela compliquera encore les différences entre les essais. Vous pouvez essayer la validation croisée au pli au lieu de Holdout pour la méthode de validation. Vous pouvez utiliser 5 à 10 fois pour de bons résultats avec cette méthode de validation.

 

Troisièmement, l’impact de la colinéarité ne peut être complètement évité. X2 est fortement corrélé avec X1 et X3. Compte tenu de la méthode de validation en attente, le sous-ensemble aléatoire de 2/3 des lignes pourrait modifier la pente. 

 

La construction de modèle est un travail sérieux et minutieux. Ma réponse précédente était une suggestion, pas une consultation complète payante. (Ce n'est pas le but des discussions ici!) Vous devez apprendre toute technique de modélisation avant de faire confiance et de partager vos découvertes. Mais j'espère que cette discussion est suffisante pour vous aider à démarrer.

Modèle significatif avec LoF significatif

En effet, c'était utile. Je n’ai jamais vraiment aimé les réseaux de neurones, car il est difficile de comprendre ce qui se cache derrière, mais maintenant, je suis curieux. Je dois étudier plus et approfondir cette question. J'ai aussi de nouveaux résultats bientôt, je peux essayer de les prédire, comparer et vérifier si cela fonctionne vraiment. Bon week-end!