Les réseaux de neuronesQuelle est la fiabilité des réseaux de neurones ? Lorsque je n'ai pas défini la valeur de départ, j'ai obtenu des résultats différents, j'ai donc défini la valeur de départ, mais lorsque je change la valeur de départ de 1234 à 100, j'obtiens également des résultats différents. Je m'intéresse à l'importance variable qui change complètement à chaque fois que j'exécute le modèle. J'ai également essayé d'augmenter le nombre de tournées mais les changements d'importance restent toujours variables. J'utilise la validation Kfold, 3 pour la structure des couches cachées, 10 pour le nombre de modèles, 0,1 pour le taux d'apprentissage, les covariables de transformation et l'ajustement robuste, la méthode de pénalité carrée et 20 nombres de tours. RSquare se situe autour de 0,9 pour la formation et la validation.
Merci,
Shanice Krombeen
Re : Réseaux de neuronesL'ajustement du NN par jour signifie que dans chaque sous-ensemble, chaque pli comprend 12 à 15 observations, ce qui nuit à la stabilité des estimations.
Cela dit, les principaux prédicteurs sont généralement les mêmes et présentent des profils similaires dans les deux scénarios. Vous pouvez supprimer certains de ces prédicteurs, peut-être jusqu'à la moitié, du modèle avec peu de perte de performances, mais le modèle parcimonieux résultant sera plus stable sur les exécutions NN.
De plus, vous installez un modèle très complexe. Il y a 18 nœuds cachés. La réponse est-elle vraiment si compliquée ? Un surajustement du modèle affectera également la stabilité des exécutions.
Si la réponse dépend du temps, comme vous le dites, il me semble alors plus logique d'inclure Day comme prédicteur et d'utiliser l'ensemble de données combinées plus vaste pour une meilleure stabilité.
Re : Réseaux de neuronesOui, la taille de l’échantillon varie de 60 à 91. Les variables sont l'expression de différents transporteurs de nutriments dans le placenta ou l'endomètre aux jours 70, 90 ou 110 de la gestation. Le jour est un effet significatif et l'expression diffère probablement selon le jour, c'est pourquoi j'ajuste le modèle selon le jour. Il est vrai que les effets sont faibles, c’est peut-être la raison pour laquelle l’importance des variables change beaucoup. Voici un exemple de ce que je vois.
Neural Network Run 1Neural Network Run 1Neural Network Run 1Neural Network Run 1Neural Network Run 1Neural Network Run 1Exécution du réseau neuronal 1
Neural Network Run 2Neural Network Run 2Neural Network Run 2Neural Network Run 2Neural Network Run 2Neural Network Run 2 Exécution du réseau neuronal 2
Re : Réseaux de neuronesLa taille de l’échantillon varie donc de 60 à 91 ? Cela semble être des données suffisantes pour un CV k-fold. Néanmoins, si les effets sont faibles, les estimations et l'importance des variables qui les accompagnent pourraient changer considérablement à chaque assignation aléatoire aux ensembles de formation et de validation. Voici un cas simple basé sur l'exemple de Big Class et un NN utilisant les paramètres par défaut, sauf que la validation utilise un CV 5 fois.
(Premier plaisir)
(Deuxième passage)
Ces deux exécutions utilisent le même ensemble de données et les mêmes paramètres, mais impliquent des affectations aléatoires différentes aux cinq volets. Cette variabilité est-elle similaire à ce que vous voyez ?
Pourquoi ne pas inclure Jour comme prédicteur, la taille de l'ensemble de données sera alors de 209 ?
Re : Réseaux de neuronesIl y a 209 observations au total dans l'ensemble de données, mais j'ajuste le modèle quotidiennement. Jour 70 = 60, jour 90 = 91 et jour 110 = 58.
Re : Réseaux de neuronesCombien d’observations au total avez-vous dans votre ensemble de données ?
Re : Réseaux de neuronesDois-je simplement choisir le modèle avec le R carré le plus élevé ? Chaque fois que j'ajuste le modèle, le R carré est toujours élevé (entre 0,90 et 0,94), mais l'importance de la variable sous le profileur de prédiction change de manière significative.
Re : Réseaux de neuronesLes réseaux de neurones sont des modèles prédictifs fiables. Vous utilisez la validation croisée k-fold donc, bien sûr, chaque fois que vous ajustez le modèle, vous obtiendrez des estimations et des résultats différents. Le fait que vous obteniez pratiquement le même carré R pour les ensembles de formation et de validation est une bonne indication que le modèle est bien adapté.
Vous pouvez enregistrer le modèle ajusté sous forme de formule de colonne. Vous n’avez alors pas besoin d’ajuster à nouveau le modèle et les estimations ne changeront pas lorsque vous utiliserez le modèle.
Ré: Réseaux neuronauxSalut Marc,
Merci pour votre réponse ! C'est très utile pour moi pour comprendre le modèle des réseaux neuronaux.
Si je ne définis pas la graine aléatoire, existe-t-il un moyen d'obtenir le numéro de graine pour le modèle NN actuel ?
De plus, existe-t-il un moyen d'obtenir le numéro de graine historique ? J'ai obtenu un bon modèle mais je ne connaissais pas la graine et je veux répéter le modèle la prochaine fois.
Merci!
Meilleur,
Jiaping
Ré: Réseaux neuronauxLa valeur par défaut est 0 pour le premier ajustement. Vous pouvez spécifier une valeur alternative à ce stade. L'ajustement utilise une série de nombres pseudo-aléatoires, qui modifient la valeur de départ au fur et à mesure. Les ajustements suivants utilisent la dernière valeur de départ. Vous ne pouvez pas la spécifier après le premier ajustement.
Une valeur de départ spécifiée par l'utilisateur est capturée si vous enregistrez un script pour Neural. Cette action ne se produit pas si vous utilisez la valeur de départ par défaut, mais vous pouvez toujours reproduire les ajustements en utilisant la valeur par défaut la prochaine fois.
Il n’existe aucun moyen d’obtenir la graine de départ d’un ancien ajustement.
Ré: Réseaux neuronauxSalut Marc,
Merci pour votre réponse !
Lorsque nous définissons la graine aléatoire, déterminons-nous la manière de procéder à la validation croisée ?
Lorsque je règle la valeur aléatoire à 1 et que j'obtiens un modèle, j'obtiens une option « Go » sur le « lancement du modèle » en haut. Après avoir cliqué sur Go, un autre modèle avec un R^carré légèrement différent est obtenu. Qu'est-ce qui fait la différence entre le R^2 du modèle et le précédent lorsque je clique sur « Go » ?
Si je ne spécifie pas la graine aléatoire et que je clique sur « Aller », cela nous donnera-t-il des modèles différents avec une graine aléatoire différente ?
Merci!
Ré: Réseaux neuronauxLa graine aléatoire détermine le début de la séquence de nombres aléatoires utilisée par l'algorithme de la plateforme. La graine par défaut de 0 indique à Neural que vous ne souhaitez pas déterminer la séquence. Le fait de lancer Neural plusieurs fois et d'effectuer un ajustement avec une graine par défaut de 0 ne conduira donc pas à des résultats reproductibles. Vous pouvez modifier la graine pour redémarrer la séquence. Si vous relancez Neural et modifiez la graine sur la même valeur non nulle, vous obtiendrez le même ajustement.
Vous ne pouvez définir la graine qu'au début. Pour lancer la même séquence en utilisant la même graine initiale, vous devrez relancer Neural.
