Je trouve que la description du manuel JMP 13 de la procédure de boosting dans les réseaux de neurones est vague. En voici un aperçu :
"La première étape consiste à adapter un modèle à une couche et à deux nœuds. Les valeurs prédites de ce modèle sont mises à l'échelle par le taux d'apprentissage, puis soustraites des valeurs réelles pour former un résidu mis à l'échelle. L'étape suivante consiste à adapter une couche différente, à deux nœuds modèle sur les résidus mis à l'échelle du modèle précédent."
Je ne comprends pas comment JMP utilise les valeurs résiduelles des valeurs prédites. Une formule mathématique ou un diagramme pourrait être extrêmement utile.
JMP ajoute-t-il les résidus aux fonctionnalités définies et entraîne-t-il à nouveau le réseau ? ou est-ce que si forme les réseaux chaînés de résidus seuls? Par exemple, si j'ai 10 fonctionnalités et que j'essaie de prédire une seule réponse continue et que mon réseau a une couche cachée de 3 neurones (c'est-à-dire des nœuds); le premier réseau de neurones dans un réseau boosté serait de forme [10, 3, 1]. Maintenant, JMP calcule les résidus (valeurs vraies - valeurs prédites) à partir de la dernière couche. Maintenant, qu'advient-il des résidus? Quelle est la forme du deuxième réseau, quelles sont ses entrées et que prévoit-il ?
Merci d'avance pour votre temps.
disons que je commence avec 100 mesures différentes (colonnes) et 200 observations (lignes) essayant de prédire 1 réponse continue (colonne). Je suppose que le premier réseau neuronal prendrait les 100 colonnes et produirait 1 prédiction. Le deuxième réseau neuronal prendrait-il 1 colonne de résidus et produirait-il également 1 colonne de prédictions ?
Salut Phil, merci pour ta réponse. L'entrée du deuxième réseau de neurones est encore un peu floue pour moi. Diriez-vous que le deuxième réseau de neurones ne fonctionnerait qu'avec une seule fonctionnalité (les résidus) même si mon ensemble de données initial comportait 100 mesures et que je les utilisais comme fonctionnalités ?
