Fonction d'activation personnalisée pour la plateforme NeuralLa plate-forme Neural Network est très pratique, mais les options de la fonction d'activation pourraient être étendues. Il devrait être très facile d'ajouter des fonctions d'activation dans le concept - mais j'aimerais savoir s'il est possible de le faire actuellement avec JSL ou une autre méthode ? Au fond, je pense que cela revient à fournir une fonction et sa dérivée. Peut-être aussi une stratégie d'initialisation (mais pas si importante avec des réseaux superficiels comme dans JMP).
Re : Fonction d'activation personnalisée pour la plate-forme NeuralAssurez-vous d'utiliser le lien "JMP Wish List" ci-dessus. C'est là que vous placez vos suggestions.
Re : Fonction d'activation personnalisée pour la plate-forme NeuralJ'aimerais également avoir plus de fonctions d'activation parmi lesquelles choisir et/ou la possibilité de construire une fonction d'activation personnalisée.
Re : Fonction d'activation personnalisée pour la plate-forme NeuralOui, j'ai JMP Pro et j'ai beaucoup travaillé avec la plate-forme Nueral. J'essaie principalement d'utiliser pour la régression et je vois le potentiel à coup sûr - a également une très bonne interface par rapport à l'utilisation de Python. Cependant ... Il n'y a que trois options de fonction de noyau et le linéaire et le gaussien ne sont pas vraiment utiles à l'OMI - le gaussien est tiré des SVM, j'en suis sûr et ne semble offrir aucun avantage sur tanh dans mon expérience et la fonction d'identité ne ne déforme pas l'espace d'ordre supérieur et n'est pas différent de la régression linéaire. La fonction tanh est bonne mais je pense qu'elle était destinée à la classification à l'origine dans les ANN. Je peux voir les limites/saturations dures apparaître dans la régression réelle par les tracés prédits et je vois également des conditions de type limite indésirables dans les données de prédiction en temps réel où les entrées évoluent lentement au fil du temps - encore une fois un artefact de la fonction tanh. Je voudrais essayer un arcsinh (sin hyperbolique inverse) pour atténuer ce problème. Je suppose que ses propriétés sont plus souhaitables pour la régression et peuvent surmonter les lacunes d'une fonction tanh pour les applications de régression.
Re : Fonction d'activation personnalisée pour la plate-forme NeuralUtilisez-vous JMP Pro ? JMP Pro offre un choix de plusieurs fonctions d'activation différentes. JMP Pro propose également deux couches masquées au lieu d'une seule couche masquée dans JMP. Je serais certainement curieux de savoir quelle fonction d'activation vous souhaitez utiliser.
Re : Fonction d'activation personnalisée pour la plate-forme NeuralCe n'est pas possible pour le moment.Avez-vous une situation dans laquelle vous pensez que cela pourrait aider, et si oui, pourriez-vous la décrire s'il vous plaît ?
