Funzione di attivazione personalizzata per la piattaforma neuraleLa piattaforma Neural Network è molto utile ma le opzioni della funzione di attivazione potrebbero essere ampliate. Dovrebbe essere molto semplice aggiungere funzioni di attivazione nel concetto, ma mi piacerebbe sapere se è possibile farlo attualmente con JSL o altro metodo? In sostanza, penso che equivalga a fornire una funzione ed è derivata. Forse anche una strategia di inizializzazione (ma non così importante con reti poco profonde come in JMP).
Ri: Funzione di attivazione personalizzata per la piattaforma neuraleAssicurati di utilizzare il link "Lista dei desideri di JMP" sopra. È qui che metti i tuoi suggerimenti.
Ri: Funzione di attivazione personalizzata per la piattaforma neuraleVorrei anche avere più funzioni di attivazione tra cui scegliere e/o l'opzione di costruire una funzione di attivazione personalizzata.
Ri: Funzione di attivazione personalizzata per la piattaforma neuraleSì, ho JMP Pro e ho lavorato a lungo con la piattaforma Nueral. Principalmente cercando di usare per la regressione e vedo sicuramente il potenziale - ha anche un'interfaccia molto buona rispetto all'uso di Python. Tuttavia ... ci sono solo tre opzioni per le funzioni del kernel e il lineare e il gaussiano non sono molto utili IMO - il gaussiano è preso dagli SVM ne sono sicuro e non sembra offrire alcun vantaggio rispetto a tanh nella mia esperienza e la funzione di identità no non distorce lo spazio di ordine superiore e non è diverso dalla regressione lineare. La funzione tanh è buona ma penso che fosse originariamente destinata alla classificazione nelle ANN. Riesco a vedere i limiti/saturazioni rigidi mostrarsi nella regressione effettiva dai grafici previsti e vedo anche condizioni simili al confine indesiderate nei dati di previsione in tempo reale in cui gli input si evolvono lentamente nel tempo - ancora una volta un artefatto della funzione tanh. Vorrei provare un arcsinh (peccato iperbolico inverso) per alleviare questo problema. Ipotizzo che le sue proprietà siano più desiderabili per la regressione e possano superare le carenze di una funzione tanh per le applicazioni di regressione.
Ri: Funzione di attivazione personalizzata per la piattaforma neuraleStai utilizzando JMP Pro? JMP Pro offre una scelta tra diverse funzioni di attivazione. JMP Pro offre anche due livelli nascosti invece di un solo livello nascosto in JMP. Sarei sicuramente curioso di sapere quale funzione di attivazione ti interessa utilizzare.
Ri: Funzione di attivazione personalizzata per la piattaforma neuraleQuesto non è possibile al momento.Hai una situazione in cui ritieni che ciò possa essere d'aiuto e, in tal caso, potresti descriverla per favore?
