Función de activación personalizada para plataforma neuronal.La plataforma de red neuronal es muy útil, pero las opciones de la función de activación podrían ampliarse. Debería ser muy fácil agregar funciones de activación en concepto, pero me gustaría saber si es posible hacerlo actualmente con JSL u otro método. En su núcleo, creo que equivale a proporcionar una función y es un derivado. Tal vez una estrategia de inicialización también (pero no tan importante con redes poco profundas como en JMP).
Re: Función de activación personalizada para plataforma neuronal.Asegúrese de usar el enlace de "Lista de deseos de JMP" arriba. Ahí es donde colocas tus sugerencias.
Re: Función de activación personalizada para plataforma neuronal.También me gustaría tener más funciones de activación para elegir y / o la opción de construir una función de activación personalizada.
Re: Función de activación personalizada para plataforma neuronal.Sí, tengo JMP Pro y he trabajado extensivamente con la plataforma Nueral. Principalmente, tratando de usar la regresión, y veo el potencial con seguridad, también tiene una interfaz muy buena en comparación con el uso de Python. Sin embargo ... Solo hay tres opciones de función del kernel y la IMO lineal y gaussiana no son realmente útiles. El Gauss es tomado de SVMs Estoy seguro y no parece ofrecer ninguna ventaja sobre el tanh en mi experiencia y la función de identidad no No distorsione el espacio de orden superior y no es diferente a la regresión lineal. La función de Tanh es buena, pero creo que estaba destinada a la clasificación originalmente en las ANN. Puedo ver los límites / saturaciones difíciles que se muestran en la regresión real por los gráficos predichos y también veo condiciones de tipo de límite no deseables en los datos de predicción en tiempo real donde las entradas evolucionan lentamente con el tiempo, de nuevo, un artefacto de la función tanh. Me gustaría probar un arcsinh (pecado hiperbólico inverso) para aliviar este problema. Tengo la hipótesis de que sus propiedades son más deseables para la regresión y pueden superar las deficiencias de una función de tanh para aplicaciones de regresión.
Re: Función de activación personalizada para plataforma neuronal.¿Estás utilizando JMP Pro? JMP Pro ofrece una selección de varias funciones de activación diferentes. JMP Pro también ofrece dos capas ocultas en lugar de solo una capa oculta en JMP. Definitivamente, me gustaría saber qué función de activación le interesa usar.
Re: Función de activación personalizada para plataforma neuronal.Esto no es posible en este momento. ¿Tiene una situación en la que cree que esto podría ayudar y, de ser así, podría describirla, por favor?
