Actualmente estoy en el proceso de concluir las prácticas finales de 7.3 Redes Neuronales en el Modelado predictivo y minería de textos módulo en el Curso JMP STIPS .Ajustar una red neuronal y comprender la función básica de un nodo en la capa oculta como un modelo de regresión parece intuitivamente fácil. Sin embargo, me pregunto si alguien con más conocimiento en la comunidad podría brindar respuestas a las preguntas que todavía tengo después de la capacitación básica que acabo de recibir. Para el ejemplo que quiero comentar utilicé el archivo GreenPolymerProduction.jmp y la versión estándar de JMP. Se adjunta copia del archivo incluyendo el modelo.
El diagrama del modelo se muestra a continuación. Podemos ver que los datos de cada uno de los ocho predictores se introducen en cada uno de los tres nodos de la capa oculta. Cada nodo de la capa utiliza una función de activación TanH.
Guardé las fórmulas del modelo en la tabla. Las capturas de pantalla de las fórmulas utilizadas en cada uno de los tres nodos se muestran a continuación.
Pregunta #1: ¿Cómo puedo interpretar el hecho de que cada nodo tenga una fórmula diferente para la misma función de activación? Intuitivamente, parece ingenuo esperar que se utilice la misma fórmula en cada nodo, pero todavía me pregunto cómo llega JMP a los resultados que se muestran a continuación. Una interpretación que pensé fue que cada nodo recibe datos de entrada diferentes, lo que me llevaría a esperar fórmulas diferentes como se muestra a continuación, pero esta suposición puede ser muy errónea.
Pregunta n.° 2: ¿Alguien que pueda compartir buenas referencias (usando preferiblemente explicaciones fenomenológicas) para leer sobre redes neuronales para principiantes?
Salud @Victor_G , No tengo ninguna duda de que esto mejorará mi comprensión. Te lo agradezco.
Hola @Ressel ,
Feliz Año Nuevo para usted !
Respecto a sus preguntas:
- El teorema de aproximación universal ( https://en.m.wikipedia.org/wiki/Universal_approximation_theorem ) afirma que las redes neuronales con suficientes capas ocultas y número de neuronas son capaces de representar cualquier función lineal o no lineal. Son capaces de aproximarse a esta gran variedad de funciones/perfiles, ya que se basan en una combinación ponderada de múltiples funciones matemáticas simples (TanH, sigmoide, ...). Cada nodo simplemente intenta tener una pieza útil del rompecabezas (función) que está tratando de resolver, por lo que entran los mismos datos, pero se crean diferentes partes (de la función final) para combinarlas y obtener el resultado deseado.
En su captura de pantalla, tres funciones TanH se combinan con diferentes pesos (y diferentes fórmulas que combinan las entradas) para llegar a la fórmula de predicción final.
Sobre los recursos:
- Puedes echar un vistazo a esta web que explica con gran detalle un ejemplo para reconstruir una función con redes neuronales: http://neuralnetworksanddeeplearning.com/chap4.html#:~:text=No%20matter%20what%20the%20function,m)%2C%20and%20many%20outputs
- También me gusta mucho el canal de YouTube StatQuest, donde Josh Starmer hizo una muy buena explicación del funcionamiento interno de una red neuronal en un caso de uso simple: https://youtu.be/CqOfi41LfDw?si=leA0KeTcgSY3YW70
- También hay una página de aprendizaje dedicada a las redes neuronales realizada por el equipo de MLU Explique, muy bien hecha y fácil de seguir: https://mlu-explain.github.io/neural-networks/
- Finalmente, también puede probar diferentes configuraciones de redes neuronales en varios casos de uso, clasificación/regresión en este campo de juego interactivo de redes neuronales, para ver cómo se realiza el entrenamiento y el ajuste de las pesas: https://playground.tensorflow.org/#activation=tanh&batchSize=10&dataset=circle®Dataset=reg-plane&learningRate=0.03®ularizationRate=0&noise=0&networkShape=4,2&seed=0.88242&showTestData=false&discretize=false&percTrainData=50&x=true&y=true&xTimesY=false& xCuadrado=falso&yCuadrado =false&cosX=false&sinX=false&cosY=false&sinY=false&collectStats=false&problem=clasificación&initZero=false&hideText=false
Espero que esta primera respuesta te ayude 
