¿Ponderando las redes neuronales?<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />Un cliente me hizo una pregunta sobre las redes neuronales:
" Estoy haciendo ajuste de modelos usando redes neuronales. Me gustaría usar "ponderación" para minimizar el error de clasificación en determinadas situaciones. ¿Cómo utilizo 'peso' en JMP? Existe una opción de 'Frecuencia' en el modelado de redes neuronales JMP. ¿Tiene algo que ver con la ponderación? Cualquier ayuda sería muy apreciada. "
Es cierto que mi comprensión del funcionamiento detrás de las redes neuronales es muy básica, y estoy un poco perdido aquí. Entiendo bien la ponderación con respecto a los modelos de regresión, pero cuando se trata de redes neuronales. ¿Alguien puede brindarme ayuda u orientación aquí?
Saludos,
Erich
Re: ponderación de las redes neuronales?¿Por qué no utilizar la propiedad de la columna de la matriz de ganancias para colocar los costos en una clasificación incorrecta? Personalmente, no usaría el peso, ya que será análogo a duplicar filas.
Re: ponderación de las redes neuronales?Hola Eric,
Parece que el cliente está lidiando con una variable de respuesta categórica desequilibrada, donde la categoría objetivo está subrepresentada.Tiendo a mantenerme alejado de la frecuencia y el peso para los modelos (especialmente los modelos neuronales y de partición).Una forma general de lidiar con esto, si hay suficientes datos, es tomar muestras del conjunto de datos más grande, seleccionando todas las observaciones en la categoría objetivo y el mismo número de observaciones en la otra categoría.El modelo se basa en datos equilibrados y la matriz de confusión refleja esto.Las probabilidades se ajustan después del hecho para reflejar las probabilidades verdaderas.
Hay un complemento que hace esto, que también maneja el equilibrio del conjunto de validación si se desea.Esto le permite construir el modelo en un conjunto de entrenamiento balanceado (y conjunto de validación), y luego se usa un conjunto de prueba no balanceado para la comparación y selección del modelo: Complemento de partición de datos estratificados (con opciones de equilibrio).
Otro enfoque es explorar diferentes puntos de corte para la matriz de confusión para estas situaciones.También hay un complemento para esto: Complemento de matriz de confusión de corte alternativo .
Estos enfoques se analizan en Shmueli, Patel y Bruce, Data Mining for Business Intelligence.El primer enfoque se analiza en Técnicas de minería de datos de Linoff y Berry.
Para su información, hemos puesto una colección de estas útiles herramientas en: Colección: Complementos de herramientas de minería de datos
¡Espero que esto ayude!Feliz de discutir si lo desea.
Desaparecido en combate
Re: ponderación de las redes neuronales?Hola Eric,
No me consideraré un experto en NN, pero hasta donde yo las entiendo, hay diferentes formas de pesos en las redes neuronales. El primero es tener la función de penalización ponderada porque cree que pocos de los muchos factores contribuyen más a la capacidad predictiva del modelo. Esto se puede hacer en JMP mediante la configuración de la función de penalización en caída absoluta o de peso (O verview de redes neuronales )
Lo que entendí de su descripción, está interesado en ponderar las entradas ya para la función de transferencia para construir redes neuronales artificiales. Desde mi entendimiento (y estoy feliz si alguien lo sabe mejor que yo y comparte su conocimiento ) no agregamos peso para la función Transferir utilizada por la función de activación. Hmm, aunque puede lograr algún tipo de ponderación con la variable de frecuencia en caso de que, debajo del capó, esto se use para agregar más entradas que solo una para simular una mayor importancia. Pero ahí estoy desconfiado, ya que no puedo analizar el algoritmo implementado.
Espero que esto sea de alguna ayuda. Sin embargo, me gustaría ver quién confirma lo que he dicho
Martín
