Modelo significativo con LoF significativo.Queridos JMPers,
Creo que tengo un reto! 
Se trata de un modelo significativo con resultados significativos de LoF. He intentado todo lo sugerido en la comunidad de JMP, agregando interacciones, términos de orden superior y excluyendo algunos resultados (posibles valores atípicos) para corregir el LoF. La cosa es: X1, X2 y X3 están altamente correlacionados. Preferiría mantener estos 3 factores al final del modelo para alcanzar un espacio de diseño para trabajar, pero esto no es una obligación.
Así que he terminado con 2 modelos (regresión lineal múltiple):
- el primero, más simple, sin interacciones - solo se mantuvo X3, los VIF son bajos pero aún tienen un valor LoF significativo para Y1, Y2 e Y3
- el segundo con interacciones - todas las X1, X2 y X3 se mantuvieron en las ecuaciones, con interacciones significativas. Y1 tiene LoF no significativo, pero no lo mismo para Y2 e Y3... Además, los VIF aumentan mucho en Y3, y el generador de perfiles no es brillante ...
Nota: Las ejecuciones no son de un DoE (era empírico).
En términos generales, los modelos (mínimos cuadrados estándar) me parecen bastante buenos. Pero parece que necesito alcanzar un compromiso entre la normalidad LoF + de los residuos O los VIF bajos + la simplicidad del modelo.
¿Me estoy perdiendo algo aquí? ¿Puedo mejorar mis modelos y corregir los resultados LoF?
Gracias de antemano por su consejo,
Marta
Re: Modelo significativo con LoF significativo.Datos interesantes.
Parece que tienes algunas observaciones muy influyentes junto con una alta colinealidad. Ambos de estos problemas son problemas para la regresión múltiple.
No tienes mucha información independiente.
La colinealidad hace que sea muy difícil determinar el significado.
El apalancamiento muy bajo significa que los cambios muy pequeños en los valores de los datos pueden producir cambios muy grandes en las estadísticas (por ejemplo, estimaciones de parámetros y los ratios t).
Re: Modelo significativo con LoF significativo.Algunos de los problemas se pueden evitar al no usar un predictor lineal y una regresión. Este es el resultado de un modelo de red neuronal simple (5 nodos ocultos en una capa oculta, todos con la función de activación de tangente hiperbólica):
Las predicciones del modelo parecen razonablemente precisas:
El modelo parece perfilar bien:
Re: Modelo significativo con LoF significativo.Hola @markbailey ! Gracias por tu valiosa sugerencia! De hecho, nunca he considerado una red neuronal. Creo que tienes razón, parece la solución perfecta para este caso.
De todos modos, cuando intento reproducir en mi JMP, siempre obtengo una pendiente positiva para X2 y no una negativa como la suya (¡y sé que la correcta debería ser negativa!). ¿Alguna sugerencia para esto?
Re: Modelo significativo con LoF significativo.No puedo estar seguro de lo que podría causar esta inversión de la pendiente, pero tengo algunas ideas. Hay tres cosas a considerar. En primer lugar, la asignación de observaciones a los conjuntos de entrenamiento y validación es aleatoria, por lo que el proceso hará que los resultados varíen, aunque las diferencias suelen ser pequeñas si el conjunto de datos es muy grande.
En segundo lugar, su conjunto de datos no es muy grande! Se puede imaginar que si 1/3 de los datos se retienen aleatoriamente para validación cada vez, los resultados no pueden ser iguales. Además, algunas de sus variables tenían solo dos o tres niveles. Algunos de los niveles ocurrieron solo unas pocas veces. Ese hecho complicará aún más las diferencias entre las carreras. Puede probar la validación cruzada K-fold en lugar de Holdout para el método de validación. Puede usar de 5 a 10 pliegues para obtener buenos resultados con este método de validación.
En tercer lugar, el impacto de la colinealidad no se puede evitar por completo. X2 está altamente correlacionado con X1 y X3. Dado el método de validación de exclusión, el subconjunto aleatorio de 2/3 de las filas podría cambiar la pendiente.
La construcción de modelos es un trabajo serio y cuidadoso. Mi respuesta anterior fue una sugerencia, no una consulta completa por una tarifa. (¡Ese no es el propósito de las discusiones aquí!) Debe aprender sobre cualquier técnica de modelado antes de confiar y compartir sus hallazgos. Pero espero que esta discusión sea suficiente para comenzar.
Re: Modelo significativo con LoF significativo.De hecho, fue útil. Nunca estuve muy interesado en las redes neuronales, porque es difícil entender realmente lo que hay detrás, pero ahora tengo curiosidad. Tengo que estudiar más y profundizar en esto. También tengo nuevos resultados próximamente, puedo intentar predecirlos, comparar y verificar si realmente funciona. ¡Ten un buen fin de semana!
