¿Cómo seleccionar los términos del modelo para un tamaño de muestra pequeño? (¿Debo usar Lasso? ¿Selecciono los términos manualmente con el valor p?)Hola,
Estoy intentando encontrar la mejor manera de seleccionar los términos que debo incluir en mi modelo cuadrático. 
En primer lugar, estoy utilizando el método de mínimos cuadrados para comprender cómo el pH y otras variables continuas (y posiblemente también algunos indicadores discretos que añadiré pronto a mi modelo) se ven afectadas por tres factores diferentes (concentración A, concentración B y proporción C). Por lo tanto, necesito encontrar la relación entre los factores (sus cuadrados y sus interacciones) y las variables que he medido (pH, valores reológicos, etc.).
Obtuve mis datos mediante un diseño experimental de matriz Taguchi L9 (tres parámetros con tres niveles cada uno), por lo que solo tengo 9 experimentos. Debo seleccionar los términos para los modelos que se utilizarán para cada resultado. (Un primer modelo para el pH, otro para las mediciones reológicas, etc.).
Con solo 9 ejecuciones, sé que no puedo ajustar el modelo cuadrático completo (10 parámetros). Los efectos principales son ortogonales, pero las interacciones de dos factores se solapan con los efectos principales (|r| ≈ 0,58), así que planeo eliminarlas. Esto deja los efectos principales más los términos cuadráticos (6 parámetros). Mi pregunta es sobre cómo seleccionar entre estos términos restantes: reducción manual (eliminar los términos no significativos uno por uno) frente a LASSO: ¿cuál es más adecuado para un doctorado?
¡Gracias por cualquier ayuda!
Atentamente,
Ana
Re: Cómo seleccionar los términos del modelo para un tamaño de muestra pequeño (¿Debo usar Lasso? ¿Selecciono los términos manualmente con el valor p?)¡No dudes en solicitar cualquier detalle adicional!
Re: Cómo seleccionar los términos del modelo para un tamaño de muestra pequeño (¿Debo usar Lasso? ¿Selecciono los términos manualmente con el valor p?)Hola @FrancesBudgie97 ,
¡Bienvenidos a la comunidad!
Es bastante raro ver diseños de Taguchi en uso. Para estar seguros, sus tres factores son numéricos continuos, pero para crear el diseño, ¿los ha definido como numéricos categóricos o discretos?
No eliminaría por defecto ningún término que pueda estar correlacionado con otros en el modelo. La correlación entre términos es frecuente en los diseños, y eso no impide que se incluyan en el modelo. La consecuencia será cierta restricción en la inclusión de términos (no podrá incluirlos todos o se producirá una singularidad en su modelo), cierta falta de precisión en su estimación (con intervalos de confianza más amplios alrededor de los valores estimados) y cierto grado de colinealidad (puede consultar los factores de inflación de la varianza (VIF) de los términos incluidos en su modelo para evaluar el grado de colinealidad).
Dado que no es posible estimar todos los términos posibles de un Modelo de Superficie de Respuesta (MSR) a partir de su diseño, se encuentra en una situación de sobresaturación. Deberá utilizar métodos específicos que le ayuden a determinar qué términos pueden tener mayor impacto en sus diferentes respuestas. Algunas opciones interesantes son:
Puedes encontrar un caso de uso presentado en el grupo de usuarios de JMP francés aquí , donde utilicé estas diferentes plataformas para comparar métricas de ajuste del modelo (R² / RMSE / ...), equilibrio entre complejidad y precisión del modelo (con criterios de información como Likelihood, AICc y BIC) , acuerdo entre modelos para la inclusión de términos, etc.
Respecto a su pregunta sobre cómo agregar/eliminar términos para construir sus modelos, los métodos mencionados anteriormente pueden serle útiles. Pero, más importante aún, necesita definir:
- Su objetivo : ¿Se encuentra en una situación de cribado (donde los valores p pueden ayudar a diferenciar la señal verdadera de la variación aleatoria o el ruido)? ¿O en un escenario de optimización/predicción (donde la precisión del modelo puede ser más importante, por lo que puede basarse en el RMSE y otras métricas predictivas)? ¿O se encuentra en un punto intermedio y no está seguro (el criterio de información puede ayudarle a comparar modelos y determinar el equilibrio adecuado para los términos y el número de términos incluidos, equilibrando la precisión con la complejidad)?
- Conocimientos/experiencia en el dominio : ¿Puede eliminar o agregar términos basándose en datos históricos o conocimientos sobre el sistema que está estudiando? ¿Existen interacciones o efectos principales conocidos que sean activos e importantes? ¿Puede revisar o evaluar un modelo con expertos en el dominio para determinar si tiene sentido?
- Tu estrategia de validación : Una vez que hayas seleccionado los modelos que parezcan adecuados para tus respuestas, necesitas validarlos. Según tus objetivos y presupuesto experimental, puedes considerar diferentes escenarios para realizar las validaciones. ¿Solo te interesa validar los puntos óptimos? ¿O prefieres validar el modelo en los rangos de factores estudiados (y para ello, ejecutar combinaciones de niveles de factores que no estén en el diseño, pero que respeten los rangos de factores)? No existen reglas estrictas para validar tus hallazgos, pero dedicar tiempo y atención a estos experimentos de validación puede fortalecer enormemente tu confianza en los modelos (¡y la de tus revisores!).
Espero que esta respuesta te ayude.
