Descubra cómo utilizar JMP y JMP Pro para identificar predictores importantes adecuados para el modelado predictivo, reducir la varianza causada por la estimación de términos innecesarios y crear modelos predictivos. Vea estudios de casos que muestran cómo utilizar la regresión por pasos de JMP para encontrar variables importantes y efectos de modelos activos y cómo se compara ese enfoque con las técnicas de regresión generalizada de JMP Pro que incorporan automáticamente la selección de variables.
Vea cómo:
- Comprender los fundamentos del método de regresión por pasos
- Elija opciones de regresión por pasos para automatizar la selección de factores
- Analizar > Modelo de ajuste > Personalidad: Paso a paso
- Establecer reglas/criterios de detención
- Establecer dirección hacia adelante, hacia atrás o mixta
- La selección hacia adelante selecciona la variable con el valor p más bajo, la agrega al modelo y luego recalcula los valores p y los criterios de detención hasta que se cumplan los criterios de detención.
- La eliminación hacia atrás selecciona la variable con el valor p más alto, la elimina del modelo y luego vuelve a calcular los valores p y los criterios de detención hasta que se satisfacen los criterios de detención.
- Alternativas mixtas entre selección hacia adelante y eliminación hacia atrás, utilizando el valor p como criterio de detención
- Ejecutar el modelo
- Utilice opciones adicionales paso a paso
- Regla de parada alternativa: validación KFold R2
- Construye y compara todos los modelos posibles
- Utilice el promedio del modelo basado en el peso AICc en cada modelo
- Implemente métodos paso a paso en JMP Pro Generalized Regression para implementar fácilmente la selección de variables, validación, regresión penalizada para ayudar con factores correlacionados, visualización de modelos interactivos, comparar modelos, relanzar modelos fácilmente con términos de orden superior
- Comprender las ventajas y limitaciones de los enfoques de regresión escalonada y generalizada.
JMP Stepwise Regression FlowFlujo de regresión por pasos de JMPFlujo de regresión por pasos de JMP
Preguntas respondidas por Scott Allen @scott_allen y Byron Wingerd @Byron_JMP en el seminario web en vivo:
P: ¿Existe alguna pauta que establezca cuándo se prefiere AICc al BIC?
A: BIC te da el mejor modelo con el menor número de términos; AICc te da el modelo que explica la mayor variación y se penaliza por el número de términos. La c minúscula en AICc significa corregido y significa corregido para conjuntos de datos pequeños. El AIC intenta seleccionar el modelo que describe de manera más adecuada una realidad desconocida y de alta dimensión. Esto significa que la realidad nunca está en el conjunto de modelos candidatos que se están considerando. Por el contrario, BIC intenta encontrar el modelo VERDADERO entre el conjunto de candidatos.
La respuesta corta es que simplemente los ejecuto y los comparo o incluso podría tomar los dos y luego promediarlos. Tiene las herramientas aquí en la plataforma Stepwise para realizarlos y luego compararlos y comparar automáticamente los resultados en un gráfico. En algunos casos, depende de su objetivo, si está de acuerdo con tener más términos o si realmente está buscando reducir esto al conjunto mínimo. En el ejemplo con 500 puntos de datos, probablemente se prefiera BIC.
P: ¿Cómo verificamos el sobreajuste?
R: Si solo estamos ajustando modelos lineales en JMP, incluso usando Stepwise, será un poco más complicado identificar problemas de sobreajuste. En JMP Pro, podemos configurar subconjuntos de prueba, entrenamiento y validación (o si lo prefiere, al menos prueba y entrenamiento) y comparar los R cuadrados. Por lo tanto, si ve que el conjunto de entrenamiento tiene un R cuadrado realmente bueno y su validación tiene un R cuadrado realmente terrible, significa que ajustó bien los datos y no podrá predecir muy bien las observaciones futuras.
P: En el modelo, un total de 568 filas también tienen filas de validación. ¿Estamos usando todas ellas en el modelo o las mantenemos?
R: Se conservan para su validación y se evalúan por separado como subconjunto de validación.
P: En el antiguo SAS Enterprise Miner, el nodo "Ensemble" solía tener un mejor rendimiento. ¿Qué opinas sobre ejecutar un conjunto de modelos, guardar las predicciones y luego simplemente promediar todos esos valores predichos?
R: En JMP, utilizamos la plataforma de redes neuronales para configurar un modelo de conjunto. Por lo general, tienden a tener un mejor rendimiento que los modelos individuales.
P: ¿Cómo obtuvo el mapa de colores para las correlaciones?
A: Debajo del triángulo rojo, busque las opciones del mapa de colores.
P: ¿Cómo se detecta y gestiona la multicolinealidad?
R: El método por pasos por sí solo en JMP no va a manejar la multicolinealidad, por lo que tendría que extraerlos con anticipación o encontrar una variable representativa mediante la agrupación en clústeres. Si está en la regresión generalizada de JMP Pro, los métodos de regresión penalizada también ayudarán a abordar eso, por lo que, si realmente le preocupa, la regresión generalizada es definitivamente el camino a seguir. Puede crear ese modelo de mínimos cuadrados, ejecutarlo y observar las estimaciones de sus parámetros. Los valores altos de VIF pueden indicar multicolinealidad. Vea el video a continuación.