Escenario: utilizo datos de validación para ajustar mi penalización de lazo y ahora quiero reajustar todos mis datos (entrenamiento + validación) especificando ese término de penalización optimizado.
No puedo ver de todos modos hacer eso dentro de la plataforma de regresión generalizada. ¿Qué se recomienda aquí?
Hola @Mittman ,
Aunque no estoy seguro de cuál es el algoritmo subyacente real, solo se realiza un ajuste muy limitado en el modelado Lasso. Por penalización L1. Es bastante bueno para reducir factores sin importancia, pero no es tan bueno si tiene multicolinealidad entre los factores y la respuesta. Algo a tener en cuenta es que cuando usa la validación cruzada (usando la columna de validación), el algoritmo la usa para luego comenzar a minimizar las estimaciones de los factores. Esto ayuda al algoritmo a llevar los factores sin importancia a 0 y simplifica el modelo. Si vuelve a ejecutar (incluso usando el mismo espaciado de cuadrícula/tipo de espaciado y fracción de penalización), terminará con un modelo diferente porque utilizará un método de validación diferente para simplificar el modelo. Si desea comparar el ajuste de los modelos con su columna de validación con los que usan AICc o K-fold, con cada modelo que genere, puede ir al botón rojo junto al ajuste y seleccionar Guardar columnas > Guardar fórmula de predicción. Luego puede comparar qué tan bien los diferentes modelos se ajustan a la respuesta, por ejemplo, en la plataforma de comparación de modelos.
Algunos otros pensamientos:
1. Podría considerar hacer Elastic Net, ya que combina los métodos penalizados L1 (Lasso) y L2 (Ridge). Tipo de lo mejor de ambos mundos.
2. Es posible que desee ejecutar algunos bootstrap o simulaciones en las estimaciones de los factores para determinar su magnitud y si realmente son importantes o no. Asegúrese de comparar la magnitud con el error estándar de la estimación para ver si el error es mayor que la estimación misma.
3. Si está trabajando en la creación de modelos, es una buena idea ejecutar otras plataformas de modelado en JMP para ver qué modelo se ajusta mejor. Podría ser que un modelo KNN, SVM o NN realmente supere a los otros modelos en términos de capacidad predictiva. Asegúrese de mirar algunas de las otras plataformas de modelado como SLS, GenLinReg, etc. Nunca se sabe qué modelo terminará superando a los demás.
4. Si está utilizando una columna de validación para la validación cruzada, puede considerar cómo está dividiendo los datos en entrenamiento y validación, ya que esto puede afectar el rendimiento del modelo.
5. Si sus datos provienen de un DOE y está utilizando la plataforma GenReg, como regla general, es mejor limitarse a los primeros cinco métodos de estimación en la plataforma GenReg.
¡Espero que esto ayude!,
SD
El escenario que me interesa es donde estoy usando una partición de datos fija (columna de validación) y ejecuté una regresión penalizada (independientemente de lazo, cresta o red elástica). Estos me brindan una ruta de solución y un modelo optimizado basado en la probabilidad de registro escalada de los datos de validación. El parámetro de ajuste que se devuelve podría usarse para ajustar (rápidamente) un modelo actualizado usando datos de entrenamiento adicionales en un valor preespecificado del parámetro de ajuste. ¿Hay alguna manera de ejecutar el lazo (o la cresta o la red elástica) sin generar una ruta de solución completa?
