Modelos de partición: diferentes resultados para cada ejecución¡Hola a todos!
Estoy ejecutando modelos de partición, incluidos el bosque de arranque, el árbol de decisiones y el árbol potenciado, y realmente agradecería algunas sugerencias sobre cómo resolver este problema. Por ejemplo, he ejecutado bootstrap forest en mis datos varias veces y el RSquare para la validación podría oscilar entre -0.2 y 0.8. Si veo las contribuciones de la columna, el rango de las variables cambiará mucho en cada ejecución. No estoy seguro de qué causó los resultados inestables (¿pequeño conjunto de datos?).
Aquí hay una breve descripción de mi conjunto de datos. También adjunto el archivo de datos.
48 observaciones, 5 variables predictoras continuas
La variable de respuesta (es decir, la que debe predecirse) es continua
¿Alguien tiene algún consejo que ayude a resolver este problema? ¡Gracias!
Shenxuan
Re: Modelos de partición: diferentes resultados para cada ejecuciónAh, y sí, 46 observaciones es un pequeño conjunto de datos para estos métodos.
¿Has hecho tu análisis preliminar antes de modelar para comprender los datos? ¿Distribución de predictores y respuesta? Encuesta multivariada (por ejemplo, matriz de diagrama de dispersión)? ¿Que encontraste? ¿Outliers? ¿Colinealidad entre los predictores? ¿Se sugieren transformaciones?
¿Has probado otros métodos como la regresión penalizada? Modelo de ajuste > Regresión generalizada )? No implican una asignación aleatoria a menos que utilice la validación cruzada. (Y si lo usa, debe usar la validación cruzada de K-fold o la validación cruzada de dejar fuera uno con solo 46 observaciones y 10-15 términos potenciales en el predictor lineal).
Re: Modelos de partición: diferentes resultados para cada ejecución¿Conoces los métodos que estás usando? Puede encontrar su respuesta seleccionando Ayuda > Libros > Modelización Predictiva y Especializada. . Hay capítulos dedicados a los métodos que mencionas.
Las guías de JMP no pretenden reemplazar una educación sobre modelos predictivos, pero siguen siendo recursos valiosos e informativos.
Re: Modelos de partición: diferentes resultados para cada ejecuciónEsto no es un problema. Es inherente a los métodos que está utilizando. Se basan en una asignación aleatoria, por lo que cada ejecución será necesariamente diferente.
Puede establecer la semilla aleatoria en el mismo valor antes de cada ejecución y siempre obtendrá los mismos resultados. ¿Por qué una muestra en particular es mejor que otra?
