¿Qué representa una "estimación" para Boosted Trees?Hola
Preguntas para Boosted Trees bajo la plataforma de Modelado Predictivo:
1- ¿Qué representa matemáticamente una "estimación" en el extremo partido? ¿Es un cambio esperado en la respuesta por unidad de cambio en el parámetro (es decir, sensibilidad)?
2- Suponiendo, por ejemplo, 200 capas del modelo de árboles potenciados, ¿el modelo final predicho es igual a la 200, es decir, el modelo de las últimas capas o un promedio de los 200 modelos? No estoy muy seguro de cuál, como árbol potenciado, aprende de los residuos del anterior... así que me inclino a pensar que tal vez sea el último modelo, pero los métodos de conjunto son métodos agregados (contraargumento).
3- ¿Existe un método práctico para estimar los intervalos de confianza en un modelo de árbol potenciado? ¿Quizás obtener el resultado de cada capa para luego crear una distribución?
Agradezco el apoyo. Gracias.
AnalíticaRe: ¿Qué representa una "estimación" para Boosted Trees?Hola @altug_bayram ,
1- Como cada árbol individual del modelo de árboles potenciados se construye sobre los residuos (errores) del árbol anterior, diría que una estimación es un número para agregar a la media de sus resultados (lo que intenta modelar/predecir) dependiendo en la categoría/split que eres. Los métodos basados en árboles brindan "perfiladores de pasos" (ver captura de pantalla), donde puede ver claramente cómo cambiar el valor de un factor puede aumentar repentinamente la respuesta dependiendo de dónde se encuentre la división.
2- En un método basado en árboles de embolsado (como Random Forest), el resultado final sería un resultado medio/promedio de los árboles individuales. En un algoritmo de árbol de refuerzo, tendría que sumar todas las "estimaciones" de los diferentes árboles (y agregarle el resultado medio) para obtener los resultados previstos (dependiendo de la "ruta" de la división elegida): " El árbol se ajusta en función de los residuos de las capas anteriores, lo que permite que cada capa corrija el ajuste de los datos de ajuste incorrecto de las capas anteriores. La predicción final para una observación es la suma de los residuos predichos para esa observación en todas las capas" (fuente: Boosted Tree - JMP 13 Modelado predictivo y especializado [Libro] (oreilly.com) ).
3- No estoy seguro de esto. Ya sea usando los residuos del modelo, o intentaría aumentar los resultados de RASE del modelo, para construir intervalos de arranque del 95% para que RASE tenga una mejor evaluación del error de predicción del modelo (Root Average Squared), o usando el K- pliega la validación cruzada de la plataforma "Model screening" para tener una mejor estimación del RASE del modelo.
Espero que esta primera respuesta te ayude,
Re: ¿Qué representa una "estimación" para Boosted Trees?gracias Víctor Merci.
