Cosa rappresenta una "stima" per Boosted Trees?Ciao
Domande per gli alberi potenziati nella piattaforma di modellazione predittiva:
1- Cosa rappresenta matematicamente una "stima" allo split end? È un cambiamento previsto nella risposta per unità di cambiamento nel parametro (es. sensibilità)?
2- Assumendo ad esempio 200 strati di modello di alberi potenziati, il modello previsto finale è uguale al 200esimo modello degli ultimi strati o una media di tutti i 200 modelli? Non sono troppo sicuro di quale albero potenziato apprenda dai residui del precedente .. quindi sono propenso a pensare che forse sia l'ultimo modello ma i metodi dell'insieme sono metodi aggeriti (contro argomento).
3- Esiste un metodo pratico per stimare gli intervalli di confidenza in un modello ad albero potenziato? Forse, ottenere il risultato di ogni livello per creare una distribuzione?
Apprezzare il supporto. Grazie.
AnaliticaRe: Cosa rappresenta una "stima" per Boosted Trees?Ciao @altug_bayram ,
1- Poiché ogni singolo albero del modello degli alberi potenziati è costruito sul residuo (errori) dell'albero precedente, direi che una stima è un numero da aggiungere alla media dei tuoi risultati (cosa cerchi di modellare/prevedere) a seconda sulla categoria/split in cui ti trovi. I metodi basati su albero forniscono "profilatori passo" (vedi screenshot), dove puoi vedere chiaramente come la modifica del valore di un fattore può aumentare improvvisamente la risposta a seconda di dove si trova la divisione.
2- In un metodo di bagging basato sugli alberi (come Random Forest), il risultato finale sarebbe un risultato medio/medio dei singoli alberi. In un algoritmo di boosting tree, dovresti sommare tutte le "stime" dei diversi alberi (e aggiungervi il risultato medio) per avere i risultati previsti (a seconda del "percorso" della divisione scelta): " L'albero viene adattato in base ai residui dei livelli precedenti, il che consente a ciascun livello di correggere l'adattamento per dati di adattamento errato dei livelli precedenti. La previsione finale per un'osservazione è la somma dei residui previsti per quell'osservazione su tutti i livelli" (fonte: Albero potenziato - JMP 13 Modellazione predittiva e specializzata [Libro] (oreilly.com) ).
3- Non sono sicuro di questo. O usando i residui del modello, o proverei a potenziare i risultati RASE del modello, al fine di costruire intervalli di bootstrap del 95% affinché RASE abbia una migliore valutazione dell'errore di previsione (Root Average Squared) del modello, o usando il K- piega la convalida incrociata della piattaforma "Model screening" per avere una stima migliore del RASE del modello.
Spero che questa prima risposta ti possa aiutare,
Re: Cosa rappresenta una "stima" per Boosted Trees?grazie Vittorio. Merci.
