Ho selezionato Boosted Tree o un problema di regressione dopo che si è rivelato il modello più performante nello screening dei modelli.
Posso chiederti come utilizzare la progettazione della tabella di ottimizzazione per ottimizzare ulteriormente le prestazioni dell'albero potenziato?
CIAO @AlphaPanda86751 ,
Una tabella di ottimizzazione può essere davvero utile se si desidera ottimizzare gli iperparametri dell'algoritmo selezionato per migliorare le prestazioni predittive.
Posso chiederti se hai già una strategia di convalida, al fine di prevenire l'overfitting: convalida incrociata k-fold, colonna di convalida, altro ...? Boosted Tree può essere più rapido all'overfitting rispetto ad altri metodi basati su albero (come la foresta bootstrap), quindi è sempre meglio avere una strategia di convalida fissa e impostata prima di provare a ottimizzare le prestazioni.
Per utilizzare il design della tabella di ottimizzazione, è possibile generare manualmente una tabella, impostando i fattori degli iperparametri nelle colonne (Numero di livelli, Divisioni per albero, Tasso di apprendimento, Divisione dimensione minima, ...) per testare tutte le combinazioni ("griglia -search approach"), oppure puoi anche generare un progetto di tuning table con la piattaforma "Custom Design", specificando i diversi fattori di iperparametri che desideri esaminare/perfezionare, l'intervallo di valori per ciascuno e il modello/complessità delle diverse combinazioni/interazioni che vorresti indagare in questo spazio iperparametrico. Puoi trovare maggiori informazioni qui (le informazioni provengono dalla piattaforma Bootstrap Forest, ma la tecnica è molto simile per Boosted Tree): Avvia la piattaforma Bootstrap Forest (jmp.com)
In allegato puoi trovare un esempio di tabella Tuning generata dalla piattaforma Custom Design.
Quindi puoi avviare la tua piattaforma Boosted Tree con la strategia di convalida impostata in precedenza e consentire a JMP di utilizzare la tabella Tuning per testare i diversi valori degli iperparametri.
Ecco un esempio dei risultati con una colonna di convalida della stratificazione sul set di dati Diamonds con albero potenziato "normale" (non ottimizzato):
Ed ecco i risultati utilizzando una tabella Tuning:
Qui non ci sono grandi cambiamenti tra le impostazioni "predefinite" in JMP e la versione ottimizzata di Boosted Tree, ma può essere utile e interessante provare la messa a punto per valutare i cambiamenti delle prestazioni. Puoi anche valutare la "robustezza" della messa a punto dei tuoi iperparametri se hai utilizzato una colonna della formula di convalida (fai clic con il pulsante destro del mouse su Rsquare, RASE o altre metriche di valutazione e utilizza "Simula" per attivare e disattivare la colonna di convalida e impostare un seme casuale in modo da avere risultati riproducibili per il confronto):
Ancora una volta, non fa una grande differenza, poiché le impostazioni predefinite in JMP sono buone e abbastanza robuste, ma puoi provare tu stesso.
In allegato troverai il datatable con le simulazioni fatte e lo script grafico, e puoi trovare il datatable per Diamond Data nell'indice di esempio o anche allegato qui (per avere la colonna di convalida e riprodurre i passaggi presentati qui).
Spero che questo ti aiuti,
