Modelli di partizione: risultati diversi per ogni corsaCiao a tutti!
Sto eseguendo modelli di partizioni, tra cui foresta di bootstrap, albero delle decisioni e albero potenziato e apprezzerei davvero alcuni suggerimenti su come risolvere questo problema. Ad esempio, ho eseguito la foresta di bootstrap sui miei dati per diverse volte e il valore RSquare per la convalida potrebbe variare da -0.2 a 0.8. Se guardo i contributi delle colonne, il grado delle variabili cambierà molto in ogni corsa. Non sono sicuro di cosa abbia causato i risultati instabili (piccolo set di dati?).
Ecco una breve descrizione del mio set di dati. Allego anche il file di dati.
48 osservazioni, 5 variabili predittive continue
La variabile di risposta (cioè quella da prevedere) è continua
Qualcuno ha un consiglio che potrebbe aiutare a risolvere questo problema? Grazie!
Shenxuan
Ri: Modelli di partizione: risultati diversi per ogni corsaOh, e sì, 46 osservazioni è un piccolo insieme di dati per questi metodi.
Hai fatto la tua analisi preliminare prima della modellazione per capire i dati? Distribuzione di predittori e risposta? Indagine multivariata (ad es., Matrice di grafico a dispersione)? Cosa hai trovato? Valori anomali? Collinearità tra i predittori? Le trasformazioni sono suggerite?
Hai provato altri metodi come la regressione penalizzata ( Fit Model > Regressione generalizzata )? Non implicano un'assegnazione casuale a meno che non si usi la convalida incrociata. (E se lo si usa, è necessario utilizzare la convalida incrociata K-fold o la convalida incrociata leave-one-out con solo 46 osservazioni e 10-15 potenziali termini nel predittore lineare).
Ri: Modelli di partizione: risultati diversi per ogni corsaConosci i metodi che stai utilizzando? È possibile trovare la risposta selezionando Aiuto > Libri > Modellazione predittiva e specializzata . Ci sono capitoli dedicati ai metodi che menzioni.
Le guide JMP non sono intese a sostituire una formazione sulla modellazione predittiva, ma sono comunque risorse preziose e informative.
Ri: Modelli di partizione: risultati diversi per ogni corsaQuesto non è un problema. È inerente ai metodi che stai usando. Si basano su un compito casuale, quindi ogni corsa sarà necessariamente diversa.
Puoi impostare il seme casuale sullo stesso valore prima di ogni corsa e otterrai sempre gli stessi risultati. Per quale motivo un particolare campione è migliore di un altro?