213137_it-IT

liliconcom

Identificare le "variabili importanti" per la regressione degli alberi delle partizioni

Sto sviluppando un'analisi di regressione degli alberi di partizione, con JMP 13, ho 83 variabili, sto individuando le variabili che non hanno colinearità con VIF, con l'obiettivo di poter individuare le variabili più "rappresentative" per sviluppare l'analisi della regressione degli alberi delle partizioni (L'esempio che utilizzo è Bank Revenues
Regressione lineare multipla con trasformazione / Dalla creazione di modelli migliori con JMP Pro, capitolo 4, SAS Press (2015). Grayson, Gardner e Stephens.). La mia domanda, potrebbe essere un modo appropriato? oppure esiste un protocollo più specifico in JMP per identificare queste variabili "importanti" per lavorare con gli alberi delle partizioni di regressione.

Ri: Identificare le "variabili importanti" per la regressione degli alberi delle partizioni

Sono molto grato per il tempo impiegato per aiutarmi con i suggerimenti e le raccomandazioni sviluppati
Allo stesso modo, buona fortuna per tutto!

Ri: Identificare le "variabili importanti" per la regressione degli alberi delle partizioni

Saranno presenti alcune limitazioni nella generazione del modello quando non si ha accesso a JMP Pro. D'altro canto, è ancora possibile eseguire la modellazione ARIMA (se appropriato) e un NN semplificato e un albero delle partizioni. Un'altra piattaforma che potrebbe aiutare è lo screening dei predittori, in Analizza -> Screening. Ciò potrebbe aiutare a identificare anche quali dei molti fattori potrebbero essere importanti.

 

Un'altra cosa che puoi provare è nella piattaforma Fit Model, scegliere "passo passo" sotto "personalità". Verranno inoltre utilizzati criteri diversi per selezionare quali fattori (e termini misti) sono necessari e quali no. In questo caso, aiuta molto avere un'idea abbastanza chiara del tipo di modello da utilizzare. Se disponi di molti dati, puoi selezionare tutti i fattori e quindi scegliere la superficie di risposta nel pulsante a discesa "macro". Vuoi solo assicurarti che i tuoi gradi di libertà non siano ridotti troppo. Se sai che esiste un processo fisico che governa la risposta, questo può essere un inizio su come generare un'equazione modello. Un'ultima cosa che potresti voler esaminare è trasformare i tuoi dati prima di modellarli, soprattutto se non sono distribuiti normalmente. La trasformazione dei dati può aiutare il processo di modellazione a ottenere un adattamento solido con capacità predittive migliori di quanto sarebbe altrimenti.

 

Per quanto riguarda la colonna di convalida, so che JMP standard non viene fornito con la GUI per generarla, ma ecco alcune JSL che genereranno N (l'ho impostato su 5) colonne di convalida stratificate. Alcuni modelli sono sensibili alla colonna di convalida, anche quando si stratifica su una determinata risposta, quindi testare diverse colonne di convalida può essere utile per valutare la robustezza del modello.

 

Names Default To Here( 1 );

dt = Current Data Table();
For( i = 1, i <= 5, i++,
 dt << Make Validation Column(
  Training Set( 0.6 ),
  Validation Set( 0 .2),
  Test Set( 0.2 ),
  Stratified Random( :Group )
 )
);

Nello script sopra, eseguo da 1 a 5, quindi genera 5 colonne di convalida suddivise per il 60% in formazione, per il 20% in convalida e per il 20% in test (puoi modificare i valori in base a ciò che si adatta meglio ai tuoi dati) e sarà stratificato in modo casuale su qualunque colonna tu scelga nella finestra popup :Group. Se non vuoi stratificare, puoi sostituire quel comando con una formula di categoria casuale.

 

JSL è un linguaggio abbastanza semplice da codificare, quindi se hai tempo, ti consiglio vivamente di provare alcuni script per familiarizzare con esso. Lo trovo molto utile quando si eseguono le stesse attività su set di dati diversi: aiuta ad automatizzare le cose. Puoi anche controllare l'indice degli script nel menu Aiuto.

 

Buona fortuna!,

DS

Ri: Identificare le "variabili importanti" per la regressione degli alberi delle partizioni

Grazie per i suggerimenti, mi hanno chiarito molte questioni e lavorerò in quel contesto. Anche se uno dei miei limiti per poterlo utilizzare e sviluppare, ad esempio alcuni confronti tra modelli, è che non lavoro in una versione JMP PRO. Tuttavia, sono riuscito a individuare l'opzione: JMP to R Add-In Builder, che a quanto ho capito potrebbe facilitarmi l'utilizzo di altri algoritmi per lo sviluppo delle analisi come suggerisce; quest'ultimo che indico è perché sono una persona non programmatrice >.<

Grazie!

Ri: Identificare le "variabili importanti" per la regressione degli alberi delle partizioni

Non sono un esperto, ma ho letto anche quel libro (per inciso, mi sono piaciuti gli esempi e il lavoro pratico). Ci sono alcuni buoni esempi nei capitoli successivi che potrebbero essere applicabili anche alla tua situazione particolare.

 

Il VIF è certamente un modo per determinare quali variabili sono eccessivamente enfatizzate nel modello. Anche esaminare i contributi delle colonne dei risultati dell'albero decisionale può essere molto utile. Un altro approccio potrebbe essere quello di utilizzare l’analisi delle componenti principali (PCA), che può aiutare a raggruppare insieme le variabili più importanti e utilizzarle come PC nella modellazione della risposta.Si suppone che la piattaforma della foresta bootstrap sia robusta contro l'overfitting perché è randomizzata sia con risposte che con fattori. Sia la foresta bootstrap che l'albero potenziato dovrebbero "espellere" i fattori non utili poiché non si divideranno lungo tali fattori e il loro contributo scenderà a valori molto bassi.

 

Se disponi di dati sufficienti per creare una colonna di convalida con dati di training, convalida e test, ciò contribuirà a semplificare notevolmente il tuo modello. La parte di convalida aiuta a scegliere il modello più parsimonioso dal gruppo, mentre i dati di test vengono utilizzati per vedere quanto bene il modello funziona con dati "ciechi". Una nota a questo proposito, potresti voler considerare se questo debba essere stratificato, randomizzato o scelto in qualche modo in altro modo. Questo può essere parzialmente (o in gran parte) basato sulla risposta del tuo modello. È continuo, binario, ecc.?

 

Infine, anche il confronto di diversi modelli (piattaforma di confronto dei modelli), come NN, partizione, foresta boostrap, albero potenziato o regressione generalizzata aiuterà a scegliere quale funziona meglio per i tuoi dati. Assicurati di confrontare i tuoi modelli solo sui dati di "test" o su quelli che sono stati trattenuti manualmente nascondendo ed escludendo (ovvero non vuoi testare sui dati di addestramento).

 

Non sono sicuro che esista un metodo "standardizzato" per determinarlo, ma sicuramente affrontare il problema da diverse angolazioni aiuterà a vedere dove si trova la maggiore sovrapposizione e ti aiuterà nella tua decisione nel determinare le variabili "rappresentative".

 

Spero che questo ti aiuti!,

DS