Scopri come utilizzare JMP e JMP Pro per identificare importanti predittori adatti alla modellazione predittiva, riducendo la varianza causata dalla stima di termini non necessari e creando modelli predittivi. Guarda i casi di studio che mostrano come utilizzare JMP Stepwise Regression per trovare variabili importanti ed effetti di modelli attivi e come tale approccio si confronta con le tecniche di JMP Pro Generalized Regression che incorporano automaticamente la selezione delle variabili.
Scopri come:
- Comprendere i fondamenti del metodo di regressione graduale
- Scegli le opzioni di regressione graduale per automatizzare la selezione dei fattori
- Analizza > Modello di adattamento > Personalità: graduale
- Imposta regola/criteri di arresto
- Imposta direzione avanti, indietro o mista
- La selezione in avanti seleziona la variabile con il valore p più basso, la aggiunge al modello e quindi ricalcola i valori p e i criteri di arresto finché i criteri di arresto non vengono soddisfatti
- L'eliminazione all'indietro seleziona la variabile con il valore p più alto, la rimuove dal modello e quindi ricalcola i valori p e i criteri di arresto finché i criteri di arresto non vengono soddisfatti
- Alternanza mista tra selezione in avanti ed eliminazione all'indietro, utilizzando il valore p come criterio di arresto
- Esegui il modello
- Utilizzare opzioni aggiuntive graduali
- Regola di arresto alternativa - Validazione KFold R2
- Costruisci e confronta tutti i modelli possibili
- Utilizzare la media del modello basata sul peso AICc in ciascun modello
- Implementare metodi graduali in JMP Pro Generalized Regression per distribuire facilmente la selezione delle variabili, la convalida, la regressione penalizzata per aiutare con fattori correlati, visualizzazione interattiva del modello, confronto dei modelli, rilancio dei modelli facilmente con termini di ordine superiore
- Comprendere i vantaggi e i limiti degli approcci Stepwise e Generalized Regression
JMP Stepwise Regression FlowFlusso di regressione graduale JMPFlusso di regressione graduale JMP
Domande a cui hanno risposto Scott Allen @scott_allen e Byron Wingerd @Byron_JMP durante il webinar in diretta:
Esiste una linea guida per stabilire quando AICc è preferibile a BIC?
A: BIC fornisce il modello migliore con il minor numero di termini; AICc fornisce il modello che spiega la maggior variazione ed è penalizzato dal numero di termini. La c minuscola in AICc sta per corretto e significa corretto per piccoli set di dati. L'AIC cerca di selezionare il modello che descrive più adeguatamente una realtà sconosciuta e altamente dimensionale. Ciò significa che la realtà non è mai nell'insieme dei modelli candidati che vengono presi in considerazione. Al contrario, BIC cerca di trovare il modello VERO tra l'insieme dei candidati.
La risposta breve è che li eseguo entrambi e li confronto, oppure potresti anche prendere i 2 e poi fare la media. Hai gli strumenti qui nella piattaforma Stepwise per eseguirli e poi confrontarli e confrontare automaticamente i risultati in un grafico. In alcuni casi, dipende dal tuo obiettivo, se ti va bene avere più termini o se stai davvero cercando di ridurli al set minimo. Nell'esempio con 500 punti dati, BIC è probabilmente preferito.
Come si verifica il sovraadattamento?
R: Se stiamo solo adattando modelli lineari in JMP, anche usando Stepwise, sarà un po' più complicato identificare i problemi di overfitting. In JMP Pro, possiamo impostare sottoinsiemi di test, training e validazione (o se preferisci, almeno test e training) e confrontare gli R-quadrati. Quindi, se vedi che il training set ha un R-quadrato davvero ottimo e la tua convalida ha un R-quadrato davvero pessimo, significa che hai adattato bene i dati e non sarai molto predittivo delle osservazioni future.
Nel modello, un totale di 568 righe contengono anche righe di convalida. Le utilizziamo tutte nel modello o le manteniamo?
R: Vengono trattenuti per la convalida e valutati separatamente come sottoinsieme di convalida.
Nel vecchio SAS Enterprise Miner, il nodo "Ensemble" spesso funzionava meglio. Cosa ne pensi di eseguire un mucchio di modelli, salvare le previsioni e quindi semplicemente calcolare la media di tutti quei valori previsti?
R: In JMP, utilizziamo la piattaforma di reti neurali per impostare un modello di ensemble. In genere tendono a superare i modelli individuali.
Come hai ottenuto la mappa dei colori per le correlazioni?
A: Sotto il triangolo rosso, cerca le opzioni della mappa dei colori.
Come si rileva e si gestisce la multicollinearità?
R: Stepwise da solo in JMP non gestirà la multicollinearità, quindi dovresti estrarli in anticipo e/o trovare una variabile rappresentativa usando il clustering. Se sei in JMP Pro Generalized Regression, i metodi di regressione penalizzata ti aiuteranno anche ad affrontare questo problema, quindi, se sei davvero preoccupato, la regressione generalizzata è sicuramente la strada da seguire. Potresti creare quel modello di minimi quadrati, eseguirlo e guardare le tue stime dei parametri. Valori VIF elevati potrebbero indicare multicollinearità. Guarda il video qui sotto.
