Distribuzione di metodi di regressione graduale in JMP e JMP ProScopri come utilizzare JMP e JMP Pro per identificare importanti predittori adatti alla modellazione predittiva, ridurre la varianza causata dalla stima di termini non necessari e creare modelli predittivi. Consulta i casi di studio che mostrano come utilizzare la regressione graduale di JMP per trovare variabili importanti ed effetti del modello attivo e come tale approccio si confronta con le tecniche di regressione generalizzata di JMP Pro che incorporano automaticamente la selezione delle variabili.
Scopri come:
- Comprendere le basi del metodo di regressione graduale
- Scegli le opzioni di regressione graduale per automatizzare la selezione dei fattori
- Analizza > Stima modello > Personalità: graduale
- Impostare regole/criteri di arresto
- Imposta la direzione avanti, indietro o mista
- La selezione diretta seleziona la variabile con il valore p più basso, la aggiunge al modello, quindi ricalcola i valori p e i criteri di arresto fino a quando i criteri di arresto non vengono soddisfatti
- L'eliminazione all'indietro seleziona la variabile con il valore p più alto, la rimuove dal modello, quindi ricalcola i valori p e i criteri di arresto finché i criteri di arresto non vengono soddisfatti
- Alternanze miste tra selezione in avanti ed eliminazione all'indietro, utilizzando il valore p come criterio di arresto
- Esegui il modello
- Utilizza ulteriori opzioni graduali
- Regola di arresto alternativa: convalida KFold R2
- Costruisci e confronta tutti i modelli possibili
- Utilizzare la media del modello in base al peso AICc in ciascun modello
- Implementa metodi graduali nella regressione generalizzata di JMP Pro per implementare facilmente la selezione delle variabili, la convalida, la regressione penalizzata per facilitare i fattori correlati, la visualizzazione interattiva dei modelli, il confronto dei modelli, il rilancio semplice dei modelli con termini di ordine superiore
- Comprendere i vantaggi e i limiti degli approcci di regressione graduale e generalizzata
JMP Stepwise Regression FlowJMP Stepwise Regression FlowJMP Stepwise Regression FlowJMP Stepwise Regression FlowFlusso di regressione graduale di JMP
Domande a cui hanno risposto Scott Allen @scott_allen e Byron Wingerd @Byron_JMP al webinar dal vivo:
Esiste una linea guida su quando AICc è preferibile rispetto a BIC?
R: BIC ti offre il modello migliore con il minor numero di termini; AICc ti fornisce il modello che spiega la maggior variazione ed è penalizzato dal numero di termini. La lettera c minuscola in AICc sta per corretto e significa corretto per piccoli set di dati. L'AIC cerca di selezionare il modello che descrive più adeguatamente una realtà sconosciuta e ad alta dimensione. Ciò significa che la realtà non rientra mai nell’insieme dei modelli candidati presi in considerazione. Al contrario, BIC cerca di trovare il modello VERO tra i candidati.
La risposta breve è: li eseguo entrambi e li confronto oppure potresti anche prendere i 2 e poi fare la media insieme. Hai gli strumenti qui nella piattaforma Stepwise per eseguirli e poi confrontarli e confrontare automaticamente i risultati in un grafico. In alcuni casi. dipende dal tuo obiettivo, se sei d'accordo con più termini o stai davvero cercando di ridurli al minimo. Nell'esempio con 500 punti dati, probabilmente è preferibile il BIC.
Come controlliamo l'adattamento?
R: Se stiamo adattando solo modelli lineari in JMP, anche utilizzando Stepwise, sarà un po' più complicato identificare i problemi di overfitting. In JMP Pro possiamo impostare sottoinsiemi di test, formazione e convalida (o, se preferisci, almeno test e formazione) e confrontare i quadrati R. Quindi, se vedi che il set di addestramento ha un R quadrato davvero eccezionale e la tua validazione ha un R quadrato davvero terribile, significa che hai adattato bene i dati e non sarai molto predittivo delle osservazioni future.
Nel modello, un totale di 568 righe hanno anche righe di convalida. Utilizzeremo tutti quelli del modello o li terremo?
R: Vengono trattenuti per la convalida e valutati separatamente come sottoinsieme di convalida.
Nel vecchio SAS Enterprise Miner, il nodo "Ensemble" spesso funzionava meglio. Cosa ne pensi dell'esecuzione di una serie di modelli, del salvataggio delle previsioni e quindi della semplice media di tutti i valori previsti?
R: In JMP utilizziamo la piattaforma della rete neurale per impostare un modello di insieme. Generalmente tendono a superare i singoli modelli.
Come hai ottenuto la mappa dei colori per le correlazioni?
R: Sotto il triangolo rosso, cerca le opzioni della mappa colori.
Come si rileva e si gestisce la multicollinearità?
R: Il solo passo passo in JMP non gestirà la multicollinearità, quindi dovresti estrarli in anticipo e/o trovare una variabile rappresentativa utilizzando il clustering. Se utilizzi la regressione generalizzata JMP Pro, i metodi di regressione penalizzata ti aiuteranno a risolvere anche questo problema, quindi, se sei davvero preoccupato, la regressione generalizzata è sicuramente la strada da percorrere. Potresti costruire il modello dei minimi quadrati, eseguirlo e osservare le stime dei parametri. Valori VIF elevati potrebbero indicare multicollinearità. Guarda il video qui sotto.
Modellazione statistica avanzataRi: Distribuzione di metodi di regressione graduale in JMP e JMP ProCiao @SeanL
In Pic3, gli intervalli di confidenza che sembrano "papillon" nel tuo Profiler sono un buon indicatore del fatto che hai alcune variabili altamente correlate. Poiché la regressione graduale controlla l'effetto di ciascuna variabile sul modello in modo indipendente, non sempre rileverà le variabili correlate.
Per verificarlo, puoi controllare i VIF facendo clic con il pulsante destro del mouse sulla tabella nella tabella Stime dei parametri e aggiungendo la colonna VIF. Qualsiasi valore VIF >10 indica che la collinearità è probabilmente un problema. Il portale delle conoscenze statistiche offre una buona panoramica qui .
Sembra che questo sia stato risolto nella Figura 4 quando rimuovi manualmente una delle variabili.
Puoi eseguire l'analisi multivariata su tutte le variabili per verificare la correlazione e quindi scegliere la variabile più rappresentativa per il tuo modello. È inoltre possibile guardare il webinar Mastering JMP sulla creazione di modelli predittivi per dati correlati e ad alta dimensione .
Ri: Distribuzione di metodi di regressione graduale in JMP e JMP ProGrazie per il webinar! E questo ringraziamento si estende anche a Scott Allen.
È stato un apprendimento fantastico ed ero ansioso di applicare subito le nuove conoscenze ai miei dati.
Quando ho applicato il metodo di regressione delle cartelle K appena appreso, ho ottenuto risultati contrastanti.
- Analisi di regressione originale di Stepwise prima di questa sessione webinar: con un'impostazione predefinita su Regola, Direzione e altre, l'ho eseguita per un modello elencato per primo di seguito (Pic1). Ho ristretto ulteriormente il modello rimuovendo i termini con valore p> 0,05 e ulteriori semplificazioni (termini di riduzione entro valori ragionevoli adj-R2). Ero felice di questi risultati.
- Analisi successiva dello stesso Stepwise dopo questo webinar: modificando la regola in "Max K-fold RSquare", ho ripetuto l'analisi per ottenere l'analisi preliminare (Pic2). Sebbene i risultati preliminari mostrino i valori Max R con 13 termini come i migliori. Non voglio così tanti termini nel mio modello e ero d'accordo con il livello del valore R con 5~6 termini sia per Training che per K-Fold. Quindi, ho scelto i risultati di 6 termini visti e ho eseguito il modello.
Come puoi vedere, il suo modello include un termine di valore P> 0,05 in Pic3. Inoltre, nel suo profilo, il livello di confidenza/varianza è molto ampio per la maggior parte dei termini. Quindi ho rimosso il termine AR per avere valori R simili e un modello simile al mio modello originale, tranne per il fatto che "RV" del modello originale è stato sostituito con il termine "Vol" nel nuovo modello. Questi 2 termini di RV e Vol potrebbero contenere informazioni simili ma non esattamente identiche. Non so perché K-fold regoli come uno sull'altro termine.
Ad ogni modo, sono soddisfatto dei risultati poiché sono arrivati con un modo di modellazione simile, il che conferma che il mio modello originale non era poi così male (senza un processo di formazione e convalida separato. È così che ho capito il metodo K-fold che divide il set di dati in 2 gruppi di sottoinsiemi per utilizzare un gruppo per la formazione e l'altro per la convalida, giusto?)
Ecco la mia seconda domanda se quanto sopra viene conteggiato come prima domanda:
Sebbene il metodo K-Fold abbia prodotto risultati leggermente migliori ottenendo R2 di 0,947, preferisco ancora i risultati originali R2 di 0,942. Questo perché il suo modello comporta meno incertezze nella modellazione del profiler per i termini di Rad e RV rispetto ai nuovi risultati di K-Fold. Il metodo K-Fold può essere semplicemente utilizzato per questo tipo di convalida del modello o altro se l'approccio originale non era abbastanza buono.
Per questo esempio specifico, non è stata una decisione difficile poiché i valori R2 non erano molto diversi.
Ma, se i valori R2 sono bassi di 0,1 (con 2-3 termini in meno) nel modello originale, ma ha una varianza molto inferiore nel profiler di previsione (come il modello originale rispetto al modello in Pic3), quale modello sarebbe migliore?
Attualmente sto utilizzando JMP 17.
Foto 1: analisi originale
Fig2: Regressione preliminare secondo la regola K-fold
Pic3: Modello di K-Fold
Fig4: Risultati finali con il metodo K-Fold
Ri: Distribuzione di metodi di regressione graduale in JMP e JMP ProPer quanto riguarda i modelli di insieme, @scott_allen ha scritto: Esistono altri modi per creare modelli di insieme in JMP Standard e JMP Pro. È possibile semplicemente calcolare manualmente la media dei modelli insieme in JMP standard (sommarli e dividerli per il numero di modelli). In JMP Pro puoi unire diversi modelli utilizzando la piattaforma Confronta modelli. Vedi anche la presentazione del modello Ensemble 2021 di @Peter_Hersh .
