CIAO @HelenaG
Grazie per le domande. Penso che Predictor Screening sia un ottimo strumento e sono lieto che tu lo trovi utile. Invece di rispondere alla tua domanda individuale, lascia che ti spieghi un po' più in dettaglio cosa sta succedendo in questa analisi.
L'analisi Predictor Screening esegue un modello di partizione Bootstrap Forest (con 100 alberi decisionali predefiniti) e quindi classifica i predittori in base al loro contributo al modello. In breve, l'analisi di Bootstrap Forest calcola la media di molti alberi decisionali. Per creare un albero, ci vuole a bootstrap campione di osservazioni e si adatta ricorsivamente a un modello effettuando divisioni con un insieme casuale di predittori. Questo continua fino a quando non viene soddisfatta una regola di arresto. Quindi viene creato un altro albero con una nuova serie di osservazioni bootstrap e suddivisioni casuali dei predittori. Una volta che tutti gli alberi sono stati creati, vengono mediati in una "foresta" di alberi (da cui il nome).
Tornando all'output di Predictor Screening, la colonna Contribution fornisce la somma dei quadrati per una risposta numerica continua e G^2 per una risposta categorica. La colonna della porzione è il contributo del predittore individuale diviso per la somma di tutti i contributi. Questo non è lo stesso della varianza spiegata da ogni singolo predittore.
Per saperne di più su queste piattaforme, consiglio di leggere il Modello di partizione E Foresta di Boostrap panoramiche nella documentazione.
- Scott
CIAO @nick_shelton,
Grazie a questa tua presentazione, ho utilizzato lo screening Predictor e sono davvero soddisfatto dei risultati. Per quanto riguarda questa piattaforma, chiedo ora la tua profonda esperienza su quanto segue:
1. Come viene calcolata la porzione presentata nei risultati JMP per lo screening dei predittori? Voglio dire, in termini di Bootstrap Forest (BF) cosa significa questa porzione e come viene raggiunto il valore specifico? (Sto scrivendo un articolo scientifico usando questo e avrei bisogno di questo dettaglio).
2. In termini di interpretazione ho capito che la porzione spiega la percentuale di variabilità di una risposta (rendimento) spiegata da un predittore. È corretto?
3. Sempre nella piattaforma di screening dei predittori, cosa significa "colonna dei contributi"?Come viene calcolato in termini di algoritmo BF?
Grazie in anticipo Nick!
Nick Shelton @nick_shelton , manager di JMP SE, ha presentato questo argomento in passato e ho ritirato i video più vecchi.Ho preso in prestito un commento che ha fatto allo spettatore @HelenaG perché potrebbe essere rilevante per chiunque guardi questo video e le domande e risposte di Scot Allen, SE di JMP @scott_allen e Byron Wingerd @Byron_JMP :
Elena ha chiesto:
Vorrei capire meglio quanto segue: tutti i passaggi collegati all'identificazione e alla valutazione delle interazioni (con screening delle risposte e strumenti di regressione graduale) si basano su un'assunzione lineare: è corretto? Se sì, c'è qualche suggerimento per verificare le interazioni non lineari?
Nick ha scritto:
T L'identificazione delle interazioni viene effettuata al meglio attraverso l'esperienza del dominio e una nota comprensione scientifica/fisica delle variabili sotto analisi.
Quando le interazioni tra variabili non sono ben comprese, la personalità del modello "Response Screening" in Fit Model funziona bene per quantificare la forza tra i singoli termini di interazione e la variabile di risposta.
La personalità del modello "Stepwise Regression" in Fit Model funziona bene nell'identificare la migliore combinazione di termini (Es: effetti principali, interazioni...) da utilizzare per un potenziale modello.
Il termine modello "lineare" si riferisce a come è strutturata la formula del modello, ma è possibile utilizzare anche le personalità del modello "Screening della risposta" e "Regressione graduale" in Fit Model per esplorare le relazioni non lineari.
Possiamo includere effetti e interazioni non lineari in un'analisi aggiungendo termini polinomiali.
In Fit Model puoi esplorare qualsiasi relazione polinomiale (non lineare) aggiungendo il termine corrispondente nella casella degli effetti del modello (Es: Relazione quadratica (x1*x1), Relazione cubica (x1*x1*x1), Interazione quadratica (x1* x1*x2)...)
Per ulteriori informazioni sui polinomi e su come possono aiutare a comprendere le relazioni tra le variabili, guarda il breve video qui sotto:
https://community.jmp.com/t5/Short-Videos/Fitting-Polynomial-Models/ta-p/271953
Scopri come utilizzare semplici tecniche statistiche per identificare variabili e interazioni importanti nei tuoi dati come precursore per costruire modelli di previsione ad alte prestazioni e scoprire ulteriori approfondimenti.
https://www.youtube.com/watch?v=8ENEPPHMphI
Scopri come:
- Comprendere i prerequisiti da considerare prima di iniziare a identificare le variabili importanti
- Pulisci e prepara i dati utilizzando il visualizzatore colonne
- Identifica e decidi come gestire i valori anomali e i dati mancanti utilizzando Esplora valori mancanti, Esplora valori anomali ed Esplora modelli
- Assicurati che il set di dati sia la migliore rappresentazione del sistema che intendi studiare<
- Utilizza le distribuzioni nelle intestazioni delle colonne e nel Generatore di grafici per esplorare i dati e visualizzare le tendenze
- Eseguire l'analisi multivariata sull'ID variabili correlate
- Utilizzare lo screening della risposta per identificare le variabili più importanti che influenzano la risposta
- Utilizzare lo screening predittivo (metodi dell'albero decisionale) per testare molti fattori nella previsione di una risposta
- Utilizzare l'analisi multivariata per identificare le variabili con correlazione elevata
- Raggruppa variabili per raggruppare insieme variabili correlate e identificare la singola variabile più rappresentativa
- Utilizza Stima modello> Screening della risposta e Regressione graduale per trovare interazioni e termini di ordine superiore in base alle variabili importanti e univoche
Domande a cui risponde Scott @scott_allen E @Byron_JMP durante il webinar live di giugno 2023.
Come hai "deselezionato" nel generatore di grafici?
R: Fai clic sullo spazio bianco nel grafico, non su un indicatore.
Potresti approfondire ulteriormente la tua spiegazione sul valore P e sul suo rango? Cosa significa che è alto o basso, cosa aspettarci quando vediamo determinati valori o tendenze, ecc.
R: Per il valore p e la maggior parte delle statistiche, considerare .Inoltre, quando sei in JMP e desideri aiuto su una statistica (o qualsiasi altra cosa visualizzata).Selezionare Strumenti > ? e fai clic sull'area (in questo caso, l'intestazione della colonna del valore p) per la quale desideri assistenza.Vedi anche Questo spiegazione.
In che modo la piattaforma di screening dei predittori differisce dal modello di foresta casuale?
R: In JMP chiamiamo Foresta Casuale Foresta di bootstrap (perché Random Forest è un marchio registrato). È la stessa cosa. Lo screening dei predittori non include un modello, ma solo la classifica.
Poiché la schermata del predittore non indica la variazione percentuale attribuita a ogni singolo predittore, esiste qualche altra piattaforma che fa proprio questo?
R: Il report di screening dei predittori mostra l'elenco dei predittori con i rispettivi contributi e classificazione. È probabile che i predittori con i contributi più elevati siano importanti nella previsione di Y. La colonna Contributo mostra il contributo di ciascun predittore al modello Bootstrap Forest. La colonna Porzione nel report mostra il contributo percentuale di ciascuna variabile.
L'analisi multivariata può avere numeri di correlazione assoluti invece di -1 a 1?
R: Sì e no. La tabella è una matrice di coefficienti di correlazione che riassume la forza delle relazioni lineari tra ciascuna coppia di variabili di risposta (Y). Vedere metodi multivariati .
Come selezioneresti le variabili più importanti se avessi variabili indipendenti continue, binomiali (sì/no) e ordinate (bassa, media, alta)?
R: Sì, è possibile utilizzare tutti questi metodi: Screening dei predittori e Screening delle risposte.
Utilizzi mai la regressione graduale? JMP offre la regressione di tutti i sottoinsiemi possibili?
R: Vedi dettagli sulla regressione graduale .
Molti dei miei dati contengono più risposte e trovo che ciò limiti alcune delle cose che posso fare in JMP. Esegui una pulizia speciale dei dati a risposta multipla o li lavori così come sono? Mi riferisco alla proprietà della colonna "Risposta multipla" (un elenco di più punti dati). Presumo che sia più semplice suddividerli in due colonne diverse, ma volevo vedere se esiste un modo migliore.
A: Sì, ti consentiamo di archiviare risposte multiple in una cella come un, ma per analizzarli è corretto dividerli in diverse colonne.
Come si confrontano i metodi basati su alberi con PLS o PCA?
R: Con PCA o PLS, stiamo cercando di rappresentare tutti i dati con questo numero minore di variabili latenti.Stai cercando di trovare un numero ridotto di dimensioni che possano rappresentare tutti i dati. Questo è diverso dai metodi basati sugli alberi, che ti aiutano a individuare ciò che effettivamente spiega qualcosa. I metodi ad albero stanno soppiantando PCA e PLS per costruire meglio. I metodi basati su alberi sono fantastici per modellare i dati, ma sono molto sensibili ai cambiamenti e possono adattarsi molto. Con i metodi basati sugli alberi in cui prendi un campione casuale delle righe e un campione casuale delle colonne ogni volta che crei un nuovo albero, lo rende davvero robusto rispetto ai valori anomali ed è in grado di modellare interazioni simili e quadratiche simili o cubici, se presenti nei dati. Quindi non devi fare tante supposizioni.
Posso utilizzare lo screening dei predittori e lo screening delle risposte per variabili dipendenti numeriche e le mie variabili indipendenti sono continue, binomiali e ordinate.
R: Sì.
Scopri come:
- Utilizzare JMP Partition per identificare i fattori significativi
- In modo accurato e automatico qualsiasi effetto di interazione del modello
Modeling Workflow with Factor SelectionModeling Workflow with Factor SelectionModellazione del flusso di lavoro con selezione dei fattori
BONUS: Scott Allen @scott_allen e Byron Wingerd @Byron_JMP ho risposto alle domande anche dopo la demo del 2022!
Esiste un video tutorial per gli strumenti anomali?
A: Questo è buono e copre il Esplora valori anomali strumento in JMP.Puoi anche lavorare attraverso il file documentazione ed esempi .
Perché non dovresti eliminare prima le variabili correlate?
R: La presenza di variabili correlate spesso informa il metodo di modellazione. PLS, ad esempio, è più robusto rispetto agli X correlati. Inoltre, l'ordine potrebbe essere una preferenza. Potresti farlo in entrambi i modi: screening dei predittori e poi clustering o viceversa.Tieni presente che il clustering può essere un po' impreciso quando sono presenti molti valori mancanti o colonne che non cambiano (come l'impostazione di uno strumento).A volte è necessaria un'ulteriore pulizia e preparazione dei dati se si desidera iniziare con il clustering.
Come decideresti l'algoritmo di previsione?
R: Questa è una domanda complicata e la risposta dipende dalla tua situazione. Nella maggior parte dei casi un modello lineare sarà il più semplice e informativo. Altri metodi risolvono problemi specifici con i dati o obiettivi di analisi.
Perché i termini lineari sono così fortemente consigliati?Se la mia correlazione è Y=X^2, perché JMP continua a provare ad aggiungere il termine X?
R: Questo si riferisce all'ereditarietà degli effetti. A volte i termini di ordine superiore sono significativi ma non l'effetto principale. Quindi, vuoi mantenere l'effetto principale.Ad esempio, se rimuovessi l'effetto principale, nel filer di previsione non vedresti il cambiamento della pendenza, vedresti solo la curvatura e otterresti una previsione non altrettanto buona.
Per lo screening dei predittori, è possibile utilizzare i dati dei fattori e delle risposte nello stesso ordine (accoppiati) o i dati raccolti in modo casuale (non abbinati).
R: L'ordine non ha molta importanza, ma per l'analisi multivariata spesso preferiamo inserire Y in un gruppo.L'ordine in cui li aggiungi a Y è l'ordine in cui verrà mostrato nella matrice.
L'analisi di regressione multilineare dei fattori x (600 colonne) aiuterebbe a scoprire quali colonne x contribuiscono maggiormente al rendimento?
A: Se esegui semplicemente una regressione lineare su 600 colonne, stai davvero diluendo ciò che spiega il tuo Y. I metodi ad albero come Partition funzionano alla grande per cercare di individuare quale di quelle 600 colonne ti porta lì. Quando Scott ha mostrato Predictor Screening, ha preso un campione casuale di righe e colonne e ha costruito un albero, lo ha fatto 100 volte e ha calcolato la media su quei cento alberi per ottenere il risultato.Con Partition, puoi forzare le cose ad accadere, puoi forzare le decisioni a verificarsi in luoghi diversi o seguire qualcosa mentre viene diviso. Potresti quindi consultare il rapporto sull'importanza della varianza o
la cronologia delle divisioni e le modifiche di R-Square.Questo esempio è troppo grande per farlo, ma ti darà un'idea di come usare Partition.
Se le 600 regressioni lineari separate diluiscono il potere esplicativo del tuo modello, è per questo motivo che Response Screening utilizza la correzione FDR (False Discovery Rate) in quelle statistiche riassuntive (che Scott ha mostrato e cortocircuitato in modo crescente in precedenza) per cercare di compensare questo?
A: Troverai cose davvero buone solo per caso, vuoi provare a filtrarle. Non vogliamo trovare le cose per caso, da soli, quindi FDR aiuta a correggere questo problema.Sottolineo AIUTA, perché nessun modello è perfetto. Allo stesso modo, tutti i modelli basati su alberi, in situazioni in cui si hanno linearità multiple, sono i migliori quando si tenta prima di separare la varianza e trovare quelle variabili che sono davvero le più importanti invece di gettare tutto nel modello.A volte puoi costruire modelli di ensemble utilizzando JMP Pro .
Esistono altri metodi per eseguire questa operazione con JMP Pro?
UN; Sì, incluso l'utilizzo di Componente aggiuntivo XGBoost .Vedi sotto.
