| Oratore |
Trascrizione |
| Tim Pierce |
Andare. |
| |
Bene, anch'io divento muto. |
| |
Ciao, sono Chris Gotwalt. Io e i miei co-relatori Laura Lancaster e Jeremy Ash presenteremo una nuova utile funzionalità di JMP Pro chiamata controllo dell'estrapolazione. |
| |
Quasi tutti i modelli con cui vorresti fare delle previsioni hanno un intervallo di applicabilità, |
| |
una regione dello spazio di input in cui le loro previsioni sono considerate |
| |
Abbastanza affidabile. Al di fuori di quella regione, iniziamo a estrapolare il modello di due punti, lontani dai dati utilizzati per adattarlo. Utilizzare le previsioni di quel modello in quei punti potrebbe portare a previsioni completamente inaffidabili. |
| Esistono due fonti principali di estrapolazione |
Estrapolazione statistica ed estrapolazione basata su dominio. Entrambe le tipologie sono coperte dalla nuova funzionalità. |
| |
L'estrapolazione statistica si verifica quando si cerca di fare una previsione utilizzando un modello con un valore X che non è vicino ai valori utilizzati per addestrare quel modello. |
| |
L'estrapolazione basata sul dominio avviene quando si tenta di valutare un X che è impossibile a causa di fattori scientifici. |
| |
o vincoli ingegneristici. L'esempio qui illustra entrambi i tipi di estrapolazione in un unico esempio. Qui vediamo un profiler tratto da un modello di un processo di produzione metallurgica. |
| |
La previsione è di -2,96 senza alcuna indicazione che stiamo valutando una combinazione di temperatura e pressione che è impossibile |
| |
in un certo senso del dominio da raggiungere per questa macchina. Abbiamo anche un'estrapolazione statistica, poiché si basa sui dati utilizzati |
| |
per adattare il modello, come si vede nel diagramma di dispersione dei dati di training a destra. In JMP Pro 16, Jeremy, Laura e io abbiamo collaborato per aggiungere una nuova funzionalità che può generare un avviso quando il profiler ritiene che si stia estrapolando. |
| |
Oppure, se si attiva il controllo dell'estrapolazione, il set di punti visualizzati verrà limitato solo a quelli che non vengono estrapolati. |
| |
Abbiamo due tipi di controllo dell'estrapolazione. |
| |
Uno si basa sul concetto di leva finanziaria e utilizza un modello dei minimi quadrati. Questo primo tipo è disponibile solo nella versione Pro del modello di adattamento dei minimi quadrati. |
| |
L'altro tipo lo chiamiamo controllo di estrapolazione dell'apprendimento automatico generale ed è disponibile nella piattaforma profiler e in molte delle piattaforme di apprendimento automatico più comuni in JMP Pro. |
| |
Su richiesta, potremmo anche aggiungerlo a mor. Il controllo dell'estrapolazione dei minimi quadrati utilizza il concetto di leva finanziaria, che è come una versione in scala della varianza della previsione. È basato su modelli e quindi |
| |
utilizza informazioni sulle interazioni degli effetti principali e sui termini di ordine superiore per determinare l'estrapolazione. |
| |
Per il caso generale del controllo di estrapolazione dell'apprendimento automatico, dobbiamo elaborare un approccio specifico. Volevamo un metodo che fosse robusto in termini di valori mancanti, |
| |
dipendenze lineari, elaborazione più rapida, possibilità di gestire combinazioni di variabili di input continue e categoriali e, inoltre, volevamo esplicitamente separare il modello di estrapolazione dal modello utilizzato per adattare i dati. |
| |
Quindi, quando è attivato il controllo generale dell'estrapolazione, esiste un solo modello supervisionato che adatta le variabili di input alle risposte che vediamo nelle tracce del profiler. |
| |
Il profilo che elabora un modello non supervisionato rapido e approssimativo per descrivere il set di addestramento Xs; questo modello non supervisionato viene utilizzato dietro le quinte dal profiler per determinare il vincolo di controllo dell'estrapolazione. |
| |
Quindi sono costretto a cambiare perché, per qualche motivo, al momento la mia fotocamera non funziona correttamente con PowerPoint. |
| |
Sappiamo che ogni giorno chi lavora nella scienza dei dati fa estrapolazioni rischiose e siamo convinti che l'uso di estrapolazioni porti a previsioni sbagliate e, in ultima analisi, a scarsi risultati aziendali. |
| |
Il controllo dell'estrapolazione pone dei limiti alle previsioni del modello e porterà gli utenti di JMP Pro a prendere decisioni quantificabilmente migliori. |
| |
Quando gli utenti notano che si sta verificando un'estrapolazione, devono decidere se utilizzare o meno la previsione, in base alla loro conoscenza del dominio e alla familiarità con il problema in questione. |
| |
Se si iniziano a visualizzare avvisi di controllo dell'estrapolazione, molto spesso è probabile che il ciclo di vita di quel modello sia terminato ed è il momento di adattarlo ai nuovi dati, perché la distribuzione degli input si è spostata rispetto a quella dei dati di addestramento. |
| |
Siamo sinceramente piuttosto sorpresi e allarmati che la necessità di identificare l'estrapolazione non sia meglio apprezzata dalla comunità della scienza dei dati |
| |
e hanno reso il controllo dell'estrapolazione il più semplice e automatico possibile. Laura, che l'ha sviluppato in JMP Pro, illustrerà l'opzione in seguito. Poi Jeremy, che ha svolto gran parte della ricerca nel nostro team, approfondirà i dettagli matematici e le motivazioni statistiche alla base di questo approccio. |
| |
Salve. Mi chiamo Laura Lancaster e sono qui per fare una demo del controllo di estrapolazione aggiunto a JMP Pro 16. Volevo iniziare con un esempio piuttosto semplice, utilizzando la piattaforma dei minimi quadrati per il modello di adattamento. |
| |
Userò alcuni dati che potrebbero esservi familiari. Sono i dati di fitness presenti nei dati campione. |
| |
Userò il consumo di ossigeno come risposta e il tempo di corsa, la frequenza cardiaca e la frequenza cardiaca massima come predittori. E volevo ribadire che nel fit model fit con i minimi quadrati, la metrica di estrapolazione utilizzata è la leva finanziaria, quindi andiamo avanti e iniziamo JMP. |
| |
Ora ho aperto i dati di fitness in JMP e ho uno script da salvare nella tabella dati per avviare automaticamente il mio modello dei minimi quadrati. |
| |
Quindi vado avanti ed eseguo quello script. Avvia la piattaforma dei minimi quadrati. |
| |
E ho il profiler aperto automaticamente e possiamo vedere che il profiler appare come sempre in passato, |
| |
dove i limiti dei fattori sono definiti dall'intervallo di ciascun fattore singolarmente, fornendoci vincoli di limite rettangolare. |
| |
E quando ho modificato le impostazioni dei fattori, a causa di questi vincoli vincolanti, è diventato davvero difficile capire se ci si stava spostando molto al di fuori della struttura di correlazione dei dati. |
| |
Ed è per questo che abbiamo voluto aggiungere il controllo di estrapolazione. Quindi è stato aggiunto a diverse piattaforme in JMPs Pro 16, |
| |
Incluso il metodo dei minimi quadrati. E per accedere al controllo dell'estrapolazione, bisogna andare al menu del profiler. Se guardo qui, vedo che c'è una nuova opzione chiamata "controllo dell'estrapolazione". |
| |
Di default è disattivato, ma posso attivarlo o impostarlo su "warning on" per attivare il controllo dell'estrapolazione. Se lo attivo, nota che limita le tracce del mio profilo ai soli valori che non sto estrapolando. |
| |
Se attivassi l'opzione "Avviso", vedrei le tracce del profilo completo, ma riceverei un avviso quando andrei in una regione in cui verrebbe considerata un'estrapolazione. |
| |
Posso anche attivare i dettagli dell'estrapolazione, cosa che trovo davvero utile, |
| |
e questo mi fornisce molte più informazioni. Innanzitutto, mi dice che la metrica che sto usando per definire l'estrapolazione è la leva finanziaria, il che è vero nella piattaforma dei minimi quadrati, |
| |
e la soglia inizialmente utilizzata di default sarà la leva massima, ma è qualcosa che posso modificare e ve lo mostrerò tra un minuto. |
| |
Inoltre, posso vedere qual è la mia metrica di estrapolazione per le mie impostazioni attuali. Questo è il numero qui, che cambierà man mano che modifico le impostazioni dei fattori. |
| |
Ogni volta che questo numero supera la soglia, riceverò un avviso che potrebbe indicare che sto estrapolando. Se scende al di sotto, l'avviso non verrà più visualizzato. |
| |
Questa soglia non cambierà a meno che non modifichi qualcosa nel menu per regolarla. Quindi, lasciatemi procedere e farlo subito. Vado al menu, |
| |
E ora andrò a impostare il criterio delle soglie. Quindi, nel metodo dei minimi quadrati, hai due opzioni per la soglia. Inizialmente, è impostata sulla leva massima, che ti manterrà all'interno del buco convesso dei dati, |
| |
Oppure puoi passare a un moltiplicatore moltiplicato per la leva finanziaria media o per i termini del modello sulle osservazioni. E voglio passare a quella soglia, quindi è impostata a tre. |
| |
come moltiplicatore predefinito, quindi sarà tre volte la leva finanziaria media. Cliccando su OK, noterai che la mia soglia cambierà. In realtà si è ridotta, quindi questa è una definizione più conservativa di estrapolazione. |
| |
E lo riattiverò per limitare le tracce del mio profilo, e ora potrò andare solo alle regioni |
| |
dove mi trovo a tre volte la leva finanziaria media. |
| |
Ora abbiamo anche implementato un'ottimizzazione che rispetta i vincoli di estrapolazione. Quindi, se attivo la desiderabilità dell'insieme |
| |
e mi occupo dell'ottimizzazione, |
| |
Otterrò un valore ottimale che soddisfi il vincolo di estrapolazione. Si noti che questa metrica è inferiore o uguale alla soglia. |
| |
Quindi ora, quando vado alla diapositiva successiva, che confronterà in un grafico (una matrice di dispersione), la differenza tra il valore ottimale con il controllo di estrapolazione attivato e quello disattivato. |
| |
Quindi questa è la matrice del diagramma di dispersione che ho creato con JMP e mostra i dati originali della variabile predittiva, così come i valori della variabile predittiva |
| |
per la soluzione ottimale senza controllo di estrapolazione in blu e per la soluzione ottimale con controllo di estrapolazione in rosso. E si noti come la soluzione non vincolata qui in blu, a destra |
| |
qui, viola la struttura di correlazione per i dati originali per l'impulso di esecuzione e l'impulso massimo, aumentando così l'incertezza di questa previsione, mentre la soluzione ottimale che ha utilizzato il controllo di estrapolazione è molto più in linea con i dati originali. |
| |
Ora diamo un'occhiata a un esempio che utilizza il metodo di controllo dell'estrapolazione più generalizzato, che chiamiamo metodo T quadrato regolarizzato. |
| |
Come accennato in precedenza da Chris, abbiamo sviluppato questo metodo anche per modelli diversi da quelli dei minimi quadrati. Esamineremo un modello neurale per i dati sul diabete, presente anche nei dati campione. |
| |
La risposta è una misura della progressione della malattia e i predittori sono le variabili basali. Ancora una volta, la metrica di estrapolazione utilizzata in questo esempio è il T quadrato regolarizzato, che Jeremy descriverà più dettagliatamente tra qualche minuto. |
| |
Ho aperto i dati sul diabete in JMP e ho salvato uno script con i fit del mio modello neurale. Procedo ed eseguo lo script. |
| |
Avvia la piattaforma neurale. Notate che sto utilizzando il metodo di convalida "random hold back". Volevo solo sottolineare che ogni volta che si utilizza un metodo di convalida, il controllo di estrapolazione si basa solo sui dati di training. |
| |
e non i tuoi dati di convalida o di prova. |
| |
Ho aperto il profiler e potete vedere che sta usando tutte le tracce. Il controllo di estrapolazione non è attivato. |
| |
Andiamo avanti e accendiamolo. |
| |
E ora passerò ai dettagli. |
| |
Si può vedere che le tracce sono state ristrette e la metrica è il T quadrato regolarizzato. |
| |
La soglia è pari a tre volte la deviazione standard del T-quadrato regolarizzato del campione. Jeremy spiegherà meglio cosa significa esattamente tutto questo tra qualche minuto. |
| |
E volevo solo sottolineare che, quando usiamo il metodo T-quadrato regolarizzato, c'è una sola scelta per la soglia, ma è possibile regolare il moltiplicatore. Quindi, se si va a |
| |
controlli di estrapolazione, soglie impostate, potete regolare questo moltiplicatore, ma lo lascerò a tre. E ora voglio eseguire l'ottimizzazione usando |
| |
Controllo di estrapolazione, quindi mi limiterò a massimizzare e ricordare. Ora ho una soluzione ottimale con il controllo di estrapolazione attivato. |
| |
Ora voglio dare un'occhiata alla nostra matrice di dispersione, proprio come abbiamo visto prima con i dati originali, nonché con i valori ottimali con e senza controllo di estrapolazione. |
| |
Questa è una matrice di dispersione dei dati sul diabete che ho creato in JMP. Contiene i valori predittivi originali, |
| |
così come la soluzione ottimale utilizzando il controllo di estrapolazione in rosso e la soluzione ottimale senza controllo di estrapolazione in blu. E puoi vedere che |
| |
I punti rossi sembrano essere molto più vicini alla struttura di correlazione dei dati originali rispetto a quelli blu. E questo è particolarmente vero se si considera il rapporto tra LDL e colesterolo totale. |
| |
Ora diamo un'occhiata a un esempio utilizzando il profiler che si trova nel menu dei grafici, che chiamerò profiler dei grafici. |
| |
Utilizza anche il metodo T-quadrato regolarizzato e ci consente di utilizzare il controllo di estrapolazione su qualsiasi tipo di modello che può essere creato e salvato come formula JSL. Permette inoltre di avere il controllo di estrapolazione su più modelli contemporaneamente. |
| |
Prendiamo ad esempio un'azienda che utilizza la tecnologia della metallurgia delle polveri per produrre alberi di trasmissione in acciaio per l'industria automobilistica. |
| |
Vogliono essere in grado di trovare impostazioni ottimali per la loro produzione che minimizzino il ritiro e anche i guasti dovuti a cattive condizioni superficiali. Quindi abbiamo due risposte. |
| |
il restringimento, che è continuo e per questo adatteremo il modello dei minimi quadrati, e la condizione della superficie, che è superata/fallita e per questa adatteremo un modello logistico nominale. |
| |
E le nostre variabili predittive sono solo alcune variabili di processo chiave in produzione. E ancora una volta, la metrica di estrapolazione è il T-quadrato regolarizzato. |
| |
Quindi ho aperto i dati sulla metallurgia delle polveri in JMP e ho già adattato un modello dei minimi quadrati per la mia risposta al ritiro, |
| |
e ho già adattato un modello logistico nominale per la risposta pass/fail delle condizioni superficiali. E ho salvato le formule di previsione nella tabella dati in modo che siano pronte per essere utilizzate nel profiler grafico. |
| |
Quindi se vado al menu del grafico, posso caricare la formula di previsione per il ritiro e la mia formula di previsione è per la condizione della superficie. |
| |
Fare clic su OK. |
| |
E ora ho avviato entrambi i miei modelli nel profiler grafico. |
| |
E, prima di attivare il controllo dell'estrapolazione, puoi vedere che ho le tracce del profilo completo. Una volta attivato il controllo dell'estrapolazione, |
| |
potete vedere che le tracce si restringono un po'. E ora accendo anche i dettagli. |
| |
solo per dimostrare che, in effetti, in questo metodo sto utilizzando il T-quadrato regolarizzato. |
| |
Quindi quello che voglio veramente fare è trovare le condizioni ottimali in cui ridurre al minimo il restringimento e minimizzare i guasti. |
| |
Con il controllo di estrapolazione attivo. Voglio assicurarmi di non estrapolare. Voglio trovare una soluzione utile. |
| |
E prima di poter eseguire l'ottimizzazione, devo effettivamente impostare le mie desiderabilità. Imposterò le desiderabilità; è già corretto per il ritiro, ma devo impostarle per la condizione di superficie. |
| |
Cercherò di aumentare al massimo i passaggi e ridurre al minimo i fallimenti. |
| |
OK. |
| |
Ora dovrei essere in grado di effettuare l'ottimizzazione con i controlli di estrapolazione attivati, eseguire la massimizzazione e ricordare. |
| |
Ora ho la mia soluzione ottimale |
| |
Con il controllo di estrapolazione attivato. Ora diamo un'altra occhiata alla matrice di dispersione dei dati originali, insieme alla soluzione con il controllo di estrapolazione attivato e alla soluzione con il controllo di estrapolazione disattivato. |
| |
Quindi questa è una matrice di dispersione dei dati di metallurgia delle polveri che ho creato in JMP e contiene anche la soluzione ottimale |
| |
con il controllo di estrapolazione come punto rosso e la soluzione ottimale senza controllo di estrapolazione come punto blu. E, ancora una volta, si può vedere che quando non mettiamo in atto il controllo di estrapolazione, |
| |
La soluzione ottimale è piuttosto lontana dalla struttura di correlazione dei dati. Lo possiamo osservare in particolare qui, con il rapporto in funzione della pressione di compattazione. |
| |
Ora vorrei passare la parola a Jeremy affinché approfondisca i nostri metodi. |
| |
Ciao. Ecco alcuni obiettivi per il controllo dell'estrapolazione che abbiamo definito all'inizio del progetto. |
| |
Avevamo bisogno di una metrica di estrapolazione che potesse essere calcolata rapidamente con un gran numero di osservazioni e variabili, e di un modo rapido per valutare se la metrica indicasse o meno un'estrapolazione. Questo per mantenere l'interattività delle tracce del profiler e |
| |
ne avevamo bisogno per eseguire l'ottimizzazione. |
| |
Vogliamo che sia in grado di supportare i vari tipi di variabili disponibili nel profiler. Questi sono essenzialmente continui, categoriali e ordinali. |
| |
Volevamo utilizzare osservazioni con celle mancanti perché alcuni metodi di modellazione includeranno queste osservazioni e ???. |
| |
Volevamo un metodo che fosse robusto alle dipendenze lineari nei dati. Queste si verificano, ad esempio, quando il numero di variabili è maggiore del numero di osservazioni. |
| |
E volevamo qualcosa che fosse facile da automatizzare, senza la necessità di molti input da parte dell'utente. |
| |
Per i modelli dei minimi quadrati, abbiamo optato per la leva finanziaria, spesso utilizzata per identificare valori anomali nei modelli lineari. |
| |
La leva finanziaria per il nuovo punto di previsione viene calcolata secondo questa formula. Esistono molte interpretazioni della leva finanziaria. Un'interpretazione è che |
| |
Si tratta della distanza multivariata di un punto di previsione dal centro dei dati di training. Un'altra interpretazione è che si tratti di una varianza di previsione scalata, quindi man mano che il punto di previsione si allontana dal centro dei dati, l'incertezza della previsione aumenta. |
| |
Per determinare se questa distanza è troppo grande, utilizziamo due soglie comuni nella letteratura statistica. |
| |
Il primo è la leva massima. I punti di previsione oltre questa soglia si trovano al di fuori del foro convesso dei dati di training. |
| |
E il secondo è tre volte la media delle leve. Si può dimostrare che questo equivale a tre volte il numero di termini del modello diviso per il numero di osservazioni. |
| |
Come ha spiegato Laura in precedenza, è possibile modificare il moltiplicatore di queste soglie. |
| |
Infine, quando si ottimizzano le desiderabilità, il vincolo di estrapolazione è un vincolo non lineare. In precedenza, il profiler consentiva l'ottimizzazione vincolata con vincoli lineari. |
| |
Ma questo tipo di ottimizzazione è più impegnativo, quindi Laura ha implementato un algoritmo genetico. E se non avete familiarità con questi algoritmi, usate i principi dell'evoluzione molecolare per ottimizzare funzioni di costo complesse. |
| |
Ora parlerò dell'approccio che utilizziamo per generalizzare il controllo dell'estrapolazione su due modelli diversi dai modelli lineari. |
| |
Quando si costruisce un modello predittivo in JMP, si inizia con un set di variabili predittive e un set di variabili di risposta. |
| |
Viene addestrato un modello supervisionato e poi può essere utilizzato un profiler per visualizzare la superficie del modello. |
| |
Esistono numerose varianti del profiler in JMP. È possibile utilizzare il profiler internamente nelle piattaforme di modellazione, generare formule di previsione e creare |
| |
profiler per modelli multipli, come dimostrato da Laura. È possibile costruire profiler per modelli ensemble. Volevamo un metodo di controllo dell'estrapolazione che si generalizzasse a tutti questi scenari, quindi invece di legare il nostro metodo a un modello specifico, useremo un approccio non supervisionato. |
| |
Contrassegneremo un punto di previsione come estrapolazione solo se si trova molto al di fuori della zona di concentrazione dei dati nello spazio predittivo. Questo ci permette di essere coerenti tra i profiler, in modo che il nostro metodo di controllo dell'estrapolazione si integri con qualsiasi profiler. |
| |
L'interpretazione multivariata della distanza della leva finanziaria ha suggerito il T-quadrato di Hotelling come distanza per il controllo generale dell'estrapolazione. In effetti, qualche manipolazione algebrica mostrerà che il T-quadrato di Hotelling è semplicemente la leva finanziaria spostata e scalata. |
| |
Questa figura mostra come la T-quadrata di Hotelling misura su quale ellisse giace un'osservazione, dove le ellissi sono centrate sulla media dei dati e la forma è definita dalla matrice di covarianza. |
| |
Poiché non ci troviamo più in modelli lineari, questa metrica non ha la stessa connessione con la varianza di previsione. Quindi, invece di basarci sulle soglie utilizzate nei modelli lineari, faremo alcune ipotesi distributive per determinare se |
| |
Il T quadrato per il punto di previsione dovrebbe essere considerato un'estrapolazione. |
| |
Qui mostro la formula per il T quadrato di Hotelling. La matrice di media e covarianza è stimata utilizzando i dati di training del modello. |
| |
Se P è minore di N, dove P è il numero di predittori e N il numero di osservazioni, |
| |
e se il predittore è in normale multivariata, allora T al quadrato per un punto di previsione ha una distribuzione F. Tuttavia, volevamo un metodo per |
| |
generalizzare i set di dati con tipi di dati complicati, come un mix di set di dati continui e categoriali, dove P è maggiore di N; |
| |
set di dati con valori mancanti. Quindi, invece di elaborare la distribuzione analiticamente in ciascun caso, utilizziamo un semplice limite di controllo conservativo che abbiamo riscontrato essere efficace nella pratica. |
| |
Si tratta di un limite di controllo a tre Sigma che utilizza la distribuzione empirica di T quadrato dai dati di addestramento e, come ha detto Laura, è anche possibile regolare questo moltiplicatore. |
| |
Una complicazione è che quando P è maggiore di N, il T quadrato di Hotelling non è definito. Ci sono troppi parametri nella matrice di covarianza per una stima con i dati disponibili. |
| |
E questo accade spesso in casi d'uso tipici per il controllo dell'estrapolazione, come nei minimi quadrati parziali. Quindi abbiamo deciso di adottare un nuovo approccio al calcolo del T-quadrato di Hotelling, che si occupa di questi casi e lo chiamiamo T-quadrato regolarizzato. |
| |
Per calcolare la matrice di covarianza, utilizziamo uno stimatore regolarizzato originariamente sviluppato da Schafer e Strimmer per dati genomici ad alta dimensionalità. Si tratta semplicemente di una combinazione pesata della matrice di covarianza del campione completo, che in questo caso è U, e di una matrice target vincolata, che in questo caso è D. |
| |
Per il parametro del peso Lambda, Schafer e Strimmer hanno derivato un'espressione analitica che minimizza l'MSE, lo stimatore, in modo asintotico. |
| |
Schafer e Strimmer hanno proposto diverse possibili matrici target. La matrice target che abbiamo scelto era una matrice diagonale con le varianze campionarie delle variabili predittive sulla diagonale. Questa matrice target presenta diversi vantaggi per il controllo dell'estrapolazione. |
| |
Innanzitutto, non diamo per scontato che esista alcuna struttura di correlazione tra le variabili prima di esaminare i dati, il che funziona bene come previsione generale a priori. |
| |
Inoltre, quando ci sono pochi dati per stimare la matrice di covarianza, sia a causa di un piccolo N o di una grande frazione mancante, |
| |
Il vincolo ellittico viene espanso con un peso elevato sulla matrice diagonale, ottenendo un test più conservativo per il controllo dell'estrapolazione. Abbiamo scoperto che questo è necessario per ottenere un controllo ragionevole del tasso di falsi positivi. |
| |
Per dirla in parole più semplici, quando i dati di addestramento sono limitati, è meno probabile che il T quadrato regolarizzato etichetti le previsioni come estrapolazioni, che è ciò che si desidera perché è più probabile osservare le covarianze in modo casuale. |
| |
Abbiamo alcuni risultati di simulazione che dimostrano questi dettagli, ma non ho tempo di approfondire l'argomento. Invece, sulla pagina web della Community, abbiamo inserito un link a un articolo in archivio e prevediamo di inviarlo al Journal of Computational Graphical Statistics. |
| |
La prossima diapositiva mostra altri dettagli importanti che dovevamo considerare. Dovevamo capire come gestire le variabili categoriali. |
| |
Le stiamo semplicemente convertendo in variabili fittizie codificate con indicatori. Questo è paragonabile a un'analisi delle corrispondenze multiple. |
| |
Un'altra complicazione è come calcolare il T quadrato di Hotelling in caso di dati mancanti. Diverse piattaforme di modellazione predittiva JMP utilizzano osservazioni con dati mancanti per addestrare i modelli. |
| |
Tra queste rientrano Naive Bayes e bootstrap forest; queste formule mostrano il metodo di eliminazione a coppie che utilizziamo per stimare la matrice di covarianza. |
| |
È più comune utilizzare l'eliminazione per riga, ovvero tutte le osservazioni con valori mancanti vengono eliminate prima di calcolare la matrice di covarianza. Questa è la soluzione più semplice, ma può comportare la perdita di dati utili se la dimensione del campione dei dati di training è ridotta. |
| |
Con l'eliminazione a coppie, le osservazioni vengono eliminate solo se mancano valori nella coppia di variabili utilizzata per calcolare una voce corrispondente. |
| |
Ed è proprio questo che mostrano queste formule. Sembra una cosa semplice, si utilizzano tutti i dati disponibili, ma in realtà può portare a una serie di problemi, perché vengono utilizzate osservazioni diverse per calcolare ogni voce. |
| |
Ciò può causare situazioni strane, come matrici di covarianza con autovalori negativi, un problema con cui abbiamo dovuto confrontarci. |
| |
Ecco alcuni vantaggi del T quadrato regolarizzato che abbiamo riscontrato confrontandolo con altri metodi nelle nostre valutazioni. |
| |
Uno è che la regolarizzazione funziona come una normale regolarizzazione. Raggiunge un equilibrio tra il sovraadattamento dei dati di training e l'eccessiva distorsione dello stimatore. Questo rende lo stimatore più robusto al rumore e all'errata specificazione del modello. |
| |
Successivamente, Schafer e Strimmer hanno dimostrato nel loro articolo che la regolarizzazione produce uno stimatore più accurato in contesti ad alta dimensionalità. Questo aiuta a superare la maledizione della dimensionalità che affligge la maggior parte dei metodi basati sulla distanza per il controllo dell'estrapolazione. |
| |
E poi, nei campi che hanno sviluppato la metodologia per il controllo dell’estrapolazione, |
| |
Spesso presentano sia dati ad alta dimensionalità che predittori altamente correlati. Ad esempio, nella chemioinformatica e nelle chemiometriche, le caratteristiche chimiche sono spesso altamente correlate. |
| |
Il controllo di estrapolazione viene spesso utilizzato in combinazione con modelli PCA e PLS, dove T quadrato e DModX vengono utilizzati per rilevare violazioni della struttura di correlazione. Questo è simile a quanto facciamo nelle carte di controllo multivariate basate su modelli. |
| |
Poiché si tratta di un caso d'uso comune, volevamo avere un'opzione che non si discostasse troppo da questi metodi. |
| |
Il nostro T quadrato regolarizzato fornisce |
| |
stesso tipo di controllo di estrapolazione, ma non richiede una fase di proiezione, il che presenta alcuni vantaggi. |
| |
Abbiamo scoperto che questo ci consente di generalizzare meglio ad altri tipi di modelli predittivi. |
| |
Inoltre, nelle nostre valutazioni, abbiamo osservato che se una proiezione lineare non funziona bene per i tuoi dati, ad esempio se hai relazioni non lineari tra i predittori, |
| |
gli errori possono aumentare i limiti di controllo dei metodi basati sulla proiezione, il che porterà a una scarsa protezione contro l'estrapolazione; il nostro approccio è più robusto di così. |
| |
E poi un altro punto importante è che abbiamo trovato il |
| |
la metrica di estrapolazione singola era molto più semplice da usare e interpretare. |
| |
Ed ecco un breve riassunto delle caratteristiche del controllo dell'estrapolazione. Il metodo fornisce una migliore visualizzazione delle regioni realizzabili in |
| |
Modelli ad alta dimensionalità nel profiler. È stato implementato un nuovo algoritmo genetico per l'ottimizzazione flessibile e vincolata. |
| |
E il nostro T quadrato regolarizzato gestisce dati osservativi disordinati in casi come P maggiore di N e variabili continue e categoriali. |
| |
Il metodo è disponibile nella maggior parte dei modelli predittivi di JMP 16 Pro e ne supporta molte delle idiosincrasie. È disponibile anche nel profiler grafico, il che ne amplia notevolmente l'utilità, poiché può operare su qualsiasi formula di previsione. |
| |
E poi, come direzione futura, stiamo valutando l'implementazione di un vincolo basato sul K-vicino più prossimo che andrebbe oltre l'attuale vincolo della struttura di correlazione. |
| |
Spesso i predittori vengono generati da distribuzioni multiple, con conseguente clustering nello spazio dei predittori e un approccio basato sui K vicini più prossimi ci consentirebbe di controllare l'estrapolazione tra cluster. |
| |
Grazie quindi a tutti coloro che hanno seguito l'evento e, se avete ulteriori domande, ecco le nostre email. |
| Jeremy Ash, JMP |
Ragazzi, siete ancora lì. |
| Chris Gotwalt |
Sì, lo sono. |
| Laura Lancaster |
Appena. |
