398679_it-IT

liliconcom

Controllo dell'estrapolazione nel Prediction Profiler in JMP Pro 16 (2021-US-45MP-838)

Livello: Intermedio

 

Laura Lancaster, Principal Research Statistician Developer di JMP, SAS
Jeremy Ash, collaudatore del software di analisi di JMP, SAS
Christopher Gotwalt, direttore della ricerca e sviluppo statistici di JMP, SAS

 

L'estrapolazione incontrollata del modello porta a due gravi tipi di errori: (1) il modello potrebbe non essere completamente valido lontano dai dati e (2) le combinazioni di valori delle variabili potrebbero non essere fisicamente realizzabili. L'utilizzo del Profiler per ottimizzare i modelli che si adattano ai dati osservativi può portare a soluzioni estrapolate che non sono di alcuna utilità pratica senza alcun preavviso. JMP Pro 16 introduce il controllo dell'estrapolazione in molte piattaforme di modellazione predittiva e nella stessa piattaforma Profiler. Questa nuova funzionalità nel Prediction Profiler avvisa l'utente di possibili estrapolazioni o evita completamente di disegnare punti estrapolati in cui il modello potrebbe non essere valido. Inoltre, l'utente può eseguire l'ottimizzazione su un'area vincolata che evita l'estrapolazione. In questa presentazione, discutiamo la motivazione e l'utilità del controllo dell'estrapolazione, dimostriamo come può essere facilmente utilizzato in JMP e descriviamo i dettagli dei nostri metodi.

 

 

Trascrizione generata automaticamente...

 

Altoparlante	Trascrizione
Tim Pierce	Andare.
	Bene, vado su muto.
	Ciao, sono Chris Gotwalt. I miei co-presentatori Laura Lancaster e Jeremy Ash ed io presentiamo un'utile nuova funzionalità di JMP Pro chiamata controllo dell'estrapolazione.
	Quasi tutti i modelli con cui vorresti mai prevedere hanno una gamma di applicabilità,
	una regione dello spazio di input in cui sono considerate le loro previsioni
	abbastanza affidabile. Al di fuori di quella regione, iniziamo a estrapolare il modello di due punti, lontano dai dati utilizzati per adattare il modello. L'utilizzo delle previsioni di quel modello in quei punti potrebbe portare a previsioni completamente inaffidabili.
Esistono due fonti principali di estrapolazione	estrapolazione statistica ed estrapolazione basata sui domini. Entrambi i tipi sono coperti dalla nuova funzione.
	L'estrapolazione statistica si verifica quando si tenta di prevedere utilizzando un modello su una X che non è vicina ai valori utilizzati per addestrare quel modello.
	L'estrapolazione basata sul dominio si verifica quando si tenta di valutare in una X che è impossibile a causa di dati scientifici-
	o vincoli ingegneristici. L'esempio qui illustra entrambi i tipi di estrapolazione in un esempio. Qui vediamo un profiler da un modello di un processo di produzione metallurgico.
	La previsione si legge a -2,96 senza alcuna indicazione che stiamo valutando una combinazione di temperatura e pressione impossibile
	in un senso di dominio da raggiungere per questa macchina. Abbiamo anche un'estrapolazione statistica in quanto lontana dai dati utilizzati
	per adattare il modello, come mostrato nel grafico a dispersione dei dati di addestramento sulla destra. In JMP Pro 16, Jeremy, Laura e io abbiamo collaborato per aggiungere una nuova funzionalità che può fornire un avviso quando il profiler pensa che tu stia estrapolando.
	Oppure, se attivi il controllo dell'estrapolazione, restringerà l'insieme di punti che vedi solo a quelli che non pensa stiano estrapolando.
	Abbiamo due tipi di controllo di estrapolazione.
	Uno si basa sul concetto di leva finanziaria e utilizza un modello dei minimi quadrati. Questo primo tipo è disponibile solo nella versione Pro dei minimi quadrati del modello fit.
	L'altro tipo è chiamato controllo generale dell'estrapolazione del machine learning ed è disponibile nella piattaforma del profiler e in molte delle più comuni piattaforme di machine learning in JMP Pro.
	Su richiesta, potremmo anche aggiungerlo a mor. Il controllo dell'estrapolazione dei minimi quadrati utilizza il concetto di leva finanziaria, che è come una versione in scala della varianza della previsione. È basato sul modello e così
	utilizza le informazioni sulle interazioni degli effetti principali e sui termini di ordine superiore per determinare l'estrapolazione.
	Per il caso generale di controllo dell'estrapolazione dell'apprendimento automatico, dobbiamo trovare il loro approccio. Volevamo un metodo che fosse robusto nei valori mancanti,
	le dipendenze lineari, il calcolo più veloce, possono gestire combinazioni di variabili di input continue e categoriche e volevamo anche separare esplicitamente il modello di estrapolazione dal modello utilizzato per adattare i dati.
	Quindi, quando abbiamo attivato il controllo generale dell'estrapolazione, c'è solo un modello supervisionato che è... che adatta le variabili di input alle risposte che vediamo nelle tracce del profiler.
	Il profilo che presenta un modello non supervisionato veloce e sporco per descrivere il set di addestramento Xs, e questo modello non supervisionato viene utilizzato dietro le quinte dal profiler per determinare il vincolo di controllo dell'estrapolazione.
	Quindi devo cambiare perché PowerPoint la mia fotocamera non va d'accordo in questo momento, per qualche motivo.
	Sappiamo che estrapolazioni rischiose vengono effettuate ogni giorno da persone che lavorano nella scienza dei dati e siamo fiduciosi che l'uso di estrapolazioni porti a previsioni scadenti e, in ultima analisi, a scarsi risultati aziendali.
	Il controllo dell'estrapolazione pone limiti alle previsioni del modello e porterà a decisioni quantificabilmente migliori da parte degli utenti di JMP Pro.
	Quando gli utenti vedono che si verifica un'estrapolazione, l'utente deve prendere una decisione sull'utilizzo o meno della previsione, in base alla conoscenza del dominio e alla familiarità con il problema in questione.
	Se inizi a vedere che si verificano avvisi di controllo dell'estrapolazione, molto spesso è probabile che il ciclo di vita di quel modello sia giunto al termine e sia giunto il momento di adattarlo ai nuovi dati, perché la distribuzione degli input si è spostata rispetto a quella dei dati di addestramento.
	Siamo sinceramente piuttosto sorpresi e allarmati dal fatto che la necessità di identificare l'estrapolazione non sia meglio apprezzata dalla comunità della scienza dei dati
	e hanno reso il controllo dell'estrapolazione il più semplice e automatico possibile. Laura, che lo ha sviluppato in JMP Pro, dimostrerà l'opzione in seguito. Quindi Jeremy, che ha svolto molte ricerche nel nostro team, entrerà nei dettagli matematici e nella motivazione statistica per l'approccio.
	Ciao. Mi chiamo Laura Lancaster e sono qui per eseguire una demo del controllo di estrapolazione aggiunto a JMP Pro 16. Volevo iniziare con un esempio abbastanza semplice utilizzando la piattaforma dei minimi quadrati del modello fit.
	Userò alcuni dati che potrebbero essere familiari. Sono i dati di fitness che si trovano nei dati di esempio.
	E userò l'assorbimento di ossigeno come risposta e tempo di esecuzione, impulso di corsa e impulso massimo come predittori. E volevo ribadire che nel modello di adattamento si adattano ai minimi quadrati, la metrica di estrapolazione utilizzata è la leva, quindi andiamo avanti e avviamo JMP.
	Quindi ora ho i dati di fitness aperti in JMP e ho uno script da salvare nella tabella dei dati per avviare automaticamente il mio modello dei minimi quadrati.
	Quindi vado avanti ed eseguo quella sceneggiatura. Lancia la piattaforma dei minimi quadrati.
	E ho il profiler aperto automaticamente e possiamo vedere che il profiler ha l'aspetto che ha sempre avuto in passato,
	dove i limiti dei fattori sono definiti dall'intervallo di ciascun fattore individualmente, dandoci vincoli rettangolari.
	E quando ho cambiato le impostazioni del fattore, a causa di questi vincoli vincolati, può essere davvero difficile dire se ti stai spostando molto al di fuori della struttura di correlazione dei dati.
	Ed è per questo che abbiamo voluto aggiungere il controllo dell'estrapolazione. Quindi questo è stato aggiunto a diverse piattaforme in JMPs Pro 16,
	compresi i minimi quadrati di adattamento. E per arrivare al controllo dell'estrapolazione, vai al menu sotto il menu del profiler. Quindi, se guardo qui, vedo che c'è una nuova opzione chiamata controllo dell'estrapolazione.
	È disattivato per impostazione predefinita, ma posso attivarlo o attivarlo per attivare il controllo dell'estrapolazione. Se lo accendo, nota che limita le tracce del mio profilo per andare solo ai valori in cui non sto estrapolando.
	Se dovessi attivare l'avviso, vedrei le tracce del profilo completo, ma riceverei un avviso quando vado in una regione in cui sarebbe considerata un'estrapolazione.
	Posso anche attivare i dettagli di estrapolazione, che trovo molto utili,
	e questo mi dà molte più informazioni. Prima di tutto, mi dice che la mia metrica che sto usando per definire l'estrapolazione è la leva finanziaria, il che è vero nella piattaforma dei minimi quadrati,
	e la soglia utilizzata per impostazione predefinita inizialmente sarà la leva massima, ma questo è qualcosa che posso cambiare e te lo mostrerò tra un minuto.
	Inoltre, posso vedere qual è la mia metrica di estrapolazione per le mie impostazioni correnti. Questo è questo numero qui, che cambierà man mano che cambio le mie impostazioni del fattore.
	Ogni volta che questo numero è maggiore della soglia, riceverò questo avviso che potrei estrapolare. Se va sotto, non riceverò più quell'avviso.
	Questa soglia non cambierà a meno che non modifichi qualcosa nel menu per regolare la mia soglia. Quindi lasciami andare avanti e farlo adesso. Vado al menu,
	e vado a fissare il criterio delle soglie. Quindi nei minimi quadrati, hai due opzioni per la soglia. Inizialmente, è impostato sulla leva massima, che ti manterrà all'interno del buco convesso dei dati,
	oppure puoi passare a un moltiplicatore moltiplicato per la leva media o i termini del modello rispetto alle osservazioni. E voglio passare a quella soglia, quindi è impostata su tre
	come moltiplicatore per impostazione predefinita, quindi sarà tre volte la leva media. Fai clic su OK e nota che la mia soglia cambierà. In realtà è diventato più piccolo, quindi questa è una definizione più conservativa di estrapolazione.
	E lo riattiverò per limitare le tracce del mio profilo, e ora posso andare solo nelle regioni
	dove sono entro tre volte la leva media.
	Ora abbiamo anche implementato l'ottimizzazione che obbedisce ai vincoli di estrapolazione. Quindi ora, se accendo la desiderabilità del set
	e faccio l'ottimizzazione,
	Otterrò un valore ottimale che soddisfi il vincolo di estrapolazione. Si noti che questa metrica è inferiore o uguale alla soglia.
	Quindi ora, quando vado alla mia prossima diapositiva, che confronterà in un grafico (una matrice di grafici a dispersione), la differenza tra il valore ottimale con il controllo di estrapolazione attivato e disattivato.
	Quindi questa è la matrice del grafico a dispersione che ho creato con JMP e mostra i dati della variabile predittore originale, nonché i valori della variabile predittore
	per la soluzione ottima utilizzando nessun controllo di estrapolazione in blu e soluzione ottimale utilizzando il controllo di estrapolazione in rosso. E nota come la soluzione non vincolata qui in blu, a destra
	qui, viola la struttura di correlazione per i dati originali per run pulse e max pulse, aumentando così l'incertezza di questa previsione, mentre la soluzione ottimale che utilizzava il controllo dell'estrapolazione è molto più in linea con i dati originali.
	Ora diamo un'occhiata a un esempio che utilizza il metodo di controllo dell'estrapolazione più generalizzato, che chiamiamo metodo T quadrato regolarizzato.
	Come Chris ha accennato in precedenza, abbiamo sviluppato questo metodo per modelli diversi dai modelli dei minimi quadrati. Esamineremo un modello neurale per i dati sul diabete che si trova anche nei dati campione.
	La risposta è una misura della progressione della malattia e i predittori sono le variabili di riferimento. Ancora una volta, la metrica di estrapolazione utilizzata per questo esempio è la T2 regolarizzata che Jeremy descriverà più dettagliatamente tra pochi minuti.
	Quindi ho un dato sul diabete aperto in JMP e ho uno script salvato degli adattamenti del mio modello neurale. Vado avanti ed eseguo quella sceneggiatura.
	Lancia la piattaforma neurale. E nota che sto usando il metodo di convalida random hold back. Volevo solo notare che ogni volta che usi un metodo di convalida, il controllo dell'estrapolazione si basa solo sui dati di addestramento
	e non i tuoi dati di convalida o di test.
	Quindi ho il profiler aperto e puoi vedere che sta usando le tracce complete. Il controllo dell'estrapolazione non è attivato.
	Andiamo avanti e accendiamolo.
	E accenderò anche i dettagli.
	Puoi vedere che le tracce sono state limitate e la metrica è il quadrato a T regolarizzato.
	La soglia è tre volte la deviazione standard del T quadrato regolarizzato del campione. Jeremy parlerà di più su cosa significhi esattamente tutto ciò tra pochi minuti.
	E volevo solo menzionare che, quando usiamo il metodo T al quadrato regolarizzato, c'è solo una scelta per la soglia, ma puoi regolare il moltiplicatore. Quindi se vai a
	controlli di estrapolazione, imposta soglie, puoi regolare questo moltiplicatore, ma lo lascerò a tre. E ora voglio eseguire l'ottimizzazione utilizzando
	controllo dell'estrapolazione, quindi massimizzerò e ricorderò. Ora ho una soluzione ottimale con il controllo dell'estrapolazione attivato.
	E così ora, voglio guardare la nostra matrice del grafico a dispersione, proprio come abbiamo visto prima con i dati originali, così come con i valori ottimali con e senza controllo di estrapolazione.
	Quindi questa è una matrice di grafici a dispersione dei dati sul diabete che ho creato in JMP. Ha i valori predittori originali,
	così come la soluzione ottima utilizzando il controllo di estrapolazione in rosso e la soluzione ottima senza controllo di estrapolazione in blu. E puoi vederlo
	i punti rossi sembrano essere molto più all'interno della struttura di correlazione dei dati originali rispetto al blu. E questo è particolarmente vero quando guardi questo LDL rispetto al colesterolo totale.
	Quindi ora diamo un'occhiata a un esempio usando il profiler che si trova sotto il menu del grafico, che chiamerò il profiler del grafico.
	Utilizza anche il metodo T quadrato regolarizzato e ci consente di utilizzare il controllo dell'estrapolazione su qualsiasi tipo di modello che può essere creato e salvato come formula JSL. Ci consente inoltre di avere il controllo dell'estrapolazione su più di un modello alla volta.
	Diamo quindi un'occhiata a un esempio per un'azienda che utilizza la tecnologia della metallurgia delle polveri per produrre alberi di trasmissione in acciaio per l'industria automobilistica.
	Vogliono essere in grado di trovare impostazioni ottimali per la loro produzione che riducano al minimo il restringimento e minimizzino anche i guasti dovuti a cattive condizioni della superficie. Quindi abbiamo due risposte
	restringimento, che è continuo e per questo adatteremo il modello dei minimi quadrati, e la condizione della superficie, che è passa/fallisce e adatteremo un modello logistico nominale per quello.
	E le nostre variabili predittive sono solo alcune variabili di processo chiave nella produzione. E ancora una volta, la metrica di estrapolazione è il quadrato a T regolarizzato.
	Quindi ho i dati sulla metallurgia delle polveri aperti in JMP, e ho già adattato un modello dei minimi quadrati per la mia risposta al restringimento,
	e ho già adattato un modello logistico nominale per la risposta pass/fail della condizione della superficie. E ho salvato le formule di previsione nella tabella dei dati in modo che siano pronte per essere utilizzate nel profiler del grafico.
	Quindi, se vado al profiler del menu grafico, posso caricare la formula di previsione per il restringimento e la mia formula di previsione è per la condizione della superficie.
	Fare clic su OK.
	E ora ho entrambi i miei modelli lanciati nel profiler grafico.
	E, prima di attivare il controllo dell'estrapolazione, puoi vedere che ho le tracce complete del profilo. Una volta attivato il controllo dell'estrapolazione,
	puoi vedere che le tracce si restringono un po'. E accenderò anche i dettagli
	solo per mostrare che, in effetti, sto usando il quadrato T regolarizzato qui in questo metodo.
	Quindi quello che voglio davvero fare è trovare le condizioni ottimali in cui riduco al minimo il restringimento e riduco al minimo i guasti
	con controllo di estrapolazione attivo. Voglio assicurarmi di non estrapolare. Voglio trovare una soluzione utile.
	E prima di poter eseguire l'ottimizzazione, devo effettivamente impostare le mie desiderabilità. Farò delle desiderabilità stabilite; è già corretto per il restringimento, ma devo impostarli per le condizioni della superficie.
	Cercherò di massimizzare i passaggi e ridurre al minimo i fallimenti.
	OK.
	E ora dovrei essere in grado di eseguire l'ottimizzazione con i controlli di estrapolazione attivi, massimizzare e ricordare.
	Ora ho la mia soluzione ottimale
	con controllo di estrapolazione attivo. Quindi ora diamo un'occhiata ancora una volta alla matrice del grafico a dispersione dei dati originali, insieme alla soluzione con il controllo dell'estrapolazione attivo e alla soluzione con il controllo dell'estrapolazione disattivato.
	Quindi questa è una matrice di grafici a dispersione dei dati sulla metallurgia delle polveri che ho creato in JMP e ha anche la soluzione ottimale
	con il controllo dell'estrapolazione come punto rosso e la soluzione ottimale senza controllo dell'estrapolazione come punto blu. E, ancora una volta, puoi vedere che quando non mettiamo in atto il controllo dell'estrapolazione,
	la soluzione ottimale è piuttosto al di fuori della struttura di correlazione dei dati. Possiamo vederlo in particolare qui con il rapporto rispetto alla pressione di compattazione.
	Quindi ora, voglio consegnare la presentazione a Jeremy per entrare molto più in dettaglio sui nostri metodi.
	CIAO. Quindi ecco una serie di obiettivi per il controllo dell'estrapolazione che abbiamo esposto all'inizio del progetto.
	Avevamo bisogno di una metrica di estrapolazione che potesse essere calcolata rapidamente con un gran numero di osservazioni e variabili e avevamo bisogno di un modo rapido per valutare se la metrica indicasse l'estrapolazione o meno. Questo per mantenere l'interattività delle tracce del profiler e
	ne avevamo bisogno per eseguire l'ottimizzazione.
	Vogliamo che sia in grado di supportare i vari tipi di variabili disponibili nel profiler. Questi sono essenzialmente continui, categorici e ordinali.
	Volevamo utilizzare le osservazioni con celle mancanti perché alcuni metodi di modellazione includeranno queste osservazioni e ???.
	Volevamo un metodo che fosse robusto rispetto alle dipendenze lineari nei dati. Questi si verificano quando il numero di variabili è maggiore del numero di osservazioni, per esempio.
	E volevamo qualcosa che fosse facile da automatizzare senza la necessità di molti input da parte dell'utente.
	Per i modelli dei minimi quadrati, siamo approdati alla leva finanziaria, che viene spesso utilizzata per identificare i valori anomali nei modelli lineari.
	La leva per il nuovo punto di previsione viene calcolata in base a questa formula. Ci sono molte interpretazioni per la leva finanziaria. Un'interpretazione è quella
	è la distanza multivariata di un punto di previsione dal centro dei dati di addestramento. Un'altra interpretazione è che si tratta di una varianza di previsione in scala, quindi quando il punto di previsione si allontana dal centro dei dati, l'incertezza della previsione aumenta.
	E usiamo due soglie comuni nella letteratura statistica per determinare se questa distanza è troppo grande.
	Il primo è la leva massima. I punti di previsione oltre questa soglia si trovano all'esterno del foro convesso dei dati di addestramento.
	E il secondo è tre volte la media delle leve. Si può dimostrare che ciò equivale a tre volte il numero di termini del modello diviso per il numero di osservazioni.
	E come Laura ha descritto in precedenza, puoi modificare il moltiplicatore di queste soglie.
	Infine, quando le desiderabilità vengono ottimizzate, il vincolo di estrapolazione è un vincolo non lineare. E in precedenza il profiler consentiva l'ottimizzazione vincolata con vincoli lineari,
	ma questo tipo di ottimizzazione è più impegnativo, quindi Laura ha implementato un algoritmo genetico. E se non hai familiarità con questi, gli algoritmi genetici usano i principi dell'evoluzione molecolare per ottimizzare complicate funzioni di costo.
	Successivamente parlerò dell'approccio che usiamo per generalizzare il controllo dell'estrapolazione di due modelli diversi dai modelli lineari.
	Quando si costruisce un modello predittivo in JMP, si inizia con una serie di variabili predittive e una serie di variabili di risposta.
	Viene addestrato un modello supervisionato e quindi è possibile utilizzare un profiler per visualizzare la superficie del modello.
	Esistono numerose varianti del profiler in JMP. È possibile utilizzare il profiler internamente nelle piattaforme di modellazione, è possibile produrre formule di previsione e creare
	profiler per più modelli, come ha dimostrato Laura. È possibile costruire profiler per modelli di insieme. Volevamo un metodo di controllo dell'estrapolazione che si generalizzasse a tutti questi scenari, quindi invece di legare il nostro metodo a un modello specifico, useremo un approccio senza supervisione.
	E contrassegneremo un punto di previsione come estrapolazione solo se è molto al di fuori del punto in cui i dati sono concentrati nello spazio predittore. E questo ci consente di essere coerenti tra i profiler in modo che il nostro metodo di controllo dell'estrapolazione si inserisca in qualsiasi profiler.
	L'interpretazione della distanza multivariata della leva ha suggerito la T di Hotelling al quadrato come distanza per il controllo generale dell'estrapolazione. In effetti, alcune manipolazioni algebriche mostreranno che la T di Hotelling al quadrato è solo una leva spostata e ridimensionata.
	Questa figura mostra come la T al quadrato di Hotelling misura l'ellisse su cui giace un'osservazione, dove le ellissi sono centrate sulla media dei dati e la forma è definita dalla matrice di covarianza.
	Poiché non siamo più nei modelli lineari, questa metrica non ha la stessa connessione con la varianza della previsione. Quindi, invece di fare affidamento sulle soglie utilizzate nei modelli lineari, faremo alcune ipotesi distributive per determinare se
	T al quadrato per il punto di previsione dovrebbe essere considerato un'estrapolazione.
	Qui sto mostrando la formula per la T di Hotelling al quadrato. La matrice della media e della covarianza viene stimata utilizzando i dati di addestramento per il modello.
	Se P è minore di N, dove P è il numero di predittori e N il numero di osservazioni,
	e se il predittore è nella normale multivariata, allora T al quadrato per un punto di previsione ha una distribuzione F. Tuttavia, volevamo un metodo per
	generalizzare i set di dati con tipi di dati complicati, come un mix di set di dati continui e categorici, dove P è maggiore di N;
	insiemi di dati con valori mancanti. Quindi, invece di elaborare analiticamente la distribuzione in ogni caso, usiamo un semplice limite di controllo conservativo che abbiamo trovato funziona bene nella pratica.
	Questo è un limite di controllo tre Sigma che utilizza la distribuzione empirica di T al quadrato dai dati di addestramento e, come ha detto Laura, puoi anche regolare questo moltiplicatore.
	Una complicazione è che quando P è maggiore di N, la T al quadrato di Hotelling non è definita. Ci sono troppi parametri nella matrice di covarianza per stimare con i dati disponibili.
	E questo si verifica spesso in casi d'uso tipici per il controllo dell'estrapolazione, come nei minimi quadrati parziali. Quindi abbiamo deciso un nuovo approccio al calcolo della T2 di Hotelling, che si occupa di questi casi e lo chiamiamo T22 regolarizzato.
	Per calcolare la matrice di covarianza, utilizziamo uno stimatore regolarizzato originariamente sviluppato da Schafer e Strimmer per dati genomici ad alta dimensione. Questa è solo una combinazione ponderata della matrice di covarianza del campione completo, che qui è U e una matrice di destinazione del vincolo, che è D.
	Per il parametro del peso Lambda, Schafer e Strimmer hanno derivato un'espressione analitica che minimizza asintoticamente l'MSE, lo stimatore.
	Schafer e Strimmer hanno proposto diverse possibili matrici target. La matrice target che abbiamo scelto era una matrice diagonale con le varianze campionarie delle variabili predittive sulla diagonale. Questa matrice di destinazione presenta una serie di vantaggi per il controllo dell'estrapolazione.
	Innanzitutto, non assumiamo alcuna struttura di correlazione tra le variabili prima di vedere i dati, il che funziona bene come priore generale.
	Inoltre, quando ci sono pochi dati per stimare la matrice di covarianza, a causa di un piccolo N o di una grande frazione mancante,
	il vincolo ellittico è espanso da un grande peso sulla matrice diagonale, e questo si traduce in un test più conservativo per il controllo dell'estrapolazione. Abbiamo scoperto che ciò è necessario per ottenere un ragionevole controllo del tasso di falsi positivi.
	Per dirla in modo più semplice, quando i dati di addestramento sono limitati, è meno probabile che la T al quadrato regolarizzata etichetti le previsioni come estrapolazione, che è ciò che desideri perché è più probabile che osservi le covarianze per caso.
	Abbiamo alcuni risultati di simulazione che dimostrano questi dettagli, ma non ho tempo per approfondire tutto questo. Invece, sulla pagina Web della Comunità, inseriamo un collegamento a un documento in archivio e prevediamo di inviarlo al Journal of Computational Graphical Statistics.
	La prossima diapositiva mostra alcuni altri dettagli importanti che dovevamo considerare. Avevamo bisogno di capire come gestire le variabili categoriche.
	Li stiamo solo convertendo in variabili fittizie con codice indicatore. Questo è paragonabile a un'analisi delle corrispondenze multiple.
	Un'altra complicazione è come calcolare la T di Hotelling al quadrato quando mancano dati. Diverse piattaforme di modellazione predittiva di JMP utilizzano osservazioni con dati mancanti per addestrare i modelli.
	Questi includono Naive Bayes e la foresta bootstrap e queste formule mostrano il metodo di eliminazione a coppie che utilizziamo per stimare la matrice di covarianza.
	È più comune utilizzare l'eliminazione per riga, ciò significa che tutte le osservazioni con valori mancanti vengono eliminate prima di calcolare la matrice di covarianza. E questo è il più semplice, ma può comportare l'eliminazione di dati utili se la dimensione del campione dei dati di addestramento è piccola.
	Con la cancellazione a coppie, le osservazioni vengono cancellate solo se ci sono valori mancanti nella coppia di variabili utilizzate per calcolare una voce corrispondente.
	Ed è quello che mostrano queste formule. Sembra una cosa semplice da fare, stai solo usando tutti i dati disponibili, ma in realtà può portare a una serie di problemi, perché ci sono diverse osservazioni utilizzate per calcolare ogni voce.
	Questo può far accadere cose strane, come matrici di covarianza con autovalori negativi, che è qualcosa con cui abbiamo dovuto fare i conti.
	Ecco alcuni vantaggi del T quadrato regolarizzato che abbiamo riscontrato confrontando con altri metodi nelle nostre valutazioni.
	Uno è che la regolarizzazione funziona nel modo in cui funziona normalmente la regolarizzazione. Colpisce l'equilibrio tra l'overfitting dei dati di addestramento e l'eccessiva distorsione dello stimatore. Ciò rende lo stimatore più robusto al rumore e alle specifiche errate del modello.
	Successivamente, Schafer e Strimmer hanno mostrato nel loro articolo che la regolarizzazione si traduce in uno stimatore più accurato in ambienti ad alta dimensione. Questo aiuta con la maledizione della dimensionalità che affligge la maggior parte dei metodi basati sulla distanza per il controllo dell'estrapolazione.
	E poi, nei campi che hanno sviluppato la metodologia per il controllo dell'estrapolazione,
	spesso hanno sia dati ad alta dimensione che predittori altamente correlati. Ad esempio in chemioinformatica e chemiometrica, le caratteristiche chimiche sono spesso altamente correlate.
	Il controllo dell'estrapolazione viene spesso utilizzato in combinazione con i modelli PCA e PLS in cui T quadrato e DModX vengono utilizzati per rilevare violazioni della struttura di correlazione. Questo è simile a quello che facciamo nel grafico di controllo multivariato guidato dal modello.
	Poiché si tratta di un caso d'uso comune, volevamo avere un'opzione che non si discostasse troppo da questi metodi.
	Il nostro T quadrato regolarizzato fornisce
	stesso tipo di controllo di estrapolazione, ma non richiede un passo di proiezione, che presenta alcuni vantaggi.
	Abbiamo scoperto che questo ci consente di generalizzare meglio ad altri tipi di modelli predittivi.
	Inoltre, nelle nostre valutazioni, abbiamo osservato che se una proiezione lineare non funziona bene per i tuoi dati, ad esempio se hai relazioni non lineari tra predittori,
	gli errori possono gonfiare i limiti di controllo dei metodi basati sulla proiezione, il che porterà a una scarsa protezione contro l'estrapolazione, e il nostro approccio è più robusto di così.
	E poi un altro punto importante è che abbiamo trovato il
	singola metrica di estrapolazione era molto più semplice da usare e interpretare.
	Ed ecco un breve riassunto delle caratteristiche del controllo dell'estrapolazione. Il metodo fornisce una migliore visualizzazione delle regioni ammissibili in
	modelli ad alta dimensione nel profiler. È stato implementato un nuovo algoritmo genetico per l'ottimizzazione vincolata flessibile.
	E il nostro T quadrato regolarizzato gestisce dati osservativi disordinati in casi come P maggiore di N e variabili continue e categoriche.
	Il metodo è disponibile nella maggior parte dei modelli predittivi in JMP 16 Pro e supporta molte delle loro idiosincrasie. È disponibile anche nel profiler in graph, che apre davvero la sua utilità perché può operare su qualsiasi formula di previsione.
	E poi come direzione futura, stiamo considerando l'implementazione di un vincolo basato sul vicino più vicino K che andrebbe oltre l'attuale vincolo della struttura di correlazione.
	Spesso i predittori sono generati da più distribuzioni con conseguente raggruppamento nello spazio dei predittori e un approccio basato sui vicini più vicini ci consentirebbe di controllare l'estrapolazione tra i cluster.
	Quindi, grazie a tutti coloro che si sono sintonizzati per guardare questo, e qui ci sono e-mail se avete ulteriori domande.
Jeremy Ash, JMP	Ragazzi, siete ancora lì.
Chris Gotwalt	si lo sono.
Laura Lancaster	Appena.

Il meglio del verticeScoppiareVisualizzazione datiStatistica e modellazioneRe: Controllo dell'estrapolazione nel Prediction Profiler in JMP Pro 16 (2021-US-45MP-838)

@MC17 Sono lieto che tu abbia sollevato questa importante domanda.Ho toccato questo aspetto durante il discorso, ma probabilmente non l'ho sottolineato abbastanza.

 

Quindi quello che credo tu stia chiedendo è perché stiamo controllando solo T2 e non DModX, come è comune nei modelli PCA/PLS.Questo è ciò che facciamo nell'MDMCC, ad esempio ( https://www.jmp.com/support/help/en/16.1/index.shtml#page/jmp/model-driven-multivariate-control-charts.shtml ). Se dovessimo adottare un approccio simile, probabilmente collocheremmo un limite di controllo su DModX, perché i dati di addestramento avranno tutti DModX > 0, quindi il trucco è consentire alle previsioni di deviare come fanno i dati di addestramento, senza impazzire troppo .Se vuoi DModX = 0, allora potresti prendere l'approccio di Isaac Himanga ( https://community.jmp.com/t5/Discovery-Summit-Americas-2021/Optimizing-Multivariate-Models-From-Data-Collection-to-Optimal/ta-p/398760 ).

 

La risposta breve è che il nostro T2 regolarizzato viene calcolato sulle variabili predittive originali e non richiede di suddividere i dati in un componente del modello e un componente di errore.Per i modelli PCA/PLS, la regolarizzazione risulta in un vincolo simile al controllo di T2 e DModX, ma puoi farlo con una metrica, che è più semplice e facile da interpretare.

 

Nei modelli PCA/PLS, T2 contrassegna la previsione con grandi deviazioni dai dati di addestramento all'interno del piano del modello, mentre DModX contrassegna le previsioni con grandi deviazioni dal piano del modello, come descritto dallo scenario. Ciò ha senso quando il tuo metodo di modellazione presuppone una proiezione lineare a bassa dimensione dei tuoi dati.Tuttavia, la maggior parte dei nostri metodi di modellazione non esegue tale proiezione. Vogliamo un approccio coerente su tutte le piattaforme per una serie di motivi (ensemble, ecc.). L'esecuzione di una proiezione lineare potrebbe non essere ragionevole se si hanno relazioni non lineari tra variabili, variabili categoriali, ecc. Inoltre, come si sceglie il numero di componenti per questi modelli? Nelle nostre valutazioni abbiamo scoperto che se una proiezione lineare non è adatta ai tuoi dati, gli errori aumenteranno il tuo limite di controllo DModX e porteranno a una scarsa protezione contro l'estrapolazione. Abbiamo scoperto che un approccio generale migliore consisteva nel posizionare i vincoli di estrapolazione utilizzando T2 sullo spazio predittivo originale, che protegge dalla violazione della struttura di correlazione in tutte le direzioni dei dati.

 

La regolarizzazione di T2 attribuisce grande importanza alle variabili altamente correlate e scarsa importanza alle variabili a bassa correlazione quando si controlla l'estrapolazione e funziona quando p>n.Ciò si traduce in un vincolo simile a T2 e DModX nei modelli PCA e PLS. Ho alcuni risultati di simulazione che mostrano come funziona il metodo nel white paper allegato.Spero di aggiornare presto questo con un confronto con un approccio T2 e DModX e aggiungere qualche altra discussione.Ho iniziato mostrando semplicemente che il nostro metodo funziona, che la carta è ancora un work in progress.

 

Ha senso ciò? Sono felice di discutere di più e di ascoltare le vostre opinioni/preoccupazioni al riguardo.

Re: Controllo dell'estrapolazione nel Prediction Profiler in JMP Pro 16 (2021-US-45MP-838)

Ho una domanda sul perché rigorosamente un valore Hotelling T2 garantirebbe l'integrità della previsione?Dobbiamo concordare sul fatto che Hotelling T2 definisce davvero lo spazio di progettazione dei dati che abbiamo utilizzato nel modello.Ciò non significa che la struttura dei dati stessa abbia una struttura di correlazione corretta.Vedo spesso casi in cui avrò valori di previsione all'interno della regione di progettazione di Hotelling T2, tuttavia la struttura dei dati utilizzata per prevedere i valori non corrisponde alla struttura dei dati del modello originale.Pertanto, la previsione è altamente discutibile.Un semplice esempio di ciò sarebbe un semplice modello che prevede i succhi di arance in base alle arance in arrivo.Tuttavia, se qualcuno inserisce accidentalmente dei limoni nella linea, il modello predice comunque il succo d'arancia.La quantità di succo sarebbe probabilmente ancora all'interno della gamma della regione Hotelling T2.Tuttavia sappiamo tutti che non stiamo ricevendo succo d'arancia.La struttura dei dati è cambiata su di noi.Questo è il motivo per cui in un modello di tipo PLS dobbiamo mantenere DmodX = 0 per garantire che qualsiasi valore di ottimizzazione futuro rimanga all'interno della struttura dati del modello originale utilizzata.

 

Se puoi spiegarmi come il T2 regolarizzato soddisfa la struttura dei dati del modello utilizzata e non l'area dei dati del modello, allora sarei più fiducioso nell'usare questo nuovo strumento.