398679_it-IT

liliconcom

Re: Controllo dell'estrapolazione nel Profiler di previsione in JMP Pro 16 (2021-US-45MP-838)

@MC17 Sono contento che tu abbia sollevato questa importante domanda.Ne ho toccato alcuni nel discorso, ma probabilmente non l'ho sottolineato abbastanza.

 

Quindi quello che credo tu stia chiedendo è perché stiamo controllando solo T2 e non DModX, come è comune nei modelli PCA/PLS.Questo è ciò che facciamo nel MDMCC, ad esempio ( https://www.jmp.com/support/help/en/16.1/index.shtml#page/jmp/model-driven-multivariate-control-charts.shtml ). Se dovessimo adottare un approccio simile, probabilmente metteremmo un limite di controllo su DModX, perché i dati di addestramento avranno tutti DModX > 0, quindi il trucco è consentire alle previsioni di deviare come fanno i dati di addestramento, senza impazzire troppo .Se vuoi DModX = 0, allora potresti adottare l'approccio di Isaac Himanga ( https://community.jmp.com/t5/Discovery-Summit-Americas-2021/Optimizing-Multivariate-Models-From-Data-Collection-to-Optimal/ta-p/398760 ).

 

La risposta breve è che il nostro T2 regolarizzato viene calcolato sulle variabili predittive originali e non richiede di dividere i dati in un componente del modello e un componente di errore.Per i modelli PCA/PLS, la regolarizzazione comporta un vincolo simile al controllo di T2 e DModX, ma è possibile farlo con una metrica, più semplice e facile da interpretare.

 

Nei modelli PCA/PLS, T2 contrassegna le previsioni con grandi deviazioni dai dati di addestramento all'interno del piano del modello, mentre DModX contrassegna le previsioni con grandi deviazioni dal piano del modello, come descritto dallo scenario. Questo ha senso quando il tuo metodo di modellazione presuppone una proiezione lineare a bassa dimensione dei tuoi dati.Tuttavia, la maggior parte dei nostri metodi di modellazione non esegue tale proiezione. Vogliamo un approccio coerente tra le piattaforme per una serie di motivi (assemblaggio, ecc.). L'esecuzione di una proiezione lineare potrebbe non essere ragionevole se si hanno relazioni non lineari tra variabili, variabili categoriali, ecc. Inoltre, come si sceglie il numero di componenti per questi modelli? Nelle nostre valutazioni abbiamo scoperto che se una proiezione lineare non è adatta ai tuoi dati, gli errori aumenteranno il limite di controllo DModX e porteranno a una scarsa protezione contro l'estrapolazione. Abbiamo scoperto che un approccio generale migliore era quello di inserire vincoli di estrapolazione utilizzando T2 sullo spazio predittivo originale, che protegge dalla violazione della struttura di correlazione in tutte le direzioni dei dati.

 

La regolarizzazione di T2 attribuisce grande importanza a variabili altamente correlate e bassa importanza a variabili a bassa correlazione quando si controlla l'estrapolazione e funziona quando p>n.Ciò si traduce in un vincolo simile a T2 e DModX nei modelli PCA e PLS. Ho alcuni risultati di simulazione che mostrano come funziona il metodo nel white paper allegato.Spero di aggiornare presto questo con un confronto con un approccio T2 e DModX e aggiungere qualche altra discussione.Ho iniziato semplicemente mostrando che il nostro metodo funziona, che la carta è ancora un work in progress.

 

ha senso? Sono felice di discutere di più e di ascoltare le vostre opinioni/preoccupazioni al riguardo.

Controllo dell'estrapolazione nel Profiler di previsione in JMP Pro 16 (2021-US-45MP-838)

Livello: Intermedio

 

Laura Lancaster, Principal Research Statistician Developer JMP, SAS
Jeremy Ash, tester del software di analisi JMP, SAS
Christopher Gotwalt, Direttore della ricerca e sviluppo statistici di JMP, SAS

 

L'estrapolazione incontrollata del modello porta a due gravi tipi di errori: (1) il modello potrebbe essere completamente non valido lontano dai dati e (2) le combinazioni di valori variabili potrebbero non essere fisicamente realizzabili. L'utilizzo del Profiler per ottimizzare i modelli che si adattano ai dati osservativi può portare a soluzioni estrapolate che non sono di utilità pratica senza alcun preavviso. JMP Pro 16 introduce il controllo dell'estrapolazione in molte piattaforme di modellazione predittiva e nella stessa piattaforma Profiler. Questa nuova funzionalità nel Profiler di previsione avvisa l'utente di una possibile estrapolazione o evita completamente di disegnare punti estrapolati in cui il modello potrebbe non essere valido. Inoltre, l'utente può eseguire l'ottimizzazione su una regione vincolata che evita l'estrapolazione. In questa presentazione, discutiamo la motivazione e l'utilità del controllo dell'estrapolazione, dimostriamo come può essere facilmente utilizzato in JMP e descriviamo i dettagli dei nostri metodi.

 

 

Trascrizione generata automaticamente...

 

Altoparlante	Trascrizione
Tim Pierce	Andare.
	Va bene, vado in muto.
	Ciao, sono Chris Gotwalt. I miei co-relatori Laura Lancaster e Jeremy Ash ed io presentiamo una nuova utile funzionalità di JMP Pro chiamata controllo di estrapolazione.
	Quasi tutti i modelli con cui vorresti prevedere hanno una gamma di applicabilità,
	una regione dello spazio di input in cui sono considerate le loro previsioni
	abbastanza affidabile. Al di fuori di tale regione, iniziamo ad estrapolare il modello di due punti, lontani dai dati utilizzati per adattare il modello. L'utilizzo delle previsioni di quel modello in quei punti potrebbe portare a previsioni completamente inaffidabili.
Ci sono due fonti primarie di estrapolazione	estrapolazione statistica ed estrapolazione per dominio. Entrambi i tipi sono coperti dalla nuova funzionalità.
	L'estrapolazione statistica si verifica quando si tenta di prevedere utilizzando un modello in corrispondenza di un X che non è vicino ai valori utilizzati per addestrare quel modello.
	L'estrapolazione basata sul dominio si verifica quando si tenta di valutare a una X che è impossibile a causa di criteri scientifici.
	o vincoli di natura ingegneristica. L'esempio qui illustra entrambi i tipi di estrapolazione in un esempio. Qui vediamo un profiler da un modello di un processo di produzione della metallurgia.
	La previsione si legge a -2,96 senza alcuna indicazione che stiamo valutando a una combinazione di temperatura e pressione che è impossibile
	in un senso di dominio da raggiungere per questa macchina. Abbiamo anche un'estrapolazione statistica in quanto lontana dai dati utilizzati
	per adattarsi al modello, come mostrato nel grafico a dispersione dei dati di addestramento a destra. In JMP Pro 16, Jeremy, Laura e io abbiamo collaborato per aggiungere una nuova funzionalità in grado di fornire un avviso quando il profiler pensa che tu stia estrapolando.
	Oppure, se attivi il controllo di estrapolazione, limiterà l'insieme di punti che vedi solo a quelli che non pensa stiano estrapolando.
	Abbiamo due tipi di controllo di estrapolazione.
	Uno si basa sul concetto di leva finanziaria e utilizza un modello dei minimi quadrati. Questo primo tipo è disponibile solo nella versione Pro dei minimi quadrati del modello di adattamento.
	L'altro tipo che chiamiamo controllo generale dell'estrapolazione dell'apprendimento automatico ed è disponibile nella piattaforma profiler e in molte delle piattaforme di apprendimento automatico più comuni in JMP Pro.
	Su richiesta, potremmo anche aggiungerlo a mor. Il controllo dell'estrapolazione dei minimi quadrati utilizza il concetto di leva finanziaria, che è come una versione in scala della varianza di previsione. È basato sul modello e quindi
	utilizza le informazioni sulle interazioni degli effetti principali e sui termini di ordine superiore per determinare l'estrapolazione.
	Per il caso generale di controllo dell'estrapolazione dell'apprendimento automatico, dobbiamo elaborare il loro approccio. Volevamo un metodo che fosse robusto nei valori mancanti,
	dipendenze lineari, calcolo più veloce, possono gestire miscele di variabili di input continue e categoriali e volevamo anche separare esplicitamente il modello di estrapolazione dal modello utilizzato per adattare i dati.
	Quindi, quando abbiamo attivato il controllo di estrapolazione generale, c'è solo un modello supervisionato che è... che adatta le variabili di input alle risposte che vediamo nelle tracce del profiler.
	Il profilo che fornisce un modello non supervisionato veloce e sporco per descrivere il training set Xs, e questo modello non supervisionato viene utilizzato dietro le quinte dal profiler per determinare il vincolo di controllo dell'estrapolazione.
	Quindi devo cambiare PowerPoint perché la mia fotocamera non va d'accordo in questo momento, per qualche motivo.
	Sappiamo che ogni giorno vengono effettuate estrapolazioni rischiose da persone che lavorano nel campo della scienza dei dati e siamo fiduciosi che l'uso di estrapolazioni porti a previsioni scadenti e, in definitiva, a risultati aziendali scadenti.
	Il controllo dell'estrapolazione pone dei guardrail alle previsioni del modello e porterà a decisioni quantificabili migliori da parte degli utenti di JMP Pro.
	Quando gli utenti vedono che si verifica un'estrapolazione, l'utente deve decidere se utilizzare o meno la previsione, in base alla conoscenza del dominio e alla familiarità con il problema in questione.
	Se si iniziano a vedere gli avvisi di controllo dell'estrapolazione, molto spesso è probabile che il modello termini la fine del ciclo di vita e il tempo per riadattarlo a nuovi dati, perché la distribuzione degli input si è spostata rispetto a quella dei dati di addestramento.
	Siamo sinceramente abbastanza sorpresi e allarmati che la necessità di identificare l'estrapolazione non sia apprezzata meglio dalla comunità della scienza dei dati
	e hanno reso l'estrapolazione del controllo il più semplice e automatica possibile. Laura, che lo ha sviluppato in JMP Pro, dimostrerà l'opzione in seguito. Quindi Jeremy, che ha svolto molte ricerche sul nostro team, entrerà nei dettagli matematici e nella motivazione statistica per l'approccio.
	Ciao. Mi chiamo Laura Lancaster e sono qui per fare una demo del controllo di estrapolazione che è stato aggiunto a JMP Pro 16. Volevo iniziare con un esempio abbastanza semplice utilizzando la piattaforma dei minimi quadrati del modello fit.
	Userò alcuni dati che potrebbero essere familiari. Sono i dati di fitness che sono nei dati di esempio.
	E userò l'assorbimento di ossigeno come risposta e il tempo di esecuzione, il polso di corsa e il polso massimo come predittori. E volevo ribadire che nel modello di adattamento si adatta ai minimi quadrati, la metrica di estrapolazione utilizzata è la leva finanziaria, quindi andiamo avanti e avviamo JMP.
	Quindi ora ho i dati di fitness aperti in JMP e ho uno script da salvare nella tabella dei dati per avviare automaticamente il mio modello dei minimi quadrati di adattamento.
	Quindi vado avanti ed eseguo lo script. Lancia la piattaforma dei minimi quadrati.
	E ho il profiler aperto automaticamente e possiamo vedere che il profiler sembra come sempre in passato,
	dove i confini dei fattori sono definiti dall'intervallo di ciascun fattore individualmente, dandoci vincoli rettangolari.
	E quando ho cambiato le impostazioni del fattore, a causa di questi vincoli vincolati, può essere davvero difficile dire se ti stai spostando molto al di fuori della struttura di correlazione dei dati.
	Ed è per questo che abbiamo voluto aggiungere il controllo di estrapolazione. Quindi questo è stato aggiunto a diverse piattaforme in JMPs Pro 16,
	compresi i minimi quadrati di adattamento. E per arrivare al controllo di estrapolazione, vai al menu sotto il menu del profiler. Quindi, se guardo qui, vedo che c'è una nuova opzione chiamata controllo dell'estrapolazione.
	È disattivato per impostazione predefinita, ma posso attivarlo o avvisarlo per attivare il controllo di estrapolazione. Se lo accendo, nota che limita le tracce del mio profilo per andare solo ai valori in cui non sto estrapolando.
	Se dovessi attivarlo per l'avviso, vedrei le tracce complete del profilo, ma otterrei un avviso quando vado in una regione in cui sarebbe considerato un'estrapolazione.
	Posso anche attivare i dettagli di estrapolazione, che trovo davvero utili,
	e questo mi dà molte più informazioni. Prima di tutto, mi dice che la mia metrica che sto usando per definire l'estrapolazione è la leva finanziaria, il che è vero nella piattaforma dei minimi quadrati fit,
	e la soglia che viene utilizzata per impostazione predefinita inizialmente sarà la leva massima, ma questo è qualcosa che posso cambiare e te lo mostrerò tra un minuto.
	Inoltre, posso vedere qual è la mia metrica di estrapolazione per le mie impostazioni attuali. Questo è questo numero qui, che cambierà quando cambio le mie impostazioni del fattore.
	Ogni volta che questo numero è maggiore della soglia, riceverò questo avviso che potrei estrapolare. Se va sotto, non riceverò più quell'avviso.
	Questa soglia non cambierà a meno che non cambi qualcosa nel menu per regolare la mia soglia. Quindi lasciami andare avanti e farlo adesso. vado al menù,
	e vado a impostare il criterio delle soglie. Quindi, nei minimi quadrati adatti, hai due opzioni per la soglia. Inizialmente, è impostato sulla leva massima, che ti manterrà all'interno del foro convesso dei dati,
	oppure puoi passare a un moltiplicatore per la leva media o i termini del modello sulle osservazioni. E voglio passare a quella soglia, quindi è impostata su tre
	come moltiplicatore per impostazione predefinita, quindi questo sarà tre volte la leva media. Fare clic su OK e notare che la mia soglia cambierà. In realtà è diventato più piccolo, quindi questa è una definizione più conservativa di estrapolazione.
	E lo riattiverò per limitare le tracce del mio profilo, e ora posso andare solo nelle regioni
	dove sono entro tre volte la leva media.
	Ora abbiamo anche implementato l'ottimizzazione che obbedisce ai vincoli di estrapolazione. Quindi ora, se accendo la desiderabilità del set
	e faccio l'ottimizzazione,
	Otterrò un valore ottimale che soddisfi il vincolo di estrapolazione. Notare che questa metrica è minore o uguale alla soglia.
	Quindi ora, quando vado alla mia diapositiva successiva, che confronterà in un grafico (una matrice di grafici a dispersione), la differenza tra il valore ottimale con il controllo di estrapolazione attivato e con esso disattivato.
	Quindi questa è la matrice del grafico a dispersione che ho creato con JMP e mostra i dati della variabile del predittore originale, nonché i valori della variabile del predittore
	per la soluzione ottima che non utilizza il controllo di estrapolazione in blu e la soluzione ottimale che utilizza il controllo di estrapolazione in rosso. E nota come la soluzione non vincolata qui in blu, giusto
	qui, viola la struttura di correlazione per i dati originali per l'impulso di marcia e l'impulso massimo, aumentando così l'incertezza di questa previsione, mentre la soluzione ottimale che utilizzava il controllo di estrapolazione è molto più in linea con i dati originali.
	Ora diamo un'occhiata a un esempio usando il metodo di controllo dell'estrapolazione più generalizzato, che chiamiamo metodo T quadrato regolarizzato.
	Come menzionato in precedenza da Chris, abbiamo sviluppato questo metodo per modelli diversi dai modelli dei minimi quadrati. Esamineremo un modello neurale per i dati sul diabete che si trova anche nei dati campione.
	La risposta è una misura della progressione della malattia e i predittori sono le variabili di base. Ancora una volta, la metrica di estrapolazione utilizzata per questo esempio è la T al quadrato regolarizzata che Jeremy descriverà più dettagliatamente tra qualche minuto.
	Quindi ho i dati del diabete aperti in JMP e ho salvato uno script dei miei adattamenti del modello neurale. Vado avanti ed eseguo lo script.
	Lancia la piattaforma neurale. E nota che sto usando il metodo di convalida random hold back. Volevo solo notare che ogni volta che usi un metodo di convalida, il controllo di estrapolazione si basa solo sui dati di allenamento
	e non i dati di convalida o di test.
	Quindi ho il profiler aperto e puoi vedere che sta usando le tracce complete. Il controllo dell'estrapolazione non è attivato.
	Andiamo avanti e accendiamolo.
	E ho anche intenzione di accendere i dettagli.
	Puoi vedere che le tracce sono state ristrette e la metrica è il quadrato T regolarizzato.
	La soglia è tre volte la deviazione standard del T quadrato regolarizzato del campione. Jeremy parlerà di più su cosa significhi esattamente tra pochi minuti.
	E volevo solo menzionare che, quando usiamo il metodo T al quadrato regolarizzato, c'è solo una scelta per la soglia, ma puoi regolare il moltiplicatore. Quindi se vai a
	controlli di estrapolazione, imposta le soglie, puoi regolare questo moltiplicatore, ma lo lascerò a tre. E ora voglio eseguire l'ottimizzazione usando
	controllo dell'estrapolazione, quindi mi limiterò a massimizzare e ricordare. Ora ho una soluzione ottimale con il controllo di estrapolazione attivato.
	E così ora, voglio esaminare la nostra matrice del grafico a dispersione, proprio come abbiamo visto prima con i dati originali, nonché con i valori ottimali con e senza controllo di estrapolazione.
	Quindi questa è una matrice di grafici a dispersione dei dati sul diabete che ho creato in JMP. Ha i valori del predittore originale,
	così come la soluzione ottimale utilizzando il controllo di estrapolazione in rosso e la soluzione ottimale senza controllo di estrapolazione in blu. E puoi vederlo
	i punti rossi sembrano essere molto più all'interno della struttura di correlazione dei dati originali rispetto al blu. E questo è particolarmente vero quando guardi questo LDL rispetto al colesterolo totale.
	Quindi ora diamo un'occhiata a un esempio usando il profiler che si trova sotto il menu del grafico, che chiamerò il profiler del grafico.
	Utilizza anche il metodo T al quadrato regolarizzato e ci consente di utilizzare il controllo di estrapolazione su qualsiasi tipo di modello che può essere creato e salvato come formula JSL. Ci consente inoltre di avere il controllo dell'estrapolazione su più di un modello alla volta.
	Diamo quindi un'occhiata a un esempio per un'azienda che utilizza la tecnologia della metallurgia delle polveri per produrre alberi di trasmissione in acciaio per l'industria automobilistica.
	Vogliono essere in grado di trovare impostazioni ottimali per la loro produzione che riducano al minimo il restringimento e anche i guasti dovuti a cattive condizioni della superficie. Quindi abbiamo due risposte
	restringimento, che è continuo e andremo ad adattare il modello dei minimi quadrati per quello, e la condizione della superficie, che è pass/fail e andremo ad adattare un modello logistico nominale per quello.
	E le nostre variabili predittive sono solo alcune variabili di processo chiave nella produzione. E ancora una volta, la metrica di estrapolazione è il quadrato T regolarizzato.
	Quindi ho i dati sulla metallurgia delle polveri aperti in JMP e ho già adattato un modello dei minimi quadrati per la mia risposta al restringimento,
	e ho già adattato un modello logistico nominale per la risposta pass/fail delle condizioni della superficie. E ho salvato le formule di previsione nella tabella dei dati in modo che siano pronte per essere utilizzate nel profiler del grafico.
	Quindi, se vado al profiler del menu del grafico, posso caricare la formula di previsione per il restringimento e la mia formula di previsione è per le condizioni della superficie.
	Fare clic su OK.
	E ora ho entrambi i miei modelli lanciati nel profiler grafico.
	E, prima di attivare il controllo di estrapolazione, puoi vedere che ho le tracce complete del profilo. Una volta attivato il controllo di estrapolazione,
	puoi vedere che le tracce si restringono un po'. E accendo anche i dettagli
	solo per mostrare che, in effetti, sto usando il quadrato T regolarizzato qui in questo metodo.
	Quindi quello che voglio veramente fare è trovare le condizioni ottimali in cui riduca al minimo il restringimento e riduca al minimo i guasti
	con controllo di estrapolazione attivo. Voglio assicurarmi di non estrapolare. Voglio trovare una soluzione utile.
	E prima di poter eseguire l'ottimizzazione, devo effettivamente impostare le mie preferenze. Ho intenzione di fare desideri prefissati; è già corretto per il restringimento, ma devo impostarli per le condizioni della superficie.
	Cercherò di massimizzare i passaggi e ridurre al minimo i fallimenti.
	OK.
	E ora dovrei essere in grado di eseguire l'ottimizzazione con i controlli di estrapolazione attivi, massimizzare e ricordare.
	Ora ho la mia soluzione ottimale
	con controllo di estrapolazione attivo. Quindi ora esaminiamo ancora una volta la matrice del grafico a dispersione dei dati originali, insieme alla soluzione con il controllo di estrapolazione attivato e la soluzione con il controllo di estrapolazione disattivato.
	Quindi questa è una matrice di grafici a dispersione dei dati sulla metallurgia delle polveri che ho creato in JMP e ha anche la soluzione ottimale
	con controllo di estrapolazione come punto rosso e la soluzione ottimale senza controllo di estrapolazione come punto blu. E, ancora una volta, puoi vedere che quando non mettiamo in atto il controllo di estrapolazione,
	la soluzione ottimale è piuttosto al di fuori della struttura di correlazione dei dati. Possiamo vederlo soprattutto qui con il rapporto rispetto alla pressione di compattazione.
	Quindi ora voglio consegnare la presentazione a Jeremy per entrare in molti più dettagli sui nostri metodi.
	Ciao. Quindi, ecco una serie di obiettivi per il controllo dell'estrapolazione che abbiamo definito all'inizio del progetto.
	Avevamo bisogno di una metrica di estrapolazione che potesse essere calcolata rapidamente con un gran numero di osservazioni e variabili e avevamo bisogno di un modo rapido per valutare se la metrica indicasse o meno l'estrapolazione. Questo era per mantenere l'interattività delle tracce del profiler e
	ne avevamo bisogno per eseguire l'ottimizzazione.
	Vogliamo che sia in grado di supportare i vari tipi di variabili disponibili nel profiler. Questi sono essenzialmente continui, categorici e ordinali.
	Volevamo utilizzare osservazioni con celle mancanti perché alcuni metodi di modellazione includeranno queste osservazioni e ???.
	Volevamo un metodo che fosse robusto rispetto alle dipendenze lineari nei dati. Questi si verificano quando il numero di variabili è maggiore del numero di osservazioni, ad esempio.
	E volevamo qualcosa che fosse facile da automatizzare senza la necessità di molti input da parte dell'utente.
	Per i modelli dei minimi quadrati, siamo arrivati alla leva finanziaria, che viene spesso utilizzata per identificare i valori anomali nei modelli lineari.
	La leva per il nuovo punto di previsione viene calcolata secondo questa formula. Ci sono molte interpretazioni per la leva finanziaria. Un'interpretazione è che
	è la distanza multivariata di un punto di previsione dal centro dei dati di addestramento. Un'altra interpretazione è che si tratta di una varianza di previsione in scala, quindi man mano che il punto di previsione si allontana dal centro dei dati, l'incertezza della previsione aumenta.
	E usiamo due soglie comuni nella letteratura statistica per determinare se questa distanza è troppo grande.
	Il primo è la leva massima. I punti di previsione oltre questa soglia sono al di fuori del foro convesso dei dati di addestramento.
	E il secondo è tre volte la media delle leve. Si può dimostrare che questo equivale a tre volte il numero di termini del modello diviso per il numero di osservazioni.
	E come ha descritto Laura in precedenza, puoi modificare il moltiplicatore di queste soglie.
	Infine, quando le desiderabilità vengono ottimizzate, il vincolo di estrapolazione è un vincolo non lineare. E in precedenza il profiler consentiva l'ottimizzazione vincolata con vincoli lineari,
	ma questo tipo di ottimizzazione è più impegnativo, quindi Laura ha implementato un algoritmo genetico. E se non hai familiarità con questi, gli algoritmi genetici utilizzano i principi dell'evoluzione molecolare per ottimizzare complicate funzioni di costo.
	Successivamente parlerò dell'approccio che utilizziamo per generalizzare il controllo dell'estrapolazione a due modelli diversi dai modelli lineari.
	Quando crei un modello predittivo in JMP, inizi con un insieme di variabili predittive e un insieme di variabili di risposta.
	Alcuni modelli supervisionati vengono addestrati e quindi è possibile utilizzare un profiler per visualizzare la superficie del modello.
	Esistono numerose varianti del profiler in JMP. Puoi utilizzare il profiler internamente nelle piattaforme di modellazione, puoi generare formule di previsione e costruire
	profiler per più modelli, come ha dimostrato Laura. È possibile costruire profiler per modelli di insieme. Volevamo un metodo di controllo dell'estrapolazione che si generalizzasse a tutti questi scenari, quindi invece di legare il nostro metodo a un modello specifico, utilizzeremo un approccio non supervisionato.
	E contrassegneremo un punto di previsione come estrapolazione solo se è molto al di fuori del punto in cui i dati sono concentrati nello spazio del predittore. E questo ci consente di essere coerenti tra i profiler in modo che il nostro metodo di controllo dell'estrapolazione si inserisca in qualsiasi profiler.
	L'interpretazione della distanza multivariata della leva ha suggerito la T al quadrato di Hotelling come distanza per il controllo generale dell'estrapolazione. In effetti, alcune manipolazioni algebriche mostreranno che la T al quadrato di Hotelling è solo una leva spostata e scalata.
	Questa figura mostra come la T al quadrato di Hotelling misura l'ellisse su cui giace un'osservazione, dove le ellissi sono centrate sulla media dei dati e la forma è definita dalla matrice di covarianza.
	Poiché non siamo più in modelli lineari, questa metrica non ha la stessa connessione con la varianza della previsione. Quindi, invece di fare affidamento sulle soglie utilizzate nei modelli lineari, faremo alcune ipotesi distributive per determinare se
	T al quadrato per il punto di previsione dovrebbe essere considerata un'estrapolazione.
	Qui sto mostrando la formula per la T al quadrato di Hotelling. La matrice di media e covarianza viene stimata utilizzando i dati di addestramento per il modello.
	Se P è minore di N, dove P è il numero di predittori e N il numero di osservazioni,
	e se il predittore è in normale multivariata, allora T al quadrato per un punto di previsione ha una distribuzione F. Tuttavia, volevamo un metodo per
	generalizzare i set di dati con tipi di dati complicati, come un mix di set di dati continui e categorici, dove P è maggiore di N;
	set di dati con valori mancanti. Quindi, invece di elaborare analiticamente la distribuzione in ciascun caso, utilizziamo un semplice limite di controllo conservativo che abbiamo trovato funziona bene nella pratica.
	Questo è un limite di controllo tre Sigma che utilizza la distribuzione empirica di T al quadrato dai dati di allenamento e, come ha detto Laura, puoi anche regolare questo moltiplicatore.
	Una complicazione è che quando P è maggiore di N, T al quadrato di Hotelling è indefinito. Ci sono troppi parametri nella matrice di covarianza da stimare con i dati disponibili.
	E questo si verifica spesso nei casi d'uso tipici per il controllo dell'estrapolazione, come nei minimi quadrati parziali. Quindi abbiamo deciso un nuovo approccio al calcolo della T al quadrato di Hotelling, che si occupa di questi casi e la chiamiamo T al quadrato regolarizzata.
	Per calcolare la matrice di covarianza, utilizziamo uno stimatore regolarizzato originariamente sviluppato da Schafer e Strimmer per dati di genomica ad alta dimensionalità. Questa è solo una combinazione ponderata della matrice di covarianza del campione completa, che qui è U e una matrice di destinazione dei vincoli, che è D.
	Per il parametro del peso Lambda, Schafer e Strimmer hanno derivato un'espressione analitica che minimizza il MSE, lo stimatore asintoticamente.
	Schafer e Strimmer hanno proposto diverse possibili matrici target. La matrice di destinazione che abbiamo scelto era una matrice diagonale con le varianze campionarie delle variabili predittive sulla diagonale. Questa matrice di destinazione presenta numerosi vantaggi per il controllo dell'estrapolazione.
	Innanzitutto, non assumiamo alcuna struttura di correlazione tra le variabili prima di vedere i dati, il che funziona bene come un precedente generale.
	Inoltre, quando ci sono pochi dati per stimare la matrice di covarianza, a causa di N piccolo o di una frazione grande mancante,
	il vincolo ellittico viene espanso di un grande peso sulla matrice diagonale, e questo si traduce in un test più conservativo per il controllo di estrapolazione. Abbiamo riscontrato che ciò è necessario per ottenere un controllo ragionevole del tasso di falsi positivi.
	Per dirla più semplicemente, quando ci sono dati di addestramento limitati, è meno probabile che la T al quadrato regolarizzata etichetti le previsioni come estrapolazioni, che è ciò che vuoi perché è più probabile che tu osservi le covarianze per caso.
	Abbiamo alcuni risultati di simulazione che dimostrano questi dettagli, ma non ho tempo per approfondire tutto questo. Invece, sulla pagina web della Community, abbiamo inserito un link a un documento in archivio e abbiamo intenzione di inviarlo al Journal of Computational Graphical Statistics.
	La prossima diapositiva mostra alcuni altri dettagli importanti che dovevamo considerare. Avevamo bisogno di capire come gestire le variabili categoriali.
	Li stiamo semplicemente convertendo in variabili fittizie codificate con indicatori. Questo è paragonabile a un'analisi delle corrispondenze multiple.
	Un'altra complicazione è come calcolare la T al quadrato di Hotelling quando mancano dati. Diverse piattaforme di modellazione predittiva JMP utilizzano osservazioni con dati mancanti per addestrare i modelli.
	Questi includono Naive Bayes e la foresta bootstrap e queste formule mostrano il metodo di eliminazione a coppie che usiamo per stimare la matrice di covarianza.
	È più comune utilizzare l'eliminazione per riga, questo significa che tutte le osservazioni con valori mancanti vengono eliminate prima di calcolare la matrice di covarianza. E questo è il più semplice, ma può comportare l'eliminazione di dati utili se la dimensione del campione dei dati di addestramento è piccola.
	Con l'eliminazione a coppie, le osservazioni vengono eliminate solo se mancano valori nella coppia di variabili utilizzate per calcolare una voce corrispondente.
	Ed è quello che mostrano queste formule. Sembra una cosa semplice da fare, stai solo usando tutti i dati disponibili, ma in realtà può portare a una serie di problemi, perché ci sono diverse osservazioni utilizzate per calcolare ogni voce.
	Questo può causare cose strane, come matrici di covarianza con autovalori negativi, che è qualcosa con cui abbiamo dovuto fare i conti.
	Ecco alcuni vantaggi della T al quadrato regolarizzata che abbiamo riscontrato rispetto ad altri metodi nelle nostre valutazioni.
	Uno è che la regolarizzazione funziona come normalmente funziona la regolarizzazione. Colpisce l'equilibrio tra l'overfitting dei dati di training e l'eccessiva distorsione dello stimatore. Ciò rende lo stimatore più robusto rispetto al rumore e alle errate specificazioni del modello.
	Successivamente, Schafer e Strimmer hanno mostrato nel loro articolo che la regolarizzazione si traduce in uno stimatore più accurato in impostazioni dimensionali elevate. Questo aiuta con la maledizione della dimensionalità che affligge la maggior parte dei metodi basati sulla distanza per il controllo dell'estrapolazione.
	E poi, nei campi che hanno sviluppato la metodologia per il controllo dell'estrapolazione,
	spesso hanno sia dati ad alta dimensionalità che predittori altamente correlati. Ad esempio in chemininformatica e chemiometrica, le caratteristiche chimiche sono spesso altamente correlate.
	Il controllo dell'estrapolazione viene spesso utilizzato in combinazione con i modelli PCA e PLS in cui T al quadrato e DModX vengono utilizzati per rilevare violazioni della struttura di correlazione. Questo è simile a quello che facciamo nel grafico di controllo multivariato guidato dal modello.
	Poiché questo è un caso d'uso comune, volevamo avere un'opzione che non si discostasse troppo da questi metodi.
	La nostra T al quadrato regolarizzata prevede
	stesso tipo di controllo di estrapolazione, ma non richiede una fase di proiezione, il che presenta alcuni vantaggi.
	Abbiamo scoperto che questo ci consente di generalizzare meglio ad altri tipi di modelli predittivi.
	Anche nelle nostre valutazioni, abbiamo osservato che se una proiezione lineare non funziona bene per i tuoi dati, ad esempio se hai relazioni non lineari tra i predittori,
	gli errori possono gonfiare i limiti di controllo dei metodi basati sulla proiezione, il che porterà a una scarsa protezione contro l'estrapolazione, e il nostro approccio è più robusto di questo.
	E poi un altro punto importante è che abbiamo trovato il
	metrica di estrapolazione singola era molto più semplice da usare e interpretare.
	Ed ecco un breve riassunto delle caratteristiche del controllo di estrapolazione. Il metodo fornisce una migliore visualizzazione delle regioni possibili in
	modelli ad alta dimensionalità nel profilatore. È stato implementato un nuovo algoritmo genetico per l'ottimizzazione vincolata flessibile.
	E la nostra T al quadrato regolarizzata gestisce dati osservativi disordinati in casi come P maggiore di N e variabili continue e categoriali.
	Il metodo è disponibile nella maggior parte dei modelli predittivi in JMP 16 Pro e supporta molte delle loro idiosincrasie. È disponibile anche nel profiler in graph, che apre davvero la sua utilità perché può operare su qualsiasi formula di previsione.
	E poi, come direzione futura, stiamo considerando l'implementazione di un vincolo basato su K-neest neighbor che andrebbe oltre l'attuale vincolo della struttura di correlazione.
	Spesso i predittori sono generati da più distribuzioni con conseguente raggruppamento nello spazio dei predittori e un approccio basato sui K-vicini più vicini ci consentirebbe di controllare l'estrapolazione tra i cluster.
	Quindi, grazie a tutti coloro che si sono sintonizzati per guardare questo, e qui ci sono le e-mail se avete ulteriori domande.
Jeremy Ash, JMP	Ragazzi ancora lì.
Chris Gotwalt	si lo sono.
Laura Lancaster	Solo.

Il meglio del verticeScoppiareVisualizzazione datiStatistiche e modellazioneRe: Controllo dell'estrapolazione nel Profiler di previsione in JMP Pro 16 (2021-US-45MP-838)

Ho una domanda sul perché rigorosamente un valore Hotelling T2 garantirebbe l'integrità della previsione?Dobbiamo essere d'accordo che Hotelling T2 definisce davvero lo spazio di progettazione dei dati che abbiamo usato nel modello.Ciò non significa che la struttura dei dati stessa abbia una struttura di correlazione corretta.Vedo spesso casi in cui avrò valori di previsione all'interno dell'area di progettazione di Hotelling T2, tuttavia la struttura dei dati utilizzata per prevedere i valori non corrisponde alla struttura dei dati del modello originale.Pertanto, la previsione è altamente discutibile.Un semplice esempio di ciò potrebbe essere un semplice modello che prevede i succhi d'arancia in base alle arance in arrivo.Tuttavia, se qualcuno mette accidentalmente dei limoni nella fila, il modello continuerà a prevedere il succo d'arancia.La quantità di succo sarebbe probabilmente ancora all'interno della gamma della regione di Hotelling T2.Tuttavia sappiamo tutti che non è il succo d'arancia che stiamo ottenendo.La struttura dei dati è cambiata su di noi.Questo è il motivo per cui in un modello di tipo PLS dobbiamo mantenere DmodX = 0 per garantire che qualsiasi valore di ottimizzazione futuro rimanga all'interno della struttura dati del modello originale utilizzata.

 

Se puoi spiegarmi come il T2 regolarizzato soddisfa la struttura dei dati del modello utilizzata e non la regione dei dati del modello, allora sarei più sicuro nell'usare questo nuovo strumento.