Altoparlante | Trascrizione |
| Ciao, sono Chris Gotwalt. Il mio co |
| presentatori, Laura Lancaster e |
| Jeremy Ash e io ci presentiamo |
| un nuovo utile JMP Pro |
| capacità chiamata estrapolazione |
| Controllo. Quasi tutti i modelli che |
| vorresti mai prevedere |
| con ha una gamma di |
| applicabilità, una regione del |
| spazio di input, dove il file |
| le previsioni sono considerate |
| abbastanza affidabile. Al di fuori di quello |
| regione, iniziamo a estrapolare |
| il modello a punti lontani dal |
| dati utilizzati per adattare il modello. Utilizzando |
| le previsioni da quel modello |
| in quei punti potrebbe portare a |
| completamente inaffidabile |
| predizioni. Ci sono due |
| fonti primarie di |
| estrapolazione | statistica |
| estrapolazione e basata sul dominio |
| estrapolazione. Entrambi i tipi lo sono |
| coperti dalla nuova funzionalità. |
| Si verifica un'estrapolazione statistica |
| quando si sta tentando di farlo |
| prevedere utilizzando un modello in corrispondenza di una x |
| che non è vicino ai valori |
| utilizzato per addestrare quel modello. |
| Estrapolazione basata sul dominio |
| succede quando provi a valutare |
| ad una x che è impossibile a causa |
| scientifico o ingegneristico |
| vincoli basati. L'esempio |
| qui illustra entrambi i tipi di |
| estrapolazione in un esempio. |
| Qui vediamo un profiler da un file |
| modello di una produzione metallurgica |
| processi. La previsione si legge |
| out dice -2,96 con n |
| indicazione che stiamo valutando |
| a una combinazione di temperatura |
| e pressione che è impossibile |
| in un senso di dominio da raggiungere |
| questa macchina. Abbiamo anche |
| estrapolazione statistica as it |
| è lontano dai dati utilizzati per adattarsi |
| il modello come si vede nello scatter |
| grafico dei dati di allenamento su |
| giusto. In JMP Pro 16, Jeremy, |
| Laura ed io abbiamo collaborato |
| aggiungere una nuova capacità che può |
| dare un avviso quando il profiler |
| pensa che potresti esserlo |
| estrapolando. O se ti giri |
| controllo di estrapolazione su, it |
| limiterà l'insieme di punti |
| che vedi solo a quelli che |
| non pensa che lo siano |
| estrapolando. Abbiamo due tipi |
| di controllo dell'estrapolazione. Uno è |
| basato sul concetto di leva finanziaria |
| e utilizza un modello dei minimi quadrati. |
| Questo primo tipo è solo |
| disponibile nella versione Pro di |
| Adatta i minimi quadrati del modello. Il |
| altro tipo che chiamiamo generale |
| estrapolazione del machine learning |
| controllo ed è disponibile in |
| Piattaforma Profiler e diversi |
| l'apprendimento automatico più comune |
| piattaforme in JMP Pro. Su |
| richiesta, potremmo anche aggiungerlo a |
| Di Più. Minimi quadrati |
| il controllo dell'estrapolazione utilizza l'estensione |
| concetto di leva finanziaria, che è |
| come una versione in scala di |
| varianza di previsione. È un modello |
| basato e quindi utilizza le informazioni |
| sugli effetti principali |
| interazioni in ordine superiore |
| termini per determinare il |
| estrapolazione. Per il generale |
| estrapolazione del machine learning |
| caso di controllo, dovevamo venire fuori |
| con il nostro approccio. Noi |
| voleva un metodo che sarebbe stato |
| robusto ai valori mancanti, lineare |
| dipendenze, elaborazione più veloce, |
| potrebbe gestire miscele di |
| input continuo e categoriale |
| variabili, e anche noi |
| voleva esplicitamente separarsi |
| il modello di estrapolazione da |
| modello utilizzato per adattare i dati. Così |
| quando abbiamo il generale |
| controllo di estrapolazione attivato, |
| ce n'è solo uno supervisionato |
| modello che è ... che si adatta al |
| variabili di input alle risposte |
| che vediamo nel profiler |
| tracce. Arriva il profiler |
| con un rapido e sporco |
| modello non supervisionato da descrivere |
| gli assi del set di addestramento e questo |
| viene utilizzato un modello senza supervisione |
| dietro le quinte di |
| profiler per determinare il file |
| controllo dell'estrapolazione |
| vincolo. Quindi devo farlo |
| cambiare perché PowerPoint e il mio |
| la fotocamera non va d'accordo |
| adesso per qualche motivo. Noi |
| sappi che le estrapolazioni rischiose |
| vengono realizzati ogni giorno da |
| persone che lavorano nella scienza dei dati |
| e sono fiducioso che l'uso |
| di estrapolazioni porta a scarso |
| previsioni e, infine, a |
| scarsi risultati aziendali. |
| Luoghi di controllo dell'estrapolazione |
| guardrail sulle previsioni del modello |
| e porterà a quantificabili |
| decisioni migliori da JMP Pro |
| utenti. Quando gli utenti vedono un'estrapolazione |
| si verifica, l'utente deve creare un file |
| decisione sul fatto che il file |
| la previsione dovrebbe essere usata o meno |
| utilizzati in base al loro dominio |
| conoscenza e familiarità con |
| il problema a portata di mano. Se tu |
| inizia a vedere l'estrapolazione |
| gli avvisi di controllo si verificano abbastanza |
| spesso, è probabile la fine di |
| il ciclo di vita di quel modello in |
| tempo di rimontarlo su nuovi dati |
| perché la distribuzione di |
| input si è allontanato da |
| quello dei dati di allenamento. Noi |
| sono onestamente piuttosto sorpreso e |
| allarmato che la necessità di |
| identificare l'estrapolazione non lo è |
| meglio apprezzata dai dati |
| comunità scientifica e hanno fatto |
| controllando l'estrapolazione come |
| facile e automatico possibile. |
| Laura, che lo ha sviluppato in JMP |
| Pro, dimostrerà il |
| opzione successiva. Poi Jeremy, chi |
| ha fatto molte ricerche sul nostro |
| squadra, andrà in matematica |
| dettagli e statistiche |
| motivazione per l'approccio. |
| Ciao, mi chiamo Laura |
| Lancaster e io siamo qui per fare un |
| demo dell'estrapolazione |
| controllo aggiunto a JMP |
| Pro 16. Volevo iniziare |
| con un esempio abbastanza semplice |
| utilizzando almeno il modello adatto |
| piattaforma di piazze. Io vado |
| utilizzare alcuni dati che potrebbero essere |
| familiare; sono i dati di fitness |
| questo è nei dati di esempio e io |
| andando a utilizzare l'assorbimento di ossigeno come |
| la mia risposta e Run Time, Run |
| Pulse e Max Pulse come mio |
| predittori. E io volevo |
| ribadire che nel modello in forma, |
| misura i minimi quadrati |
| metrica di estrapolazione che è |
| utilizzato è la leva. Quindi andiamo |
| avanti e inizia a JMP. |
| Quindi ora ho i dati di fitness |
| aperto in JMP e ho uno script |
| salvato nella tabella dati in |
| avvia automaticamente il mio fit |
| modello dei minimi quadrati. Quindi sono |
| andare avanti e eseguirlo |
| script, lancia il minimo |
| piattaforma di piazze. E ho il file |
| il profiler si apre automaticamente. E |
| possiamo vedere che il profiler |
| sembra che sia sempre presente in |
| passato, dove i confini dei fattori |
| sono definiti dall'intervallo di ciascuno |
| fattore individualmente, dandoci |
| vincoli rettangolari vincolati. |
| E quando cambio il fattore |
| impostazioni, a causa di questi vincoli |
| vincoli, può essere davvero |
| difficile dire se ti stai muovendo |
| molto al di fuori della correlazione |
| struttura dei dati. |
| Ed è per questo che abbiamo voluto aggiungere |
| il controllo dell'estrapolazione. Così |
| questo è stato aggiunto a diversi |
| delle piattaforme in JMP Pro |
| 16, inclusi i minimi quadrati di adattamento. |
| E per arrivare all'estrapolazione |
| controllo, vai al menu sotto |
| il menu del profiler. Quindi se guardo |
| qui, vedo che c'è una nuova opzione |
| chiamato Extrapolation Control. |
| È disattivato per impostazione predefinita, |
| ma posso trasformarlo in entrambi |
| o avviso per accendere |
| controllo dell'estrapolazione. Se io |
| accendilo, notalo |
| limita il mio profilo |
| tracce per andare solo ai valori |
| dove non sto estrapolando. |
| Se dovessi trasformarlo in avvertimento |
| su, vedrei il profilo completo |
| tracce, ma otterrei un file |
| avviso quando vado in una regione |
| dove sarebbe considerato |
| essere estrapolazione. |
| Posso anche attivare l'estrapolazione |
| dettagli, che trovo davvero |
| utile, e questo mi dà un |
| molte più informazioni. Primo di |
| tutto, mi dice che il mio |
| metrica che sto usando per |
| definire estrapolazione è |
| leva finanziaria, il che è vero in |
| misura la piattaforma dei minimi quadrati. |
| E la soglia che è |
| inizialmente utilizzato per impostazione predefinita è |
| sarà la leva massima, |
| ma questo è qualcosa che posso |
| cambiare e te lo mostrerò |
| in un minuto. Inoltre, posso vedere |
| qual è la mia metrica di estrapolazione |
| è per le mie impostazioni correnti. |
| È questo numero proprio qui |
| che cambierà mentre cambio |
| le mie impostazioni del fattore. |
| Ogni volta che questo numero è maggiore |
| rispetto alla soglia, vado a |
| ottenere questo avviso che potrei essere |
| estrapolando. Se va al di sotto, |
| Non lo capirò più |
| avvertimento. Questa soglia non lo è |
| cambierò a meno che io non cambi |
| qualcosa nel menu da regolare |
| la mia soglia. Quindi lasciami andare avanti |
| e fallo adesso. Quindi vado |
| per andare al menu |
| e vado sul set |
| criterio di soglia. Così |
| con i minimi quadrati, ne hai due |
| opzioni per la soglia |
| inizialmente è impostato al massimo |
| leva finanziaria, che manterrà |
| voi all'interno dello scafo convesso di |
| i dati oppure puoi passare a un file |
| moltiplicatore per la media |
| effetto leva o termini di modello |
| osservazioni. E lo voglio |
| passare a quella soglia. Così è |
| impostato su 3 come moltiplicatore |
| per impostazione predefinita. Quindi questo succederà |
| essere 3 volte la leva media |
| e faccio clic su OK e lo noto |
| la mia soglia cambierà. |
| In realtà è diventato più piccolo, quindi questo |
| è un più conservatore |
| definizione di estrapolazione. |
| E ho intenzione di tornare a |
| per limitare le tracce del mio profilo. |
| E ora posso solo andare a |
| regioni in cui mi trovo entro 3 |
| volte la leva media. |
| Ora abbiamo anche |
| ottimizzazione implementata |
| che obbedisce al |
| estrapolazione |
| vincoli. Quindi ora se io |
| accendere la desiderabilità del set |
| e faccio l'ottimizzazione, |
| Otterrò un valore ottimale che |
| soddisfa l'estrapolazione |
| vincolo. Notare che this |
| metric è minore o uguale a |
| la soglia. Quindi ora quando vado |
| alla mia prossima diapositiva, che sta andando |
| per confrontare in un grafico, un grafico a dispersione |
| matrice, la differenza |
| tra il valore ottimale con |
| controllo di estrapolazione attivato |
| e con esso spento. |
| Quindi questo è il grafico a dispersione |
| matrice che ho creato con JMP, |
| e mostra l'originale |
| anche dati variabili predittori |
| come valori della variabile predittore |
| per la soluzione ottimale utilizzando |
| nessun controllo di estrapolazione, in |
| blu e la soluzione ottimale utilizzando |
| controllo dell'estrapolazione in rosso. |
| E nota come il non vincolato |
| soluzione qui in blu, |
| proprio qui, viola il |
| struttura di correlazione per il |
| dati originali per impulso di corsa e |
| Max pulse, aumentando così il |
| incertezza di questa previsione. |
| Considerando che la soluzione ottimale |
| che ha utilizzato l'estrapolazione |
| il controllo è molto più in linea |
| con i dati originali. |
| Ora diamo un'occhiata a un esempio |
| usando il più generalizzato |
| metodo di controllo dell'estrapolazione, |
| a cui ci riferiamo come a |
| metodo T quadrato regolarizzato. Come |
| Chris ha menzionato prima, noi |
| ha sviluppato questo metodo per i modelli |
| modelli diversi dai minimi quadrati. |
| Quindi esamineremo un file |
| modello neurale per il diabete |
| dati che sono anche nel campione |
| dati. La risposta è una misura |
| della progressione della malattia e il |
| i predittori sono la linea di base |
| variabili. Ancora una volta, il |
| metrica di estrapolazione utilizzata per |
| questo esempio è il |
| piazza T regolarizzata che |
| Jeremy descriverà in |
| più dettagli in pochi minuti. |
| Quindi ho i dati sul diabete aperti in |
| JMP e io abbiamo uno script salvato |
| del mio modello neurale si adatta. io sono |
| andare avanti e eseguirlo |
| script. Lancia il neurale |
| piattaforma e nota che lo sono |
| utilizzando il metodo di convalida, casuale |
| trattenere. Volevo solo notare |
| che ogni volta che utilizzi un file |
| metodo di convalida, il |
| si basa il controllo dell'estrapolazione |
| solo sui dati di allenamento |
| e non la tua convalida |
| o dati di prova. |
| Quindi ho il profiler aperto e |
| puoi vedere che sta usando il |
| tracce piene. Estrapolazione |
| il controllo non è attivato. Andiamo |
| vai avanti e accendilo. |
| E lo farò anche io |
| attiva i dettagli. |
| Puoi vedere che le tracce hanno |
| stato limitato e la metrica |
| è il quadrato a T regolarizzato. Il |
| la soglia è 3 volte la |
| deviazione standard del campione |
| T quadrata regolarizzata. Jeremy lo è |
| andando a parlare di più di cosa |
| tutto ciò significa esattamente in pochi |
| minuti. E io volevo solo |
| menzionalo quando usiamo |
| la T regolarizzata al quadrato |
| metodo, c'è solo una scelta |
| per soglia, ma puoi |
| regolare il moltiplicatore. Quindi se tu |
| vai al controllo dell'estrapolazione, imposta |
| soglia, puoi regolarla |
| moltiplicatore, ma lo farò |
| lasciarlo a 3. E adesso io |
| desidera eseguire l'ottimizzazione utilizzando |
| controllo dell'estrapolazione. Quindi sono |
| solo andando a massimizzare e |
| ricorda. Ora ho un file |
| soluzione ottimale con |
| controllo di estrapolazione ruotato |
| su. E così ora voglio guardare |
| alla nostra matrice del grafico a dispersione, solo |
| come abbiamo visto prima, con |
| i dati originali, così come |
| con i valori ottimali con |
| e senza estrapolazione |
| controllo. |
| Quindi questa è una matrice di grafici a dispersione |
| dei dati sul diabete che io |
| creato in JMP. Ha il file |
| valori predittori originali, come |
| così come la soluzione ottimale |
| utilizzando il controllo di estrapolazione in |
| rosso e soluzione ottimale senza |
| controllo dell'estrapolazione in blu. |
| E puoi vedere che il rosso |
| i punti sembrano essere molto di più |
| all'interno della struttura di correlazione |
| dei dati originali rispetto a |
| blu, e questo è particolarmente |
| vero quando guardi questo LDL |
| rispetto al colesterolo totale. |
| Quindi ora diamo un'occhiata a un esempio |
| utilizzando il profiler che si trova sotto |
| il menu grafico, che chiamerò |
| il grafico profiler. Utilizza anche |
| il metodo della T regolarizzata al quadrato |
| e ci permette di usare |
| controllo di estrapolazione su qualsiasi |
| tipo di modello che può essere |
| creato e salvato come JSL |
| formula. Ci permette anche di farlo |
| avere il controllo di estrapolazione attivo |
| più di un modello alla volta. |
| Quindi diamo un'occhiata a un esempio |
| per un'azienda che utilizza la polvere |
| tecnologia metallurgica a |
| produrre alberi di trasmissione in acciaio per |
| l'industria automobilistica. |
| Vogliono essere in grado di trovare |
| impostazioni ottimali per il loro |
| produzione che ridurrà al minimo |
| restringimento e anche ridurre al minimo ... |
| ridurre al minimo i guasti dovuti a cattivi |
| condizioni di servizio. Quindi abbiamo |
| Due | risposte restringimento (che è |
| continuo e stiamo andando a |
| misura un modello dei minimi quadrati per |
| quello) e le condizioni della superficie (quale |
| è superato / fallito e lo faremo |
| misura un modello logistico nominale per |
| Quello). E il nostro predittore |
| le variabili sono solo alcune delle chiavi |
| variabili di processo nella produzione. |
| E ancora una volta l'estrapolazione |
| metrica è il quadrato T regolarizzato. |
| Quindi ho la polvere |
| i dati sulla metallurgia vengono aperti in JMP |
| e mi sono già adattato almeno |
| modello di quadrati per il mio restringimento |
| risposta e ho già inserito un file |
| modello logistico nominale per il |
| condizione della superficie superato / non superato |
| risposta e ho salvato il file |
| formule di previsione ai dati |
| tabella in modo che siano pronti |
| essere utilizzato nel grafico profiler. |
| Quindi se vado al menu del grafico |
| profiler, posso caricare il file |
| formula di previsione del restringimento |
| e la mia formula di previsione è per |
| lo stato della superficie. |
| Fare clic su OK. E ora l'ho fatto |
| entrambi i miei modelli sono stati lanciati in |
| il grafico profiler. |
| E prima che mi accenda |
| controllo dell'estrapolazione, tu |
| posso vedere che ho il pieno |
| tracce del profilo. Una volta che accendo |
| controllo dell'estrapolazione |
| puoi vedere che le tracce |
| rimpicciolisci un po ', e vado anche io |
| per attivare i dettagli, |
| solo per dimostrare che davvero lo sono |
| utilizzando il quadro a T regolarizzato |
| qui in questo metodo. |
| Quindi quello che voglio veramente fare sono io |
| voglio trovare l'ottimale |
| condizioni in cui minimizzo |
| restringimento e minimizzo |
| fallimenti con estrapolazione |
| controllo e voglio essere sicuro |
| Non sto estrapolando. voglio |
| trovare una soluzione utile. E |
| prima che io possa fare l'ottimizzazione, |
| In realtà ho bisogno di impostare il mio |
| desiderabilità. Quindi lo farò |
| impostare le desiderabilità. È pronto |
| corretto per il restringimento, ma io |
| è necessario impostarli per il servizio |
| condizione. Proverò a massimizzare |
| passa e riduce al minimo i guasti. |
| K. |
| E ora dovrei essere in grado di farlo |
| l'ottimizzazione con |
| controlli di estrapolazione attivi. |
| Massimizza e ricorda. |
| E ora ho il mio ottimale |
| soluzione con estrapolazione |
| controllo attivo. Quindi ora guardiamo |
| ancora una volta al |
| matrice del grafico a dispersione del file |
| dati originali, insieme al file |
| soluzione con estrapolazione |
| controllo nella soluzione, |
| con il controllo di estrapolazione |
| spento. |
| Quindi questa è una matrice di grafici a dispersione |
| dei dati sulla metallurgia delle polveri |
| che ho creato in JMP. Ed esso |
| ha anche la soluzione ottimale |
| con controllo di estrapolazione come file |
| punto rosso e l'ottimale |
| soluzione senza estrapolazione |
| controllo come un punto blu. E una volta |
| di nuovo puoi vederlo quando noi |
| non mettere in atto l'estrapolazione |
| controllo, la soluzione ottimale |
| è abbastanza lontano dal |
| struttura di correlazione del |
| dati. Possiamo soprattutto vedere |
| che qui con rapporto contro |
| pressione di compattazione. |
| Quindi ora voglio consegnare |
| la presentazione a Jeremy |
| per approfondire molto di più |
| dettagli sui nostri metodi. |
| Ciao, quindi eccone alcuni |
| obiettivi per il controllo dell'estrapolazione |
| che abbiamo presentato al |
| inizio del progetto. Noi |
| aveva bisogno di una metrica di estrapolazione |
| che potrebbe essere calcolato rapidamente |
| con un gran numero di |
| osservazioni e variabili, e |
| avevamo bisogno di un modo rapido per valutare |
| se la metrica indicata |
| estrapolazione o no. Questo era |
| per mantenere l'interattività di |
| il profiler traccia e |
| ne avevamo bisogno |
| eseguire l'ottimizzazione. |
| Volevamo essere in grado di farlo |
| supportare le varie variabili |
| tipi disponibili in |
| profiler. Questi sono |
| essenzialmente continuo, |
| categorico e ordinale. |
| Volevamo utilizzare |
| osservazioni con cellule mancanti, |
| perché alcuni metodi di modellazione |
| includerà queste osservazioni |
| nel ???. |
| Volevamo un metodo che fosse |
| da robuste a dipendenze lineari in |
| i dati. Questi si verificano quando il |
| il numero di variabili è maggiore |
| rispetto al numero di osservazioni, |
| per esempio. E volevamo |
| qualcosa che è stato facile |
| automatizzare senza la necessità di un file |
| molto input dell'utente. |
| Per i modelli dei minimi quadrati, noi |
| atterrato sulla leva finanziaria, che è |
| spesso utilizzato per identificare valori anomali |
| nei modelli lineari. La leva |
| per il nuovo punto di previsione è |
| calcolato in base a questo |
| formula. Ci sono molti |
| interpretazioni per effetto leva. |
| Un'interpretazione è che lo sia |
| la distanza multivariata di a |
| punto di previsione dal centro |
| dei dati di addestramento. Un altro |
| l'interpretazione è che si tratta di un file |
| varianza di previsione in scala. Così |
| quando il punto di previsione si sposta |
| più lontano dal centro |
| dei dati, l'incertezza |
| della previsione aumenta. E noi |
| utilizzare due soglie comuni in |
| la letteratura statistica per |
| determinare se questa distanza |
| è troppo grande. Il primo è |
| leva finanziaria massima, previsione |
| punti oltre questa soglia |
| o all'esterno dello scafo convesso di |
| i dati di allenamento. |
| E il secondo è 3 volte il |
| media delle leve. It |
| si può dimostrare che lo è |
| equivalente a tre volte il |
| numero di termini del modello diviso |
| dal numero di osservazioni. |
| E come ha descritto Laura |
| in precedenza, puoi modificare il file |
| moltiplicatore di questi |
| soglie. |
| Infine, quando le desiderabilità |
| sono in fase di ottimizzazione, il |
| il vincolo di estrapolazione è un |
| vincolo non lineare e |
| precedentemente consentito dal profiler |
| ottimizzazione vincolata con |
| vincoli lineari. Questo tipo di |
| l'ottimizzazione è di più |
| impegnativo, così ha implementato Laura |
| un algoritmo genetico. E se tu |
| non hanno familiarità con questi, |
| gli algoritmi genetici utilizzano l'estensione |
| principi di molecolare |
| evoluzione da ottimizzare |
| funzioni di costo complicate. |
| Successivamente, parlerò del file |
| approccio che abbiamo usato per generalizzare |
| controllo di estrapolazione ai modelli |
| diversi dai modelli lineari. quando |
| stai costruendo un predittivo |
| modello in JMP, inizi con un file |
| insieme di variabili predittive e un file |
| insieme di variabili di risposta. Alcuni |
| il modello supervisionato viene addestrato e |
| quindi è possibile utilizzare un profiler |
| visualizzare la superficie del modello. |
| Esistono numerose varianti in |
| il profiler in JMP. Puoi |
| usa il profiler internamente in |
| piattaforme di modellazione. Puoi |
| formule di previsione dell'output e |
| crea un profiler per più file |
| Modelli. Come ha dimostrato Laura, |
| puoi costruire profiler per |
| modelli d'insieme. Volevamo un file |
| metodo di controllo dell'estrapolazione |
| questo generalizzerebbe tutto questo |
| scenari, quindi invece di |
| legando il nostro metodo a un file |
| modello specifico, stiamo andando |
| usare un unsupervised |
| approccio. |
| E contrassegneremo solo un file |
| punto di previsione come |
| estrapolazione se è lontano |
| fuori da dove si trovano i dati |
| concentrato nel predittore |
| spazio. E questo ci permette di farlo |
| essere coerente in tutto |
| profiler in modo che il nostro |
| metodo di controllo dell'estrapolazione |
| si collegherà a qualsiasi profiler. |
| La distanza multivariata |
| interpretazione della leva finanziaria |
| ha suggerito che la T di Hotelling fosse quadrata come |
| una distanza per il generale |
| controllo dell'estrapolazione. Infatti, |
| alcune manipolazioni algebriche lo faranno |
| mostra che la T al quadrato di Hotelling è |
| solo leva spostata e |
| scalato. Questa figura mostra come |
| T al quadrato di Hotelling |
| quale ellisse un'osservazione |
| si trova su, dove sono i puntini di sospensione |
| centrato nella media del |
| dati e la forma è definita |
| dalla matrice di covarianza. |
| Dal momento che non siamo più in |
| modelli lineari, questa metrica |
| non ha lo stesso |
| connessione alla previsione |
| varianza. Quindi invece di |
| basandosi sulle soglie utilizzate |
| indietro nei modelli lineari, siamo |
| ne farò un po ' |
| ipotesi distributive |
| per determinare se T al quadrato |
| per punto di previsione dovrebbe |
| essere considerata estrapolazione. |
| Qui sto mostrando la formula per |
| La T di Hotelling è quadrata. La media e |
| viene stimata la matrice di covarianza |
| utilizzando i dati di addestramento per |
| modello. Se P è minore di N, |
| dove P è il numero di |
| predittori, N è il numero |
| di osservazioni e se il |
| predittori di multivariata |
| normale, quindi T al quadrato per |
| punto di dipendenza ha una F |
| distribuzione. Tuttavia, abbiamo voluto |
| un metodo per generalizzare il |
| set di dati con dati complicati |
| tipi, come un mix di continuo |
| e insiemi di dati categoriali in cui P |
| è maggiore di N, set di dati con |
| valori mancanti. Quindi invece di |
| elaborare le distribuzioni |
| analiticamente in ogni caso, noi |
| usato un semplice conservatore |
| limite di controllo che abbiamo trovato |
| funziona bene nella pratica. Questo è |
| un limite di controllo di tre Sigma |
| utilizzando la distribuzione empirica |
| di T al quadrato dalla formazione |
| dati e, come ha detto Laura, tu |
| può anche regolare questo moltiplicatore. |
| Una complicazione è che quando P |
| è maggiore di N, T di Hotelling |
| quadrato è indefinito. Ci sono |
| troppi parametri nel file |
| matrice di covarianza da stimare |
| con i dati disponibili, e |
| questo si verifica spesso nell'uso tipico |
| casi per il controllo dell'estrapolazione |
| come nei minimi quadrati parziali. |
| Così abbiamo deciso per un romanzo |
| approccio al calcolo di Hotelling's T |
| squadrato, che si occupa di questi |
| casi, e lo chiamiamo a |
| T quadrata regolarizzata. |
| Per calcolare la covarianza |
| usiamo una matrice regolarizzata |
| stimatore originariamente |
| sviluppato da Schafer e |
| Strimmer per alti |
| dati di genomica dimensionale. |
| È solo un file ponderato |
| combinazione del pieno |
| matrice di covarianza campione, |
| che è U qui e a |
| matrice di destinazione dei vincoli |
| che è D. |
| Per il peso Lambda |
| parametro, Schafer e Strimmer |
| derivato analitico |
| espressione che minimizza il |
| MSE, lo stimatore |
| asintoticamente. |
| Schafer e Strimmer hanno proposto |
| diversi possibili target |
| matrici. La matrice di destinazione noi |
| scelto era una matrice diagonale con |
| le varianze campionarie di |
| variabili predittore su |
| diagonale. Questa matrice di destinazione ha |
| una serie di vantaggi per |
| controllo dell'estrapolazione. Primo, noi |
| non assumere alcuna correlazione |
| struttura tra le variabili |
| prima di vedere i dati, che |
| funziona bene come priore generale. |
| Inoltre, quando ci sono pochi dati |
| per stimare la covarianza |
| matrice, a causa della piccola N o |
| manca una grossa frazione, il |
| il vincolo ellittico è |
| ampliato da un grande peso |
| la matrice diagonale e questa |
| si traduce in un più conservatore |
| test per il controllo dell'estrapolazione. |
| Abbiamo scoperto che era necessario |
| ottenere un ragionevole controllo del |
| tasso di falsi positivi. Per dirla in questo |
| più semplicemente, quando c'è |
| dati di allenamento limitati, il |
| T al quadrato regolarizzata è minore |
| probabile etichettare le previsioni come |
| estrapolazione, che è ciò che tu |
| vuoi, perché sei di più |
| probabile osservare covarianze |
| per caso. Ne abbiamo alcuni |
| Risultati della simulazione |
| dimostrando questi dettagli, |
| ma non ho tempo per andare |
| in tutto questo. Invece su |
| nella pagina web della community, inseriamo un file |
| link a un documento in archivio e |
| abbiamo in programma di inviarlo a |
| Journal of Computational |
| Statistiche grafiche. |
| La prossima diapositiva ne mostra altre |
| dettagli importanti di cui avevamo bisogno |
| prendere in considerazione. Avevamo bisogno di capire |
| su come trattare con categorico |
| variabili. Siamo solo |
| convertendoli in indicatori- |
| variabili fittizie codificate. Questo è |
| paragonabile a un multiplo |
| analisi della corrispondenza. Un altro |
| la complicazione è come calcolare |
| La T di Hotelling è quadrata quando |
| ci sono dati mancanti. Parecchi |
| Modellazione predittiva di JMP |
| piattaforme utilizzano osservazioni con |
| dati mancanti per addestrare il loro |
| Modelli. Questi includono ingenuo |
| Bayes e foresta Bootstrap. E |
| queste formule mostrano il file |
| metodo di cancellazione pairwise noi |
| utilizzato per stimare la covarianza |
| matrice. È più comune da usare |
| eliminazione delle righe. Questo significa |
| tutte le osservazioni mancanti |
| i valori vengono cancellati prima |
| calcolo della matrice di covarianza. |
| E questo è più semplice, ma può |
| risultato di buttare fuori utile |
| dati se la dimensione del campione di |
| i dati di addestramento sono piccoli. Con |
| osservazioni di cancellazione a coppie |
| e cancellati solo se presenti |
| valori mancanti nella coppia di |
| variabili utilizzate per calcolare il file |
| voce corrispondente e questo |
| cosa mostrano queste formule. |
| Sembra una cosa semplice da fare. |
| Stai solo usando tutti i dati |
| è disponibile, ma |
| in realtà può portare a una miriade di |
| problemi perché ci sono |
| diverse osservazioni utilizzate per |
| calcolare ogni voce. Questo può |
| far accadere cose strane, |
| come le matrici di covarianza con |
| autovalori negativi, che è |
| qualcosa che abbiamo dovuto affrontare. |
| Ecco alcuni vantaggi di |
| la T regolarizzata al quadrato we |
| trovato confrontandolo con altri |
| metodi nelle nostre valutazioni. Uno |
| è quella la regolarizzazione |
| funziona come la regolarizzazione |
| normalmente funziona. Suona a |
| equilibrio tra l'overfitting del |
| dati di addestramento e over biasing |
| lo stimatore. Questo rende il file |
| stimatore più robusto al rumore |
| e l'errata specificazione del modello. |
| Successivamente, Schafer e Strimmer |
| hanno mostrato nel loro articolo che |
| la regolarizzazione si traduce in a |
| stimatore più accurato in |
| impostazioni ad alta dimensione. |
| Questo aiuta con il corsivo |
| dimensionalità che plauges |
| la maggior parte dei metodi basati sulla distanza |
| per il controllo dell'estrapolazione. |
| Poi nei campi che hanno |
| ha sviluppato la metodologia per |
| controllo dell'estrapolazione, |
| spesso hanno entrambi alti |
| dati dimensionali e altamente |
| predittori correlati. Per |
| esempio in cheminformatica e |
| chemiometria, la chimica |
| le caratteristiche sono spesso molto elevate |
| correlato. Controllo di estrapolazione |
| è spesso usato in combinazione |
| con i modelli PCA e PLS, dove |
| DModX a T quadrata sono abituati |
| rilevare violazioni di correlazione |
| struttura. Questo è simile a |
| cosa facciamo in model driven |
| carta di controllo multivariata. |
| Poiché questo è un caso d'uso comune, |
| volevamo avere un'opzione che |
| non si è discostato troppo da |
| questi metodi. Il nostro T |
| quadrato fornisce lo stesso tipo |
| di controllo di estrapolazione, ma esso |
| non richiede passo di proiezione |
| che presenta alcuni vantaggi. |
| Abbiamo scoperto che questo ci permette di farlo |
| meglio generalizzare altri tipi |
| di modelli predittivi. Anche in |
| le nostre valutazioni lo abbiamo osservato |
| se una proiezione lineare non lo fa |
| funzionano bene per i tuoi dati, come |
| hai relazioni non lineari |
| tra predittori, gli errori |
| può gonfiare i limiti di controllo |
| di metodi basati sulla proiezione, |
| che porterà a poveri |
| protezione contro |
| estrapolazione e il nostro approccio |
| è più robusto di questo. |
| E poi un altro punto importante |
| è che abbiamo trovato il file |
| metrica di estrapolazione singola |
| era molto più semplice da usare e |
| interpretare. |
| Ed ecco un breve riassunto di |
| le caratteristiche dell'estrapolazione |
| controllo. Il metodo fornisce una migliore |
| visualizzazione di fattibile |
| regioni in alta dimensionale |
| modelli nel profiler. |
| Un nuovo algoritmo genetico ha |
| stato implementato per flessibile |
| ottimizzazione vincolata. |
| La nostra T quadrata regolarizzata |
| gestisce l'osservazione disordinata |
| dati, casi come P più grandi |
| di N, e continuo e |
| variabili categoriali. |
| Il metodo è disponibile nella maggior parte dei casi |
| dei modelli predittivi in JMP |
| 16 Pro e supporta molti di |
| le loro idiosincrasie. È anche |
| disponibile nel profiler in |
| grafico, che apre davvero il suo |
| utilità perché puoi operare |
| su qualsiasi formula di previsione. |
| E poi come direzione futura, |
| stiamo valutando l'implementazione |
| un vicino K-più vicino basato |
| vincolo che andrebbe oltre |
| l'attuale correlazione |
| vincolo di struttura. Spesso |
| i predittori vengono generati da |
| più distribuzioni risultanti |
| in cluster nel predittore |
| spazio. E un vicino K-più vicino |
| l'approccio basato potrebbe consentire |
| noi per controllare l'estrapolazione |
| tra i cluster. |
| Quindi grazie a tutti coloro che |
| sintonizzato per guardare questo e |
| ecco le nostre email se ne hai |
| eventuali ulteriori domande. |
