| Oratore |
Trascrizione |
| |
Ciao, sono Chris Gotwalt. Il mio co |
| |
presentatori, Laura Lancaster e |
| |
Jeremy Ash e io presentiamo |
| |
un nuovo utile JMP Pro |
| |
capacità chiamata Estrapolazione |
| |
Controllo. Quasi tutti i modelli che |
| |
vorresti mai predire |
| |
con ha una gamma di |
| |
applicabilità, una regione del |
| |
spazio di input, dove il |
| |
le previsioni sono considerate |
| |
abbastanza affidabile. A parte questo |
| |
regione, cominciamo ad estrapolare |
| |
il modello a punti lontani dal |
| |
dati utilizzati per adattare il modello. Utilizzando |
| |
le previsioni di quel modello |
| |
in quei punti potrebbe portare a |
| |
completamente inaffidabile |
| |
previsioni. Ci sono due |
| |
fonti primarie di |
| estrapolazione |
statistico |
| |
estrapolazione e dominio basato |
| |
estrapolazione. Entrambi i tipi sono |
| |
coperti dalla nuova funzionalità. |
| |
Si verifica l'estrapolazione statistica |
| |
quando si tenta di |
| |
prevedere utilizzando un modello a un x |
| |
che non è vicino ai valori |
| |
utilizzato per addestrare quel modello. |
| |
Estrapolazione basata sul dominio |
| |
succede quando provi a valutare |
| |
a una x che è impossibile a causa |
| |
a livello scientifico o ingegneristico |
| |
vincoli basati. L'esempio |
| |
qui illustra entrambi i tipi di |
| |
estrapolazione in un esempio. |
| |
Qui vediamo un profiler da un |
| |
modello di una produzione metallurgica |
| |
processo. La previsione recita |
| |
out dice -2,96 senza |
| |
indicazione che stiamo valutando |
| |
a una combinazione di temperatura |
| |
e una pressione che è impossibile |
| |
in un senso di dominio per raggiungere |
| |
questa macchina. Abbiamo anche |
| |
estrapolazione statistica come |
| |
è lontano dai dati utilizzati per adattarsi |
| |
il modello come si vede nella dispersione |
| |
grafico dei dati di addestramento sul |
| |
giusto. In JMP Pro 16, Jeremy, |
| |
Laura ed io abbiamo collaborato per |
| |
aggiungere una nuova capacità che può |
| |
dare un avviso quando il profiler |
| |
pensa che potresti essere |
| |
estrapolando. Oppure se ti rivolgi |
| |
controllo di estrapolazione attivo, |
| |
restringerà l'insieme dei punti |
| |
che vedi solo quelli che |
| |
non pensa che siano |
| |
estrapolando. Abbiamo due tipi |
| |
del controllo dell'estrapolazione. Uno è |
| |
basato sul concetto di leva finanziaria |
| |
e utilizza un modello dei minimi quadrati. |
| |
Questo primo tipo è solo |
| |
disponibile nella versione Pro di |
| |
Modello di adattamento minimi quadrati. Il |
| |
altro tipo che chiamiamo generale |
| |
estrapolazione dell'apprendimento automatico |
| |
controllo ed è disponibile nel |
| |
Piattaforma Profiler e molti altri |
| |
l'apprendimento automatico più comune |
| |
piattaforme in JMP Pro. Su |
| |
richiesta, potremmo anche aggiungerlo a |
| |
di più. Minimi quadrati |
| |
il controllo dell'estrapolazione utilizza il |
| |
concetto di leva finanziaria, che è |
| |
come una versione in scala del |
| |
varianza della previsione. È un modello |
| |
basato e quindi utilizza le informazioni |
| |
sugli effetti principali |
| |
interazioni di ordine superiore |
| |
termini per determinare il |
| |
estrapolazione. Per il generale |
| |
estrapolazione dell'apprendimento automatico |
| |
caso di controllo, abbiamo dovuto elaborare |
| |
con il nostro approccio. Noi |
| |
volevo un metodo che fosse |
| |
robusto ai valori mancanti, lineare |
| |
dipendenze, elaborazione più veloce, |
| |
potrebbe gestire miscele di |
| |
input continuo e categoriale |
| |
variabili, e anche noi |
| |
voleva esplicitamente separare |
| |
il modello di estrapolazione dal |
| |
modello utilizzato per adattare i dati. Quindi |
| |
quando abbiamo un generale |
| |
controllo di estrapolazione attivato, |
| |
ce n'è solo uno supervisionato |
| |
modello che è...che si adatta al |
| |
variabili di input per le risposte |
| |
che vediamo nel profiler |
| |
tracce. Il profiler arriva |
| |
con un rapido e sporco |
| |
modello non supervisionato per descrivere |
| |
gli assi del set di addestramento e questo |
| |
viene utilizzato un modello non supervisionato |
| |
dietro le quinte da parte del |
| |
profiler per determinare il |
| |
controllo di estrapolazione |
| |
vincolo. Quindi devo |
| |
cambia perché PowerPoint e il mio |
| |
la telecamera non va d'accordo |
| |
in questo momento per qualche motivo. Noi |
| |
sapere che le estrapolazioni rischiose |
| |
vengono realizzati ogni giorno da |
| |
persone che lavorano nella scienza dei dati |
| |
e sono fiduciosi che l'uso |
| |
delle estrapolazioni porta a scarsi |
| |
previsioni e in ultima analisi a |
| |
scarsi risultati aziendali. |
| |
Luoghi di controllo dell'estrapolazione |
| |
guardrail sulle previsioni del modello |
| |
e porterà a quantificare |
| |
decisioni migliori con JMP Pro |
| |
utenti. Quando gli utenti vedono un'estrapolazione |
| |
verificarsi, l'utente deve effettuare una |
| |
decisione se il |
| |
la previsione dovrebbe essere usata o no |
| |
utilizzati in base al loro dominio |
| |
conoscenza e familiarità con |
| |
il problema in questione. Se tu |
| |
inizia a vedere l'estrapolazione |
| |
gli avvisi di controllo accadono abbastanza |
| |
spesso, è probabile che sia la fine di |
| |
il ciclo di vita di quel modello in |
| |
è ora di adattarlo ai nuovi dati |
| |
perché la distribuzione del |
| |
gli input si sono spostati da |
| |
quello dei dati di addestramento. Noi |
| |
sono onestamente abbastanza sorpreso e |
| |
allarmato che la necessità di |
| |
l'identificazione dell'estrapolazione non è |
| |
meglio apprezzato dai dati |
| |
comunità scientifica e hanno fatto |
| |
controllo dell'estrapolazione come |
| |
il più semplice e automatico possibile. |
| |
Laura, che lo ha sviluppato in JMP |
| |
Pro, dimostrerà il |
| |
opzione successiva. Poi Jeremy, che |
| |
fatto molte ricerche sul nostro |
| |
squadra, entreremo nella matematica |
| |
dettagli e statistiche |
| |
motivazione per l'approccio. |
| |
Ciao, mi chiamo Laura |
| |
Lancaster e io siamo qui per fare un |
| |
dimostrazione dell'estrapolazione |
| |
controllo aggiunto a JMP |
| |
Pro 16. Volevo iniziare |
| |
con un esempio abbastanza semplice |
| |
utilizzando almeno il modello di adattamento |
| |
piattaforma di quadrati. Ho intenzione di |
| |
utilizzare alcuni dati che potrebbero essere |
| |
familiare; sono i dati di Fitness |
| |
che è nei dati campione e io sono |
| |
utilizzerò l'assorbimento di ossigeno come |
| |
la mia risposta e Run Time, Run |
| |
Pulse e Max Pulse come mio |
| |
predittori. E volevo |
| |
ribadire che nel modello fit, |
| |
adattare i minimi quadrati |
| |
metrica di estrapolazione che è |
| |
utilizzato è la leva finanziaria. Quindi andiamo |
| |
avanti e inizia a JMP. |
| |
Quindi ora ho i dati di fitness |
| |
apro in JMP e ho uno script |
| |
salvato nella tabella dati per |
| |
avviare automaticamente la mia vestibilità |
| |
modello dei minimi quadrati. Quindi sono |
| |
andrò avanti e lo farò |
| |
script, lancia il minimo |
| |
piattaforma di quadrati. E ho il |
| |
profiler si apre automaticamente. E |
| |
possiamo vedere che il profiler |
| |
sembra che sia sempre stato così |
| |
passato, dove i confini dei fattori |
| |
sono definiti dall'intervallo di ciascuno |
| |
fattore individualmente, dandoci |
| |
vincoli di limite rettangolare. |
| |
E quando cambio il fattore |
| |
impostazioni, a causa di questi vincoli |
| |
vincoli, può essere davvero |
| |
è difficile dire se ti stai muovendo |
| |
molto al di fuori della correlazione |
| |
struttura dei dati. |
| |
Ed è per questo che abbiamo voluto aggiungere |
| |
il controllo dell'estrapolazione. Quindi |
| |
questo è stato aggiunto a diversi |
| |
delle piattaforme in JMP Pro |
| |
16, compresi i minimi quadrati. |
| |
E per arrivare all'estrapolazione |
| |
controllo, vai al menu sotto |
| |
il menu del profiler. Quindi se guardo |
| |
ecco, vedo che c'è una nuova opzione |
| |
chiamato Controllo dell'Estrapolazione. |
| |
È impostato su disattivato per impostazione predefinita, |
| |
ma posso trasformarlo in entrambi |
| |
acceso o avviso acceso per accendere |
| |
controllo dell'estrapolazione. Se io |
| |
accenderlo, nota che |
| |
limita il mio profilo |
| |
tracce per andare solo ai valori |
| |
dove non sto estrapolando. |
| |
Se dovessi trasformarlo in avvertimento |
| |
su, vedrei il profilo completo |
| |
tracce, ma ne otterrei una |
| |
avviso quando vado in una regione |
| |
dove sarebbe considerato |
| |
essere un'estrapolazione. |
| |
Posso anche attivare l'estrapolazione |
| |
dettagli, che trovo davvero |
| |
utile, e questo mi dà un |
| |
molte più informazioni. Prima di |
| |
tutto, mi dice che il mio |
| |
metrica che sto usando per |
| |
definire l'estrapolazione è |
| |
leva finanziaria, che è vera nel |
| |
piattaforma dei minimi quadrati. |
| |
E la soglia che si sta superando |
| |
utilizzato inizialmente per impostazione predefinita è |
| |
sarà la leva massima, |
| |
ma questa è una cosa che posso fare |
| |
cambiare e ti mostrerò che |
| |
tra un minuto. Inoltre, posso vedere |
| |
qual è la mia metrica di estrapolazione |
| |
è per le mie impostazioni attuali. |
| |
È questo numero proprio qui, |
| |
che cambierà mentre cambio io |
| |
le mie impostazioni dei fattori. |
| |
Ogni volta che questo numero è maggiore |
| |
rispetto alla soglia, ho intenzione di |
| |
ricevi questo avviso che potrei essere |
| |
estrapolando. Se scende al di sotto, |
| |
Non lo capirò più |
| |
attenzione. Questa soglia non è |
| |
cambierà a meno che io non cambi |
| |
qualcosa nel menu da regolare |
| |
la mia soglia. Quindi lasciami andare avanti |
| |
e farlo adesso. Quindi vado |
| |
per andare al menu |
| |
e vado a impostare |
| |
criterio di soglia. Quindi |
| |
nel metodo dei minimi quadrati, hai due |
| |
opzioni per la soglia |
| |
inizialmente è impostato al massimo |
| |
leva finanziaria, che manterrà |
| |
tu all'interno dello scafo convesso di |
| |
i dati, oppure puoi passare a un |
| |
moltiplicatore per la media |
| |
leva finanziaria o termini modello su |
| |
osservazioni. E voglio |
| |
passare a quella soglia. Quindi è |
| |
impostare su 3 come moltiplicatore |
| |
per impostazione predefinita. Quindi questo sarà |
| |
essere 3 volte la leva finanziaria media |
| |
e clicco su OK e noto che |
| |
la mia soglia cambierà. |
| |
In realtà è diventato più piccolo, quindi questo |
| |
è più conservatore |
| |
definizione di estrapolazione. |
| |
E lo riporterò a |
| |
per limitare le tracce del mio profilo. |
| |
E ora posso solo andare a |
| |
regioni in cui mi trovo entro 3 |
| |
volte la leva finanziaria media. |
| |
Adesso abbiamo anche |
| |
ottimizzazione implementata |
| |
che obbedisce al |
| |
estrapolazione |
| |
vincoli. Quindi ora se io |
| |
attiva l'impostazione desiderabilità |
| |
e mi occupo dell'ottimizzazione, |
| |
Otterrò un valore ottimale che |
| |
soddisfa l'estrapolazione |
| |
vincolo. Si noti che questo |
| |
la metrica è minore o uguale a |
| |
la soglia. Quindi ora quando vado |
| |
alla mia prossima diapositiva, che andrà |
| |
confrontare in un grafico, uno scatterplot |
| |
matrice, la differenza |
| |
tra il valore ottimale con |
| |
controllo di estrapolazione attivato |
| |
e con esso spento. |
| |
Quindi questo è il diagramma di dispersione |
| |
matrice che ho creato con JMP, |
| |
e mostra l'originale |
| |
dati variabili predittive, così come |
| |
come valori delle variabili predittive |
| |
per la soluzione ottimale utilizzando |
| |
nessun controllo di estrapolazione, in |
| |
blu e la soluzione ottimale utilizzando |
| |
controllo di estrapolazione in rosso. |
| |
E nota come il non vincolato |
| |
soluzione qui in blu, |
| |
proprio qui, viola il |
| |
struttura di correlazione per il |
| |
dati originali per l'impulso di esecuzione e |
| |
Impulso massimo, aumentando così la |
| |
incertezza di questa previsione. |
| |
Mentre la soluzione ottimale |
| |
che ha utilizzato l'estrapolazione |
| |
il controllo è molto più in linea |
| |
con i dati originali. |
| |
Ora vediamo un esempio |
| |
utilizzando il più generalizzato |
| |
metodo di controllo dell'estrapolazione, |
| |
che chiamiamo un |
| |
metodo T quadrato regolarizzato. Come |
| |
Chris ha menzionato prima, noi |
| |
ha sviluppato questo metodo per i modelli |
| |
diversi dai modelli dei minimi quadrati. |
| |
Quindi daremo un'occhiata a un |
| |
modello neurale per il diabete |
| |
dati che sono anche nel campione |
| |
dati. La risposta è una misura |
| |
della progressione della malattia e |
| |
i predittori sono la linea di base |
| |
variabili. Ancora una volta, il |
| |
metrica di estrapolazione utilizzata per |
| |
questo esempio è il |
| |
T quadrato regolarizzato che |
| |
Jeremy descriverà in |
| |
maggiori dettagli tra qualche minuto. |
| |
Quindi ho i dati sul diabete aperti in |
| |
JMP e ho uno script salvato |
| |
del mio modello neurale si adatta. Sono |
| |
andrò avanti e lo farò |
| |
script. Avvia il neurale |
| |
piattaforma, e nota che sono |
| |
utilizzando il metodo di convalida, casuale |
| |
trattenersi. Volevo solo far notare |
| |
che ogni volta che usi un |
| |
metodo di convalida, il |
| |
il controllo dell'estrapolazione si basa |
| |
solo sui dati di addestramento |
| |
e non la tua convalida |
| |
o dati di prova. |
| |
Quindi ho il profiler aperto e |
| |
puoi vedere che sta usando il |
| |
tracce complete. Estrapolazione |
| |
il controllo non è acceso. Andiamo |
| |
vai avanti e accendilo. |
| |
E ho anche intenzione di |
| |
attiva i dettagli. |
| |
Puoi vedere che le tracce hanno |
| |
è stato limitato e la metrica |
| |
è il T quadrato regolarizzato. Il |
| |
la soglia è 3 volte la |
| |
deviazione standard del campione |
| |
T quadrato regolarizzato. Jeremy è |
| |
parleremo di più di cosa |
| |
tutto ciò significa esattamente in pochi |
| |
minuti. E volevo solo |
| |
menzionarlo quando lo stiamo usando |
| |
il T quadrato regolarizzato |
| |
metodo, c'è solo una scelta |
| |
per la soglia, ma puoi |
| |
regolare il moltiplicatore. Quindi se tu |
| |
vai al controllo di estrapolazione, imposta |
| |
soglia, puoi regolarla |
| |
moltiplicatore, ma ho intenzione di |
| |
lascialo a 3. E ora io |
| |
desidera eseguire l'ottimizzazione utilizzando |
| |
controllo dell'estrapolazione. Quindi sono |
| |
semplicemente massimizzerò e |
| |
ricorda. Ora ho un |
| |
soluzione ottimale con |
| |
controllo di estrapolazione attivato |
| |
su. E quindi ora voglio guardare |
| |
nella nostra matrice di dispersione, solo |
| |
come abbiamo visto prima, con |
| |
i dati originali, così come |
| |
con i valori ottimali con |
| |
e senza estrapolazione |
| |
controllare. |
| |
Quindi questa è una matrice di dispersione |
| |
dei dati sul diabete che ho |
| |
creato in JMP. Ha il |
| |
valori predittivi originali, come |
| |
così come la soluzione ottimale |
| |
utilizzando il controllo di estrapolazione in |
| |
rosso e soluzione ottimale senza |
| |
controllo di estrapolazione in blu. |
| |
E puoi vedere che il rosso |
| |
i punti sembrano essere molto più |
| |
all'interno della struttura di correlazione |
| |
dei dati originali rispetto al |
| |
blu, e questo è particolarmente |
| |
vero quando guardi questo LDL |
| |
rispetto al colesterolo totale. |
| |
Quindi ora diamo un'occhiata a un esempio |
| |
utilizzando il profiler che si trova sotto |
| |
il menu grafico, che chiamerò |
| |
il profiler grafico. Utilizza anche |
| |
il metodo T quadrato regolarizzato |
| |
e ci permette di utilizzare |
| |
controllo di estrapolazione su qualsiasi |
| |
tipo di modello che può essere |
| |
creato e salvato come JSL |
| |
formula. Ci permette anche di |
| |
avere il controllo dell'estrapolazione su |
| |
più di un modello alla volta. |
| |
Quindi diamo un'occhiata a un esempio |
| |
per un'azienda che utilizza polvere |
| |
tecnologia metallurgica per |
| |
produrre alberi di trasmissione in acciaio per |
| |
l'industria automobilistica. |
| |
Vogliono essere in grado di trovare |
| |
impostazioni ottimali per il loro |
| |
produzione che minimizzerà |
| |
restringimento e anche minimizzazione... |
| |
ridurre al minimo i guasti dovuti a cattive |
| |
condizioni di servizio. Quindi abbiamo |
| due |
riduzione delle risposte (che è |
| |
continuo e stiamo andando a |
| |
adattare un modello dei minimi quadrati per |
| |
che) e le condizioni della superficie (che |
| |
è superato/non superato e lo faremo |
| |
adattare un modello logistico nominale per |
| |
quello). E il nostro predittore |
| |
le variabili sono solo alcune chiavi |
| |
variabili di processo nella produzione. |
| |
E ancora una volta l'estrapolazione |
| |
la metrica è il T quadrato regolarizzato. |
| |
Quindi ho la polvere |
| |
dati metallurgici aperti in JMP |
| |
e ne ho già montato almeno uno |
| |
modello quadrato per il mio restringimento |
| |
risposta, e ho già inserito una |
| |
modello logistico nominale per il |
| |
condizione della superficie superata/non superata |
| |
risposta, e ho salvato il |
| |
formule di previsione dei dati |
| |
tavolo in modo che siano pronti a |
| |
essere utilizzato nel profiler grafico. |
| |
Quindi se vado al menu grafico |
| |
profiler, posso caricare il |
| |
formula di previsione per il restringimento |
| |
e la mia formula di previsione è per |
| |
le condizioni della superficie. |
| |
Fai clic su OK. E ora ho |
| |
entrambi i miei modelli sono stati lanciati in |
| |
il profiler grafico. |
| |
E prima che io accenda |
| |
controllo di estrapolazione, tu |
| |
posso vedere che ho il pieno |
| |
tracce del profilo. Una volta acceso |
| |
controllo di estrapolazione |
| |
puoi vedere che le tracce |
| |
restringermi un po', e vado anche |
| |
per accendere i dettagli, |
| |
solo per dimostrare che in effetti lo sono |
| |
utilizzando il T quadrato regolarizzato |
| |
qui in questo metodo. |
| |
Quindi quello che voglio veramente fare è che |
| |
vuoi trovare l'ottimale |
| |
condizioni in cui minimizzo |
| |
restringimento e minimizzo |
| |
fallimenti con estrapolazione |
| |
controllo e voglio essere sicuro |
| |
Non sto estrapolando. Voglio |
| |
trovare una soluzione utile. E |
| |
prima di poter effettuare l'ottimizzazione, |
| |
In realtà ho bisogno di impostare il mio |
| |
desiderabilità. Quindi ho intenzione di |
| |
impostare le desiderabilità. È già |
| |
corretto per il restringimento, ma io |
| |
è necessario impostarli per il servizio |
| |
condizione. Cercherò di massimizzare |
| |
superamento dei test e minimizzazione dei fallimenti. |
| |
K. |
| |
E ora dovrei essere in grado di fare |
| |
l'ottimizzazione con |
| |
controlli di estrapolazione attivi. |
| |
Massimizza e ricorda. |
| |
E ora ho il mio ottimale |
| |
soluzione con estrapolazione |
| |
controllo acceso. Quindi ora diamo un'occhiata |
| |
ancora una volta al |
| |
matrice di dispersione del |
| |
dati originali, insieme al |
| |
soluzione con estrapolazione |
| |
controllo nella soluzione, |
| |
con il controllo di estrapolazione |
| |
spento. |
| |
Quindi questa è una matrice di dispersione |
| |
dei dati della metallurgia delle polveri |
| |
che ho creato in JMP. E |
| |
ha anche la soluzione ottimale |
| |
con controllo di estrapolazione come |
| |
punto rosso e l'ottimale |
| |
soluzione senza estrapolazione |
| |
controllo come un punto blu. E una volta |
| |
di nuovo puoi vederlo quando noi |
| |
non attuare l'estrapolazione |
| |
controllo, la soluzione ottimale |
| |
è piuttosto lontano dal |
| |
struttura di correlazione del |
| |
dati. Possiamo vedere in particolare |
| |
che qui con rapporto contro |
| |
pressione di compattazione. |
| |
Quindi ora voglio consegnare |
| |
la presentazione a Jeremy |
| |
per approfondire molto di più |
| |
dettagli sui nostri metodi. |
| |
Ciao, ecco un certo numero di |
| |
obiettivi per il controllo dell'estrapolazione |
| |
che abbiamo esposto al |
| |
inizio del progetto. Noi |
| |
era necessaria una metrica di estrapolazione |
| |
che potrebbe essere calcolato rapidamente |
| |
con un gran numero di |
| |
osservazioni e variabili, e |
| |
avevamo bisogno di un modo rapido per valutare |
| |
se la metrica indicata |
| |
estrapolazione o no. Questo era |
| |
per mantenere l'interattività di |
| |
il profiler traccia e |
| |
ne avevamo bisogno |
| |
eseguire l'ottimizzazione. |
| |
Volevamo essere in grado di |
| |
supportare le varie variabili |
| |
tipi disponibili nel |
| |
profiler. Questi sono |
| |
essenzialmente continuo, |
| |
categorico e ordinale. |
| |
Volevamo utilizzare |
| |
osservazioni con cellule mancanti, |
| |
perché alcuni metodi di modellazione |
| |
includerà queste osservazioni |
| |
In ???. |
| |
Volevamo un metodo che fosse |
| |
robusto alle dipendenze lineari in |
| |
i dati. Questi si verificano quando il |
| |
il numero di variabili è maggiore |
| |
rispetto al numero di osservazioni, |
| |
per esempio. E volevamo |
| |
qualcosa che era facile da |
| |
automatizzare senza bisogno di un |
| |
molti input da parte degli utenti. |
| |
Per i modelli dei minimi quadrati, noi |
| |
atterrato sulla leva finanziaria, che è |
| |
spesso utilizzato per identificare i valori anomali |
| |
nei modelli lineari. La leva finanziaria |
| |
per il nuovo punto di previsione è |
| |
calcolato secondo questo |
| |
formula. Ce ne sono molte |
| |
interpretazioni per la leva finanziaria. |
| |
Un'interpretazione è che è |
| |
la distanza multivariata di a |
| |
punto di previsione dal centro |
| |
dei dati di addestramento. Un altro |
| |
l'interpretazione è che si tratta di un |
| |
varianza di previsione scalata. Quindi |
| |
mentre il punto di previsione si muove |
| |
più lontano dal centro |
| |
dei dati, l'incertezza |
| |
di aumento delle previsioni. E noi |
| |
utilizzare due soglie comuni in |
| |
la letteratura statistica per |
| |
determinare se questa distanza |
| |
è troppo grande. Il primo è |
| |
leva massima, previsione |
| |
punti oltre questa soglia |
| |
o all'esterno dello scafo convesso di |
| |
i dati di addestramento. |
| |
E il secondo è 3 volte il |
| |
media delle leve. |
| |
si può dimostrare che questo è |
| |
equivalente a tre volte il |
| |
numero di termini modello divisi |
| |
dal numero di osservazioni. |
| |
E come ha descritto Laura |
| |
in precedenza, puoi cambiare il |
| |
moltiplicatore di questi |
| |
soglie. |
| |
Infine, quando le desiderabilità |
| |
vengono ottimizzati, il |
| |
il vincolo di estrapolazione è un |
| |
vincolo non lineare, e |
| |
in precedenza il profiler consentiva |
| |
ottimizzazione vincolata con |
| |
vincoli lineari. Questo tipo di |
| |
l'ottimizzazione è più |
| |
impegnativo, quindi Laura ha implementato |
| |
un algoritmo genetico. E se tu |
| |
non hanno familiarità con questi, |
| |
Gli algoritmi genetici utilizzano |
| |
principi di molecolare |
| |
evoluzione per ottimizzare |
| |
funzioni di costo complesse. |
| |
Successivamente parlerò di |
| |
approccio che abbiamo utilizzato per generalizzare |
| |
controllo di estrapolazione ai modelli |
| |
diversi dai modelli lineari. Quando |
| |
stai costruendo un predittivo |
| |
modello in JMP, si inizia con un |
| |
insieme di variabili predittive e un |
| |
insieme di variabili di risposta. Alcune |
| |
il modello supervisionato è addestrato e |
| |
quindi un profiler può essere utilizzato per |
| |
visualizzare la superficie del modello. |
| |
Esistono numerose varianti in |
| |
il profiler in JMP. Puoi |
| |
utilizzare il profiler internamente in |
| |
piattaforme di modellazione. Puoi |
| |
formule di previsione dell'output e |
| |
costruire un profiler per più |
| |
modelli. Come ha dimostrato Laura, |
| |
puoi costruire profiler per |
| |
modelli d'insieme. Volevamo un |
| |
metodo di controllo dell'estrapolazione |
| |
che generalizzerebbe tutto questo |
| |
scenari, quindi invece di |
| |
legando il nostro metodo a un |
| |
modello specifico, stiamo andando |
| |
utilizzare un sistema non supervisionato |
| |
approccio. |
| |
E segnaleremo solo un |
| |
punto di previsione come |
| |
estrapolazione se è lontano |
| |
all'esterno dove si trovano i dati |
| |
concentrato nel predittore |
| |
spazio. E questo ci permette di |
| |
essere coerenti in tutto |
| |
profiler in modo che il nostro |
| |
metodo di controllo dell'estrapolazione |
| |
si collegherà a qualsiasi profiler. |
| |
La distanza multivariata |
| |
interpretazione della leva finanziaria |
| |
suggerito il T-quadrato di Hotelling come |
| |
una distanza per generale |
| |
controllo dell'estrapolazione. Infatti, |
| |
qualche manipolazione algebrica sarà |
| |
dimostrare che il T quadrato di Hotelling è |
| |
semplicemente la leva è stata spostata e |
| |
in scala. Questa figura mostra come |
| |
Misure T-quadrate di Hotelling |
| |
quale ellisse un'osservazione |
| |
giace su, dove si trovano le ellissi |
| |
centrato sulla media del |
| |
dati e la forma è definita |
| |
dalla matrice di covarianza. |
| |
Dato che non siamo più in |
| |
modelli lineari, questa metrica |
| |
non ha lo stesso |
| |
collegamento alla previsione |
| |
varianza. Quindi invece di |
| |
basandosi sulle soglie utilizzate |
| |
tornando ai modelli lineari, siamo |
| |
ne farò un po' |
| |
ipotesi distributive |
| |
per determinare se T quadrato |
| |
per il punto di previsione dovrebbe |
| |
essere considerata un'estrapolazione. |
| |
Qui mostro la formula per |
| |
T quadrato di Hotelling. La media e |
| |
la matrice di covarianza è stimata |
| |
utilizzando i dati di addestramento per |
| |
modello. Se P è minore di N, |
| |
dove P è il numero di |
| |
predittori, N è il numero |
| |
di osservazioni e se il |
| |
predittori di multivariati |
| |
normale, quindi T quadrato per |
| |
il punto di dipendenza ha una F |
| |
distribuzione. Tuttavia, volevamo |
| |
un metodo per generalizzare il |
| |
set di dati con dati complicati |
| |
tipi, come un mix di continuo |
| |
e set di dati categoriali in cui P |
| |
è maggiore di N, set di dati con |
| |
valori mancanti. Quindi invece di |
| |
elaborare le distribuzioni |
| |
analiticamente in ogni caso, noi |
| |
ha usato un semplice conservatore |
| |
limite di controllo che abbiamo trovato |
| |
funziona bene nella pratica. Questo è |
| |
un limite di controllo tre Sigma |
| |
utilizzando la distribuzione empirica |
| |
di T quadrato dall'allenamento |
| |
dati e, come ha detto Laura, tu |
| |
è possibile anche regolare questo moltiplicatore. |
| |
Una complicazione è che quando P |
| |
è più grande di N, T di Hotelling |
| |
al quadrato non è definito. Ci sono |
| |
troppi parametri nel |
| |
matrice di covarianza per stimare |
| |
con i dati disponibili, e |
| |
questo si verifica spesso nell'uso tipico |
| |
casi per il controllo dell'estrapolazione |
| |
come nei minimi quadrati parziali. |
| |
Quindi abbiamo deciso per un romanzo |
| |
approccio al calcolo del T di Hotelling |
| |
al quadrato, che si occupa di questi |
| |
casi, e lo chiamiamo un |
| |
T quadrato regolarizzato. |
| |
Per calcolare la covarianza |
| |
matrice usiamo una regolarizzata |
| |
stimatore originariamente |
| |
sviluppato da Schafer e |
| |
Decespugliatore per alte temperature |
| |
dati genomici dimensionali. |
| |
È solo un peso |
| |
combinazione del pieno |
| |
matrice di covarianza del campione, |
| |
che è U qui e un |
| |
matrice di destinazione dei vincoli |
| |
che è D. |
| |
Per il peso Lambda |
| |
parametri, Schafer e Strimmer |
| |
derivato un'analisi |
| |
espressione che minimizza il |
| |
MSE, lo stimatore |
| |
asintoticamente. |
| |
Schafer e Strimmer hanno proposto |
| |
diversi possibili obiettivi |
| |
matrici. La matrice target che |
| |
scelto era una matrice diagonale con |
| |
le varianze campionarie del |
| |
variabili predittive sul |
| |
diagonale. Questa matrice target ha |
| |
una serie di vantaggi per |
| |
controllo dell'estrapolazione. In primo luogo, noi |
| |
non dare per scontato alcuna correlazione |
| |
struttura tra le variabili |
| |
prima di vedere i dati, che |
| |
funziona bene come priore generale. |
| |
Inoltre, quando ci sono pochi dati |
| |
per stimare la covarianza |
| |
matrice, sia a causa di N piccolo o |
| |
una grande frazione mancante, il |
| |
il vincolo ellittico è |
| |
espanso da un grande peso su |
| |
la matrice diagonale, e questa |
| |
si traduce in un atteggiamento più conservativo |
| |
test per il controllo dell'estrapolazione. |
| |
Abbiamo scoperto che questo era necessario |
| |
ottenere un controllo ragionevole del |
| |
tasso di falsi positivi. Per dirla in parole povere |
| |
più semplicemente, quando c'è |
| |
dati di addestramento limitati, il |
| |
il T quadrato regolarizzato è minore |
| |
probabile che etichettino le previsioni come |
| |
estrapolazione, che è ciò che tu |
| |
vuoi, perché sei più |
| |
probabile osservare covarianze |
| |
per caso. Ne abbiamo alcuni |
| |
risultati della simulazione |
| |
dimostrando questi dettagli, |
| |
ma non ho tempo di andare |
| |
in tutto questo. Invece su |
| |
nella pagina web della Community, abbiamo inserito un |
| |
collegamento a un documento su archivio e |
| |
abbiamo intenzione di sottoporlo al |
| |
Rivista di Informatica |
| |
Statistiche grafiche. |
| |
Questa diapositiva successiva mostra alcune altre |
| |
dettagli importanti di cui avevamo bisogno |
| |
considerare. Avevamo bisogno di capire |
| |
come gestire le categorie |
| |
variabili. Siamo solo |
| |
convertendoli in indicatori- |
| |
variabili fittizie codificate. Questo è |
| |
paragonabile a un multiplo |
| |
analisi della corrispondenza. Un altro |
| |
la complicazione è come calcolare |
| |
Il T al quadrato di Hotelling quando |
| |
ci sono dati mancanti. Diversi |
| |
Modellazione predittiva JMP |
| |
le piattaforme utilizzano osservazioni con |
| |
dati mancanti per addestrare i loro |
| |
modelli. Questi includono ingenui |
| |
Foresta di Bayes e Bootstrap. E |
| |
queste formule mostrano il |
| |
metodo di eliminazione a coppie noi |
| |
utilizzato per stimare la covarianza |
| |
matrice. È più comune usare |
| |
eliminazione riga per riga. Ciò significa |
| |
tutte le osservazioni con mancanti |
| |
i valori vengono eliminati prima |
| |
calcolo della matrice di covarianza. |
| |
E questo è il più semplice, ma può |
| |
risultato nel buttare via cose utili |
| |
dati se la dimensione del campione del |
| |
i dati di addestramento sono piccoli. Con |
| |
osservazioni di eliminazione a coppie |
| |
e cancellati solo se ci sono |
| |
valori mancanti nella coppia di |
| |
variabili utilizzate per calcolare il |
| |
voce corrispondente e questo è |
| |
cosa mostrano queste formule. |
| |
Sembra una cosa semplice da fare. |
| |
Stai solo usando tutti i dati |
| |
che è disponibile, ma è |
| |
in realtà può portare a una serie di |
| |
problemi perché ci sono |
| |
diverse osservazioni utilizzate per |
| |
calcolare ogni voce. Questo può |
| |
causare cose strane che accadono, |
| |
come matrici di covarianza con |
| |
autovalori negativi, che è |
| |
qualcosa con cui dovevamo fare i conti. |
| |
Ecco alcuni vantaggi di |
| |
il T quadrato regolarizzato noi |
| |
trovato quando confrontato con altri |
| |
metodi nelle nostre valutazioni. Uno |
| |
è quella la regolarizzazione |
| |
funziona come la regolarizzazione |
| |
normalmente funziona. Colpisce un |
| |
equilibrio tra il sovradattamento del |
| |
dati di addestramento e sovra-biasing |
| |
lo stimatore. Questo rende il |
| |
stimatore più robusto al rumore |
| |
e specifiche errate del modello. |
| |
Poi Schafer e Strimmer |
| |
hanno dimostrato nel loro articolo che |
| |
la regolarizzazione si traduce in un |
| |
stimatore più accurato in |
| |
impostazioni dimensionali elevate. |
| |
Questo aiuta con il corsivo |
| |
dimensionalità che affligge |
| |
la maggior parte dei metodi basati sulla distanza |
| |
per il controllo dell'estrapolazione. |
| |
Poi nei campi che hanno |
| |
ha sviluppato la metodologia per |
| |
controllo dell'estrapolazione, |
| |
spesso hanno entrambi alti |
| |
dati dimensionali e altamente |
| |
predittori correlati. Per |
| |
esempio in chemioinformatica e |
| |
chemiometria, la chimica |
| |
le caratteristiche sono spesso molto |
| |
correlato. Controllo di estrapolazione |
| |
è spesso usato in combinazione |
| |
con modelli PCA e PLS, dove |
| |
I DModX T quadrati vengono utilizzati per |
| |
rilevare violazioni di correlazione |
| |
struttura. Questo è simile a |
| |
cosa facciamo nel modello guidato |
| |
carta di controllo multivariata. |
| |
Poiché questo è un caso d'uso comune, |
| |
volevamo avere un'opzione che |
| |
non si è discostato troppo da |
| |
questi metodi. Il nostro T regolarizzato |
| |
squared fornisce lo stesso tipo |
| |
del controllo dell'estrapolazione, ma |
| |
non richiede passaggio di proiezione |
| |
che presenta alcuni vantaggi. |
| |
Abbiamo scoperto che questo ci consente di |
| |
meglio generalizzati altri tipi |
| |
di modelli predittivi. Inoltre, in |
| |
dalle nostre valutazioni abbiamo osservato che |
| |
se una proiezione lineare non |
| |
funzionano bene per i tuoi dati, come |
| |
hai relazioni non lineari |
| |
tra i predittori, gli errori |
| |
può gonfiare i limiti di controllo |
| |
di metodi basati sulla proiezione, |
| |
che porterà a poveri |
| |
protezione contro |
| |
estrapolazione e il nostro approccio |
| |
è più robusto di questo. |
| |
E poi un altro punto importante |
| |
è che abbiamo trovato il |
| |
metrica di estrapolazione singola |
| |
era molto più semplice da usare e |
| |
interpretare. |
| |
Ed ecco un breve riassunto di |
| |
le caratteristiche dell'estrapolazione |
| |
controllo. Il metodo fornisce un migliore |
| |
visualizzazione di fattibile |
| |
regioni ad alta dimensione |
| |
modelli nel profiler. |
| |
Un nuovo algoritmo genetico ha |
| |
è stato implementato per la flessibilità |
| |
ottimizzazione vincolata. |
| |
Il nostro T quadrato regolarizzato |
| |
gestisce osservazioni disordinate |
| |
dati, casi come P più grandi |
| |
di N, e continuo e |
| |
variabili categoriali. |
| |
Il metodo è disponibile nella maggior parte |
| |
dei modelli predittivi in JMP |
| |
16 Pro e supporta molti di |
| |
le loro idiosincrasie. È anche |
| |
disponibile nel profiler in |
| |
grafico, che apre davvero il suo |
| |
utilità perché puoi operare |
| |
su qualsiasi formula di previsione. |
| |
E poi come direzione futura, |
| |
stiamo valutando l'implementazione |
| |
un vicino più prossimo basato su K |
| |
vincolo che andrebbe oltre |
| |
la correlazione attuale |
| |
vincolo strutturale. Spesso |
| |
i predittori sono generati da |
| |
distribuzioni multiple risultanti |
| |
nel clustering nel predittore |
| |
spazio. E un K-vicini più prossimi |
| |
approccio basato consentirebbe |
| |
noi per controllare l'estrapolazione |
| |
tra i cluster. |
| |
Quindi grazie a tutti coloro che |
| |
sintonizzato per guardare questo e |
| |
ecco le nostre email se hai |
| |
altre domande. |
