Scelta di escludere da 2 valori anomali uguali in DoECIAO,
Esiste qualche altra metrica che posso usare per determinare quale valore anomalo è più probabilmente il vero valore anomalo nel set di dati?
Ho eseguito un DoE e, durante la modellazione, ho notato che ci sono due valori anomali uguali (per residui studentizzati esternamente: 48 e -48). Se escludo uno o l'altro, l'adj R2 del modello migliora immediatamente e notevolmente da circa 0,65 a 0,99 e l'altro valore anomalo risulta ora essere all'interno del trend.
A seconda dell'outlier che scelgo di escludere, questo ha un impatto sul mio modello. In un caso, ottengo solo effetti lineari e di interazione, in un altro caso, ottengo anche alcuni effetti quadratici (mi aspetto quadratici ma non posso esserne certo).
Esiste qualche altra metrica che posso usare per determinare quale valore anomalo è più probabilmente il vero valore anomalo nel set di dati? I want to avoid any scientific bias if at all possible. In looking at the experiment, I cannot identify anything incorrect in the execution of the conditions which would sway my decision.
Progettazione degli esperimentiFinestreRe: Scelta di escludere da 2 valori anomali uguali in DoECiao @MetaLizard62080 ,
I residui studentizzati possono essere un buon modo per identificare i valori anomali basato su un modello assunto . Per maggiori informazioni su come vengono calcolati i residui studentizzati, vedi qui: Diagnostica di riga (jmp.com)
" I punti che ricadono al di fuori dei limiti rossi dovrebbero essere trattati come probabili valori anomali. I punti che ricadono al di fuori dei limiti verdi ma all'interno dei limiti rossi dovrebbero essere trattati come possibili valori anomali, ma con minore certezza. "Come si può vedere dalla definizione, non esiste una certezza definitiva sulla natura dei valori anomali, poiché potrebbe dipendere dal modello ipotizzato che si sta adattando.
Forse il modello che stai adattando è troppo semplice/non rilevante per tutti i punti e le misurazioni raccolte (sembra che questi effetti quadratici possano essere rilevanti)?
Ciò che potresti fare è analizzare il tuo set di dati con il metodo degli outlier indipendenti dal modello, per verificare se questi due punti sembrano "strani" o se si tratta solo di un problema di adattamento adeguato del modello. I metodi di rilevamento degli outlier indipendenti dal modello, come le distanze Mahalanobis o Jackknife, non si basano su un modello specifico e confrontano semplicemente la distanza tra i punti in base a variabili/fattori/caratteristiche. Quindi un outlier identificato da questo tipo di metodi indica che questo punto sembra "strano" e non sembra far parte delle distribuzioni dei fattori degli altri punti.
Outliers Episodio 3: Rilevamento di valori anomali utilizzando la distanza di Mahalanobis (e T2)
Outliers Episodio 4: Rilevamento di valori anomali tramite distanza jackknife
Dalle informazioni limitate fornite e dalla diagnosi eseguita solo in relazione a un adattamento specifico del modello, non dovresti rimuovere alcun punto se non hai giustificato di "poterlo" fare, in base a proprietà statistiche (valori anomali, ...) E competenza di dominio (valori errati, errore di battitura nella registrazione delle misurazioni, bug/problema nel sistema di misurazione, ...). Nel tuo esempio, puoi ancora confrontare i risultati di due modelli, un modello con tutti i punti e l'altro "nascondendo ed escludendo" i due punti "strani" (o semplicemente aggiungendo una colonna per pesare questi due punti anomali meno di altri punti) e vedere se i risultati sono molto diversi o meno. Ma puoi controllare prima alcune altre opzioni, metriche come Premere RMSE/R2, distanze di Cook e verifica di ipotesi di regressione lineare multipla , per verificare che il tuo modello sia accettabile. Forse i tuoi dati potrebbero utilizzare una trasformazione Y di Box-Cox ?
Spero che questa risposta ti possa aiutare,
Re: Scelta di escludere da 2 valori anomali uguali in DoEEcco i miei pensieri e sono d'accordo con Victor, non rimuovere semplicemente i dati senza sapere cosa è successo per quel trattamento (quei punti dati potrebbero essere i più informativi nel tuo studio):
1. Usando la terminologia di Deming, i punti dati di causa speciale in un esperimento, ironicamente, non sono così insoliti. Ciò è probabilmente dovuto al fatto che si sta facendo qualcosa di abbastanza insolito nella sperimentazione (ad esempio, manipolando fattori con impostazioni di livello grassetto). La domanda su questi particolari punti dati è: sono dovuti ai fattori nell'esperimento o sono assegnabili al rumore?
2. Esistono molti modi per diagnosticare la qualità dei dati di un esperimento, l'analisi dei residui è uno di questi e può essere piuttosto utile poiché l'analisi dei residui viene eseguita dopo che il modello è stato definito e la variazione spiegata dal modello è nota. Ad esempio, altri modi per diagnosticare la qualità dei dati:
- Ordina Y (in basso per ogni Y) in ordine dal migliore al peggiore. Ottieni un grafico MR. I punti a entrambe le estremità del grafico MR che sono OOC probabilmente non sono dovuti agli effetti del trattamento ma al rumore. (Questo metodo è chiamato ANOG, analisi del buono)
- Confronta i dati effettivi per ogni trattamento con i valori previsti (ciò richiede che tu preveda i dati a priori). Non disattivare l'ingegneria! Quali sono le tue ipotesi su cosa stava accadendo per ogni trattamento? Ricorda, per i residui, i dati effettivi potrebbero non sembrare così insoliti. È il fatto che il modello fa un pessimo lavoro nel prevedere i risultati di quel particolare trattamento che è di interesse. Perché il modello sarebbe pessimo per quei trattamenti?
- Eseguire l'analisi Rank. Con la tabella dati ordinata in modalità ANOG, aggiungere una nuova colonna ed etichettarla Rank. Inserire numeri sequenziali in quella colonna (ad esempio, per un esperimento di 16 esecuzioni, si avranno numerosi 1-16). Analizzare Rank insieme alla Y effettiva e vedere come si confrontano i risultati. Rank rimuove grandi salti nei dati effettivi, quindi l'effetto leva del punto dati della causa speciale è ridotto al minimo.
Se avessi previsto una potenziale causa speciale, potresti eseguire delle ripetizioni e, se uno dei punti dati ripetuti è insolito, avresti comunque altre ripetizioni per quel trattamento da utilizzare per l'analisi.
È sempre bene eseguire la diagnostica per i dati DOE. Per parafrasare uno dei miei autori DOE preferiti (Cuthbert Daniel):
I difetti più comuni nel DOE sono
- Sovrasaturazione: troppi effetti per il numero di trattamenti
- Iperconservatività: troppe osservazioni per le stime desiderate
- Mancato studio dei dati per valori errati
- Mancata considerazione di tutti gli aliasing
- Imprecisione dovuta alla mancata comprensione della varianza dell'errore.
Nota a margine: dovresti essere più interessato al delta tra R-quadrato e R-quadrato aggiustato per il perfezionamento del modello e utilizzare R-quadrato aggiustato per valutare l'adeguatezza del modello.
