NOTA: questo articolo è apparso originariamente in JMPer Cable, numero 15, estate 2004.
John Sall, Vicepresidente esecutivo, SAS Institute Inc.
Bradley Jones, sviluppo JMP
Ogni procedura statistica coinvolge ipotesi. Ci viene insegnato a temere la violazione di questi presupposti. Ad esempio, le procedure standard per confrontare i mezzi, i due campioni t- test, l'accoppiamento t -test e ANOVA includono tutti l'ipotesi che l'errore residuo sia normalmente distribuito. Se l'errore è distribuito normalmente e tutte le altre ipotesi sono valide, tutte le statistiche del test hanno le loro distribuzioni rivendicate e gli intervalli di confidenza e i test di ipotesi possono essere considerati attendibili. Abbiamo anche una ricca fonte di strumenti analitici per sondare le nostre ipotesi, come le funzionalità nella piattaforma di distribuzione che testano e tracciano la distribuzione normale. Cosa succede se i residui non sono normalmente distribuiti? Quanto dovrebbe preoccuparsi un praticante se i residui sono normali? Pochi articoli, e meno libri, entrano in dettaglio su quanto preoccuparsi dell'assunzione di normalità.
Avere distribuito normalmente residui è un problema di cui probabilmente non dobbiamo preoccuparci perché:
- In campioni di grandi dimensioni, è facile rilevare la non-normalità, ma non importa.
- In piccoli campioni, la non-normalità può essere importante, ma non è possibile rilevarla.
Con campioni di grandi dimensioni, il teorema del limite centrale afferma che anche se i dati non sono normali, le statistiche di tipo medio si avvicinano alle distribuzioni normali all'aumentare della dimensione del campione. Con campioni piccoli, la statistica del test non è necessariamente normale, ma non abbiamo un campione abbastanza grande da dirlo.
Gli sviluppatori di JMP ricevono richieste frequenti per implementare un test per la normalità residua come caratteristica di convenienza per le nostre piattaforme di montaggio. Ma ciò sarebbe utile solo se esistessero campioni di dimensioni per cui la non-normalità potesse essere rilevata e importata. Analizziamo, usando la simulazione.
Per la nostra simulazione confrontiamo i mezzi di due gruppi usando due diverse distribuzioni di errori non normali: una doppia esponenziale e una normale contaminata da shift. Il doppio esponenziale è simmetrico, ma leptokurtotico, vale a dire , molto più picco e con code molto più pesanti rispetto alla normale distribuzione. Lo spostamento contaminato normale è una distribuzione normale inclinata a destra aggiungendo uno spostamento di tre deviazioni standard in un 5% selezionato casualmente.
Il doppio esponenziale è simulato da questa formula JMP:
if (randomUniform ()> 0.5,1, -
1) * log (randomUniform ())
La distribuzione contaminata da turni utilizza questa formula JMP:
10 + 5 * (CasualeNormale () +
(RandomUniform () <0,05) * 3)
Questi sono pensati per essere caratteristici di una non forte, ma non estrema, che potresti vedere nei dati reali.
La Figura 1 mostra 10.000 punti del simulato esponenziale simulato e la Figura 2 mostra le distribuzioni contaminate dal turno. La linea diagonale rossa solida è un riferimento per il modo in cui i dati verrebbero visualizzati se si adattano a una distribuzione normale. Si noti che i dati cadono sotto la linea per piccoli quantili e sopra la linea per grandi quantili. La sua è caratteristica delle distribuzioni leptokurtotic. Hanno molta probabilità di massa nel mezzo con code lunghe ma scarsamente popolate.
I dati nel normale diagramma quantile per la distribuzione contaminata da shift (Figura 2) cadono sopra la linea diagonale rossa per grandi quantili. Questo è caratteristico delle distribuzioni distorte a destra. Se i dati fossero stati distribuiti normalmente, la parte superiore dell'istogramma sarebbe terminata intorno ai 30 anziché continuare un po 'oltre i 40.
Fig. 1: risultati di distribuzione per la distribuzione doppia-esponenziale.
Fig. 2: risultati di distribuzione per le distribuzioni contaminanti turno.
È stato eseguito uno script JSL che ha generato 10.000 campioni Monte Carlo con 10 osservazioni per queste due distribuzioni non normali. Ogni campione è stato diviso in due gruppi di uguali dimensioni. In base alla progettazione, non vi è alcuna differenza tra i mezzi dei due gruppi. Abbiamo anche generato 10.000 campioni per la normale distribuzione standard come controllo. Per ogni campione, abbiamo eseguito un'analisi unidirezionale per testare la differenza dei mezzi e una distribuzione per testare la normalità dei residui. Abbiamo ripetuto questa intera procedura per campioni di dimensioni 20, 30, 50, 70 e 100.
Test per mezzi uguali quando non vi è alcuna differenza nei mezzi di popolazione
Per prima cosa, esaminiamo le trame dei nostri 10.000 p -valori per le distribuzioni non normali. Ricorda che la nostra procedura è progettata in modo tale che non vi sia una vera differenza nei mezzi per ciascun campione. A causa della variazione casuale, il p I valori per le nostre 10.000 analisi unidirezionali dovrebbero essere distribuiti uniformemente tra zero e uno. La funzione di distribuzione uniforme è la linea diagonale F (x) = x.
Per produrre i grafici nelle Figure 3a e 3b, abbiamo prima ordinato i 10.000 p -valori. Il y l'asse è la proporzione di 10.000 p -valori inferiori o uguali a una determinata probabilità di significatività. Il X -axis mostra le probabilità di significatività ( p valori). Ogni dimensione del campione è mostrata in un colore diverso.
Fig. 3a: diagramma di probabilità dei valori p per la distribuzione doppia-esponenziale.
Fig 3b: diagramma di probabilità dei valori p per la distribuzione contaminata da turno.
Per entrambi i grafici e tutte le dimensioni del campione, le distribuzioni di p I valori si avvicinano alla linea diagonale della funzione di distribuzione cumulativa uniforme. Come speravamo, né la modifica della distribuzione né la modifica della dimensione del campione influiscono molto sull'accuratezza della probabilità di significatività del test ANOVA a parità di mezzi.
Diamo un'occhiata più da vicino alla scala ridotta vicino a 0.05, dove stiamo giudicando il significato. I grafici di Figura 4a e 4b ingrandiscono l'area.
Fig. 4a: Visualizzazione in scala ingrandita del grafico di probabilità del valore p per distribuzione doppia-esponenziale non normale. 
Fig. 4b: Visualizzazione in scala ingrandita del grafico di probabilità del valore p per la distribuzione non normale contaminata da turni.
Si noti che la linea diagonale rossa corrispondente al test per l'uguaglianza dei mezzi per due gruppi con cinque osservazioni si discosta leggermente al di sotto della linea y = x. Cosa significa questo?
Sappiamo che se scegliamo una probabilità di significatività di 0,05, rifiuteremo l'ipotesi che i nostri mezzi siano uguali nel 5% dei nostri esperimenti a causa dei capricci del caso, anche se i mezzi sono veramente uguali. Cioè, il 5% delle volte faremo un errore di tipo I - rifiuteremo l'ipotesi che i mezzi siano uguali quando l'ipotesi è vera.
Questo tasso di errore di tipo I del 5% è integrato e cosa ci aspettiamo se scegliamo una probabilità di significatività di 0,05. Se questo sembra troppi errori, allora devi scegliere una probabilità di significatività più piccola.
Quando la linea diagonale rossa attraversa la linea tratteggiata verticale x = 0,05, la sua y -valore è 0,043. Ciò significa che invece di rifiutare l'ipotesi che i nostri mezzi siano pari al 5% delle volte, abbiamo rifiutato solo il 4,3% delle volte. Chiamiamo questo risultato un risultato conservativo perché stiamo facendo meno errori di tipo I di quanti ce ne aspettiamo. Se hai intenzione di perdere, è meglio che manchi prudentemente.
D'altra parte, supponiamo che una linea abbia attraversato la linea tratteggiata verticale a 0,05 con un valore CumProb di 0,06. Quindi, invece di vedere gli errori di tipo I attesi del 5%, vedremmo effettivamente errori di tipo I del 6%. Chiamiamo tale test troppo liberale perché il tasso di errore vero è maggiore del previsto.
È rassicurante che nell'unico caso in cui le linee si discostano dalla linea dei 45 gradi, è dal lato conservatore. Il caso contaminato dal cambiamento ha anche il n = 10 caso spostato sul lato conservatore, ma non tanto quanto il doppio esponenziale.
La Figura 5 mostra la simulazione Monte Carlo con una curva normale pura per mostrare la variazione casuale naturale nello studio Monte Carlo.
Fig. 5: Visualizzazione in scala ingrandita del grafico di probabilità del valore p per la distribuzione normale standard.
Test di non-normalità
La prossima domanda è se possiamo rilevare che gli errori non sono normali. Iniziamo calcolando i residui da ciascuna analisi unidirezionale che abbiamo fatto prima. Usando la piattaforma di distribuzione, testiamo questi residui per la normalità. Quindi, per ogni distribuzione e dimensione del campione facciamo 10.000 test Shapiro-Wilks per la normalità. I grafici di Figura 6 mostrano la percentuale cumulativa dei risultati del test di normalità in funzione della probabilità di significatività nel test di Shapiro-Wilks.
Fig. 6: Grafici di potenza dei test di Shapiro-Wilkes per distribuzioni non normali.
Cosa ci dicono queste trame? In primo luogo, sappiamo che sia nel doppio caso esponenziale che nel caso normale contaminato da spostamento, la distribuzione dei residui non è normale. Vogliamo sapere quanto è probabile che il nostro test rilevi questa non anomalia. In altre parole, vogliamo sapere quanto è potente il nostro test.
Un test perfettamente potente avrebbe un grafico che assomigliava alla lettera greca gamma, Γ. Al contrario, un test senza potenza avrebbe un grafico che assomiglia a una linea diagonale.
Per i doppi residui esponenzialmente distribuiti, possiamo vedere che il grafico per il campione di 100 osservazioni sale rapidamente all'estrema sinistra, come desiderato. Sfortunatamente, la somiglianza del grafico a Γ si deteriora quando la dimensione del campione diminuisce. Quando la dimensione del campione è 10, la funzione sembra molto più simile alla linea diagonale (nessuna potenza di rilevamento).
Per i residui distribuiti normali contaminati da shift, la potenza di rilevazione del test Shapiro-Wilks è peggiore per ogni dimensione del campione.
Quando i residui sono veramente normali, come riportato nella Figura 7, vediamo una linea diagonale per ogni dimensione del campione. Questo è ciò che vogliamo. Non desideriamo rilevare non-non-esistenti non-normalità. Qui, il "potere" del test è la probabilità di un errore di tipo I. È impossibile che un test sia meno potente di questo.
Fig. 7: Diagramma di potenza del test di Shapiro-Wilkes per la distribuzione normale standard.
Ora espandiamo il p -valore area in modo che possiamo esaminare la potenza alfa = 0.05, come mostrato nelle Figure 8a e 8b. La curva inferiore (dimensione del campione n = 10) nella figura 8 attraversa la linea della griglia verticale x = 0,05 al valore 0,10. Ciò significa che se la probabilità di significatività di Shapiro-Wilks è 0.05, hai una probabilità del 10% di rilevare il fatto che i residui non sono normali. Diciamo che il potere del test di Shapiro-Wilks è del 10%. Questo non è impressionante.
Fig. 8a: diagrammi di potenza in scala estesa per distribuzione non normale a doppia esponenziale.
Fig. 8b: diagramma di potenza in scala estesa per distribuzione non normale contaminata da shift.
Un altro modo per dire questo è che la probabilità di un errore di tipo II è del 90%. Cioè, il 90% delle volte il test di Shapiro-Wilks (dato questo livello di distribuzione e significatività di errore) fallirà in modo errato nel rifiutare l'ipotesi di residui normali.
Al contrario, la curva superiore sopra (la dimensione del campione n = 100) attraversa la linea della griglia verticale x = 0,05 al valore 0,78. Quindi, la potenza di questo test è quasi dell'80%.
Le curve di potenza hanno una forma simile per i residui normali contaminati dal cambio, ma la potenza risultante è ancora minore. Ad esempio, la curva superiore (dimensione del campione n = 100) attraversa la linea 0,05 a circa 0,63 (la potenza è del 63%).
Quindi, vediamo che per un numero limitato di osservazioni non è possibile rilevare la non-anomalia. Per un gran numero di
le osservazioni non ti interessano se gli errori non sono normali perché il nostro tasso di errore di tipo I simulato ha eguagliato il tasso previsto per le grandi dimensioni del campione.
Questo studio tenderebbe a supportare non implementare un test per la normalità nelle piattaforme di fitting. Includere questa funzione non farebbe altro che incoraggiare le persone a preoccuparsi di qualcosa che non possono vedere o che non ha importanza.
L'inserimento di caratteristiche grafiche e diagnostiche per la distribuzione residua è una questione diversa. Invece di test, stai cercando anomalie grafiche, come valori anomali, o un pattern che potrebbe essere un indizio di qualche struttura nascosta della modalità. Valori anomali e schemi sono spesso il principale indizio di una scoperta importante.
Uno dei comandamenti di W. Edwards Deming era "Scaccia la paura", ma come statistici facciamo di solito il contrario, instillando paure irrazionali nei nostri clienti e studenti. Con questo studio, che puoi facilmente duplicare, spero che ora sei abbastanza coraggioso da combattere "leptokurtosifobia".
Non è bello avere una cosa in meno di cui preoccuparsi?
