Teorema del limite centrale: una domanda ingenuaQuesta domanda non riguarda JMP in sé, ma rappresenta piuttosto una questione interpretativa di base. Capisco che, a causa del fenomeno che chiamiamo CLT, il campionamento di una popolazione tenderà sempre verso una distribuzione normale delle medie risultanti con la media complessiva e la DS che si avvicinano alla media e alla DS della popolazione, indipendentemente da come sono distribuiti i dati della popolazione (asimmetrico o normale), ma a condizione che venga prelevato un numero sufficiente di campioni ripetuti (≥30). Inoltre, all’aumentare della dimensione di ciascun campione, aumenta la precisione della media stimata e della DS. Capisco anche che non è necessario eseguire un campionamento multiplo poiché il CLT è adatto ai test parametrici. Quello che sto cercando di capire è se esiste un punto limite nella dimensione del campione, al di sopra del quale si può presumere categoricamente la normalità senza eseguire test. In secondo luogo, e forse non correlato, con l’appello della rivista The American Statistician ad abbandonare le soglie del livello di significatività (p<0,05) a favore della segnalazione dei valori p effettivi e ad astenersi dall’uso del termine “statisticamente significativo”, come si comporta si può quindi determinare il risultato in questioni come la conferma della distribuzione normale, ad esempio attraverso il test di Shapiro-Wilk? C'è una linea grigia anche lì?
Re: Teorema del limite centrale: una domanda ingenua@34Sud : Per quanto riguarda il mio post precedente in cui menzionavo la "mononumerosi", quando insegnavo metodi statistici a scienziati e ingegneri in un contesto di risoluzione di problemi industriali o di sviluppo di prodotti/processi ho circondato la mia menzione della malattia con qualcosa che ho chiamato "The Gap". "The Gap" riconosce che in ipotesi ci sono due tipi di rischio coinvolti in QUALSIASI processo decisionale. Penso che l'elenco degli ASA '...Not To...' sia fortemente allineato con "The Gap". I due tipi di rischio sono:
1. Rischio statistico; Qual è il rischio che possiamo quantificare e affrontare strutturalmente attraverso tecniche come la dimensione del campione, le ipotesi di varianza della popolazione, il rischio beta, il delta da rilevare ecc. I test di ipotesi culminano in valori p per guidare il processo decisionale e l'affermazione "...significanza statistica". '
2. Rischio di rappresentanza; Quali sono TUTTI gli altri effetti cumulativi delle caratteristiche del sistema che conferiscono il "rischio" associato al processo decisionale. Questa famiglia di rischi, nella mia esperienza, spesso SWAMPS il rischio statistico... ed è spesso impossibile da controllare o quantificare utilizzando metodi statistici. Il rischio di rappresentazione può essere affrontato solo attraverso competenze di settore razionali, ponderate e competenti. Ad esempio, ai tempi della mia attività nel settore, eseguivamo spesso esperimenti su apparecchiature pilota con l'obiettivo di determinare le specifiche di progettazione del prodotto. Ma c'era quasi SEMPRE un grosso problema... ciò che abbiamo imparato sulle apparecchiature pilota era molto spesso, semplicemente non scalabile su apparecchiature su scala di produzione. Quindi avevamo un "gap" nella comprensione che era impossibile superare con metodi che comportano SOLO rischi statistici.
Quindi il mio punto sulla "mononumerosi" è sempre stato: se tutto ciò che riporti è un valore p isolato e non incorpori il rischio di rappresentanza nel tuo processo decisionale... beh, con ogni probabilità hai gravemente sottorappresentato il rischio TOTALE di fare un errore decisionale.
Spero che aiuti?
Re: Teorema del limite centrale: una domanda ingenuaSei il benvenuto! Sono anche curioso di vedere come cambieranno le cose per quanto riguarda i valori p e le statistiche inferenziali. Sono anche ansioso di vedere come cambiano le cose nella nostra applicazione della statistica in generale con i continui progressi nella velocità di calcolo che possono rendere fattibile l'adattamento di modelli ancora più complicati a quantità di dati ancora maggiori. È davvero un momento davvero emozionante per noi, e sospetto che assisteremo ad alcuni progressi davvero entusiasmanti nel modo in cui possiamo estrarre significato dai dati.
Sono d'accordo con te al 100% su JMP; Non riesco a immaginare di dover imparare dai dati senza di essi!
Re: Teorema del limite centrale: una domanda ingenuaCaro Giuliano. Grazie mille per la tua spiegazione molto dettagliata. Ha fornito una visione del CLT molto più ampia di quanto sperassi ed è molto apprezzata. D’altro canto sarà interessante vedere fino a che punto si spingerà la richiesta di pensionamento della soglia del valore p. Forse la stragrande maggioranza degli scienziati fraintenderà ancora una volta come applicare quel concetto qualora dovesse effettivamente essere adottato poiché, penso che per ora, le linee guida si concentrino non su ciò che dovremmo fare ma piuttosto su ciò che non dovremmo fare. Il mio background non riguarda la statistica, anzi, ai miei tempi, difficilmente veniva insegnata all'università e ho ampiamente acquisito una comprensione attraverso la mia esperienza nel corso degli anni, poiché JMP è stato in gran parte determinante nel farmi diventare la persona di riferimento per qualsiasi query statistiche nella mia area di ricerca. Personalmente, non riesco a immaginare di analizzare i dati con nessun altro pacchetto software. Sicuramente mi è piaciuto l'umorismo degli altri post e li terrò nella mia tasca posteriore per i cocktail party ;->Re: Teorema del limite centrale: una domanda ingenuaCIAO @34Sud ,
Non direi che questa sia una "domanda ingenua" di sorta! In realtà approfondisce abbastanza le basi teoriche e le ipotesi dei nostri consueti test parametrici. Permettimi di analizzare ciascuno dei tuoi punti per fare alcuni commenti e poi, si spera, concludere con alcuni suggerimenti pratici:
- Cosa afferma il limite centrale: come hai affermato, il CLT afferma che la distribuzione campionaria di una statistica (assumiamo la media in futuro) si avvicina a una distribuzione normale man mano che la dimensione del campione (n) si avvicina all'infinito. Il TLC non afferma (non ha bisogno di affermare) il imparzialità della media (che la distribuzione campionaria è centrata sul parametro della popolazione) e il consistenza asintotica della media (all’aumentare della dimensione del campione diminuisce la varianza della distribuzione campionaria/diminuisce l’errore atteso tra stima e parametro). Ciò è vero per quanto riguarda la media come stimatore indipendentemente dal fatto che il CLT sia vero o meno; il CLT riguarda la forma distributiva e ciò che afferma è abbastanza magico senza aggiungere imparzialità e coerenza.
- Perché il CLT è importante: nei consueti test di ipotesi parametrica formiamo una statistica di test basata sui dati del campione e quindi generiamo un valore p per valutare quanto improbabile che la statistica di test del nostro campione si sarebbe verificata solo per caso. Il nostro metodo per sapere cosa accadrebbe "solo per caso" è informato dal CLT perché presumiamo che la distribuzione campionaria della nostra statistica (la media in questo caso) sia normalmente distribuita. Sappiamo che la distribuzione campionaria della media sarà distribuita normalmente in due casi: se la popolazione è normale (quindi una distribuzione campionaria formata da qualsiasi dimensione n sarà distribuita normalmente), o la popolazione non è normale ma la dimensione del nostro campione è ampia abbastanza (cosa è abbastanza grande lo affronteremo presto). Quindi, poiché ci fidiamo di ciò che afferma il CLT, possiamo, senza conoscere effettivamente la forma distributiva della popolazione, calcolare i valori p basandoci sul presupposto che la distribuzione campionaria sia normale. E poiché sappiamo che la nostra statistica è imparziale, con media pari a 0, e sappiamo come calcolare la varianza (in parte grazie alla legge sulla somma della varianza), possiamo individuare il nostro campione nella distribuzione campionaria della statistica assumendo che l'ipotesi nulla sia vera, e trovare la proporzione di campioni con statistiche più estreme della nostra statistica (il solito valore p). Se non avessimo il CLT, o non ci credessimo, dovremmo conoscere in anticipo la forma distributiva della popolazione (in modo da poter conoscere la forma della distribuzione campionaria) per conoscere il p -value, o sarebbe necessario utilizzare statistiche di simulazione per generare la nostra stima della distribuzione campionaria e creare un valore p empirico.
- Qual è un campione "abbastanza grande" affinché il CLT possa fare la sua magia: questa è una domanda difficile a cui rispondere in astratto poiché dipende interamente da quanto non normale sia la popolazione. Se si verifica uno scostamento lieve dalla normalità nella popolazione, o uno scostamento ma comunque una buona simmetria, il CLT riporta la distribuzione campionaria verso la normalità piuttosto rapidamente. La conseguenza di ciò è che il valore p generato in base al presupposto normale è relativamente vicino al valore p reale che non puoi conoscere. Ci preoccupiamo di questo perché a) non vogliamo creare falsi allarmi più della nostra proporzione alfa dichiarata per il momento e b) non vogliamo che il nostro potere sia inferiore a quanto supponiamo. In alcuni casi, la popolazione è modellata in modo tale che i nostri test diventano iper-conservatori (valori p ottenuti > valori p reali) o il contrario (valori p ottenuti < valori p reali). In ogni caso, non lo vogliamo. Allora, qual è un campione sufficientemente ampio? Posso dirti che non è 35: non c'è niente di magico in quel numero, era solo un comodo limite da inserire nei libri di testo universitari. Se la tua popolazione è gravemente curtotica (coda pesante) o appartiene a una classe di forme su cui il CLT non funziona (distribuzione di Cauchy, idiota), avrai bisogno di campioni molto, molto grandi (n> 1000) prima di ottenere I valori p sono una distanza accettabile dai valori p reali.
- Test di ipotesi per verificare se ci sono prove che la popolazione non sia normale: penso che ci sia un problema fondamentale con questi test (non che siano imprecisi, ma che il loro profilo di potere è l'opposto di ciò di cui abbiamo bisogno). UN è tuo UN la dimensione semplice cresce, la norma UN lità della popolazione m UN cose di meno UN e meno per le tue deduzioni (“m UN cose di meno” nel senso th UN t il tuo tipo I UN nd errore di II tipo r UN tes UN sei di meno UN influenzato dalla popolazione UN distribuzione della zione la l UN raccogli i tuoi UN semplice è perché i valori p ottenuti si avvicinano maggiormente al vero valore p sconosciuto). C considerare il fatto th UN test t per non norma UN lità (Kolmogorov-Smirnov, Sh UN piro-Wilk, ecc ) UN Rif UN anche test di ipotesi... UN e rifiutare il nulla per uno è t UN nt UN montare per rilevare UN dip UN rture dalla norma UN lità nella popolazione UN zione. Il potere di questi test beh UN anni s UN io w UN sì UN S UN tutti i test di ipotesi… l UN rger s UN mples, potere superiore... che io UN ns th UN t con UN molto l UN rge s UN mple (il tipo in cui dep UN ture dalla norma della popolazione UN lità c UN utilizzare meno problemi ) UN Il test KS o SW sarà h UN Abbiamo una potenza molto elevata per rilevare anche le più piccole profondità UN ture dalla norma UN lità nella popolazione UN zione. Quindi… è vero UN assurdità, con UN molto l UN rge s UN semplice, noi c UN n rilevare il più piccolo dep UN rture dalla norma UN lità, un th UN non sarebbe c UN utilizzo UN problema anche con UN sm UN tutto così UN semplice, UN nd cert UN semplicemente non è c UN usandoci UN nessun problema con th UN tl UN rge di come UN semplice.
- Segnalazione di valori p esatti: il pezzo di American Statistician solleva punti eccellenti e la segnalazione di valori p esatti ha grandi meriti, ma credo che ci illuda anche in un falso senso di sicurezza sul fatto che significhino davvero ciò che affermano. Non intendo in termini di idee sbagliate sui valori p (di cui ce ne sono molti), ma che poiché sono una cifra "esatta", sono noti senza errori, cosa che non è. Sono una stima campionaria della posizione del nostro campione in una distribuzione campionaria di quella statistica che non possiamo conoscere con certezza. Riportare un numero con 5 cifre decimali incoraggia a credere nella loro precisione e credo sia ingiustificato.
Allora cosa deve fare un analista? Test di simulazione/permutazione per uno. Non abbiamo bisogno di fidarci delle nostre ipotesi e dei valori p ottenuti con esse. I test di simulazione e permutazione, in cui ricampioniamo i nostri dati e generiamo una distribuzione campionaria empirica, ci consentono di allentare alcuni presupposti come la presunzione di una distribuzione campionaria normalmente distribuita. Non rappresentano una soluzione per tutti i problemi (dobbiamo ancora aderire ai presupposti di scambiabilità/indipendenza/uguale varianza, ecc.) ma forse rappresentano un passo avanti.
Spero che qualcosa di questo sia stato utile! Inoltre, mi dispiace di non aver colto la tua domanda prima, mi piace sempre avere la possibilità di parlare del Teorema del Limite Centrale, è davvero magico.
@giuliano
Re: Teorema del limite centrale: una domanda ingenuaUn po' di drammaticità nei forum di discussione di JMP, che bella aggiunta alla mia giornata lavorativa lol
Re: Teorema del limite centrale: una domanda ingenuaAnche se mi piace un po' di spirito, ho pensato che sarebbe stato mitigato almeno da un certo grado di seria contemplazione. La questione delle soglie di significatività è seria e ritenevo che i protagonisti di JMP/SAS avrebbero fornito un minimo di guida. Suggerirei di leggere l’editoriale in The American Statistician Vol 73;S1 (2019).
L’essenza di quell’articolo raccomanda:
- Non farlo basare le proprie conclusioni esclusivamente sul fatto che un'associazione o un effetto sia risultato "statisticamente significativo" (vale a dire, il valore p ha superato una soglia arbitraria come p < 0,05).
- Non farlo credere che un'associazione o un effetto esista solo perché "statisticamente significativo".
- Non farlo credere che un'associazione o un effetto sia assente solo perché non era "statisticamente significativo".
- Non farlo credi che il tuo valore p dia la probabilità che il solo caso abbia prodotto l'associazione o l'effetto osservato o la probabilità che la tua ipotesi di test sia vera.
- Per non concludere nulla sull’importanza scientifica o pratica sulla base della significatività statistica (o della sua mancanza).
La rivista conferma ulteriormente tale affermazione "essere inviato al redattore capo di ogni rivista di scienze naturali, comportamentali e sociali per l'inoltro ai rispettivi comitati editoriali e alle scuderie di revisori di manoscritti."
Non sono in disaccordo con queste raccomandazioni ma, come ho sottolineato, queste vanno oltre l'interpretazione dei livelli di significatività nei test statistici inferenziali finali per dettare quali metodi utilizzare per arrivare a quella risposta.
Re: Teorema del limite centrale: una domanda ingenuaPer aggiungere qualcosa al mio ex collega @Jeff _Perkinson, potresti voler aggiungere qualche commento su quella temuta malattia della "mononumerosi". Il problema a cui soccombono gli analisti dei dati quando si concentrano su una singola statistica (il valore p è un ottimo esempio) per prendere una decisione o guidare un'azione.Re: Teorema del limite centrale: una domanda ingenuaBene, grazie, lo inserirò nella mia presentazione sull'argomento: ci sarà sicuramente una risata!Re: Teorema del limite centrale: una domanda ingenuaPotrebbe non essere applicabile, ma assicurati di non soffrirne leptocurtosifobia : la paura irrazionale della non normalità.
Re: Teorema del limite centrale: una domanda ingenuaGiusto per chiarire, so che è possibile eseguire analisi della dimensione del campione in base a varianza, potenza, ecc. per evitare errori di tipo I, ma esiste una dimensione del campione in cui i test non parametrici vengono evitati per impostazione predefinita?
