Distribuzioni in GenRegHo chiesto a Chris delle distribuzioni in GenReg
Nella finestra di avvio del modello per GenReg è indicata la distribuzione della risposta. È corretto? O è la distribuzione del residuo del modello?
La risposta breve è che è la distribuzione della risposta e non una distribuzione degli errori che viene modellata in generale. Per il normale e un paio di altre distribuzioni come il Cauchy puoi pensare alla distribuzione dell'errore e alla distribuzione della risposta come la stessa, ma non sono le stesse al di fuori di alcuni casi speciali. Ad esempio, non si pensa mai a un "termine di errore" per le distribuzioni binomiale, Poisson, Lognormal, Gamma o Weibull, ma solo per le distribuzioni di risposta. Sono solo i casi in cui la distribuzione è simmetrica attorno alla modalità in cui si considera che si applichi un concetto di "y = modello medio + termine di errore". Quello che succede è che le persone imparano prima la modellazione dei minimi quadrati usando il concetto di modello + errore, ma poi per capire veramente la regressione logistica e di Poisson devi disimpararla e pensarci usando le distribuzioni di risposta. Sfortunatamente, al di fuori di alcuni contesti universitari, questo punto non è quasi mai chiarito. La buona notizia è che, per la maggior parte, questa sottile mancanza di comprensione non ostacola le persone che usano i modelli con successo nell'industria.
Confusione su questo totalmente comprensibile perché è molto diffusa. Anche la frase di apertura nel Pagina di Wikipedia sui modelli lineari generalizzati si sbaglia quando dicono:
"Nel statistica , il modello lineare generalizzato ( GLM ) è una generalizzazione flessibile dell'ordinario regressione lineare che consente variabili di risposta che hanno modelli di distribuzione degli errori diversi da a distribuzione normale “.
Cominciano a farlo bene nella seconda frase, tuttavia ...
Ciò che sta realmente accadendo nella regressione logistica, Poisson o gamma è che stiamo permettendo alla variabile di risposta di avere una distribuzione non normale. La relazione tra la risposta e le variabili predittive si verifica posizionando un modello lineare su una funzione della media opportunamente scelta, che è chiamata funzione di collegamento. Nel caso della regressione logistica (binomiale) questa è una funzione logistica (), in Poisson è il registro (), ecc. La combinazione di questo modello medio con una distribuzione non normale per la stima ci consente di fare un uso più efficiente dei dati perché tiene intrinsecamente conto di come la varianza cambia in funzione della media, come nel caso di tutte le distribuzioni non negative e ci consente di ottenere correttamente gli aspetti inferenziali come i test di ipotesi e gli intervalli di confidenza dell'analisi.
Ri: Distribuzioni in GenRegClay ha presentato proprio questo argomento a Copenaghen al JMP Discovery Summit Europe quest'anno. Molto ben fatto, molto illuminante!
Ri: Distribuzioni in GenReghttps://community.jmp.com/t5/Discovery-Summit-Europe-2019/Not-Quite-Normal-Choosing-the-Best-Response-Distribution-for/ta-p/110053
Ecco la presentazione di Clay.
Ri: Distribuzioni in GenRegGrazie per aver pubblicato questo, Pete! Ho trovato anche questo confuso. La normalità dell'assunzione dei residui mi ha sempre enfatizzato più della distribuzione della risposta.Ri: Distribuzioni in GenRegGrazie per averlo sollevato. È stato qualcosa che ho avuto problemi a farmi girare la testa abbastanza bene da spiegare cosa sta succedendo. Il tuo post mi ha dato la motivazione per trovare un modo per spiegare meglio GLM e GenReg.
Per chiarire, la distribuzione della risposta non è ciò che viene specificato nella finestra di dialogo di avvio, almeno non ciò che in genere penso come una distribuzione della risposta. È la distribuzione di osservazioni per valori di input fissi e parametri del modello (ad es. le osservazioni subordinate ai predittori) . Clay lo menziona nel suo discorso sulla diapositiva 18. Questo condizionamento dice "non guardare la distribuzione attraverso la gamma di input ma per un dato valore di input" (o vettore di valori quando abbiamo a che fare con più input). Secondo me, questo caratterizza la dispersione, ciò che definirei varianza dell'errore. Credo anche che gran parte della confusione sia dovuta al fatto che la parola 'risposta' non viene utilizzata solo per indicare, in generale, le osservazioni incondizionate osservate, ma anche per indicare, nel caso di GLM o GenReg, anche i valori condizionali osservati. Per evitare questa confusione, potrebbe essere più chiaro abbandonare l'aggettivo "risposta" quando si parla del successivo.
Allego una tabella di dati simulati per aiutare a illustrare cosa sta succedendo. Diciamo che siamo interessati a generare un esempio sulla previsione del numero di tentativi falliti richiesti per completare con successo un'attività relativa a quanti anni di esperienza ha un lavoratore. Il binomio negativo (NB) è la distribuzione standard per il conteggio n fallimenti fino al r th successo. La formula nella colonna Risposta media è ciò che condizioneremo. Per generare dispersione attorno alla risposta media, simuleremo variate NB casuali con parametri r = 1 (indicato come variabile di tabella) e p (che viene calcolato utilizzando i valori di r, risposta media e formula quadratica). Se guardi la formula per N Tries , vedrai che è una funzione di r (un valore fisso) e p (attraverso Risposta media ), un valore che cambia rispetto a Anni di esperienza , rendendolo basato su più NB. Puoi vederlo se simuli un gran numero di osservazioni per gli stessi anni di esperienza, quindi adatta un NB ai dati. Ottieni una stima della dispersione vicino a 1 (dispersione = 1 / r ) e una stima media di r * (1- p ) / p (la media prevista di un NB). Si noti che i valori in Risposta media e la media del NB sono due cose diverse. Il primo specifica la relazione lineare tra predittore (incondizionato) e risposta dopo l'applicazione della funzione di collegamento. La seconda è la media della dispersione per le osservazioni condizionate su valori di input fissi. Per un basso valore di anni di esperienza, la differenza tra Risposta media e la stima media NB del può essere relativamente grande. Per quanto riguarda i residui, sono solo la differenza tra i Risposta media e N Tries colonne. Dato quanto ho detto sopra riguardo a come N Tries viene creato, non sorprende che non segua una determinata distribuzione.
Ri: Distribuzioni in GenRegHai dimenticato di dire che lo script salvato stimerà da vicino i valori dei parametri da Mean Response usando N Tries, riportando tutto al punto di partenza.
