Regressione logistica e riduzione del modello: discrepanza tra i risultati dell'adattamento del modellosto usando il Regressione generalizzata piattaforma con Distribuzione binomiale per adattare un modello logistico, e poi farlo selezione del modello (ad esempio, Best Subset - AIC) per ridurre la complessità del modello.
Una volta ridotto il modello, I rilancialo con Solo termini attivi , utilizzando la stessa piattaforma esatta -- Regressione generalizzata con distribuzione binomiale, in modo da ottenere esattamente lo stesso modello adattato di quello ridotto, con gli stessi coefficienti e previsioni.
Tuttavia, quando confronto i due profiler, ottengo valori previsti leggermente diversi e intervalli di previsione estremamente diversi .
Puoi fornire una spiegazione del motivo per cui questo sta accadendo?
Inoltre, quale dei due adattamenti dovrei fidarmi?
Grazie!
Oggetto: Regressione logistica e riduzione del modello - Discrepanza tra i risultati dell'adattamento del modelloCiao Micòl,
La ragione di questa discrepanza è che i due modelli utilizzano diversi stimatori per la covarianza delle stime dei parametri (che influisce sugli errori standard). Ogni volta che eseguiamo la selezione delle variabili (Lasso, FS, ...), utilizza una matrice sandwich, come descritto in Zou 2006 e Huber e Ronchetti 2009:
Zou, H. (2006). "Il lazo adattivo e le sue proprietà Oracle". Giornale dell'American Statistical Association 101: 1418–1429.
Huber, PJ, e Ronchetti, EM (2009). Statistiche robuste. 2a ed. John Wiley & Figli.
Ogni volta che eseguiamo un MLE come nell'adattamento logistico/binomiale, utilizza la solita matrice di informazioni di Fisher. Per un modello ridotto che sei arrivato a utilizzare la regressione graduale e quindi il riadattamento, riteniamo che sia corretto utilizzare i risultati secondari (con intervalli di confidenza più piccoli).
Spero che aiuti!
Grazie,
Adam Morris
Supporto tecnico JMP
