Come determinare l'effetto massimo per le regressioni logistiche ordinaliCiao,
Sto testando gli effetti di quattro variabili su un indice a 6 punti utilizzando regressioni logistiche ordinali separate. Tre delle mie variabili mostrano risultati significativi, ma ho difficoltà a valutare quale di queste ha l'effetto maggiore sulla probabilità di raggiungere posizioni più alte nel mio indice.
Sto postando i miei riepiloghi degli effetti come riferimento. La mia variabile (LOG MBL Balances) mostra il valore logaritmico più alto e lo pseudo r quadrato più alto, ma una stima del coefficiente leggermente inferiore rispetto alle altre due variabili. Le mie altre due variabili (risorse LOG e appartenenza LOG) mostrano risultati molto simili ed entrambe hanno un valore assoluto più elevato per la probabilità media di log rispetto ai saldi MBL.
Sono in grado di affermare che, poiché LOG MBL mostra un adattamento migliore, sarebbe la variabile con l'effetto maggiore sul mio DV nonostante abbia un coefficiente inferiore e un valore assoluto inferiore sulla probabilità logaritmica media? O è meglio dire che tutte e tre le variabili mostrano effetti simili e modesti sul mio DV?
PS Ho eseguito le mie regressioni sia in JMP 14 che in Eviews 11. Qualcuno può dirmi perché i coefficienti sono riportati come negativi in JMP mentre in Eviews sono riportati come positivi?
Grazie
Re: Come determinare l'effetto massimo per le regressioni logistiche ordinaliLa PCA è uno strumento molto utile nell'analisi multivariata di dati reali. Le correlazioni sono difficili da evitare. Si spera che il solo PCA fornisca alcune indicazioni, come ad esempio le risorse e l’appartenenza, possibilmente l’espressione di qualche variabile latente.
Presumo che con "a sebbene il fattore 3 fornisca il valore esplicativo più basso (al ~12%) " intendi il 12% della varianza nel PCA. Hai ragione riguardo al fattore 3. Il fatto che il fattore 1 rappresenti la variazione maggiore nelle variabili originali non implica in alcun modo che sia il predittore più importante. L'utilizzo di tutti e tre i fattori nel modello fornisce un'analisi efficace per separare e testare gli effetti.
Re: Come determinare l'effetto massimo per le regressioni logistiche ordinaliNon intendevo mettere in dubbio la validità dell'analisi. La validità dipende dal disegno dello studio e dalla selezione delle variabili.Stavo solo mettendo in guardia contro la pratica a volte definita "phishing con valore p". Non sto suggerendo che tu stia facendo phishing. Penso che tu abbia dimostrato un buon studio. Voglio solo chiarire la mia preoccupazione.
Lasciatemi illustrare con un esempio estremo. Uno studio fittizio e aggressivo raccoglie centinaia di variabili in base alla disponibilità e le mette alla prova confrontandole con una risposta. Si ritiene che molte variabili (numero elevato, non proporzione) abbiano un effetto significativo. Tutto ciò che questo risultato significa è che è stato scoperto un modello di correlazione o associazione. Ci sono molte domande a cui non è possibile rispondere con i dati utilizzati per ottenere quel risultato.
- Questo risultato è semplicemente una questione di errore di tipo I dovuto al gran numero di test di ipotesi?
- Le variabili significative sono ragionevoli sulla base della teoria attuale?
- I risultati sono un altro esempio di correlazioni spurie ?
È necessario raccogliere nuovi dati per verificare e rafforzare la fiducia nei risultati iniziali. Studi e risultati validi sono riproducibili. Se saltiamo la verifica e ci affrettiamo a segnalarlo, probabilmente si tratta di phishing.
Quindi uno studio valido è un’esplorazione pianificata, a partire da una teoria, che considera in anticipo la raccolta dei dati e i metodi appropriati. Gli esperimenti progettati sono studi di grande successo, anche se non sempre possibili. Uno studio valido deve cercare di ottenere prove empiriche a favore e contro la teoria. Speriamo che non ci siano prove contro la nostra teoria, ma siamo comunque obbligati a cercarle. Non vogliamo che qualcun altro lo trovi per noi.
Re: Come determinare l'effetto massimo per le regressioni logistiche ordinaliHo condotto l'analisi fattoriale sulla PCA e ho eseguito un modello logistico ordinale utilizzando tre fattori. Ho riscontrato risultati molto interessanti.
Sembra che le attività e l'appartenenza siano accoppiate poiché i valori di caricamento più alti sul fattore 1 (con una variazione del 47% spiegata), i saldi medi sono i più alti sul fattore 2 (con circa il 25% spiegato) e i portafogli di prestito sono i più alti sul fattore 3 .
Sebbene il fattore 3 fornisca il valore esplicativo più basso (~12%), sembra avere il maggiore significato pratico nel modello. Avrei ragione nell'interpretare il fattore 3 come se avesse il maggiore effetto pratico sul mio DV indipendentemente dal fatto che spieghi solo il 12% della variazione?
Re: Come determinare l'effetto massimo per le regressioni logistiche ordinaliSì, era particolarmente negativo quando la dimensione delle risorse e le variabili di appartenenza attuali erano insieme. Ciò comprometterebbe il significato del modello e cambierebbe il segno di alcuni coefficienti. Avrei potuto ottenere un modello praticabile se testassi solo tre variabili (tralasciando le risorse o l'appartenenza), ma ho ritenuto che testarle separatamente sarebbe stato più appropriato per i miei obiettivi di ricerca in generale.
Ritieni che la serie di modelli che ho postato siano validamente interpretabili così come sono? (almeno rispetto ai livelli 1-3)
Grazie per il suggerimento riguardo al PCA, lo esaminerò. Avresti per caso qualche collegamento rapido o tutorial a portata di mano per eseguire ciò che hai menzionato, ossia ruotare i componenti più grandi da PCA per utilizzarli come IV surrogato tramite JMP? Nessun problema in caso contrario, è stato molto utile!
Re: Come determinare l'effetto massimo per le regressioni logistiche ordinaliGrazie per aver condiviso questi dettagli. Questa informazione è utile.
Esistono alcune correlazioni forti ma non così forti da considerarle ridondanti. Quindi metterli insieme nello stesso modello ha causato molti problemi? Sono collineari come hai detto, ma ciò dovrebbe solo gonfiare la varianza. Il problema era significativo? Potresti provare un PCA e quindi ruotare i componenti più grandi per salvarli come fattori. Potrebbero essere interpretabili quando si esamina il caricamento e potrebbero fungere da IV surrogato evitando il problema della collinearità.
Re: Come determinare l'effetto massimo per le regressioni logistiche ordinaliSto testando l’effetto di fattori legati alla scala sull’adozione di servizi alle imprese non creditizi tra le cooperative di credito. Ciascuno dei miei IV rappresenta alcuni aspetti della scala istituzionale (dimensione delle attività, adesione totale, portafoglio prestiti, saldo medio dei membri). I livelli qui vengono misurati.
I livelli del mio DV sono costruiti come un indice utilizzando le informazioni sulla fornitura di servizi aziendali da ciascuna cooperativa di credito; livelli più elevati riflettono tipologie più avanzate di servizi alle imprese.
Ecco la mia matrice multivariata
Re: Come determinare l'effetto massimo per le regressioni logistiche ordinaliCome sono stati selezionati gli IV per lo studio? Come sono stati determinati i livelli? Sono stati impostati (ad esempio, livelli di fattore) o misurati (ad esempio, covariate)?
Qual è la correlazione nell'IV? Puoi mostrare la piattaforma Multivariata con la matrice delle correlazioni e i grafici a dispersione?
Il problema è che se le correlazioni sono elevate, questo set di dati non può valutare gli effetti dell’IV in modo indipendente. I dati non possono essere utilizzati per dire quale dei due abbia avuto l’effetto.
Sì, la pendenza negativa significa che la probabilità si sposta dal livello più basso a quello più alto all'aumentare del livello del predittore.
Re: Come determinare l'effetto massimo per le regressioni logistiche ordinaliIl mio obiettivo di ricerca è valutare i rispettivi effetti di ciascuna di queste variabili. Se i risultati sono ridondanti, esiste un altro modo per farlo, magari un altro tipo di modello? Oppure sono costretto a sceglierne solo uno?
Con una curva logistica inclinata negativamente posso dire che l’entità dell’effetto è nella direzione desiderata (che gli aumenti del mio IV sono associati ad una maggiore probabilità di livelli più alti?).
Re: Come determinare l'effetto massimo per le regressioni logistiche ordinaliNon possiamo utilizzare criteri informativi, come l’AICc, per valutare la significatività. Sono più una dichiarazione probabilistica. Minore è l'AICc, maggiore è la probabilità dei parametri, dati i dati fissi, con una penalità per la complessità del modello. La penalità è la stessa per tutti i modelli candidati, quindi la differenza è interamente rappresentata dalla probabilità.
Se sono altamente correlati, allora sono ridondanti. (Nessuna informazione indipendente) Puoi sceglierne uno dalla teoria o conoscenza precedente?
I livelli predittivi sono impostati o misurati?
Le curve logistiche nel grafico mostrano una diminuzione della probabilità di ciascuno dei livelli ordinali all'aumentare dei livelli del predittore. La pendenza è negativa. La regressione logistica ordinale utilizza logit cumulativi. Le probabilità non riguardano un livello rispetto a un altro ma somme di logit rispetto ad altre somme. Potresti utilizzare il logit generalizzato in un'analisi di regressione logistica nominale se quella forma di probabilità è più significativa o utile.
Potresti provare ad aggiungere il quadrato dell'IV al modello e confrontare AICc per decidere se c'è un miglioramento. La risposta (logit) potrebbe non essere lineare.
Re: Come determinare l'effetto massimo per le regressioni logistiche ordinaliGrazie per la risposta,
Capisco che ciascuna delle mie tre variabili sia statisticamente significativa e che sembri avere un effetto pratico modesto sul mio DV. L’AICc in questo caso si riferisce principalmente alla rilevanza pratica? L’AICc più ampia avrà un significato pratico più ampio?
Sì, le variabili sembrano effettivamente essere associate tra loro. Li sto testando individualmente perché ciascuno mostra un'elevata multicollinearità tra loro, quindi quando li provo insieme i miei risultati sono molto distorti.
Potresti spiegare meglio cosa significa che la curva logistica è inclinata verso il basso? È come dire che i cambiamenti di unità nel mio IV diminuiscono le probabilità di finire al livello 1 (e quindi maggiori probabilità di finire a livelli più alti)?
Re: Come determinare l'effetto massimo per le regressioni logistiche ordinaliPotrebbe esserci confusione tra significato pratico (dimensione dell’effetto) e significato statistico (valore p piccolo). Utilizzerei AICc per selezionare un modello e quindi utilizzare le informazioni sul modello selezionato per valutare il predittore.
Si corre anche un rischio maggiore di un errore di tipo I più elevato testando i predittori individualmente. In questo caso ci sono solo pochi predittori, ma in un’altra situazione potrebbero essercene molti.
Hai provato a regredire un modello con tutti i predittori anziché con i singoli modelli?
Questi predittori sono associati tra loro? È interessante che producano risultati di regressione così simili.
Hai un livello 3 scarso e un livello 4 molto scarso, quindi fai attenzione all'interpretazione.
Non ho familiarità con Eviews e non lo supporto, ma forse un altro membro della comunità può rispondere a questa domanda. Puoi vedere dai grafici a mosaico che la curva logistica è inclinata verso il basso, da qui il coefficiente negativo per il predittore.
