Modello significativo con LoF significativoCari JMP,
Penso di avere una sfida! 
Si tratta di un modello significativo con risultati LoF significativi. Ho provato tutto ciò che è suggerito nella community di JMP, aggiungendo interazioni, termini di ordine superiore ed escludendo alcuni risultati (potenziali valori anomali) per correggere LoF. Il fatto è che X1, X2 e X3 sono altamente correlati. Preferirei mantenere questi 3 fattori alla fine del modello per raggiungere uno spazio di design in cui lavorare, ma questo non è un dovere.
Quindi ho finito con 2 modelli (regressione lineare multipla):
- il primo è più semplice, nessuna interazione - è stato mantenuto solo X3, i VIF sono bassi, ma LoF è significativo per Y1, Y2 e Y3
- il secondo con interazioni - tutte le X1, X2 e X3 sono state mantenute nelle equazioni, con interazioni significative. Y1 ha LoF non significativo, ma non lo stesso per Y2 e Y3... Inoltre, i VIF aumentano molto in Y3 e il profiler non è brillante ...
Nota: le corse non provengono da un DoE (era empirico).
Quindi, in generale, i modelli (minimi quadrati standard) mi sembrano abbastanza buoni. Ma sembra che io debba raggiungere un compromesso tra LoF + normalità dei residui O VIF bassi + semplicità del modello.
Mi sto perdendo qualcosa qui? Posso migliorare i miei modelli e correggere i risultati LoF?
Grazie in anticipo per il tuo consiglio,
Marta
Re: Modello significativo con LoF significativoDati interessanti
Sembra che tu abbia alcune osservazioni molto influenti insieme ad alta collinearità. Entrambi questi problemi sono problemi di regressione multipla.
Non hai molte informazioni indipendenti.
La collinearità rende molto difficile determinare il significato.
La leva molto bassa significa che cambiamenti molto piccoli nei valori dei dati possono produrre cambiamenti molto grandi nelle statistiche (ad esempio, stime dei parametri e t-ratios).
Re: Modello significativo con LoF significativoAlcuni dei problemi possono essere evitati non usando un predittore lineare e una regressione. Ecco il risultato di un semplice modello di rete neurale (5 nodi nascosti in uno strato nascosto che utilizzano tutti la funzione di attivazione tangente iperbolica):
Le previsioni del modello sembrano abbastanza precise:
La modella sembra ben rappresentata:
Re: Modello significativo con LoF significativoCiao @markbailey ! Grazie per il tuo prezioso suggerimento! In realtà, non ho mai considerato una rete neurale. Credo che tu abbia ragione, sembra la soluzione perfetta per questo caso.
Ad ogni modo, quando provo a riprodurre nel mio JMP, ottengo sempre una pendenza positiva per X2 e non negativa come la tua (e so che il corretto dovrebbe essere negativo!). Qualche suggerimento per questo?
Re: Modello significativo con LoF significativoNon posso essere sicuro di cosa potrebbe causare questa inversione di pendenza, ma ho alcune idee. Ci sono tre cose da considerare. Prima di tutto, l'assegnazione delle osservazioni agli insiemi di addestramento e validazione è casuale, in modo che il processo possa far variare i risultati, sebbene le differenze siano generalmente piccole se il set di dati è molto ampio.
In secondo luogo, il tuo set di dati non è molto grande! Si può immaginare se 1/3 dei dati sia tenuto in modo casuale per la convalida ogni volta, quindi i risultati non possono essere gli stessi. Inoltre, alcune delle tue variabili avevano solo due o tre livelli. Alcuni livelli si sono verificati solo poche volte. Questo fatto complicherà ulteriormente le differenze tra le esecuzioni. Potresti provare K-fold Cross-validation invece di Holdout per il metodo Validation. Puoi utilizzare da 5 a 10 volte per ottenere buoni risultati con questo metodo di convalida.
Terzo, l'impatto della collinearità non può essere completamente evitato. X2 è altamente correlato con X1 e X3. Dato il metodo di convalida del mantenimento, il sottoinsieme casuale di 2/3 delle righe potrebbe cambiare la pendenza.
La costruzione di un modello è un lavoro serio e attento. La mia precedente risposta era un suggerimento, non una consultazione completa a pagamento. (Questo non è lo scopo delle discussioni qui!) È necessario conoscere qualsiasi tecnica di modellazione prima di fidarsi e condividere i risultati. Ma spero che questa discussione sia sufficiente per iniziare.
Re: Modello significativo con LoF significativoAnzi, è stato utile. Non ero mai molto appassionato di reti neurali, perché è difficile capire veramente cosa c'è dietro, ma ora sono curioso. Devo studiare di più e approfondire questo. Ho anche nuovi risultati in arrivo, posso provare a prevederli, confrontare e verificare se funziona davvero. Passa un bel weekend!
