Avere 6 termini in una regressione lineare con n = 8 è accettabile?Attualmente sto analizzando un esperimento fattoriale completo con 2 livelli e 3 fattori, non replicati, n = 8. Secondo le guide JMP, la metodologia corretta in questo caso sarebbe quella di adattare il modello utilizzando il fattoriale al grado 2, presupponendo che le interazioni di ordine superiore siano insignificanti, prima di utilizzare la selezione all'indietro per ridurre il modello ai suoi fattori significativi.
Guida JMP per l'analisi fattoriale completa 2x2x2: https://community.jmp.com/t5/Learning-Center/Analyzing-Full-Factorial-Experiments/ta-p/271995
La mia domanda è: supponiamo che i dati mostrino che, in effetti, tutti gli effetti principali e tutte le interazioni a due vie sono significativi. Ciò mi lascia con un modello con 6 termini, che descrive un set di dati con solo 8 osservazioni. A questo punto ho r^2 molto alto a causa dell'elevato numero di termini e p <0,05 per tutti e 6 i fattori. Da un punto di vista analitico, ciò è considerato eccessivo e non sarebbe considerato la migliore pratica?
In tal caso, il modo migliore per esaminare questi dati sarebbe quello di considerare solo gli effetti principali (ovvero, osservare l'effetto "medio" di ciascun parametro anziché immergersi nei dettagli)?
Grazie.
Ingegneria della qualità e dei processiRe: Avere 6 termini in una regressione lineare con n = 8 è accettabile?Grazie, @statman .Tutto questo è molto utile. Alla fine ho guardato i dati e mi sono reso conto che in un esperimento progettato, se avessi guardato graficamente i dati, sarei giunto alle stesse conclusioni che il modello mi sta dicendo. le interazioni e quali fattori sono significativi. In quanto tale, lo definisco buono.
Re: Avere 6 termini in una regressione lineare con n = 8 è accettabile?QW, ecco i miei pensieri:
1. Il motivo per cui trovi fattori significativi dopo aver rimosso i termini insignificanti è perché hai distorto l'MSE. Quando rimuovi il termine insignificante (che probabilmente ha SS più piccoli) prendi anche i DF con ciascun termine. Poiché l'MSE è l'SS/DF, riduci l'MSE (forse in modo irrealistico). Il valore F è MSfactor/MSerror. Pertanto, se si riduce irrealisticamente l’MSE, si gonfia il valore F e successivamente si abbassa il valore p. Il mio consiglio è di considerare SEMPRE quali fonti di variazione stai confrontando.
2. Le trame normali/metà normali (Daniel Plots) non sono necessariamente semplici da interpretare. Il PSE di Russel è un tentativo di aiutare a interpretare i grafici, ma il PSE non è sempre utile. Devi considerare quali effetti sono una funzione degli errori casuali (dovrebbe essere una linea relativamente retta) e quali effetti sono assegnabili. Non rientrano nella distribuzione casuale degli errori. Se il grafico Normale ha una forma a curva a S o è interrotto, ciò indica un effetto di rumore significativo (potrebbe esserci più di una distribuzione di errori casuali). Dalla tua immagine, sembra che il segno + in grigio nella parte superiore della trama normale sia significativo (suppongo che si tratti di Colonna2(x)). È davvero utile avere il diagramma di Pareto con la trama normale. Valutare sia i segnali statistici che il significato pratico.
3. Penso che tu abbia un buon inizio su come costruire le tue conoscenze (e forse un modello matematico). Utilizzo il metodo Pratico>Grafico>Quantitativo:
Innanzitutto, quanta variazione nei dati hai creato nell'esperimento? I dati hanno qualche valore pratico (dal punto di vista delle PMI)? Come si confrontano i dati con quanto previsto? Come si confronterebbe con le tue ipotesi utilizzate per determinare quali fattori includere nello studio? I grafici ANOG e MR sono eccellenti per riconoscere i modelli che correlano gli effetti dei fattori con le variabili di risposta. Non disattivare mai l'ingegneria.
In secondo luogo, rappresentare graficamente/tracciare i dati. Il generatore di grafici di JMP può essere molto utile. Ci sono dati insoliti (trattamenti)? È qui che risultano utili anche i grafici normali e i grafici di Pareto (sebbene la loro utilità sia maggiore con i modelli saturi).
Infine quantitativo (effetti, ANOVA, regressione, et. al.).
4. Per quanto riguarda il perfezionamento del modello con metodi quantitativi per i dati DOE: esistono una serie di statistiche/grafici che utilizziamo a tale scopo:
- R-quadrato-R-quadrato Delta corretto (questo è più importante di ciascuna statistica presa singolarmente)
- RMSE (più piccolo è meglio)
- valori p (fare attenzione ai valori distorti, considerare ciò che viene confrontato)
- Residui (per testare le ipotesi NID (media, varianza).
In DOE, non consiglio la regressione graduale (si tratta di un approccio di creazione di modelli additivi molto utile per il data mining o la regressione su dati osservativi/storici e ovviamente si ha un'ulteriore preoccupazione di collinearità). Raccomando un approccio sottrattivo (inizia a saturare e rimuovi i termini). E il tuo passaggio 3 sembra fantastico!
Re: Avere 6 termini in una regressione lineare con n = 8 è accettabile?Grazie, @statman . Non intendo continuare all'infinito e ti ringrazio per il tuo tempo. Tuttavia, ho provato a utilizzare un grafico normale per guidare la selezione dei parametri da un modello saturo. Tuttavia, una volta fatto ciò, ho notato che secondo sia il grafico normale che gli pseudo valori p di Lenth, nessuno dei miei parametri è significativo (lato sinistro del mio attaccamento). Ma una volta che ho iniziato a rimuovere i termini non significativi uno alla volta utilizzando quei valori p (pseudo o reali), sono arrivato a un modello che sembra descrivere bene la mia situazione: R ^ 2 aggiustato = 0,95, p = 0,0351 (lato destro del allegato). Sarebbe corretto concludere che per arrivare al modello migliore è necessaria una combinazione di valori p pseudo/reali e grafici normali?
Su questa linea di pensiero, saresti quindi d'accordo sul fatto che il modo migliore per selezionare i parametri coinvolge sia approcci quantitativi (valori p, adj.R ^ 2) che qualitativi (conoscenza del dominio, grafici normali, residui)? In altre parole, è una combinazione di:
1. Come appaiono i miei fattori con un grafico normale/Pareto?
2. L'aggiunta/rimozione di termini migliora i valori quantitativi (agg. R^2, valore p dell'intero modello)?
3. Cambia gli aspetti qualitativi dei dati (i residui rimangono ancora normalmente distribuiti dopo questi cambiamenti e i dati stessi hanno un senso realistico)?
In tal caso, il modello migliore verrebbe prima guidato osservando i grafici Normale/Pareto, perfezionato mediante la selezione graduale/del modello e verificato mediante ispezione visiva dei residui e dei dati reali.
Grazie!
Re: Avere 6 termini in una regressione lineare con n = 8 è accettabile?Benvenuto nella comunità. Ecco i miei pensieri:
Stai utilizzando l'effetto del terzo ordine (interazione a 3 fattori) per stimare l'MSE. Questo è probabilmente il motivo per cui tutti gli effetti sono significativi. Un modo migliore per esaminare i dati è utilizzare grafici normali e seminormali (a seconda di quanto sia arbitraria l'impostazione del livello) e grafici di Pareto. Analizza>Adatta modello>Satura il modello (tutti i 7 DF) utilizzando Macro>Fatriale completo Nell'output, seleziona il triangolo rosso accanto alla risposta e seleziona Screening effetto. Controlla i grafici di Pareto e normale. I grafici normali confronteranno gli effetti tra loro senza la distorsione MSE. Aggiungi un valore che rappresenti un significato pratico al diagramma di Pareto.
Una volta individuati gli effetti significativi, è possibile rimuovere i termini non significativi ed eseguire nuovamente il modello di adattamento per ottenere grafici residui.
Re: Avere 6 termini in una regressione lineare con n = 8 è accettabile?Grazie per la risposta, Sam.
Nel caso di un esperimento fattoriale 2^3 non replicato, è "teoricamente capace" di modellare tutti gli effetti principali e le interazioni a 2 fattori. Ma da questa discussione sembrerebbe che questa capacità non sia così affidabile nella pratica. Esistono "regole pratiche" per quanto riguarda quanti gradi di libertà si desidera per modellare gli effetti principali e le interazioni a 2 fattori? Ad esempio, sarebbe qualcosa come DoF = 2x il numero di termini del modello?
Re: Avere 6 termini in una regressione lineare con n = 8 è accettabile?@QW hai ragione nel dire che dovresti stare attento a non adattare eccessivamente un modello, specialmente con un set di dati di piccole dimensioni.Ma, per un esperimento progettato, può darsi che tutte le interazioni tra due fattori siano significative e/o importanti.Se la pianificazione e l'esecuzione dell'esperimento fossero accurate, allora potrebbe darsi che l'errore sperimentale sia piccolo rispetto alle dimensioni dell'effetto.
È meglio valutare i dati:
- Tracciare i dati:
- Un grafico di tutti i dati rispetto ai fattori (a volte chiamato grafico dei fattori o grafico degli effetti principali).Cerca valori anomali o altri dati insoliti.
- Chiediti se i dati hanno senso da un punto di vista scientifico/teorico
- Adatta il modello e traccia i residui (errori di adattamento per ciascuna riga).
- Residuo per Previsto
- Residuo per riga
- Residuo è ogni fattore
- Utilizza il Profiler per esplorare gli effetti previsti del modello
- Può darsi che un effetto significativo non sia realmente importante dal punto di vista pratico e, in tal caso, potresti rimuoverlo dal modello senza molta differenza nelle previsioni effettive.
Se hai ulteriori dubbi sull'adattamento eccessivo, puoi provare ad applicare anche l'adattamento del modello di regressione graduale ai dati,