Come ottenere un modello corretto e predittivoCiao, ho bisogno di nuovo del tuo aiuto.
Recentemente ho fatto un'analisi e i contenuti sono semplici.
Sono dati con 376 righe, 223 colonne e un singolo valore Y.
Per ottenere il modello di previsione del valore Y, ho usato "Fit - Models" (Fit Least squares - Least squares standard / Effect Screening) e ho prima ottenuto R-Square 0,95, utilizzando la riga da 1 a 263.
Ho aggiunto la formula Predict alla "Nuova colonna" e ho confrontato le stime dai restanti 264 a 376 con le misurazioni effettive.
Di conseguenza, puoi vedere che c'è un errore maggiore con i nuovi dati che sotto.
Mi chiedo quale lavoro aggiuntivo posso fare o sfruttare altre funzionalità.
Allego i miei dati, grazie.
(Cordiali saluti, X_1 è solo la numerazione per l'indicizzazione)
Ri: Come ottenere un modello corretto e predittivo@statman , @dale
Grazie per il tuo feedback.
Prima di tutto, come hai detto, è una serie temporale.
Come hai detto, ho controllato la correlazione e ridotto l'elenco delle variabili a 40, e penso di aver ottenuto dei risultati soddisfacenti.
Poiché il "valore Y" non è stato misurato in tempo reale, la quantità di dati non è tanto quanto pensavo, ma penso di essere stato in grado di determinare la causa applicando Parallel Plot, ecc.Ri: Come ottenere un modello corretto e predittivoDa dove cominciare per quanto riguarda la domanda su come ottenere il modello predittivo "corretto", ci sono due scuole di pensiero.
1. sviluppare modelli matematici basati esclusivamente sull'analisi dei dati (ad esempio, reti neurali, PCA)
2. comprendere, con basi scientifiche, le relazioni tra variabili di input e variabili di output (quello che Deming chiamava il problema analitico)
Essendo deterministico, il secondo approccio è quello che preferisco. Questo inizia con dichiarazioni di ipotesi sulle relazioni tra input e output. Richiede una comprensione dell'inferenza (su quali condizioni vuoi che il modello sia efficace). Quindi l'apposito "piano di campionamento" per acquisire i dati (campionamento diretto o sperimentazione). Certamente si possono esaminare i dati storici, ma solo per aiutare a sviluppare ipotesi che poi devono essere verificate.
Il tuo set di dati manca di contesto (come suggerisce Dale). Non c'è "significato" nelle colonne, solo colonne di numeri. Non sono sicuro del motivo per cui Dale pensa che si tratti di una serie temporale poiché non vedo orari o date nei dati? Pertanto, la creazione del modello predittivo corretto è lasciata all'opzione 1 di cui sopra.Se includi tutte le colonne (224) ed esegui Stima modello, ottieni Rsquare Adj di .59 e Rsquare di .83. Questi valori sono troppo diversi, il che suggerisce che hai specificato troppo il modello (i termini non importanti sono nel modello). Se guardi i VIF (tabella delle stime dei parametri) ce ne sono molti sopra la soglia di> 5 (o> 10) che è una misura della multicollinearità.Quindi il modello deve essere ridotto. Tuttavia non c'è intelligenza su come farlo in quanto non c'è contesto.
Ri: Come ottenere un modello corretto e predittivoDevi fornire più contesto su queste variabili, ovvero molte potenziali variabili esplicative e sembrano essere altamente correlate tra loro (il che mi fa pensare che potresti voler provare qualcosa come un'analisi dei componenti di principio per ridurre le caratteristiche) .Inoltre, sembra che si tratti di dati di serie temporali, nel qual caso dovresti analizzarli come tali.Infine, le prime 263 righe si comportano sicuramente in modo diverso rispetto a ciò che viene dopo, quindi non importa quanto sia buono il tuo modello su quelle righe, è improbabile che quel modello preveda la tendenza che appare improvvisamente dopo quella riga.Vorrei concentrarmi sul fatto che qualcuno dei predittori possa rilevare quel cambiamento nel modello.Non è probabile che tu possa trovarlo modellando solo le 263 righe che non mostrano quella tendenza.Quindi, hai in qualche modo suddiviso i tuoi dati in set di dati di addestramento e test, ma il tuo set di addestramento sembra molto diverso dai dati del test: non è un buon modo per produrre un modello per i dati del test.La selezione casuale dei dati di addestramento e test (utilizzare una colonna di convalida) sarebbe un approccio migliore.Ma, prima di tutto, si tratta di dati di serie temporali (a me sembra)?
Ri: Come ottenere un modello corretto e predittivoinoltre, ' I risultati del riepilogo degli effetti mostrano che PValue rappresenta 223 classifiche, dalla più piccola alla più grande,
Mi chiedo quali criteri puoi distinguere cercando di determinare quali variabili puoi escludere dalla creazione di un modello predittivo.
Utilizzo del 30% superiore? o meno di Pvalue 0,05?
