246456_es-ES

liliconcom

Cómo obtener un modelo correcto y predictivo

Hola, necesito tu ayuda nuevamente.

He estado haciendo un análisis recientemente y el contenido es simple.
Son datos con 376 filas, 223 columnas y un solo valor de Y.

Para obtener el modelo de predicción del valor Y, utilicé 'Ajustar - Modelos' (Ajustar mínimos cuadrados - Mínimos cuadrados estándar / Cribado de efectos), y primero obtuve el R-Cuadrado 0.95, usando la fila 1 a 263.

 

Agregué la fórmula Predict a la 'Nueva columna' y comparé las estimaciones de los 264 a 376 restantes con las mediciones reales.

Como resultado, puede ver que hay un error mayor con los datos nuevos que a continuación.

 

Me pregunto qué trabajo adicional puedo hacer o aprovechar otras características.

 

Adjunto mis datos, gracias.

 

(FYI, X_1 es solo numeración para indexar)

Re: Cómo obtener el modelo correcto y predictivo

más ' Los resultados del resumen del efecto muestran que PValue representa 223 clasificaciones, desde la más pequeña hasta la más grande,

Me pregunto qué criterios puede distinguir al tratar de determinar qué variables puede excluir de la creación de un modelo predictivo.

¿Usando el 30% superior? o debajo de Pvalue 0.05?

Re: Cómo obtener el modelo correcto y predictivo

Debe proporcionar más contexto sobre estas variables, es decir, hay muchas posibles variables explicativas y parecen estar altamente correlacionadas entre sí (lo que me hace pensar que tal vez quiera probar algo como un análisis de componentes principales para reducir las características) .  Además, parece que se trata de datos de series temporales, en cuyo caso debe analizarlos como tal.  Finalmente, las primeras 263 filas ciertamente se comportan de manera diferente a lo que viene después, por lo que no importa cuán bueno sea su modelo en esas filas, es probable que ese modelo no prediga la tendencia que aparece repentinamente después de esa fila.  Me gustaría centrarme en si alguno de los predictores puede detectar ese cambio en el patrón.  No es probable que pueda encontrar eso modelando solo las 263 filas que no exhiben esa tendencia.  Por lo tanto, ha dividido sus datos en conjuntos de datos de entrenamiento y prueba, pero su conjunto de entrenamiento se ve muy diferente a sus datos de prueba, esa no es una buena manera de producir un modelo para los datos de prueba.  La selección aleatoria de los datos de entrenamiento y prueba (use una columna de validación) sería un mejor enfoque.  Pero, ante todo, ¿son estos datos de series de tiempo (a mí me parece)?

Re: Cómo obtener el modelo correcto y predictivo

Por dónde empezar con respecto a la pregunta sobre cómo obtener el modelo predictivo "correcto", hay dos escuelas de pensamiento.

1) Desarrollar modelos matemáticos basados únicamente en el análisis de datos (por ejemplo, redes neuronales, PCA)

2) Comprender, con base científica, las relaciones entre las variables de entrada y salida (lo que Deming llamó el problema analítico)

 

Siendo determinista, el segundo enfoque es el que prefiero.  Esto comienza con declaraciones de hipótesis sobre las relaciones entre entradas y salidas.  Requiere una comprensión de la inferencia (sobre qué condiciones desea que el modelo sea efectivo).  Luego, el "plan de muestreo" apropiado para adquirir los datos (muestreo dirigido o experimentación).  Ciertamente, puede examinar datos históricos, pero solo para ayudar a desarrollar hipótesis que luego deben ser probadas.

 

Su conjunto de datos carece de contexto (como sugiere Dale).  No hay "significado" para las columnas, solo columnas de números.  No estoy seguro de por qué Dale piensa que esta es una serie de tiempo, ya que no veo horas ni fechas en los datos. Por lo tanto, la creación del modelo predictivo correcto se deja en la opción 1 anterior. Si incluye todas las columnas (224) y ejecuta Fit Model, obtendrá Rsquare Adj de .59 y Rsquare de .83.  Estos valores son demasiado diferentes, lo que sugiere que ha especificado en exceso el modelo (los términos sin importancia están en el modelo).  Si observa los VIF (tabla de estimaciones de parámetros), hay muchos por encima del umbral de> 5 (o> 10), que es una medida de multicolinealidad. Entonces el modelo necesita ser reducido.  Sin embargo, no hay inteligencia sobre cómo hacer esto, ya que no hay contexto.

Re: Cómo obtener el modelo correcto y predictivo @statman , @valle

Gracias por tus comentarios.
En primer lugar, como dijiste, es una serie de tiempo.
Como mencionó, verifiqué la correlación y reduje la lista de variables a 40, y creo que obtuve algunos resultados satisfactorios.
Dado que el 'valor de Y' no se midió en tiempo real, la cantidad de datos no es tanta como pensaba, pero creo que pude determinar la causa aplicando Parcela paralela, etc.