Minería de datos con muestras pequeñas... ¿Regresión con muestras pequeñas?<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />Estimados expertos de JMP: Sé que este tipo de discusión puede ser a la vez una tontería... muy tonta y un tema candente al mismo tiempo... pero pensé que sería bueno plantearlo: ¿Qué tipos de regresión lineal Y no lineal? ofrece JMP cuando tiene un tamaño de muestra pequeño (p. ej., 50-70 registros) y desea predecir un resultado continuo a partir de 5-7 predictores (tanto categóricos como continuos) Puede realizar una regresión lineal paso a paso con validación cruzada O una regresión mínima parcial es un remedio a este problema? ¿Los árboles potenciados O las redes neuronales son una locura incluso para pensar en ellos? Sus respuestas son MUY BIENVENIDAS y MUY AGRADECIDAS. Respetuosamente, Chris
Re: Minería de datos con muestras pequeñas... ¿Regresión con muestras pequeñas?Aunque hace bastante tiempo que se hizo esta pregunta, quiero intervenir aquí, ya que creo que la discusión no habla de algunos detalles que serían importantes para decidir si podrá obtener información significativa.
1. ¿Los datos provienen de un DOE? Entonces, 50-70 observaciones serán generalmente mucho más suficientes para tener suficientes grados de libertad para detectar el comportamiento subyacente.
2. Si de un DOE qué tipo de. Es importante si el DOE puede estimar los efectos del modelo que desea observar en su regresión u otros modelos. Si es solo un modelo de efecto principal, el Diseño puede estimar que tendrá nuevamente incertidumbre si el modelo creado le dirá la verdad.
3. Si estas son solo observaciones, el análisis exploratorio de datos puede ayudarlo a identificar patrones potenciales, luego usar diferentes estrategias de modelado como las mencionadas anteriormente y compararlas lo ayudará a ver si puede confiar en los modelos (¿cuentan la misma historia o están completamente equivocados?) diferentes?)
Si es lo último, es posible que desee obtener una mejor comprensión de un DOE.
4. A menudo se dice que las redes neuronales no son aplicables con tan pocos puntos de datos. Investigaciones más recientes muestran que con ciertas estrategias podrá obtener resultados aún aceptables. Sin embargo, nunca debes confiar en un solo modelo. Prueba diferentes. Compruebe cómo se comporta el modelo cuando simula una pequeña variación de la configuración real, si los resultados de la simulación se mantienen en los límites de confianza o se desglosan mucho.
Antes de hacer eso, debe verificar la calidad de los datos, si hay valores atípicos, valores faltantes, si las columnas están correlacionadas debido a algunas relaciones previamente conocidas como A es k * B o similar, si hay muchos duplicados. ¿Son las observaciones medidas de lo mismo a lo largo del tiempo, son medidas repetidas,... Todo esto te dirá qué puedes o qué no puedes hacer con tus datos.
Entonces, lo que quiero decir es que puedes crear modelos para todos, pero si son útiles depende de tu pregunta, de dónde provienen los datos, y como se ha medido, y no necesariamente en la cantidad de observaciones que tenga.
Re: Minería de datos con muestras pequeñas... ¿Regresión con muestras pequeñas?Eso es mucho más claro. Muchas muchas gracias
Saludos cordiales
C
Re: Minería de datos con muestras pequeñas... ¿Regresión con muestras pequeñas?Would you please be so kind and elaborate a little bit more about signal and noise? (justone sentence)
Please accept my apologies but for me these two terms are pretty allegorical to my silly mind.
La mayoría de los modelos estadísticos intentan determinar si existe una señal (una relación real) que sea mayor que la variabilidad de los errores (ruido). Cada técnica de modelado que conozco da una medida de esta relación señal-ruido; por ejemplo, en la regresión estándar sería la prueba F general.
No hay ninguna razón por la que no pueda tener una señal muy grande y un ruido muy bajo en 50 puntos de datos. Depende de los datos.
Re: Minería de datos con muestras pequeñas... ¿Regresión con muestras pequeñas?Gracias PG, esto ayuda. Yo lo comprobaré.
Re: Minería de datos con muestras pequeñas... ¿Regresión con muestras pequeñas?Sí, quise decir análisis tipo CART, llamado Partición en JMP. Cuando la variable dependiente es continua, el resultado es un árbol de regresión, de lo contrario, es un árbol de clasificación (o decisión). Creo que las splines de regresión consumen demasiados grados de libertad para ser aplicables a su tamaño de conjunto de datos. -PG
Re: Minería de datos con muestras pequeñas... ¿Regresión con muestras pequeñas?Hola paige miller
¿Sería tan amable de elaborar un poco más sobre la señal y el ruido? ( justo Una oración)
Acepte mis disculpas, pero para mí estos dos términos son bastante alegóricos para mi mente tonta.
¡GRACIAS!
cris
Re: Minería de datos con muestras pequeñas... ¿Regresión con muestras pequeñas?PD Sé que MARS no se ofrece en JMP pero se ofrece desde SAS... así que guion podría ayudar.
Re: Minería de datos con muestras pequeñas... ¿Regresión con muestras pequeñas?Ante todo muchas gracias por su pronta respuesta. Realmente lo aprecio
PGStats ¿Te refieres al análisis del árbol de clasificación y regresión? ¿CARRO?
Alternativamente, ¿piensa que los splines de regresión adaptativos multivariados podrían funcionar también para muestras de tamaño pequeño?
¡Muchas gracias de nuevo!
Re: Minería de datos con muestras pequeñas... ¿Regresión con muestras pequeñas?Lo primero que hago con conjuntos de datos tan escasos es un análisis de árbol de regresión. Es una forma rápida e intuitiva de explorar la relación entre sus variables dependientes y predictoras. Los primeros tres o cuatro nodos son generalmente significativos. -PG
Re: Minería de datos con muestras pequeñas... ¿Regresión con muestras pequeñas?Que estos procedimientos funcionen o no en esos tamaños de muestra depende de la relación señal-ruido. Si tiene mucha señal y poco ruido, probablemente ni siquiera necesite 50 registros. Al revés, señal baja y ruido alto, y probablemente estés perdiendo el tiempo.
