Modelo: ¿Son los VIF altos un problema en todos los casos?Aquí está la situación: estoy tratando de construir un modelo para expresar una Y particular usando 25 parámetros en X. Todos los datos de mis parámetros X son proporcionados por la misma tecnología única, que analiza 1 muestra usando 25 frecuencias (mi X), como un escaneo de frecuencia para obtener la máxima información. En otras palabras, por cada dato Y individual, tendré 25 X.
Pero el problema es que cuando construyo modelos, obtengo VIF enormes porque mis parámetros X son inherentemente colineales, ya que son solo frecuencias de la misma tecnología, por lo que evolucionan de la misma manera...
Y si hago lo que aprendí, es decir, elimino cada parámetro uno por uno según el VIF más alto, termino con una sola frecuencia restante, lo que elimina todo el interés de la tecnología de escaneo.
En ese caso particular, ¿el modelo está realmente sesgado por estas colinealidades o podemos confiar en él?
@alexbeck ¿tal vez?
Re: Modelo: ¿Son los VIF altos un problema en todos los casos?@martindemel ¿Puedes investigar esto después de que regreses de tus vacaciones?
Re: Modelo: ¿Son los VIF altos un problema en todos los casos?Está bien ! Voy a probar todo eso y ver lo que puedo encontrar. Muchas gracias !Re: Modelo: ¿Son los VIF altos un problema en todos los casos?Absolutamente. Todo en el modelo está bastante bien: los valores atípicos fueron comprobados con residuos estudentizados, Adj. R2 esta muy bien etc... Solo los VIF estan locosRe: Modelo: ¿Son los VIF altos un problema en todos los casos?Olvidé mencionarlo, pero cuando hablo de VIF alto, me refiero a decenas de cientos y miles... Si todavía mi varianza no es tan alta, ¿puedo tolerar tales valores?
El PLS se mencionó anteriormente, ¡lo intentaré!
Lamentablemente no tengo JMP Pro...Re: Modelo: ¿Son los VIF altos un problema en todos los casos?No tengo idea de qué pasa si esa herramienta es el Explorador de datos funcionales, lo averiguaré, ¡muchas gracias por este consejo!
De hecho, dentro de todas mis 25 frecuencias, solo unas pocas son realmente relevantes para explicar mi Y y, por lo tanto, durante el modelado utilicé paso a paso para eliminar las no significativas. Si no lo hago, obtendré un modelo con como 18 parámetros no significativos y solo 6 significativos... ¿Tiene eso realmente sentido?
También revisaré PLS, de hecho es una buena idea, ¡gracias por su ayuda!Re: Modelo: ¿Son los VIF altos un problema en todos los casos?Lo siento si fue lo suficientemente claro, intentemos de nuevo:
No son exactamente 25 niveles de X, sino 25 X diferentes provenientes de la misma tecnología. El tecno escanea varias frecuencias y para cada una, dará un valor, que es mi X.
Y cuando menciono un VIF alto, me refiero a decenas de cientos y miles...Re: Modelo: ¿Son los VIF altos un problema en todos los casos?Hay muchas técnicas que podrías usar en esta situación.Los modelos regularizados como la regresión de crestas o las redes neuronales pueden superar bastante bien la colinealidad.También puede usar técnicas de reducción de dimensionalidad como componentes principales y hacer una regresión en las puntuaciones de los componentes.
Re: Modelo: ¿Son los VIF altos un problema en todos los casos?Como indica Mark, las "reglas generales" siempre deben usarse con precaución. En la construcción de un modelo apropiado, hay una serie de tecnicas utilizado (por ejemplo, la evaluación de los supuestos ( NID(0, s 2 )) , R-square-R-square Adj, pruebas de valores atípicos, análisis de residuos, etc.) de los cuales VIF es solo uno.
Re: Modelo: ¿Son los VIF altos un problema en todos los casos?He visto una "regla general" común para VIF: menos de 10 es bueno, más de 10 es malo. Lamentablemente, esta regla es inútil y no debe seguirse.
En general, un VIF tolerable depende del tamaño relativo de la estimación del parámetro y la varianza de la respuesta. Si sus cambios de respuesta son enormes y su variación es pequeña, puede tolerar un VIF muy grande. Por otro lado, si sus cambios de respuesta son pequeños y su varianza es grande, entonces un VIF pequeño podría ser demasiado.
Me pregunto si podrías usar otro método de regresión. Por ejemplo, PLS tiene mucho éxito cuando las X son el dominio de algunos espectros, como la longitud de onda o el peso molecular. Estos X están altamente correlacionados. El modelo de regresión PLS explota esta información en lugar de penalizarlo con colinealidad.
Si tiene JMP Pro, también puede tratar la X como datos funcionales y guardar los componentes principales funcionales. Estos FPC se usarían en lugar de X en su modelo de regresión de Y.
¿Qué opinas?
Re: Modelo: ¿Son los VIF altos un problema en todos los casos?Esto suena como si realmente quisiera usar el Explorador de datos funcionales. Para cada Y tienes un rango de frecuencias que define un perfil. Eso es exactamente lo que debe analizar el explorador de datos funcionales.
Sin embargo, si desea usar la regresión, los VIF altos no son realmente un gran problema si NO elimina ningún término del modelo completo (el modelo con todas las X en el modelo) y está interesado en solo usar el modelo para la predicción.
Dado que parece que está más interesado en qué frecuencias son más importantes (al eliminar los términos no significativos con VIF altos), seguirá corriendo el riesgo de que los VIF altos causen problemas. Su enfoque es probablemente el mejor si se apega a la regresión, pero recuerde que los VIF altos significan que la varianza en las estimaciones de los parámetros está inflada. Eso también significa que las estimaciones de los parámetros son terriblemente inestables. Eliminar una X del modelo podría alterar drásticamente las estimaciones de los parámetros y las pruebas de significancia de los otros parámetros. El modelo con el que termines puede no ser el mejor.
Si realmente necesita identificar las características importantes de estos perfiles, consulte el explorador de datos funcionales. Si esa no es la opción, debe considerar buscar una técnica de modelado que esté diseñada para manejar la multicolinealidad. PLS o PCR son solo dos de esas técnicas.
Re: Modelo: ¿Son los VIF altos un problema en todos los casos?Creo que no entiendo completamente el tema. Parece que tiene 25 niveles de una X (frecuencia) ... ¿entonces está creando un modelo con solo una X en el modelo? Tendría muchos grados de libertad para estimar un modelo no lineal bastante complejo, pero solo hay un predictor en la ecuación.
Los VIF altos (> 10 en exceso, > 5 deben evaluarse) son solo una indicación de que su modelo debe volver a evaluarse (la utilidad de los modelos puede sobreestimarse). Sí, es una medida de multicolinealidad, pero los valores altos no indican necesariamente qué es colineal. Esto generalmente requiere experiencia en la materia para comprender y compensar adecuadamente.
