PCAHola,
Ejecuté PCA en el conjunto de datos adjunto.
La salida es:

Estoy tratando de aumentar el valor de R-Square. Al hacerlo, solo quiero considerar una variable importante.
Hasta ahora he limpiado los datos al excluir los valores atípicos y también al eliminar las variables: Garage yrblt, 1stflsf, totrmsabvgrd y Garagecars, ya que tienen una correlación muy alta.
Recalcular la fachada del lote como Frontal del lote actualizado ya que la fachada del lote tenía muchas variables faltantes.
Ahora, mi análisis de PCA muestra que 12 (de 26) componentes pueden explicar alrededor del 79.5% de la variabilidad. Entonces, estoy en lo correcto si guardo la fórmula para estos 13 componentes y luego excluyo las variables que se usan para obtener estos componentes, como LotFrontage, a UpdateLotFrontage.
Entonces, básicamente en lugar de usar 26 variables ahora usaré 13 variables. Después de esta reducción de la variable, planeo ejecutar la regresión paso a paso, etc., la red neuronal, etc. y tratar de ver qué método da el mejor valor de R cuadrado.
¿Es este enfoque correcto?
Gracias
Re: PCAEn general, la PCA es un método de reducción y visualización de la dimensionalidad para estructuras de correlación entre variables y no está realmente destinado a un método de identificación / eliminación de variables como un precursor para la construcción de modelos predictivos. Existen muchas técnicas diferentes, nativas de JMP y JMP Pro, que se pueden usar para construir modelos directamente incluso ante las presuntas variables predictoras correlacionadas. Técnicas como los mínimos cuadrados parciales, o en JMP Pro, muchas de las subplataformas de la personalidad del Modelo de ajuste de regresión generalizada están hechas a medida para la identificación de variables frente a las variables predictoras correlacionadas.
Re: PCA¿Qué pasa con los valores atípicos? ¿Eliminamos los valores atípicos antes de ejecutar un PCA o PCA se encarga de los valores atípicos y las variables que faltan?
Re: PCAMi variable Y es Salesprices. Es un modelo predictivo.
Estoy tratando de obtener el mejor modelo de ajuste con mayor R -Square.
Entonces, si no elimino las variables altamente correlacionadas y luego ejecuto el PCA.
¿Cómo decido qué componentes considerar (mediante la ejecución de una regresión: ¿paso a paso?) Y qué debo hacer con el conjunto de variables en línea. ¿Considero el conjunto inicial de variables o solo los nuevos componentes al construir un modelo?
Saludos,
Re: PCA¿Puedes decir un poco más sobre cuáles son tus objetivos? Dado que menciona R-Squared, supongo que desea construir un modelo (posiblemente predictivo, posiblemente explicativo o descriptivo) que relacione al menos una respuesta ('Y') con algunas variables independientes (Xs). Si ese es el caso, ¿cuál es la variable 'Y' en su tabla, por favor? Además, si desea utilizar PCA, no estoy seguro de por qué eliminaría las variables "ya que tienen una correlación muy alta". PCA se basa en dichas correlaciones para reducir la dimensionalidad del problema.