Producida por: Marlene Smith
Escuela de Negocios de la Universidad de Colorado en Denver
Fondo
Una empresa de bienes raíces que administra propiedades alrededor de una estación de esquí en Estados Unidos desea mejorar sus métodos para fijar el precio de las viviendas.Hay datos disponibles sobre una serie de medidas, incluido el tamaño de la casa y la propiedad, la ubicación, la edad de la casa y un indicador de fortaleza del mercado.
La tarea
Después de determinar qué factores se relacionan con los precios de venta de las viviendas ubicadas dentro y alrededor de la estación de esquí, desarrolle un modelo para predecir los precios de las viviendas.
Los precios de la vivienda de datos.jmp
El conjunto de datos contiene información sobre 45 propiedades residenciales vendidas durante un período reciente de 12 meses.Las variables en el conjunto de datos son:
Precio Precio de venta de la propiedad ($1,000)
Camas Número de dormitorios en la casa.
Balneario Número de baños en la casa.
Pies cuadrados Tamaño de la casa en pies cuadrados.
Millas hasta el resort Millas desde la propiedad hasta el centro turístico del centro de la ciudad
Millas a la base Millas desde la propiedad hasta la base de la montaña de la estación de esquí.
Hectáreas Tamaño del lote en número de acres
Carros Número de coches que caben en el garaje.
Años Edad de la casa, en años, en el momento en que fue catalogada.
DoM Número de días que la casa estuvo en el mercado antes de venderse
Análisis
Este problema involucra una variable de respuesta, el precio de venta de la vivienda, y varios predictores potenciales del precio de venta.Tres de las variables predictoras miden, directa o indirectamente, el tamaño de la casa: pies cuadrados, número de dormitorios y número de baños.Se desarrollaron modelos de regresión simples para cada uno de estos predictores.
A continuación se muestran resúmenes de cada uno de los modelos:
Modelo
|
R Plaza
|
RMSE
|
Valor p
|
Precio = 137,4 + 77,2 Camas
|
0.456
|
98,9
|
< 0,0001
|
Precio = 141,8 + 106,9 Baños
|
0.640
|
80,5
|
< 0,0001
|
Precio = 134,0 + 0,135 pies cuadrados
|
0,486
|
96,2
|
< 0,0001
|
Los modelos indican que, según los modelos de predictor único, el precio de la vivienda aumenta en:
- $77,200 por cada habitación.
- $106,900 por cada baño.
- $135 por cada pie cuadrado.
La regresión múltiple (Anexo 1) nos permite comprender la simultáneo influencia de las tres variables predictoras sobre el precio de venta.
Exhibición 1 Regresión múltiple para Precio y las tres variables de tamaño
(Analizar > Ajustar modelo; seleccione Precio como Y y las variables de tamaño como Efectos del modelo, y presione Ejecutar. Algunos resultados predeterminados no se muestran y el diseño se ha cambiado para que se ajuste mejor a la página).
La comparación del modelo de regresión múltiple con los tres modelos de regresión simple revela que los coeficientes han cambiado:
- $17,835 por habitación en el modelo de regresión múltiple, en comparación con $77,200.
- $79,900 por baño (antes $106,900).
- $21/pie cuadrado en regresión múltiple, pero $135/pie cuadrado en regresión simple.
Además, el significado de cada uno de los predictores ha cambiado.Dos de los predictores que son estadísticamente significativos por sí mismos en modelos de regresión simples ( Camas y Pies cuadrados ) ya no son significativos cuando se usan junto con otros predictores.La razón de esto es la correlación entre los predictores, o multicolinealidad .
Como se muestra en el Cuadro 2, las correlaciones entre las variables predictivas, que oscilan entre 0,728 y 0,7901, superan la correlación entre el precio de venta y los pies cuadrados (0,697) y entre el precio de venta y el número de habitaciones (0,675).
Anexo 2 Correlaciones y matriz de diagrama de dispersión para Precio y las variables de tamaño
(Analizar > Métodos multivariados > Multivariado; seleccione Precio y la variable de tamaño como Y, Columnas y presione Aceptar.Debajo del triángulo rojo inferior, seleccione Mostrar correlaciones).
En este contexto, ninguna de las correlaciones entre los predictores es particularmente sorprendente.Nosotros esperar pies cuadrados, número de dormitorios y número de baños que deben correlacionarse, ya que agregar un dormitorio o baño a una casa aumenta sus pies cuadrados.Las correlaciones no perfecto (es decir, igual a uno), ya que agregar pies cuadrados no siempre significa que haya agregado otro dormitorio o baño (es posible que haya ampliado la cocina), y dado que agregar un dormitorio no siempre significa que agregó otro baño .
También se podría anticipar multicolinealidad entre las dos medidas de ubicación: millas hasta la base de la montaña y millas hasta el área turística del centro.El Cuadro 3 sugiere que efectivamente hay motivos de preocupación, ya que existe una alta correlación entre los dos predictores (0,948).Esto se evidencia en la matriz del diagrama de dispersión mediante las elipses de densidad (Anexo 3), que son mucho más estrechas que las elipses que involucran la respuesta. Precio .
Anexo 3 Correlaciones por pares y matriz de diagrama de dispersión: variables de ubicación
En los modelos de regresión simple para las variables de ubicación, ambos predictores son altamente significativos y los coeficientes son negativos.
Modelo
|
R Plaza
|
RMSE
|
Valor p
|
Precio = 454,66 – 5,118 Millas hasta el Resort
|
0,291
|
112,97
|
< 0,0001
|
Precio = 473,61 – 5,925 millas hasta la base
|
0.401
|
103.81
|
< 0,0001
|
El modelo de regresión general que involucra las dos variables de ubicación (Anexo 4) es altamente significativo, con un valor de p < 0,0001 para el índice F.Sin embargo, sólo Millas a la base es un predictor significativo de Precio (en el nivel 0,05).Además, los coeficientes han cambiado drásticamente.El coeficiente para Millas hasta el resort ahora es positivo! (¿El precio de venta realmente aumenta a medida que aumenta la distancia al complejo turístico?) Una vez más, deberíamos preocuparnos por la correlación muy alta entre los dos predictores: Millas hasta el resort y Millas a la base .
Anexo 4 Regresión múltiple para Precio y las variables de ubicación
Hemos encontrado indicios de multicolinealidad con subconjuntos de predictores, pero echemos un vistazo al modelo de regresión múltiple que utiliza todos los predictores.
Anexo 5 Regresión múltiple para Precio y todos los predictores
(Haga clic derecho sobre la tabla Estimaciones de parámetros y seleccione Columnas, VIF).
En el modelo anterior (Anexo 5), solo Balneario y Hectáreas son significativos al nivel de 0,05.¿Las otras variables predictivas no son estadísticamente significativas debido a la multicolinealidad? Una medida de la gravedad de la multicolinealidad es el factor de inflación de varianza, o VIF.Para calcular el VIF de un predictor (VIF j ), se ajusta un modelo de regresión utilizando el predictor como Y y los otros predictores como X.El r 2 para este modelo (R j 2 ) se calcula, y luego el VIF se calcula usando esta fórmula:
una r j 2 de 0,8 para un modelo que predice una variable a partir de todas las demás variables da como resultado un VIF de 5, mientras que un R j 2 de 0,9 da como resultado un VIF de 10. Por lo tanto, un VIF mayor que 5 o 10 a menudo se considera una indicación de que la multicolinealidad puede ser un problema.(Nota: esta no es una regla general firme; una búsqueda de VIF en Google arrojará muchas opiniones sobre el tema).
La fuerte correlación entre Millas hasta el resort y Millas a la base es claramente un problema.En esta situación, la multicolinealidad podría aliviarse eliminando una de las dos variables del modelo.En retrospectiva, se descubrió que la zona turística del centro está cerca de la base de la montaña, lo que significa que estas dos variables son medidas de ubicación casi idénticas.Desde Millas hasta el resort se consideró de mayor importancia práctica que Millas a la base , solo Millas hasta el resort se utilizará en el modelo de regresión múltiple posterior como medida de ubicación (Anexo 6).
Anexo 6 Regresión múltiple para Precio sin Millas a la base
Tres de los predictores ( Balneario , Millas hasta el resort y Hectáreas ) en el nuevo modelo (Anexo 6) son muy significativos.Más importante aún, la multicolinealidad ahora es una preocupación mucho menor.
Reducir el modelo
Recuerde que la tarea final, definida anteriormente, es desarrollar un modelo de fijación de precios.El objetivo es desarrollar el modelo más simple que haga el mejor trabajo de predecir los precios de la vivienda.Hay muchas formas de lograr esto; Un enfoque consiste simplemente en eliminar los predictores no significativos del modelo completo.sin embargo, el La importancia de un predictor depende de otros predictores que están en el modelo. .Esto dificulta determinar qué predictores eliminar del modelo.Herramientas como la regresión por pasos (que se analiza en un ejercicio) proporcionan un enfoque automatizado para identificar variables importantes y simplificar (reducir) el modelo.
Aquí, reduciremos el modelo manualmente, una variable a la vez, usando valores p.Primero, revisamos las correlaciones.
Las correlaciones por pares (informe superior en el Cuadro 7) muestran que algunos de los predictores están altamente correlacionados con la respuesta.Sin embargo, como hemos visto, algunos predictores también están altamente correlacionados con otros predictores, lo que dificulta determinar qué predictores son realmente importantes.
En su lugar, usaremos correlaciones parciales.Una correlación parcial es la correlación entre dos variables, mientras se controla la correlación con otras variables.Las correlaciones parciales nos permiten ver correlaciones entre cada predictor y la respuesta, después de ajustar por los otros predictores.¡Observe cómo cambian las correlaciones (informe inferior en el Anexo 7)! Por ejemplo, compare las correlaciones parciales y por pares para Camas y para Hectáreas con Precio .
Anexo 7 Correlaciones por pares y parciales
(Analizar > Métodos multivariados > Multivariado; seleccione Precio y los predictores restantes como Y, Columnas y presione Aceptar.Debajo del triángulo rojo inferior, seleccione Correlaciones parciales).
Cuatro variables – Balneario , Pies cuadrados , Millas hasta el resort y Hectáreas – tienen las correlaciones parciales más altas con la respuesta.Días en el mercado ( DoM ) y Camas tienen las correlaciones parciales más bajas.
Desde DoM también tiene el valor p más alto (0,925 en el Cuadro 6), comenzamos la reducción de nuestro modelo eliminando DoM y reacondicionamiento del modelo.Luego eliminamos la variable con el siguiente valor p más alto, Camas .
Nota: Cuando se elimina una variable, la importancia de las otras variables puede cambiar.Por lo tanto, las variables no significativas deben eliminarse únicamente uno a la vez .
Después de eliminar estas dos variables, Carros y Años todavía no son significativos, mientras Pies cuadrados ahora es significativo en el nivel de 0,05.Además, los valores p para el Balneario , Millas hasta el resort y Hectáreas todos han disminuido (Anexo 8).
Anexo 8 Estimaciones de parámetros después de la eliminación DoM y Camas
Siguiendo con este enfoque paso a paso, eliminamos Carros , entonces Años .El modelo final es altamente significativo (el valor p para el índice F es < 0,0001) y las variables restantes son todas significativas al nivel de 0,05 (Anexo 9).
Anexo 9 El modelo reducido
Nota: El enfoque adoptado aquí es esencialmente una forma manual de eliminación gradual hacia atrás, que se analiza en un ejercicio.
El modelo final (consulte las estimaciones de parámetros en el Anexo 9) estima los precios de venta en:
- $53,64 por pie cuadrado.
- $65,560 por baño.
- $5,352 por acre.
- $3,644 menos por cada milla de distancia del resort.
Resumen
Perspectivas estadísticas
La multicolinealidad y su impacto en la construcción de modelos son el foco de este caso.Dos predictores (la distancia de la casa al área turística del centro y la distancia a la base de la montaña) son medidas de ubicación casi idénticas.La eliminación de una de estas variables permite que la otra siga siendo estadísticamente significativa en un modelo de regresión múltiple posterior.
Los exámenes de correlaciones por pares ayudaron a descubrir relaciones que contribuyeron a la multicolinealidad.En modelos más complejos, puede haber intrincadas correlaciones de tres niveles y superiores entre las variables predictoras que son difíciles de evaluar.El factor de inflación de varianza (VIF) es útil para señalar esos casos.
En la práctica, el modelo final desarrollado en este caso es muy significativo, pero ¿podríamos hacerlo mejor? ¿Nos faltan otros predictores potencialmente importantes? Por ejemplo, ¿tenemos una medida de la calidad de la casa y de los materiales de construcción utilizados? ¿Y cómo podemos abordar los intangibles? Es difícil cuantificar aspectos subjetivos de una casa y un vecindario que podrían ser indicadores clave del precio.
Una nota sobre el diagnóstico del modelo
Al construir un modelo de regresión, debemos verificar que el modelo tenga sentido.Tres herramientas de diagnóstico comúnmente utilizadas son las gráficas residuales, la D de Cook y Hats.
- Los residuos representan la variación que queda después de ajustar el modelo.Idealmente, los residuos (o residuos estudentizados) están dispersos aleatoriamente alrededor de cero sin ningún patrón obvio.
- La D de Cook es una medida de la influencia que tiene un punto individual en el modelo.Las observaciones con valores D de Cook >1 generalmente se consideran influyentes.
- Hats es una medida de apalancamiento, o cuán extrema es una observación con respecto a sus valores predictivos.Los puntos de alto apalancamiento tienen el potencial de influir en el modelo.
Le recomendamos que explore estos diagnósticos de modelos por su cuenta; los revisaremos en un ejercicio.
Implicaciones gerenciales
Un modelo estadístico nos dice que no nos preocupemos demasiado por la capacidad del garaje, la antigüedad de la casa y los días en el mercado cuando se trata de estimar el precio de venta de una casa en este mercado en particular.Estar más cerca de la zona turística del centro y de la montaña aumenta el precio de venta, y los lotes más grandes exigen un precio más alto.
El modelo estadístico desarrollado para este análisis se puede utilizar como una forma cruda de identificar qué casas son estadísticamente sobrevalorado o infravalorado.Las casas con residuos estudentizados grandes (más de tres) pueden tener un precio excesivo en relación con el modelo estadístico.Del mismo modo, las casas con grandes residuos estudentizados negativos (menos de tres negativos) pueden tener un precio inferior al del modelo: ¡podrían terminar siendo grandes gangas!
JMP ® Características y sugerencias
Este caso utiliza correlaciones parciales y por pares, matrices de diagramas de dispersión y VIF para ayudar en la identificación de la multicolinealidad.
Los VIF se encuentran haciendo clic derecho sobre la tabla Estimaciones de parámetros y seleccionando Columnas, VIF.
Dado que la importancia de cada predictor depende de los demás predictores del modelo, el modelo se redujo lentamente utilizando una combinación de valores p y correlaciones parciales.Herramientas como la regresión por pasos (una personalidad en la plataforma Fit Model) automatizan el proceso de creación de modelos.Nuestro enfoque de una variable a la vez es en realidad una forma manual de eliminación hacia atrás, que está disponible en la plataforma paso a paso.
Ejercicios
1. Utilice el modelo final para predecir el precio de venta de una casa de 2000 pies cuadrados con dos baños que está a 15 millas del complejo y ocupa un acre.
Aquí hay dos formas de hacer esto directamente en JMP:
- En la ventana de Análisis, seleccione Guardar columnas > Fórmula de predicción en el triángulo rojo superior.Esto creará una nueva columna en la tabla de datos con el modelo de regresión.Luego, agregue una nueva fila e ingrese los valores proporcionados para predecir el precio de venta.
- En la ventana Análisis, seleccione Perfilado de factores > Generador de perfiles en el triángulo rojo superior.Profiler muestra la respuesta prevista (y un intervalo de confianza) para valores específicos de los predictores.Haga clic en las líneas rojas verticales para cambiar los valores del predictor a los proporcionados anteriormente.
- Este caso utiliza un manual. hacia atrás enfoque de reducción del modelo, en el que el modelo completo (es decir, el que utiliza todas las variables predictoras) se reduce un predictor a la vez según la significación estadística.Consideremos un enfoque diferente: adelante selección de modelo.
Comience con un modelo de un predictor, quizás basado en el predictor con la mayor correlación con Price o el valor p de regresión simple más bajo, y agregue nuevos predictores uno a la vez.A medida que agrega predictores, examine los resultados en la tabla Resumen de ajuste, Análisis de varianza y Estimaciones de parámetros.
¿Llegas a un modelo final diferente? Si es así, ¿qué modelo se prefiere?
- Abra la tabla de datos FuelEfficiency2011.jmp (disponible para descargar desde la biblioteca de casos comerciales en jmp.com/cases).Esta tabla de datos contiene información sobre una muestra aleatoria de marcas y modelos de automóviles vendidos en EE. UU. en 2011.
Empezaremos familiarizándonos con los datos.Luego, ajustaremos un modelo para MPG Highway y exploraremos los diagnósticos del modelo: residuos, influencia D de Cook, sombreros y multicolinealidad.Finalmente, usaremos el procedimiento JMP Stepwise para explorar diferentes métodos para construir y seleccionar modelos de regresión.
Parte 1: Conozca los datos
- Utilice la plataforma de distribución para explorar todas las variables (excepto Marca y modelo ).Describe las formas de las distribuciones.
- Utilice Analizar > Métodos multivariados > Multivariado para explorar las relaciones entre las variables continuas.¿Alguna de las variables está correlacionada con la respuesta? MPG en carretera ? ¿Alguna de las variables está correlacionada con otras variables?
Parte 2: crear un modelo y explorar los diagnósticos del modelo
- Construya un modelo de regresión múltiple usando Fit Model, con MPG en carretera como respuesta y todos los predictores como efectos del modelo (no incluya Marca y modelo ) y ejecute este modelo.
- Explora los residuos.(Estos se muestran de forma predeterminada.Hay gráficos residuales adicionales disponibles en el triángulo rojo, Diagnóstico de fila).
¿Hay algún patrón u observación inusual? Describe lo que observas.
- Compruebe los valores de Influencia D y Sombrero de Cook.(Seleccione estas opciones del triángulo rojo debajo de Guardar columnas.Se crearán nuevas columnas en la tabla de datos (use la plataforma de distribución para explorar estos valores).
¿Parece haber puntos influyentes o de alto apalancamiento?
- Verifique los VIF.¿Parece haber un problema con la multicolinealidad? Utilice la plataforma Multivariado > Multivariado para explorar correlaciones bivariadas.¿Alguna de las variables parece altamente correlacionada entre sí?
Parte 3: Reducir el modelo usando Stepwise
Regrese a la ventana de especificación del modelo.Cambie la personalidad a Paso a paso y haga clic en Ejecutar.En este ejercicio, exploraremos las diferentes reglas e instrucciones para detenerse.
Tenga en cuenta que este modelo incluye una variable nominal, ¿Híbrido? , que tiene un etiquetado extraño en la tabla de Estimaciones actuales.JMP codifica las variables nominales como columnas indicadoras; el etiquetado nos permite saber que se ha aplicado la codificación.
- La regla de detención predeterminada es BIC mínimo.Haga clic en Ir.
Los predictores seleccionados para el modelo se verifican a medida que se ingresan en Estimaciones actuales.¿Qué términos se han seleccionado para el modelo?
- Haga clic en Eliminar todo, cambie la regla de detención a AIC mínimo y luego haga clic en Ir.
¿Qué términos se han seleccionado para este modelo? Compare este modelo con el modelo encontrado usando BIC mínimo.
Nota: BIC tenderá a seleccionar modelos con menos predictores, mientras que AIC tenderá a generar modelos con más predictores.
- Ahora, cambie la regla de detención de AIC mínimo a Umbral de valor P.
La rutina de selección predeterminada, en Dirección, es Adelante.Haga clic en Ir.
- Cambie la dirección de Adelante a Atrás.Haga clic en Eliminar todo para anular la selección de los predictores y luego haga clic en Ir.
¿Qué términos se han seleccionado para este modelo? ¿Los resultados son diferentes a los de la selección Forward? ¿Se eligen diferentes variables predictivas según el método utilizado?
Nota: Una vez que se hayan seleccionado los predictores en Paso a paso, seleccione Crear modelo o Ejecutar modelo para crear el modelo de regresión.
