Análisis de Regresión

1. Definiciones Clave

1.1 Punto de apalancamiento

Observación que tiene un impacto sustancial sobre los resultados de la regresión debido a sus diferencias respecto del resto de observaciones en una o más variables pronosticadoras.

1.2 Regresión múltiple

Modelo de regresión con dos o más variables independientes (o pronosticadoras).

1.3 Regresión simple

Modelo de regresión con una única variable independiente (o pronosticadora).

1.4 Residuo (e)

Es la diferencia entre los valores reales y los pronosticados para la variable criterio y representa una medida del ajuste predictivo para cada observación (cada caso).

1.5 Suma de cuadrados de la regresión

Suma de las diferencias al cuadrado entre la media y los valores de la predicción de la variable pronosticadora para todas las observaciones.

1.6 Suma de cuadrados de los residuos

Suma de los errores de predicción (residuos) al cuadrado a lo largo de todas las observaciones.

1.7 Suma de cuadrados total

Cantidad total de variación que existe para ser explicada por las variables pronosticadoras. Es la suma de la suma de cuadrados de la regresión y residual.

1.8 Tolerancia

Proporción de la variación de las variables pronosticadoras no explicada por las variables ya incluidas en el modelo.

1.9 Variable dependiente (o criterio) (Y)

Resultado supuesto de un cambio en las variables independientes (o pronosticadoras).

1.10 Variable ficticia

Variable independiente usada para explicar el efecto que tienen los diferentes niveles de una variable no-métrica en la predicción de la variable criterio.

1.11 Variable independiente (o pronosticadora) (X)

Variable o variables elegidas como pronosticadoras y que potencialmente explicarían la variable criterio.

2. Fases del Análisis de Regresión

2.1 Fase 1: Objetivos

Ofrecer una explicación del problema a estudiar para la predicción y relación estadística de un conjunto de variables definidas y maximizar la potencia predictiva conjunta de las variables independientes.

2.2 Fase 2: Diseño

Tamaño de la muestra:

1. Asegurar la potencia estadística y la generabilidad del análisis de regresión mediante el adecuado tamaño de la muestra.
2. Determinar cuál será la variable criterio y cuáles las variables pronosticadoras que se utilizarán.
3. Realizar las transformaciones oportunas en las variables en el caso de que éstas no cumplan las condiciones del análisis de regresión.

Definición de las variables: Definir cuál será la variable criterio y cuáles las pronosticadoras.

2.3 Fase 3: Supuestos

El análisis de regresión múltiple presenta un conjunto de supuestos previos sin los cuales la interpretación de los resultados puede ser altamente errónea.

1. Linealidad: La relación entre las variables se ajusta a una línea recta.
2. Normalidad: Los residuos se distribuyen de una forma que se ajusta a la curva normal.
3. Homoscedasticidad: La distribución de residuos es similar para diferentes valores pronosticados.
4. Independencia de los residuos: Los residuos no se encuentran correlacionados entre sí.

2.4 Fase 4: Extracción

En la etapa de extracción, deben realizarse tres tareas:

1. Seleccionar un método para especificar el modelo de regresión a estimar.
2. Valorar la significación estadística del modelo general para predecir la variable criterio.
3. Estimar la capacidad de las variables pronosticadoras para predecir la variable criterio.
4. Determinar si cualquiera de las observaciones ejerce una influencia indebida en los resultados.

2.5 Fase 5: Interpretación

En la fase de interpretación, hay que llevar a cabo dos tareas importantes:

1. Interpretar la ecuación de regresión: valorar en qué medida varían los valores de la variable criterio por cada variación unitaria de las variables pronosticadoras (coeficientes de regresión).
2. Determinar la importancia relativa de cada una de las variables pronosticadoras en la explicación de la variable criterio mediante un análisis de la presencia de efectos de multicolinealidad entre las variables pronosticadoras.

2.6 Fase 6: Validación

Además del submuestreo, se podría replantear el análisis de regresión mediante otros procedimientos:

• Probar con otras variables alternativas que puedan representar a las variables originales.
• Realizar el análisis excluyendo aquellos casos que se puedan considerar como observaciones influyentes o casos extremos.
• Utilizar diversos procedimientos de selección y comparar los resultados de esos métodos.
• Obtener muestras adicionales para validar los resultados mediante el estadístico Press.