▷ Regresión lineal múltiple

En este artículo se explica qué es la regresión lineal múltiple en estadística. Además, encontrarás cómo hacer un modelo de regresión lineal múltiple y cómo se interpreta.

Índice

¿Qué es la regresión lineal múltiple?

La regresión lineal múltiple es un modelo de regresión en cual se incluyen dos o más variables independientes. Es decir, la regresión lineal múltiple es un modelo estadístico que permite relacionar varias variables explicativas con una variable respuesta de manera lineal.

Por lo tanto, un modelo de regresión lineal múltiple sirve para encontrar una ecuación que relacione dos o más variables independientes con una variable dependiente. De forma que sustituyendo el valor de cada variable independiente se obtiene una aproximación del valor de la variable dependiente.

Por ejemplo, la ecuación y=3+6x₁-4x₂+7x₃ es un modelo de regresión lineal múltiple, ya que relaciona matemáticamente tres variables independientes (x₁, x₂, x₃) con una variable dependiente (y) de manera lineal.

Fórmula de la regresión lineal múltiple

La ecuación de un modelo de regresión lineal múltiple es y=β₀+β₁x₁+β₂x₂+…+β_mx_m+ε.

$y=\beta_0+\beta_1 x_1+\beta_2 x_2+\dots+\beta_m x_m+\varepsilon$

Donde:

$y$ es la variable dependiente.
$x_i$ es la variable independiente i.
$\beta_0$ es la constante de la ecuación de la regresión lineal múltiple.
$\beta_i$ es el coeficiente de regresión asociado a la variable $x_i$ .
$\bm{\varepsilon}$ es el error o residuo, es decir, la diferencia entre el valor observado y el valor estimado por el modelo.
$m$ es el número total de variables del modelo.

De modo que si tenemos una muestra con un total de $n$ observaciones, podemos plantear el modelo de regresión lineal múltiple en forma matricial:

$\begin{pmatrix}y_1\\y_2\\\vdots\\y_n\end{pmatrix}=\begin{pmatrix}1&x_{11}&\dots&x_{1m}\\1&x_{21}&\dots&x_{2m}\\ \vdots&\vdots&\ddots&\vdots\\1&x_{n1}&\dots&x_{nm}\end{pmatrix}\cdot\begin{pmatrix}\beta_0\\\beta_1\\\vdots\\\beta_m\end{pmatrix}+\begin{pmatrix}\varepsilon_1\\\varepsilon_2\\\vdots\\\varepsilon_n\end{pmatrix}$

La expresión matricial anterior se puede reescribir asignando una letra a cada matriz:

$Y=X\beta+\varepsilon$

Así pues, aplicando el criterio de los mínimos cuadrados, se puede llegar a la fórmula para estimar los coeficientes de un modelo de regresión lineal múltiple:

$\widehat{\beta}=\left(X^tX\right)^{-1}X^tY$

No obstante, aplicar esta fórmula es muy laborioso y lleva mucho tiempo, por lo que en la práctica se recomienda usar un software informático (como Minitab o Excel) que permite realizar un modelo de regresión múltiple de manera mucho más rápida.

Supuestos de la regresión lineal múltiple

En un modelo de regresión lineal múltiple, se deben cumplir los siguientes requisitos para que el modelo tenga validez:

Independencia: los residuos deben ser independientes entre sí. Una manera común de garantizar la independencia del modelo es añadiendo aleatoriedad en el proceso de muestreo.
Homocedasticidad: debe haber homogeneidad en las varianzas de los residuos, es decir, la variabilidad de los residuos debe ser constante.
No multicolinealidad: las variables explicativas incluidas en el modelo no pueden estar relacionadas entre sí o, al menos, su relación debe ser muy débil.
Normalidad: los residuos deben estar distribuidos normalmente, o dicho de otra forma, deben seguir una distribución normal de media 0.
Linealidad: se supone que la relación entre la variable respuesta y las variables explicativas es lineal.

Interpretación de un modelo de regresión lineal múltiple

Para interpretar un modelo de regresión lineal múltiple debemos fijarnos en el coeficiente de determinación (R cuadrado), el cual expresa el porcentaje explicado por el modelo de regresión. De manera que cuanto mayor sea el coeficiente de determinación, mejor ajustado estará el modelo a la muestra de datos estudiada.

➤ Ver: Coeficiente de determinación (R cuadrado)

No obstante, la bondad de ajuste de un modelo estadístico puede ser engañosa, especialmente en los modelos de regresión lineal múltiple. Ya que al añadir cualquier variable al modelo el coeficiente de determinación aumenta, aunque la variable no sea significativa. Sin embargo, debemos maximizar el coeficiente de determinación intentando minimizar el número de variables, ya que así el modelo es menos complicado y más fácil de interpretar.

Para solucionar este problema debemos calcular el coeficiente de determinación ajustado (R cuadrado ajustado), que es un coeficiente estadístico que mide la bondad de ajuste de un modelo de regresión penalizando por cada variable añadida al modelo, a diferencia del coeficiente de determinación sin ajustar que no tiene en cuenta el número de variables del modelo.

Así pues, el coeficiente de determinación ajustado nos permite comparar la bondad de ajuste de dos modelos con un número de variables diferente. En principio, debemos escoger el modelo que tiene un coeficiente de determinación ajustado mayor, pero si los dos modelos tienen valores muy similares, es mejor seleccionar el modelo con menor número de variables ya que es más fácil de interpretar.

➤ Ver: Coeficiente de determinación ajustado (R cuadrado ajustado)

Por otro lado, los coeficientes de regresión indican la relación entre la variable explicativa y la variable respuesta. Si el coeficiente de regresión es positivo, la variable respuesta aumentará cuando la variable explicativa aumente. Mientras que si el coeficiente de regresión es negativo, la variable respuesta disminuirá cuando la variable explicativa aumente.

Lógicamente, para que la condición anterior se cumpla las otras variables deben permanecer constantes. Por eso es importante que no haya multicolinealidad entre las diferentes variables explicativas del modelo. Puedes ver cómo se estudia la multicolinealidad de un modelo buscando el artículo correspondiente en nuestra página web.

Regresión lineal múltiple y simple

Para terminar, veremos cuáles son las diferencias entre un modelo de regresión lineal simple y un modelo de regresión lineal múltiple, ya que son dos modelos de regresión muy utilizados en estadística.

La regresión lineal simple es un modelo de regresión usado para relacionar una variable independiente X con una variable dependiente Y. Es decir, en una regresión lineal simple solo hay dos variables: la variable explicativa X y la variable respuesta Y. De modo que la ecuación de un modelo de regresión lineal simple es la siguiente:

$y=\beta_0+\beta_1x_1+\varepsilon$

Por lo tanto, la diferencia entre la regresión lineal múltiple y la regresión lineal simple es el número de variables explicativas. Un modelo de regresión lineal múltiple tiene dos o más variables explicativas, en cambio, un modelo de regresión lineal simple solo tiene una única variable explicativa.

$y=\beta_0+\beta_1 x_1+\beta_2 x_2+\dots+\beta_m x_m+\varepsilon$

En conclusión, la regresión lineal múltiple es una extensión de la regresión lineal simple, ya que simplemente se añaden más variables explicativas y sus respectivos coeficientes de regresión. No obstante, los coeficientes de regresión se calculan de manera distinta, para ver cómo se hace pulsa aquí:

➤ Ver: Regresión lineal simple

¿Qué es la regresión lineal múltiple?

Fórmula de la regresión lineal múltiple

Supuestos de la regresión lineal múltiple

Interpretación de un modelo de regresión lineal múltiple

Regresión lineal múltiple y simple

Deja un comentario Cancelar respuesta