Cum se calculează parametrul b în regresia liniară (interceptarea y a liniei de cea mai bună potrivire)?

/ / Publicat în Inteligența artificială , EITC/AI/MLP Machine Learning cu Python, Regres, Înțelegerea regresiei

În contextul regresiei liniare, parametrul b (denumită în mod obișnuit interceptarea în y a liniei de cea mai bună potrivire) este o componentă importantă a ecuației liniare y = m x + b, În cazul în care m reprezintă panta dreptei. Întrebarea dvs. se referă la relația dintre interceptarea y b, media variabilei dependente y și variabila independentă x, și panta m.

Pentru a aborda interogarea, trebuie să luăm în considerare derivarea ecuației de regresie liniară. Regresia liniară are ca scop modelarea relației dintre o variabilă dependentă y și una sau mai multe variabile independente x prin potrivirea unei ecuații liniare la datele observate. În regresia liniară simplă, care implică o singură variabilă predictivă, relația este modelată de ecuația:

    \[ y = mx + b \]

Aici, m (panta) și b (intersecția în y) sunt parametrii care trebuie determinați. Panta m indică schimbarea în y pentru o schimbare de o unitate în x, în timp ce interceptarea y b reprezintă valoarea de y cand x este zero.

Pentru a găsi acești parametri, folosim de obicei metoda celor mai mici pătrate, care minimizează suma diferențelor pătrate dintre valorile observate și valorile prezise de model. Din această metodă rezultă următoarele formule pentru panta m și interceptarea y b:

    \[ m = \frac{\sum{(x_i - \bar{x})(y_i - \bar{y})}}{\sum{(x_i - \bar{x})^2}} \]

    \[ b = \bar{y} - m\bar{x} \]

Aici, \bar{x} si \bar{y} sunt mijloacele de x si y valori, respectiv. Termenul \sum{(x_i - \bar{x})(y_i - \bar{y})} reprezinta covarianta a x si y, În timp ce \sum{(x_i - \bar{x})^2} reprezintă varianţa de x.

Formula pentru interceptarea y b poate fi înţeleasă astfel: odată cu panta m este determinată, interceptarea y b se calculează luând media lui y valori şi scăzând produsul pantei m iar media lui x valorile. Acest lucru asigură că linia de regresie trece prin punct (\bar{x}, \bar{y}), care este centroidul punctelor de date.

Pentru a ilustra acest lucru cu un exemplu, luați în considerare un set de date cu următoarele valori:

    \[ \begin{array}{|c|c|} \hline x & y \\ \hline 1 & 2 \\ 2 & 3 \\ 3 & 5 \\ 4 & 4 \\ 5 & 6 \\ \hline \end{matrice} \]

În primul rând, calculăm mijloacele de x si y:

    \[ \bar{x} = \frac{1 + 2 + 3 + 4 + 5}{5} = 3 \]

    \[ \bar{y} = \frac{2 + 3 + 5 + 4 + 6}{5} = 4 \]

Apoi, calculăm panta m:

    \[ m = \frac{\sum{(x_i - \bar{x})(y_i - \bar{y})}}{\sum{(x_i - \bar{x})^2}} \]

    \[ = \frac{(1-3)(2-4) + (2-3)(3-4) + (3-3)(5-4) + (4-3)(4-4) + (5-3)(6-4)}{(1-3)^2 + (2-3)^2 + (3-3)^2 + (4-3)^2 + (5-3)^ 2} \]

    \[ = \frac{(-2)(-2) + (-1)(-1) + (0)(1) + (1)(0) + (2)(2)}{(-2) ^2 + (-1)^2 + (0)^2 + (1)^2 + (2)^2} \]

    \[ = \frac{4 + 1 + 0 + 0 + 4}{4 + 1 + 0 + 1 + 4} \]

    \[ = \frac{9}{10} = 0.9 \]

În cele din urmă, calculăm intersecția cu y b:

    \[ b = \bar{y} - m\bar{x} \]

    \[ = 4 - 0.9 \x 3 \]

    \[ = 4 - 2.7 \]

    \[ = 1.3 \]

Prin urmare, ecuația de regresie liniară pentru acest set de date este:

    \[ y = 0.9x + 1.3 \]

Acest exemplu demonstrează că intersecția cu y b este într-adevăr egal cu media tuturor y valori minus produsul pantei m și mijlocul tuturor x valori, care se aliniază cu formula b = \bar{y} - m\bar{x}.

Este important de reținut că interceptarea y b nu este pur și simplu mijlocul tuturor y valori plus produsul pantei m și mijlocul tuturor x valorile. În schimb, implică scăderea produsului pantei m și mijlocul tuturor x valori din media tuturor y valori.

Înțelegerea derivării și semnificației acestor parametri este esențială pentru interpretarea rezultatelor unei analize de regresie liniară. Interceptarea y b oferă informații valoroase despre nivelul de bază al variabilei dependente y când variabila independentă x este zero. Panta m, pe de altă parte, indică direcția și puterea relației dintre x si y.

În aplicațiile practice, regresia liniară este utilizată pe scară largă pentru modelarea predictivă și analiza datelor. Acesta servește ca tehnică de bază în diverse domenii, inclusiv economie, finanțe, biologie și științe sociale. Prin potrivirea unui model liniar la datele observate, cercetătorii și analiștii pot face predicții, pot identifica tendințele și pot descoperi relațiile dintre variabile.

Python, un limbaj de programare popular pentru știința datelor și învățarea automată, oferă mai multe biblioteci și instrumente pentru efectuarea regresiei liniare. Biblioteca `scikit-learn`, de exemplu, oferă o implementare simplă a regresiei liniare prin clasa sa `LinearRegression`. Iată un exemplu despre cum să efectuați regresia liniară folosind `scikit-learn` în Python:

python
import numpy as np
from sklearn.linear_model import LinearRegression

# Sample data
x = np.array([1, 2, 3, 4, 5]).reshape((-1, 1))
y = np.array([2, 3, 5, 4, 6])

# Create and fit the model
model = LinearRegression()
model.fit(x, y)

# Get the slope (m) and y-intercept (b)
m = model.coef_[0]
b = model.intercept_

print(f"Slope (m): {m}")
print(f"Y-intercept (b): {b}")

În acest exemplu, clasa `LinearRegression` este folosită pentru a crea un model de regresie liniară. Metoda `fit` este apelată pentru a antrena modelul pe datele eșantionului, iar atributele `coef_` și `intercept_` sunt folosite pentru a prelua panta și, respectiv, intersecția cu y.

Interceptarea y b în regresia liniară nu este egală cu media tuturor y valori plus produsul pantei m și mijlocul tuturor x valorile. În schimb, este egală cu media tuturor y valori minus produsul pantei m și mijlocul tuturor x valori, așa cum sunt date de formulă b = \bar{y} - m\bar{x}.

Alte întrebări și răspunsuri recente cu privire la EITC/AI/MLP Machine Learning cu Python:

Vedeți mai multe întrebări și răspunsuri în EITC/AI/MLP Machine Learning cu Python

Mai multe întrebări și răspunsuri:

Etichetat sub: , , , , ,