Regresyon katsayıları, gözlenen verilerle modelin tahminleri arasındaki farkların kareleri toplamını en aza indiren En Küçük Kareler (EKK) hesabıyla bulunur. Tek bağımsız değişkenli doğrusal regresyonda eğim katsayısı \(b_1=\frac{\sum (x_i-\bar{x})(y_i-\bar{y})}{\sum (x_i-\bar{x})^2}\), sabit terim ise \(b_0=\bar{y}-b_1\bar{x}\) formülüyle hesaplanır. Böylece tahmin denklemi \(\hat{y}=b_0+b_1x\) olur. Birden fazla bağımsız değişken varsa katsayılar, matris biçimindeki \(\hat{\beta}=(X^TX)^{-1}X^Ty\) hesabıyla veya eşdeğer bir istatistiksel yöntemle bulunur.
Basit doğrusal regresyonda \(x\), bağımsız değişkeni; \(y\), bağımlı değişkeni; \(b_1\), eğim katsayısını; \(b_0\), sabit terimi gösterir. Eğim, \(x\)'teki bir birimlik değişimin tahmin edilen \(y\)'de ne kadar değişim oluşturduğunu ifade eder.
Varsayımsal olarak şu üç gözlemi kullanalım: \((x,y)=(1,2)\), \((2,3)\) ve \((3,5)\). Ortalamalar \(\bar{x}=2\) ve \(\bar{y}=10/3\)'tür. Eğim hesabı şöyledir:
\(b_1=\frac{(1-2)(2-10/3)+(2-2)(3-10/3)+(3-2)(5-10/3)}{(1-2)^2+(2-2)^2+(3-2)^2}=1,5\)
Sabit terim:
\(b_0=10/3-(1,5\times2)=1/3\)
Bu nedenle regresyon denklemi yaklaşık olarak \(\hat{y}=0,333+1,5x\) olur. Örneğin \(x=4\) için tahmin \(\hat{y}=6,333\)'tür. Buradaki 1,5 katsayısı, bu varsayımsal veri setinde \(x\) bir birim arttığında modelin tahmin ettiği \(y\)'nin ortalama 1,5 birim arttığını gösterir. Bu sonuç nedenselliği tek başına kanıtlamaz; yalnızca kurulan doğrusal modeldeki ilişkiyi açıklar.
Aşağıdaki ayrım, hangi katsayının nasıl yorumlanacağını netleştirir.
Çoklu regresyonda model genellikle \(\hat{y}=b_0+b_1x_1+b_2x_2+\cdots+b_kx_k\) biçimindedir. Örneğin \(b_1=2\) ise, diğer bağımsız değişkenler aynı tutulduğunda \(x_1\)'deki bir birimlik artışın tahmin edilen \(y\)'yi 2 birim artırdığı yorumlanır. Ancak bu yorumun güvenilirliği veri yapısına, model varsayımlarına ve katsayının istatistiksel belirsizliğine bağlıdır.
Excel'de gerçek bir regresyon hesabı yapmak için verilerin aynı satırlarda eşleşmiş olması gerekir. Örneğin A sütununda bağımsız değişken \(x\), B sütununda bağımlı değişken \(y\) bulunuyorsa şu yollar kullanılabilir:
Tek bir bağımsız değişken ve sabit terim içeren modelde ortalamalardan sapmaları kullanan \(b_1\) ve \(b_0\) formülleri yeterlidir. Birden fazla bağımsız değişken, kategorik değişken veya etkileşim terimi varsa matris yaklaşımı ya da regresyon yazılımının katsayı çıktısı kullanılmalıdır. Matris hesabında \(X^TX\)'in tersinin alınamadığı durumlar, örneğin tamamen örtüşen değişkenler, doğrudan formül yerine sayısal çözüm yöntemlerinin kullanılmasını gerektirebilir.
Tek değişkenli regresyonda hesaplama
Basit doğrusal regresyonda \(x\), bağımsız değişkeni; \(y\), bağımlı değişkeni; \(b_1\), eğim katsayısını; \(b_0\), sabit terimi gösterir. Eğim, \(x\)'teki bir birimlik değişimin tahmin edilen \(y\)'de ne kadar değişim oluşturduğunu ifade eder.
Varsayımsal olarak şu üç gözlemi kullanalım: \((x,y)=(1,2)\), \((2,3)\) ve \((3,5)\). Ortalamalar \(\bar{x}=2\) ve \(\bar{y}=10/3\)'tür. Eğim hesabı şöyledir:
\(b_1=\frac{(1-2)(2-10/3)+(2-2)(3-10/3)+(3-2)(5-10/3)}{(1-2)^2+(2-2)^2+(3-2)^2}=1,5\)
Sabit terim:
\(b_0=10/3-(1,5\times2)=1/3\)
Bu nedenle regresyon denklemi yaklaşık olarak \(\hat{y}=0,333+1,5x\) olur. Örneğin \(x=4\) için tahmin \(\hat{y}=6,333\)'tür. Buradaki 1,5 katsayısı, bu varsayımsal veri setinde \(x\) bir birim arttığında modelin tahmin ettiği \(y\)'nin ortalama 1,5 birim arttığını gösterir. Bu sonuç nedenselliği tek başına kanıtlamaz; yalnızca kurulan doğrusal modeldeki ilişkiyi açıklar.
Katsayıların anlamı ve hesaplama türleri
Aşağıdaki ayrım, hangi katsayının nasıl yorumlanacağını netleştirir.
| Model | Katsayı hesabı | Katsayının yorumu |
|---|---|---|
| Basit doğrusal regresyon | EKK ile b₀ ve b₁ | x bir birim değiştiğinde tahmin edilen y'deki değişim |
| Çoklu doğrusal regresyon | β̂=(XᵀX)⁻¹Xᵀy veya eşdeğer çözüm | Diğer değişkenler sabitken ilgili değişkendeki bir birim değişimin katkısı |
| Standartlaştırılmış regresyon | Standartlaştırılmış x ve y üzerinden EKK | Değişkenlerin göreli etkilerini ölçek farkından arındırarak karşılaştırma |
Excel'de katsayıları bulma
Excel'de gerçek bir regresyon hesabı yapmak için verilerin aynı satırlarda eşleşmiş olması gerekir. Örneğin A sütununda bağımsız değişken \(x\), B sütununda bağımlı değişken \(y\) bulunuyorsa şu yollar kullanılabilir:
- Eğim katsayısını hesaplayın. Boş bir hücreye
=EĞİM(B2:B4;A2:A4)yazın. İngilizce Excel'de karşılığı=SLOPE(B2:B4,A2:A4)olabilir; işlev adı ve ayraç, Excel'in dil ve bölge ayarına göre değişebilir. - Sabit terimi hesaplayın. Başka bir hücreye
=KESTİRM(B2:B4;A2:A4)yazın. İngilizce Excel'de karşılığı=INTERCEPT(B2:B4,A2:A4)işlevidir. - Tahmin denklemini kurun. Eğim C2, sabit terim C3 ve yeni x değeri D2'deyse tahmin hücresine
=$C$3+$C$2*D2yazın. Sonuç, modelin D2 değerine karşılık tahmin ettiği y değeridir. - Sonucu kontrol edin. Eğim ve sabit terimi kullanarak her satır için tahmin edilen değeri hesaplayın; gözlenen y ile tahmin arasındaki farklara bakın. Büyük ve sistematik farklar, doğrusal modelin veriyi iyi açıklamadığını veya veri girişinde sorun bulunduğunu gösterebilir.
Hangi formül kullanılmalı?
Tek bir bağımsız değişken ve sabit terim içeren modelde ortalamalardan sapmaları kullanan \(b_1\) ve \(b_0\) formülleri yeterlidir. Birden fazla bağımsız değişken, kategorik değişken veya etkileşim terimi varsa matris yaklaşımı ya da regresyon yazılımının katsayı çıktısı kullanılmalıdır. Matris hesabında \(X^TX\)'in tersinin alınamadığı durumlar, örneğin tamamen örtüşen değişkenler, doğrudan formül yerine sayısal çözüm yöntemlerinin kullanılmasını gerektirebilir.
