Garfield
YZF Admin
Polinom regresyon, iki değişken arasındaki ilişki düz bir çizgiyle açıklanamadığında bağımsız değişkenin üslerini modele ekleyerek eğri bir tahmin fonksiyonu kurar. Örneğin satış miktarı yalnızca reklam bütçesiyle doğrusal artmıyorsa model, bütçenin karesini veya küpünü de kullanabilir. Sonuçta amaç, verilen veriye uygun bir eğri oluşturmak ve yeni bir girdi için tahmin yapmaktır; ancak derece gereğinden fazla yükseltilirse model ezberlemeye başlayabilir.
Basit doğrusal regresyon şu biçimdedir:
Polinom regresyon ise modele daha yüksek dereceli terimler ekler:
Burada
Örneğin sıcaklık ile dondurma satışı arasındaki ilişki bazı aralıklarda hızlanıp sonra yavaşlıyorsa düz çizgi yetersiz kalabilir. Polinom model, sıcaklığın karesini veya daha yüksek kuvvetlerini kullanarak bu eğriliği temsil edebilir.
Model seçerken yalnızca eğitim verisindeki uyuma bakmayın. Daha yüksek dereceli bir model eğitim verisini daha iyi açıklayabilir; fakat yeni verilerde daha kötü tahmin yapabilir. Bu nedenle modelin karmaşıklığı ile genelleme başarısı birlikte değerlendirilmelidir.
Bu karşılaştırma, polinom regresyonun her durumda daha iyi olduğu anlamına gelmez. Veriler yaklaşık doğrusal bir eğilim gösteriyorsa daha basit model tercih edilir. Eğrilik belirginse düşük dereceli bir polinom denenebilir.
Aşağıdaki varsayımsal örnekte
Bu örnekte model yaklaşık olarak
Gerçek bir veri kümesinde modeli yalnızca eğitim verisiyle değerlendirmek yerine veriyi eğitim ve test bölümlerine ayırın. Test sonucundaki hata eğitim hatasına göre çok yüksekse model yeni veriye iyi uyum sağlamıyor olabilir. Dereceyi artırmak eğitim hatasını düşürebilir; fakat test hatası yükseliyorsa bu genellikle aşırı öğrenme işaretidir.
Dereceyi, eğitim verisi içindeki doğrulama veya çapraz doğrulama performansına göre seçin. Önce doğrusal modeli temel karşılaştırma olarak kurmak, ardından 2 veya 3 gibi düşük dereceleri denemek genellikle daha güvenlidir. Her derece için doğrulama hatasını karşılaştırın; son test kümesini derece seçiminde kullanmayıp seçilmiş modeli en sonda değerlendirmek için saklayın.
Düşük derece gerçek eğriliği açıklamakta yetersiz kalabilir. Çok yüksek derece ise veri noktalarının arasındaki rastgele dalgalanmaları da öğrenerek yeni değerlerde kararsız sonuçlar verebilir. Özellikle veri aralığının dışına yapılan tahminlerde dikkatli olun; polinomlar aralık dışında hızla büyüyebilir veya yön değiştirebilir.
Polinom regresyon, nedensellik göstermez. İki değişken arasında iyi bir eğri bulunması, bir değişkenin diğerine sebep olduğunu kanıtlamaz. Ayrıca uç değerler katsayıları ve eğrinin biçimini ciddi biçimde etkileyebilir. Bu nedenle tahmin hatasını, veri aralığını, aykırı gözlemleri ve test sonuçlarını birlikte inceleyin.
Polinom regresyon nasıl çalışır?
Basit doğrusal regresyon şu biçimdedir:
y = b₀ + b₁xPolinom regresyon ise modele daha yüksek dereceli terimler ekler:
y = b₀ + b₁x + b₂x² + b₃x³ + ... + bₙxⁿBurada
x bağımsız değişkeni, y tahmin edilmek istenen sonucu, b₀, b₁, ... katsayıları ve n polinom derecesini gösterir. Model eğri görünse de katsayılar açısından hâlâ doğrusal regresyon yöntemiyle çözülebilir; çünkü model katsayıları yalnızca x, x² ve diğer dönüştürülmüş özelliklerle çarpılır.Örneğin sıcaklık ile dondurma satışı arasındaki ilişki bazı aralıklarda hızlanıp sonra yavaşlıyorsa düz çizgi yetersiz kalabilir. Polinom model, sıcaklığın karesini veya daha yüksek kuvvetlerini kullanarak bu eğriliği temsil edebilir.
Doğrusal ve polinom regresyon arasındaki fark
Model seçerken yalnızca eğitim verisindeki uyuma bakmayın. Daha yüksek dereceli bir model eğitim verisini daha iyi açıklayabilir; fakat yeni verilerde daha kötü tahmin yapabilir. Bu nedenle modelin karmaşıklığı ile genelleme başarısı birlikte değerlendirilmelidir.
| Özellik | Doğrusal regresyon | Polinom regresyon |
|---|---|---|
| İlişki biçimi | Düz çizgi | Eğri olabilir |
| Kullanılan özellikler | x | x, x², x³ gibi dönüştürülmüş özellikler |
| Model karmaşıklığı | Daha düşüktür | Derece arttıkça yükselir |
| Başlıca risk | Eğriliği açıklayamama | Aşırı öğrenme |
Python ile küçük bir örnek
Aşağıdaki varsayımsal örnekte
x değerleri girişleri, y değerleri ise ölçülen sonuçları temsil eder. Kod, ikinci dereceden bir polinom model kurar ve yeni bir x = 6 değeri için tahmin üretir.
Python:
import numpy as np
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import PolynomialFeatures
from sklearn.linear_model import LinearRegression
x = np.array([[1], [2], [3], [4], [5]])
y = np.array([2, 5, 10, 17, 26])
model = make_pipeline(
PolynomialFeatures(degree=2),
LinearRegression()
)
model.fit(x, y)
tahmin = model.predict([[6]])
print(round(tahmin[0], 2))Bu örnekte model yaklaşık olarak
y = x² + 1 eğilimini öğrenir ve x = 6 için yaklaşık 37 değerini üretir. Bu çıktı, modelin verilen örneklerdeki ilişkiyi izleyen bir tahminidir; yeni gözlemin gerçek sonucunu kanıtlamaz.Gerçek bir veri kümesinde modeli yalnızca eğitim verisiyle değerlendirmek yerine veriyi eğitim ve test bölümlerine ayırın. Test sonucundaki hata eğitim hatasına göre çok yüksekse model yeni veriye iyi uyum sağlamıyor olabilir. Dereceyi artırmak eğitim hatasını düşürebilir; fakat test hatası yükseliyorsa bu genellikle aşırı öğrenme işaretidir.
Polinom derecesi nasıl seçilir?
Dereceyi, eğitim verisi içindeki doğrulama veya çapraz doğrulama performansına göre seçin. Önce doğrusal modeli temel karşılaştırma olarak kurmak, ardından 2 veya 3 gibi düşük dereceleri denemek genellikle daha güvenlidir. Her derece için doğrulama hatasını karşılaştırın; son test kümesini derece seçiminde kullanmayıp seçilmiş modeli en sonda değerlendirmek için saklayın.
Düşük derece gerçek eğriliği açıklamakta yetersiz kalabilir. Çok yüksek derece ise veri noktalarının arasındaki rastgele dalgalanmaları da öğrenerek yeni değerlerde kararsız sonuçlar verebilir. Özellikle veri aralığının dışına yapılan tahminlerde dikkatli olun; polinomlar aralık dışında hızla büyüyebilir veya yön değiştirebilir.
Polinom regresyon, nedensellik göstermez. İki değişken arasında iyi bir eğri bulunması, bir değişkenin diğerine sebep olduğunu kanıtlamaz. Ayrıca uç değerler katsayıları ve eğrinin biçimini ciddi biçimde etkileyebilir. Bu nedenle tahmin hatasını, veri aralığını, aykırı gözlemleri ve test sonuçlarını birlikte inceleyin.
