Regresyon, makine öğrenmesinde bir veya daha fazla girdiyi kullanarak sayısal ve genellikle sürekli bir değer tahmin etme yöntemidir. Örneğin bir evin konumu, metrekaresi, oda sayısı ve yaşı verildiğinde model evin tahmini satış fiyatını üretir. Model eğitilirken geçmişteki örneklerden değişkenler arasındaki ilişkiyi öğrenir; yeni bir örnek verildiğinde ise bu ilişkiye dayanarak bir sayı döndürür. Sonucun doğru yorumlanması için tahmin değerini, hata payını ve modelin daha önce görmediği verilerdeki başarısını birlikte değerlendirmek gerekir.
Regresyonda tahmin edilmek istenen hedef değişken sayısaldır. Bu hedef; fiyat, sıcaklık, süre, satış miktarı, enerji tüketimi veya gelecek ayki gelir gibi bir değer olabilir. Modelin amacı, girdiler ile hedef değer arasındaki örüntüyü öğrenip yeni girdiler için mümkün olduğunca isabetli bir tahmin yapmaktır.
Örneğin geçmiş ev kayıtlarında şu bilgiler bulunduğunu varsayalım: metrekare, oda sayısı, bina yaşı ve semt. Her kaydın yanında gerçek satış fiyatı da vardır. Regresyon modeli bu örnekleri kullanarak hangi özelliklerin fiyatla nasıl ilişkili olduğunu öğrenir. Daha sonra 120 metrekare, üç odalı ve 10 yaşındaki yeni bir ev için 3.250.000 TL gibi bir tahmin üretebilir. Bu değer modelin tahminidir; evin kesin satış fiyatını veya satışın gerçekleşeceğini kanıtlamaz.
En önemli ayrım, modelin üretmesi beklenen çıktı türüdür. Çıktı bir sınıf veya kategori ise sınıflandırma; sayısal bir değer ise regresyon problemi söz konusudur.
Bu ayrım her zaman yalnızca sayıların görünümüne bakılarak yapılamaz. Örneğin 0, 1 ve 2 değerleriyle kodlanmış üç ürün türünü tahmin etmek regresyon değildir; bu değerler sayısal büyüklük değil, kategori etiketidir. Modelin bu kategoriler arasında matematiksel bir uzaklık varmış gibi davranmaması gerekir.
Model, eğitim verisindeki girdileri ve bunlara karşılık gelen gerçek hedef değerlerini inceler. Tahmini ile gerçek değer arasındaki farkı bir hata ölçüsüyle hesaplar ve bu hatayı azaltacak model parametrelerini arar. Öğrenme tamamlandıktan sonra model, eğitim sırasında kullanılmamış yeni veriler üzerinde denenir.
Basit doğrusal regresyonda model, bir hedefi girdilerin ağırlıklı toplamı olarak yaklaşıklar. Örneğin kira tahmininde metrekare arttıkça kiranın artması, bina yaşı arttıkça kiranın azalması gibi ilişkiler ağırlıklarla ifade edilebilir. Gerçek veriler doğrusal bir ilişkiye uymuyorsa karar ağaçları, rastgele ormanlar veya başka regresyon algoritmaları kullanılabilir. Ancak daha karmaşık bir modelin eğitim verisini ezberleme riski de artar.
Bir regresyon modelini yalnızca birkaç tahminin makul görünmesine bakarak başarılı kabul etmeyin. Veriyi eğitim ve test bölümlerine ayırarak modelin daha önce görmediği örneklerdeki performansını ölçün.
Yaygın ölçütlerden biri ortalama mutlak hatadır. Gerçek değer ile tahmin arasındaki farkların mutlak değerlerinin ortalamasını verir. Örneğin ortalama mutlak hata 45.000 TL ise model, değerlendirilen veri üzerinde ortalama olarak yaklaşık 45.000 TL büyüklüğünde hata yapmıştır. Bu, her tahminin tam olarak 45.000 TL sapacağı anlamına gelmez; bazı tahminler daha düşük, bazıları daha yüksek hatalı olabilir.
Kareler ortalamasının karekökü de büyük hataları daha fazla öne çıkarır. Bu nedenle birkaç aşırı hatalı tahminin özellikle önemli olduğu durumlarda yararlı olabilir. Yüzde tabanlı ölçütler ise hedef değerin sıfıra veya sıfıra yakın değerlere yaklaşabildiği veri kümelerinde yanıltıcı olabilir.
Regresyon, veride öğrenilebilir bir ilişki bulunduğunu varsayar. Eğitim verisi azsa, hatalıysa veya gerçek kullanım alanını temsil etmiyorsa modelin tahminleri güvenilir olmayabilir. Geçmişteki ilişki gelecekte değişebilir; örneğin fiyatları etkileyen ekonomik koşullar değiştiğinde daha önce eğitilmiş modelin hatası artabilir.
Modelin bir tahmin üretmesi, neden-sonuç ilişkisini kanıtladığı anlamına da gelmez. Bir değişken hedefle birlikte değişiyor olabilir ancak hedefteki değişimin gerçek nedeni olmayabilir. Ayrıca test başarısı, verinin nasıl toplandığı ve hangi örneklerin dışarıda bırakıldığı bilinmeden tek başına yeterli kanıt değildir.
Bu nedenle regresyon kullanırken hedef değişkeni açıkça tanımlayın, girdilerde hedefe ait gelecekteki bilgilerin yanlışlıkla bulunmadığını kontrol edin ve performansı gerçek kullanım koşullarını temsil eden ayrı verilerle ölçün. Sonuç, kabul edilebilir hata sınırının üzerindeyse daha iyi bir model seçmekten önce veri kalitesini, eksik değerleri, aykırı gözlemleri ve hedefle ilgili olmayan değişkenleri inceleyin.
Regresyon hangi problemi çözer?
Regresyonda tahmin edilmek istenen hedef değişken sayısaldır. Bu hedef; fiyat, sıcaklık, süre, satış miktarı, enerji tüketimi veya gelecek ayki gelir gibi bir değer olabilir. Modelin amacı, girdiler ile hedef değer arasındaki örüntüyü öğrenip yeni girdiler için mümkün olduğunca isabetli bir tahmin yapmaktır.
Örneğin geçmiş ev kayıtlarında şu bilgiler bulunduğunu varsayalım: metrekare, oda sayısı, bina yaşı ve semt. Her kaydın yanında gerçek satış fiyatı da vardır. Regresyon modeli bu örnekleri kullanarak hangi özelliklerin fiyatla nasıl ilişkili olduğunu öğrenir. Daha sonra 120 metrekare, üç odalı ve 10 yaşındaki yeni bir ev için 3.250.000 TL gibi bir tahmin üretebilir. Bu değer modelin tahminidir; evin kesin satış fiyatını veya satışın gerçekleşeceğini kanıtlamaz.
Regresyon ile sınıflandırma arasındaki fark
En önemli ayrım, modelin üretmesi beklenen çıktı türüdür. Çıktı bir sınıf veya kategori ise sınıflandırma; sayısal bir değer ise regresyon problemi söz konusudur.
| Problem türü | Üretilen çıktı | Örnek soru |
|---|---|---|
| Regresyon | Sayısal değer | Bir evin fiyatı kaç TL olur? |
| İkili sınıflandırma | İki sınıftan biri | Müşteri aboneliğini iptal eder mi? |
| Çok sınıflı sınıflandırma | Birden fazla kategoriden biri | Bu e-posta hangi sınıfa ait? |
Regresyon modeli nasıl çalışır?
Model, eğitim verisindeki girdileri ve bunlara karşılık gelen gerçek hedef değerlerini inceler. Tahmini ile gerçek değer arasındaki farkı bir hata ölçüsüyle hesaplar ve bu hatayı azaltacak model parametrelerini arar. Öğrenme tamamlandıktan sonra model, eğitim sırasında kullanılmamış yeni veriler üzerinde denenir.
Basit doğrusal regresyonda model, bir hedefi girdilerin ağırlıklı toplamı olarak yaklaşıklar. Örneğin kira tahmininde metrekare arttıkça kiranın artması, bina yaşı arttıkça kiranın azalması gibi ilişkiler ağırlıklarla ifade edilebilir. Gerçek veriler doğrusal bir ilişkiye uymuyorsa karar ağaçları, rastgele ormanlar veya başka regresyon algoritmaları kullanılabilir. Ancak daha karmaşık bir modelin eğitim verisini ezberleme riski de artar.
Tahminin başarısı nasıl değerlendirilir?
Bir regresyon modelini yalnızca birkaç tahminin makul görünmesine bakarak başarılı kabul etmeyin. Veriyi eğitim ve test bölümlerine ayırarak modelin daha önce görmediği örneklerdeki performansını ölçün.
Yaygın ölçütlerden biri ortalama mutlak hatadır. Gerçek değer ile tahmin arasındaki farkların mutlak değerlerinin ortalamasını verir. Örneğin ortalama mutlak hata 45.000 TL ise model, değerlendirilen veri üzerinde ortalama olarak yaklaşık 45.000 TL büyüklüğünde hata yapmıştır. Bu, her tahminin tam olarak 45.000 TL sapacağı anlamına gelmez; bazı tahminler daha düşük, bazıları daha yüksek hatalı olabilir.
Kareler ortalamasının karekökü de büyük hataları daha fazla öne çıkarır. Bu nedenle birkaç aşırı hatalı tahminin özellikle önemli olduğu durumlarda yararlı olabilir. Yüzde tabanlı ölçütler ise hedef değerin sıfıra veya sıfıra yakın değerlere yaklaşabildiği veri kümelerinde yanıltıcı olabilir.
Regresyonun sınırları
Regresyon, veride öğrenilebilir bir ilişki bulunduğunu varsayar. Eğitim verisi azsa, hatalıysa veya gerçek kullanım alanını temsil etmiyorsa modelin tahminleri güvenilir olmayabilir. Geçmişteki ilişki gelecekte değişebilir; örneğin fiyatları etkileyen ekonomik koşullar değiştiğinde daha önce eğitilmiş modelin hatası artabilir.
Modelin bir tahmin üretmesi, neden-sonuç ilişkisini kanıtladığı anlamına da gelmez. Bir değişken hedefle birlikte değişiyor olabilir ancak hedefteki değişimin gerçek nedeni olmayabilir. Ayrıca test başarısı, verinin nasıl toplandığı ve hangi örneklerin dışarıda bırakıldığı bilinmeden tek başına yeterli kanıt değildir.
Bu nedenle regresyon kullanırken hedef değişkeni açıkça tanımlayın, girdilerde hedefe ait gelecekteki bilgilerin yanlışlıkla bulunmadığını kontrol edin ve performansı gerçek kullanım koşullarını temsil eden ayrı verilerle ölçün. Sonuç, kabul edilebilir hata sınırının üzerindeyse daha iyi bir model seçmekten önce veri kalitesini, eksik değerleri, aykırı gözlemleri ve hedefle ilgili olmayan değişkenleri inceleyin.
