Parametrik olmayan regresyon nedir?

Parametrik olmayan regresyon, bağımlı değişken ile bir veya daha fazla bağımsız değişken arasındaki ilişkiyi önceden belirlenmiş doğrusal ya da polinom bir denklem biçimine zorlamadan tahmin etme yöntemidir. İlişkinin şekli veriden öğrenilir; böylece bağlantı doğrusal değilse, eğri oluşturuyorsa veya farklı bölgelerde farklı davranıyorsa daha esnek bir model kurulabilir. Sonuçta amaç, verilen bir girdi için beklenen çıktıyı tahmin etmek ve değişkenler arasındaki ilişkiyi uygun bir eğri ya da yüzeyle açıklamaktır.

Parametrik olmayan regresyon nasıl çalışır?​

Klasik doğrusal regresyonda model, örneğin y = a + bx biçiminde sabit sayıda katsayı tahmin eder. Burada ilişkinin doğruya yakın olduğu varsayılır. Parametrik olmayan regresyonda ise ilişkinin biçimi baştan kesinleştirilmez. Model, gözlemlerin birbirine yakınlığına, yerel eğilimlere veya verinin oluşturduğu genel yapıya göre tahmin üretir.

Bu yaklaşım “hiçbir varsayım yoktur” anlamına gelmez. Verinin bağımsızlığı, ölçümlerin niteliği, gözlemlerdeki gürültü, aykırı değerler ve yeterli örnek bulunup bulunmadığı yine önemlidir. Yalnızca ilişki biçiminin doğrusal olduğu gibi güçlü bir varsayım azaltılmış olur.

Yaygın yöntemler arasında hareketli ortalama ve yerel ağırlıklı regresyon, çekirdek regresyonu, regresyon ağaçları, rastgele ormanlar ve destek vektör regresyonunun bazı kullanımları bulunur. Yöntemlerin çalışma biçimi farklı olsa da ortak özellikleri, çıktıyı sabit bir denklem biçimiyle sınırlamak yerine verinin yapısına uyum sağlamalarıdır.

Parametrik ve parametrik olmayan regresyon arasındaki fark​

Seçim yaparken yalnızca “daha esnek olan daha iyidir” yaklaşımı kullanılmamalıdır. Parametrik modeller daha kolay yorumlanabilir ve az veride daha kararlı olabilir. Parametrik olmayan modeller karmaşık ilişkileri daha iyi yakalayabilir; ancak çok az veride veya gereğinden esnek ayarlarda gürültüyü de öğrenebilir.
Tablo, yöntemlerin mutlak üstünlüğünü değil, farklı ödünleşimleri gösterir. Örneğin satışların reklam harcamasıyla ilişkisi önce hızla artıp sonra doygunluğa ulaşıyorsa doğrusal model bu eğriliği kaçırabilir. Parametrik olmayan bir yöntem bu biçimi yakalayabilir; fakat tahminin yeni ve daha önce görülmemiş değerlerde ne kadar güvenilir olduğu ayrıca sınanmalıdır.

Somut bir örnek​

Varsayımsal olarak bir mağazanın reklam harcaması ile günlük satış geliri arasındaki ilişkiyi inceleyelim. Girdi değişkeni x günlük reklam harcaması, hedef değişken y ise günlük satış geliri olsun:

x = 100, 200, 300, 400, 500

y = 180, 340, 470, 555, 610

Bu veride reklam harcaması arttıkça gelir yükseliyor; ancak artış miktarı giderek azalıyor. Doğrusal regresyon, noktalar arasından geçen tek bir doğru kurmaya çalışır. Parametrik olmayan bir regresyon ise ilişkinin giderek yataylaşan bir eğri olabileceğini öğrenebilir.

Model daha sonra x = 350 için bir gelir tahmini üretir. Örneğin tahminin yaklaşık 520 olması, modelin benzer gözlemlerde bu harcama düzeyine karşılık böyle bir gelir beklediğini gösterir. Bu sayı, reklamın kesin olarak 520 birim gelir getireceğini kanıtlamaz; gözlemlerdeki belirsizliği, mevsimselliği, kampanya türünü veya başka değişkenleri tek başına açıklamaz.

Sonuç nasıl değerlendirilir?​

Model eğitim verisindeki eğriyi iyi takip ediyorsa bu tek başına başarılı olduğu anlamına gelmez. Eğrinin yeni verilerdeki tahmin hatası, eğitim verisindeki hatayla birlikte incelenmelidir. Eğitim hatası çok düşükken yeni veride hata belirgin biçimde yükseliyorsa model büyük olasılıkla aşırı uyum göstermiştir; yani genel ilişkiyi değil, eğitim örneklerindeki ayrıntıları ezberlemiştir.

Buna karşılık model hem eğitimde hem de yeni veride yüksek hata veriyorsa ilişkiyi yeterince öğrenememiş, veri yetersiz kalmış veya girdi değişkenleri hedefi açıklamak için uygun olmayabilir. Bu durumda yalnızca modeli daha esnek hâle getirmek yerine ölçüm hatalarını, eksik değişkenleri, aykırı gözlemleri ve eğitim-doğrulama ayrımını kontrol etmek gerekir.

Parametrik olmayan regresyonun çıktısı ilişkiyi gösterir veya tahmin üretir; nedenselliği kendiliğinden kanıtlamaz. Bir değişkenin artmasıyla diğerinin birlikte değişmesi, ilk değişkenin ikinciyi kesin olarak oluşturduğu anlamına gelmez. Nedensel yorum için araştırma tasarımı, zaman sırası ve etkileyebilecek diğer değişkenler ayrıca değerlendirilmelidir.

Pratik seçim için önce basit bir parametrik model kurup hata ve yorumlanabilirlik açısından bir başlangıç noktası oluşturmak, ardından parametrik olmayan bir modelle karşılaştırmak uygundur. Yeni veride daha düşük hata veren model tercih edilebilir; ancak fark küçükse daha kolay açıklanan model, özellikle kararın gerekçesinin denetlenmesi gereken durumlarda daha kullanışlı olabilir.

Sık sorulan sorular​

Parametrik olmayan regresyon her zaman daha doğru mudur?​

Hayır. Daha esnek olması, her veri kümesinde daha iyi tahmin yaptığı anlamına gelmez. Veri azsa, gürültülüyse veya ilişki zaten doğrusal bir yapıya yakınsa parametrik bir model daha kararlı ve daha kolay açıklanabilir olabilir.

Parametrik olmayan regresyon ile sınıflandırma arasındaki fark nedir?​

Regresyon sayısal bir değer tahmin eder; örneğin satış geliri veya sıcaklık. Sınıflandırma ise sınıf ya da kategori tahmin eder; örneğin “müşteri ayrılır” veya “ayrılmaz”. Parametrik olmayan yaklaşım her iki problem türünde de kullanılabilir, fakat hedef değişkenin yapısı farklıdır.