Garfield
YZF Admin
Derin öğrenme, veriyi art arda çalışan yapay sinir ağı katmanlarından geçirerek tahmin hatasını azaltmayı öğrenir. Katmanlar sayısal girdiyi ardışık temsillere dönüştürür, modelin tahmini gerçek sonuçla karşılaştırılır ve hata, ağırlıkların nasıl değişeceğini belirler. Eğitim tamamlandığında model, daha önce görmediği benzer girdiler için öğrendiği örüntülere dayanarak çıktı üretir; ancak bu çıktı, verinin kalitesi ve eğitim kapsamıyla sınırlıdır.
Modelin girdisi görüntü pikselleri, metin belirteçleri, ses örnekleri veya tablo değerleri olabilir. Bu değerler genellikle sayısal biçime dönüştürülür ve ilk katmana verilir. Katmanlar arasındaki bağlantılarda ağırlık adı verilen sayılar bulunur. Model, eğitim sırasında bu ağırlıkları değiştirerek hangi özelliklerin daha önemli olduğunu öğrenir.
Her nöron, kendisine gelen değerleri ağırlıklarla çarpar, toplar, bir aktivasyon işlevinden geçirir ve sonraki katmana aktarır. Aktivasyon işlevi, modelin yalnızca doğrusal bir toplama yapmasını engelleyerek daha karmaşık ilişkileri öğrenmesini sağlar.
"Derin" ifadesi, modelde tek bir hesaplama katmanı yerine birden fazla öğrenilebilir katman bulunmasını anlatır. Katman sayısı arttıkça model daha karmaşık örüntüleri temsil edebilir; fakat daha fazla veri, hesaplama gücü ve doğru ayar gerektirebilir.
Bir eğitim döngüsünde model, örnek girdiden bir tahmin üretir. Bu tahmin, beklenen sonuçla karşılaştırılır ve aradaki fark bir kayıp değeri ile ölçülür. Kayıp küçükse model o örnekte daha başarılıdır; yüksekse ağırlıkların güncellenmesi gerekir.
Ağırlıkların hangi yönde değiştirileceği geri yayılım ile hesaplanır. Geri yayılım, kaybın her ağırlığa ne kadar bağlı olduğunu türevlerle bulur. Ardından bir iyileştirme yöntemi, çoğunlukla gradyan inişi veya bunun bir çeşidi, ağırlıkları küçük adımlarla günceller.
Bu süreç aynı eğitim verilerinin tamamı veya küçük grupları üzerinde defalarca tekrarlanır. Her tam veri geçişine epoch denir. Modelin eğitim verisindeki başarısı artarken daha önce görmediği doğrulama verisindeki başarısı düşmeye başlarsa model veriyi ezberliyor olabilir. Buna aşırı öğrenme denir; bu durumda yalnızca eğitim doğruluğuna bakmak doğru değildir.
Katmanların görevleri kullanılan mimariye göre değişir. Aşağıdaki örnek, bir görüntü sınıflandırma modelinde katmanların genel olarak nasıl ilerlediğini gösterir:
Bu ayrım kesin bir görev sözleşmesi değildir. Bir katmanın ne öğrendiği mimariye, veriye ve eğitim sonucuna bağlıdır. Örneğin metin işleyen bir modelde katmanlar pikselleri değil, sözcükler veya belirteçler arasındaki bağlam ilişkilerini dönüştürür.
Varsayımsal olarak modele 28×28 piksellik bir el yazısı görüntüsü verildiğini düşünün. Görüntüdeki her piksel 0 ile 1 arasında bir değere dönüştürülür. Modelin beklenen etiketi "7" olsun.
İlk katmanlar görüntüdeki kenar ve çizgi yönlerini işler. Daha sonraki katmanlar bu çizgilerin birleşerek rakamın üst yatay çizgisini veya çapraz yapısını oluşturup oluşturmadığını değerlendirir. Son katman 0'dan 9'a kadar on puan üretir. Örneğin en yüksek puan "7" sınıfındaysa modelin tahmini 7 olur.
Modelin tahmini 3 ise kayıp değeri, beklenen etiket ile bu tahmin arasındaki uyumsuzluğu ölçer. Geri yayılım, yanlış tahmine katkıda bulunan ağırlıklar için düzeltme yönünü hesaplar. Çok sayıda benzer ve farklı el yazısı örneğiyle bu işlem tekrarlandıkça model, tek bir görüntüyü kopyalamak yerine rakamları ayıran görsel örüntüleri öğrenmeye çalışır.
Bu çıktı, modelin görüntünün gerçekten bir insan tarafından yazıldığını veya her koşulda doğru olduğunu kanıtlamaz. Görüntü eğitim verisinden çok farklıysa, bulanıksa ya da etiketler hatalıysa tahmin güvenilirliği düşebilir.
Eğitim aşamasında modelin ağırlıkları güncellenir ve kayıp değeri kullanılır. Tahmin aşamasında ise yeni veri katmanlardan geçirilir, fakat modelin ağırlıkları değiştirilmez. Tahmin sırasında elde edilen yüksek olasılık da tek başına kesin doğruluk anlamına gelmez; model yanlış bir sonuca yüksek güven verebilir.
Bir modeli değerlendirirken veriyi en azından eğitim ve değerlendirme bölümlerine ayırmak gerekir. Eğitim sonucu düşük kayıp, modelin eğitim örneklerini iyi açıkladığını gösterir; yeni veride de başarılı olacağını ancak ayrı değerlendirme sonuçları destekleyebilir. Eğitim ve değerlendirme verileri birbirine sızarsa ölçüm gerçekte olduğundan daha iyi görünebilir.
Kayıp değeri hiç azalmıyorsa önce girdilerin sayısal biçiminin, etiketlerin ve hedef çıktının doğru hazırlanıp hazırlanmadığı incelenir. Kayıp azalıyor ancak değerlendirme başarısı düşüyorsa aşırı öğrenme, veri dağılımı farkı veya yetersiz çeşitlilik olasılıkları değerlendirilir. Hem eğitim hem değerlendirme başarısı düşükse model mimarisi, öğrenme oranı, veri ölçeği ve problem için yeterli bilgi bulunup bulunmadığı kontrol edilmelidir.
Bu sonuçların hiçbiri tek başına belirli bir hatayı kanıtlamaz. Sorunu ayırmak için eğitim ve değerlendirme kaybını aynı zaman aralıklarında karşılaştırın, birkaç örneğin gerçek etiketini model girdisiyle birlikte elle inceleyin ve tahminlerin hangi sınıflarda karıştığını kontrol edin. Böylece ağırlıkları rastgele değiştirmek yerine veri, etiket, model ve eğitim ayarlarından hangisinin sorunlu olduğunu daraltabilirsiniz.
Bir derin öğrenme modelinin temel parçaları
Modelin girdisi görüntü pikselleri, metin belirteçleri, ses örnekleri veya tablo değerleri olabilir. Bu değerler genellikle sayısal biçime dönüştürülür ve ilk katmana verilir. Katmanlar arasındaki bağlantılarda ağırlık adı verilen sayılar bulunur. Model, eğitim sırasında bu ağırlıkları değiştirerek hangi özelliklerin daha önemli olduğunu öğrenir.
Her nöron, kendisine gelen değerleri ağırlıklarla çarpar, toplar, bir aktivasyon işlevinden geçirir ve sonraki katmana aktarır. Aktivasyon işlevi, modelin yalnızca doğrusal bir toplama yapmasını engelleyerek daha karmaşık ilişkileri öğrenmesini sağlar.
"Derin" ifadesi, modelde tek bir hesaplama katmanı yerine birden fazla öğrenilebilir katman bulunmasını anlatır. Katman sayısı arttıkça model daha karmaşık örüntüleri temsil edebilir; fakat daha fazla veri, hesaplama gücü ve doğru ayar gerektirebilir.
Eğitim sırasında ne olur?
Bir eğitim döngüsünde model, örnek girdiden bir tahmin üretir. Bu tahmin, beklenen sonuçla karşılaştırılır ve aradaki fark bir kayıp değeri ile ölçülür. Kayıp küçükse model o örnekte daha başarılıdır; yüksekse ağırlıkların güncellenmesi gerekir.
Ağırlıkların hangi yönde değiştirileceği geri yayılım ile hesaplanır. Geri yayılım, kaybın her ağırlığa ne kadar bağlı olduğunu türevlerle bulur. Ardından bir iyileştirme yöntemi, çoğunlukla gradyan inişi veya bunun bir çeşidi, ağırlıkları küçük adımlarla günceller.
Bu süreç aynı eğitim verilerinin tamamı veya küçük grupları üzerinde defalarca tekrarlanır. Her tam veri geçişine epoch denir. Modelin eğitim verisindeki başarısı artarken daha önce görmediği doğrulama verisindeki başarısı düşmeye başlarsa model veriyi ezberliyor olabilir. Buna aşırı öğrenme denir; bu durumda yalnızca eğitim doğruluğuna bakmak doğru değildir.
Katmanlar bilgiyi nasıl dönüştürür?
Katmanların görevleri kullanılan mimariye göre değişir. Aşağıdaki örnek, bir görüntü sınıflandırma modelinde katmanların genel olarak nasıl ilerlediğini gösterir:
| Katman veya aşama | Öğrenebileceği bilgi | Ürettiği çıktı |
|---|---|---|
| Girdi | Piksel değerleri | Sayısal görüntü matrisi |
| İlk özellik katmanları | Kenar, yön ve basit renk geçişleri | Basit özellik haritaları |
| Orta katmanlar | Köşe, doku ve parça ilişkileri | Daha birleşik özellikler |
| Son katmanlar | Nesne parçalarının birlikte görülmesi | Sınıf puanları veya olasılıkları |
Basit bir örnek: El yazısı rakam sınıflandırma
Varsayımsal olarak modele 28×28 piksellik bir el yazısı görüntüsü verildiğini düşünün. Görüntüdeki her piksel 0 ile 1 arasında bir değere dönüştürülür. Modelin beklenen etiketi "7" olsun.
İlk katmanlar görüntüdeki kenar ve çizgi yönlerini işler. Daha sonraki katmanlar bu çizgilerin birleşerek rakamın üst yatay çizgisini veya çapraz yapısını oluşturup oluşturmadığını değerlendirir. Son katman 0'dan 9'a kadar on puan üretir. Örneğin en yüksek puan "7" sınıfındaysa modelin tahmini 7 olur.
Modelin tahmini 3 ise kayıp değeri, beklenen etiket ile bu tahmin arasındaki uyumsuzluğu ölçer. Geri yayılım, yanlış tahmine katkıda bulunan ağırlıklar için düzeltme yönünü hesaplar. Çok sayıda benzer ve farklı el yazısı örneğiyle bu işlem tekrarlandıkça model, tek bir görüntüyü kopyalamak yerine rakamları ayıran görsel örüntüleri öğrenmeye çalışır.
Bu çıktı, modelin görüntünün gerçekten bir insan tarafından yazıldığını veya her koşulda doğru olduğunu kanıtlamaz. Görüntü eğitim verisinden çok farklıysa, bulanıksa ya da etiketler hatalıysa tahmin güvenilirliği düşebilir.
Tahmin ile eğitimi birbirinden ayırma
Eğitim aşamasında modelin ağırlıkları güncellenir ve kayıp değeri kullanılır. Tahmin aşamasında ise yeni veri katmanlardan geçirilir, fakat modelin ağırlıkları değiştirilmez. Tahmin sırasında elde edilen yüksek olasılık da tek başına kesin doğruluk anlamına gelmez; model yanlış bir sonuca yüksek güven verebilir.
Bir modeli değerlendirirken veriyi en azından eğitim ve değerlendirme bölümlerine ayırmak gerekir. Eğitim sonucu düşük kayıp, modelin eğitim örneklerini iyi açıkladığını gösterir; yeni veride de başarılı olacağını ancak ayrı değerlendirme sonuçları destekleyebilir. Eğitim ve değerlendirme verileri birbirine sızarsa ölçüm gerçekte olduğundan daha iyi görünebilir.
Model öğrenmiyorsa hangi noktalar kontrol edilir?
Kayıp değeri hiç azalmıyorsa önce girdilerin sayısal biçiminin, etiketlerin ve hedef çıktının doğru hazırlanıp hazırlanmadığı incelenir. Kayıp azalıyor ancak değerlendirme başarısı düşüyorsa aşırı öğrenme, veri dağılımı farkı veya yetersiz çeşitlilik olasılıkları değerlendirilir. Hem eğitim hem değerlendirme başarısı düşükse model mimarisi, öğrenme oranı, veri ölçeği ve problem için yeterli bilgi bulunup bulunmadığı kontrol edilmelidir.
Bu sonuçların hiçbiri tek başına belirli bir hatayı kanıtlamaz. Sorunu ayırmak için eğitim ve değerlendirme kaybını aynı zaman aralıklarında karşılaştırın, birkaç örneğin gerçek etiketini model girdisiyle birlikte elle inceleyin ve tahminlerin hangi sınıflarda karıştığını kontrol edin. Böylece ağırlıkları rastgele değiştirmek yerine veri, etiket, model ve eğitim ayarlarından hangisinin sorunlu olduğunu daraltabilirsiniz.
Sık sorulan sorular
Daha fazla katman her zaman daha iyi sonuç verir mi?
Hayır. Daha fazla katman daha karmaşık ilişkileri öğrenme kapasitesi sağlayabilir; ancak veri yetersizse aşırı öğrenmeye, eğitim zorluğuna ve gereksiz hesaplama maliyetine yol açabilir. Katman sayısı, problemin karmaşıklığı ve mevcut verinin niteliğiyle birlikte değerlendirilmelidir.
Model bir kuralı gerçekten anlar mı?
Model, insanlar gibi bilinçli bir anlayış kurmaz. Eğitim verisindeki istatistiksel ilişkileri ağırlıklar aracılığıyla temsil eder ve benzer girdiler için çıktı üretir. Bu nedenle eğitim kapsamı dışında kalan durumlarda yanılabilir ve tahminini açıklaması, doğru olduğunu kanıtlamaz.
Son düzenleme:
