Fine-tuning nedir?

Fine-tuning, bir yapay zekâ modelini belirli bir görevde veya belirli bir yazım tarzında daha tutarlı sonuç verecek şekilde örneklerle yeniden eğitmektir. Elinizdeki giriş-çıkış örneklerini uygun biçimde hazırlayıp modeli eğittiğinizde model, yalnızca tek tek talimatları izlemek yerine örneklerdeki kalıpları öğrenir. Ancak fine-tuning modele güncel bilgi tabanı eklemez; güncel veya özel belgeleri kullandırmak için çoğu durumda RAG, arama ya da veri tabanı bağlantısı gerekir.

Fine-tuning nasıl çalışır?​

Önceden eğitilmiş bir model; metin oluşturma, sınıflandırma veya soru yanıtlama gibi genel yeteneklere sahiptir. Fine-tuning aşamasında modele, hedeflediğiniz görevi gösteren çok sayıda örnek sunulur. Her örnek genellikle bir girdi ile beklenen çıktı arasındaki ilişkiyi içerir. Eğitim sırasında modelin parametreleri, verdiğiniz örneklere daha uygun sonuçlar üretecek biçimde ayarlanır.

Örneğin bir destek talebini kategoriye ayırmak istiyorsanız varsayımsal eğitim veriniz şöyle olabilir:


Model bu örneklerden sonra benzer bir talep aldığında beklenen biçimde ödeme_hatası veya hesap_erişimi gibi etiketler üretmeye daha yatkın olur. Bu sonuç, modelin bütün ödeme sorunlarını doğru sınıflandıracağını kanıtlamaz; eğitim verisinin kapsamı, kalitesi ve yeni girdilerin örneklere benzerliği sonucu doğrudan etkiler.

Fine-tuning ne zaman, ne zaman kullanılmamalı?​

Fine-tuning; sabit bir çıktı biçimi, belirli bir üslup, özel sınıflandırma etiketleri veya tekrarlanan görevlerde tutarlılık gerektiğinde anlamlıdır. Örneğin müşteri mesajlarını önceden belirlenmiş kategorilere ayırmak, şirketin yazım tarzını taklit etmek veya her yanıtta belirli alanları üretmek için kullanılabilir.

Güncel ürün fiyatları, sık değişen mevzuat, şirket içi belgeler veya sürekli güncellenen teknik dokümantasyon söz konusuysa fine-tuning tek başına uygun çözüm değildir. Model eğitildikten sonra veri değişirse model kendiliğinden güncellenmez. Bu durumda modelin yanıt üretmeden önce güvenilir bir kaynaktan bilgi almasını sağlayan RAG veya uygulama içi arama yaklaşımı daha uygundur.

Aşağıdaki ayrım, hangi yöntemin daha uygun olduğunu belirlemenize yardımcı olur.
Bu yöntemler birbirinin tamamen alternatifi değildir. Bir uygulama, davranış ve biçim tutarlılığı için fine-tuning kullanırken güncel bilgileri RAG ile sağlayabilir.

Fine-tuning için veri nasıl hazırlanır?​

Başarılı bir eğitim için önce modelin yapmasını istediğiniz işi tek cümleyle tanımlayın. Ardından gerçek kullanımda karşılaşacağı farklı girdileri ve her girdiye verilmesini istediğiniz doğru çıktıyı hazırlayın. Örnekler aynı görevi göstermeli, ancak yalnızca birbirinin kopyası olmamalıdır.

Veri hazırlarken şu noktaları koruyun:

• Beklenen çıktı biçimini bütün örneklerde tutarlı kullanın. Bir örnekte yalnızca kategori adı, diğerinde uzun açıklama bulunursa model iki biçim arasında kararsız kalabilir.
• Yanlış veya çelişkili örnekleri temizleyin. Model, hatalı örnekleri de öğrenebilir.
• Gerçek kullanım çeşitliliğini temsil eden örnekler ekleyin; kısa, uzun, yazım hatalı ve farklı ifade edilmiş girdiler aynı görevin kapsamındaysa bunları veri içinde gösterin.
• Eğitimde kullanılacak verileri yetki, gizlilik ve güvenlik açısından inceleyin. Gereksiz kişisel veya gizli bilgileri veri kümesine koymayın.
• Eğitim verisinden ayrı bir değerlendirme kümesi ayırın. Modeli yalnızca eğitimde gördüğü örneklerle sınamak, yeni girdilerdeki başarısını olduğundan iyi gösterebilir.

Fine-tuning sonrasında modeli daha önce görmediği girdilerle test edin. Beklenen kategori, biçim veya üslup korunuyorsa yöntem amacınıza yaklaşmış olabilir. Yanıtlar eğitim örneklerini ezberliyor, yeni ifadelerde bozuluyor veya yanlış biçimde kesin konuşuyorsa veri çeşitliliğini, çıktı yönergelerini ve değerlendirme ölçütlerini yeniden inceleyin.

Fine-tuning neyi garanti etmez?​

Fine-tuning modelin doğruluğunu otomatik olarak garanti etmez. Model, eğitim verisindeki hataları öğrenebilir, eğitim kapsamı dışındaki sorularda yanlış genelleme yapabilir veya biçimi doğru olduğu hâlde içeriği yanlış üretebilir. Bu nedenle uygulama tarafında çıktı doğrulama, izin kontrolü, hata yönetimi ve gerektiğinde insan incelemesi bulunmalıdır.

Ayrıca fine-tuning, modeli belirli belgelerin güvenilir bir kopyasına dönüştürmez. Modelin öğrendiği bilgi güncel olmayabilir ve yanıtın kaynağını kendiliğinden kanıtlamaz. Kaynak gösterilmesi veya kritik kararların yalnızca model çıktısına göre verilmesi gerekiyorsa, yanıtı dış kaynaklarla doğrulayan bir uygulama akışı kurmanız gerekir.