Garfield
YZF Admin
Kendi kendine öğrenen yapay zekâ, verilerden örüntü çıkararak performansını insanın her kuralı tek tek yazmasına gerek kalmadan geliştirebilen yapay zekâ sistemidir. Ancak bu ifade, yapay zekânın sınırsız biçimde kendi bilincini geliştirdiği anlamına gelmez. Sistem; verilen veri, hedef, geri bildirim ve güvenlik sınırları içinde öğrenir. Sonucun güvenilir olması için hangi veriyi kullandığını, neyi değiştirdiğini ve yeni performansının önceki sürümden gerçekten daha iyi olup olmadığını kontrol etmek gerekir.
Bir yapay zekâ modelinin öğrenmesi genellikle üç parçaya dayanır: girdi verisi, değerlendirme ölçütü ve modelin parametrelerini değiştiren bir öğrenme yöntemi. Model önce örneklerden tahmin üretir. Tahmin ile doğru sonuç arasındaki fark hesaplanır. Daha sonra model, benzer hataları azaltacak şekilde ayarlanır.
Örneğin bir e-posta sınıflandırma sistemi, geçmişte “istenmeyen” ve “normal” olarak işaretlenmiş iletileri inceler. Yeni bir e-postanın kelimeleri, gönderen bilgisi ve davranış özellikleri modele girdi olur. Model iletinin istenmeyen olma olasılığını üretir. Kullanıcı veya başka bir doğrulama sistemi sonucu düzeltirse bu geri bildirim sonraki eğitim döngüsünde kullanılabilir.
Buradaki “kendi kendine” ifadesi çoğu zaman otomatik geri bildirimle güncellenme anlamına gelir. Model neyi amaçladığını, hangi verinin doğru olduğunu veya değişikliğin güvenli olup olmadığını kendiliğinden bilemez. Bu kararlar insanlar, kurallar veya başka denetim sistemleri tarafından belirlenir.
Denetimli öğrenmede modele doğru cevapları bilinen örnekler verilir. Görselde kedi olup olmadığını öğrenen bir sistem, önceden etiketlenmiş görsellerle eğitilebilir.
Denetimsiz öğrenmede modelde hazır cevap bulunmaz; sistem verilerdeki benzerlikleri ve kümeleri arar. Müşterileri davranışlarına göre gruplandırmak buna örnektir.
Pekiştirmeli öğrenmede model, yaptığı eylemlerin sonucuna göre ödül veya ceza benzeri bir geri bildirim alır. Bir oyunda daha yüksek puan getiren hamleleri zamanla daha sık seçmesi bu yönteme örnek verilebilir.
Sürekli veya çevrim içi öğrenmede model, yeni veriler geldikçe güncellenir. Bu yöntem güncel kalmayı sağlayabilir; fakat hatalı, kötü niyetli veya temsil gücü düşük veriler modele de taşınabilir.
Bir banka, işlemleri olağan ve şüpheli olarak sınıflandıran bir model kullanabilir. Girdi olarak işlem tutarı, saat, konum, cihaz ve müşterinin geçmiş davranışları alınır. Model, işlemin şüpheli olma olasılığını hesaplar. İnceleme ekibinin kararı daha sonra geri bildirim olarak sisteme aktarılır.
Modelin belirli bir dönemde daha fazla doğru işlemi yakalaması öğrenmenin işe yaradığını gösterebilir. Ancak bu tek başına modelin adil veya güvenli olduğunu kanıtlamaz. Yanlışlıkla reddedilen normal işlemler artmış olabilir ya da model belirli müşteri gruplarını haksız biçimde daha riskli değerlendirmiş olabilir. Bu nedenle doğruluk yanında yanlış pozitif, yanlış negatif, gecikme, güvenlik ve farklı gruplardaki hata oranları da izlenmelidir.
Bir sistem yeni verilerle güncelleniyorsa, önce verinin kaynağı ve kalitesi kontrol edilmelidir. Kullanıcıların yanlış işaretlemeleri, ölçüm hataları veya saldırganların özellikle ürettiği girdiler modelin davranışını bozabilir. Eski verilerle eğitilmiş bir model de yeni koşullarda başarısız olabilir; bu duruma veri dağılımının değişmesi denir.
Modelin kendi çıktısını tekrar tekrar eğitim verisi olarak kullanması da hataları büyütebilir. Başlangıçtaki küçük bir yanlışlık, sonraki döngülerde doğru kabul edilerek daha büyük bir sapmaya dönüşebilir. Bu yüzden güncellemeden önce doğrulanmış bir test kümesi, değişiklik kaydı, geri alma seçeneği ve insan onayı bulunmalıdır.
Kendi kendine öğrenen yapay zekâ kendi amaçlarını güvenilir biçimde belirleyen, her konuda uzmanlaşan veya insan denetimine ihtiyaç duymayan bir varlık değildir. Öğrenmesi, hedef fonksiyonunun ve eğitim verisinin sınırlarıyla belirlenir. Yeni bilgi edinmesi de her zaman doğru bilgi edinmesi anlamına gelmez.
Bir yapay zekânın gerçekten öğrenip öğrenmediğini anlamak için yalnızca “daha iyi cevap veriyor” gözlemine güvenmeyin. Önceki ve sonraki sürümü aynı, daha önce görülmemiş test verisiyle karşılaştırın. Hangi ölçütün iyileştiğini, hangi hataların arttığını ve değişikliğin hangi verilerden kaynaklandığını inceleyin.
Pratik olarak şu sorular yanıtlanmalıdır:
Kendi kendine öğrenme nasıl gerçekleşir?
Bir yapay zekâ modelinin öğrenmesi genellikle üç parçaya dayanır: girdi verisi, değerlendirme ölçütü ve modelin parametrelerini değiştiren bir öğrenme yöntemi. Model önce örneklerden tahmin üretir. Tahmin ile doğru sonuç arasındaki fark hesaplanır. Daha sonra model, benzer hataları azaltacak şekilde ayarlanır.
Örneğin bir e-posta sınıflandırma sistemi, geçmişte “istenmeyen” ve “normal” olarak işaretlenmiş iletileri inceler. Yeni bir e-postanın kelimeleri, gönderen bilgisi ve davranış özellikleri modele girdi olur. Model iletinin istenmeyen olma olasılığını üretir. Kullanıcı veya başka bir doğrulama sistemi sonucu düzeltirse bu geri bildirim sonraki eğitim döngüsünde kullanılabilir.
Buradaki “kendi kendine” ifadesi çoğu zaman otomatik geri bildirimle güncellenme anlamına gelir. Model neyi amaçladığını, hangi verinin doğru olduğunu veya değişikliğin güvenli olup olmadığını kendiliğinden bilemez. Bu kararlar insanlar, kurallar veya başka denetim sistemleri tarafından belirlenir.
Öğrenme türleri arasındaki fark
Denetimli öğrenmede modele doğru cevapları bilinen örnekler verilir. Görselde kedi olup olmadığını öğrenen bir sistem, önceden etiketlenmiş görsellerle eğitilebilir.
Denetimsiz öğrenmede modelde hazır cevap bulunmaz; sistem verilerdeki benzerlikleri ve kümeleri arar. Müşterileri davranışlarına göre gruplandırmak buna örnektir.
Pekiştirmeli öğrenmede model, yaptığı eylemlerin sonucuna göre ödül veya ceza benzeri bir geri bildirim alır. Bir oyunda daha yüksek puan getiren hamleleri zamanla daha sık seçmesi bu yönteme örnek verilebilir.
Sürekli veya çevrim içi öğrenmede model, yeni veriler geldikçe güncellenir. Bu yöntem güncel kalmayı sağlayabilir; fakat hatalı, kötü niyetli veya temsil gücü düşük veriler modele de taşınabilir.
Somut örnek: Dolandırıcılık tespiti
Bir banka, işlemleri olağan ve şüpheli olarak sınıflandıran bir model kullanabilir. Girdi olarak işlem tutarı, saat, konum, cihaz ve müşterinin geçmiş davranışları alınır. Model, işlemin şüpheli olma olasılığını hesaplar. İnceleme ekibinin kararı daha sonra geri bildirim olarak sisteme aktarılır.
Modelin belirli bir dönemde daha fazla doğru işlemi yakalaması öğrenmenin işe yaradığını gösterebilir. Ancak bu tek başına modelin adil veya güvenli olduğunu kanıtlamaz. Yanlışlıkla reddedilen normal işlemler artmış olabilir ya da model belirli müşteri gruplarını haksız biçimde daha riskli değerlendirmiş olabilir. Bu nedenle doğruluk yanında yanlış pozitif, yanlış negatif, gecikme, güvenlik ve farklı gruplardaki hata oranları da izlenmelidir.
Kendi kendine öğrenen sistemlerin sınırları
Bir sistem yeni verilerle güncelleniyorsa, önce verinin kaynağı ve kalitesi kontrol edilmelidir. Kullanıcıların yanlış işaretlemeleri, ölçüm hataları veya saldırganların özellikle ürettiği girdiler modelin davranışını bozabilir. Eski verilerle eğitilmiş bir model de yeni koşullarda başarısız olabilir; bu duruma veri dağılımının değişmesi denir.
Modelin kendi çıktısını tekrar tekrar eğitim verisi olarak kullanması da hataları büyütebilir. Başlangıçtaki küçük bir yanlışlık, sonraki döngülerde doğru kabul edilerek daha büyük bir sapmaya dönüşebilir. Bu yüzden güncellemeden önce doğrulanmış bir test kümesi, değişiklik kaydı, geri alma seçeneği ve insan onayı bulunmalıdır.
Kendi kendine öğrenen yapay zekâ kendi amaçlarını güvenilir biçimde belirleyen, her konuda uzmanlaşan veya insan denetimine ihtiyaç duymayan bir varlık değildir. Öğrenmesi, hedef fonksiyonunun ve eğitim verisinin sınırlarıyla belirlenir. Yeni bilgi edinmesi de her zaman doğru bilgi edinmesi anlamına gelmez.
Bir sistemi değerlendirirken neye bakılmalı?
Bir yapay zekânın gerçekten öğrenip öğrenmediğini anlamak için yalnızca “daha iyi cevap veriyor” gözlemine güvenmeyin. Önceki ve sonraki sürümü aynı, daha önce görülmemiş test verisiyle karşılaştırın. Hangi ölçütün iyileştiğini, hangi hataların arttığını ve değişikliğin hangi verilerden kaynaklandığını inceleyin.
Pratik olarak şu sorular yanıtlanmalıdır:
- Modelin öğrenme hedefi açıkça tanımlanmış mı?
- Yeni veriler doğrulanıyor ve kişisel ya da hassas bilgiler korunuyor mu?
- Güncelleme öncesi ve sonrası sonuçlar aynı test koşullarında karşılaştırılıyor mu?
- Beklenmeyen davranışta önceki modele dönülebiliyor mu?
- Son kararı model tek başına mı veriyor, yoksa riskli durumlarda insan incelemesi var mı?