Garfield
YZF Admin
Bir yapay zekâ sisteminin yalnızca hangi sonucu verdiğini değil, bu sonuca hangi girdilerin ve kuralların ne ölçüde katkıda bulunduğunu anlaşılır biçimde açıklayabilmesine açıklanabilir yapay zekâ denir. Böylece bir tahminin arkasındaki gerekçeleri inceleyebilir, hatalı veya önyargılı kararları fark edebilir ve sistemi gerektiğinde düzeltebilirsiniz. Ancak açıklanabilirlik, modelin her zaman doğru olduğu veya açıklamanın modelin gerçek iç işleyişinin eksiksiz bir kopyası olduğu anlamına gelmez.
Bir model, girdi olarak aldığı verilere dayanarak sınıflandırma, tahmin, öneri veya karar üretir. Açıklanabilirlik yöntemleri bu sonuca katkı veren özellikleri, kararın hangi koşullarda değişebileceğini ve benzer girdilerde neden farklı sonuç alınabildiğini görünür kılmaya çalışır.
Örneğin bir kredi başvurusunun reddedildiğini düşünün. Açıklanabilir bir sistem, yalnızca “başvuru reddedildi” demek yerine reddi etkileyen unsurların düşük gelir, yüksek borç oranı veya kısa kredi geçmişi olduğunu gösterebilir. Bu bilgiler, kararın incelenmesini ve başvuru sahibine anlaşılır geri bildirim verilmesini sağlar.
Açıklama iki farklı düzeyde yapılabilir. Genel açıklama, modelin bütün kararlarında hangi özellikleri daha çok kullandığını anlatır. Yerel açıklama ise tek bir kayıt veya tahmin için sonucun nedenini gösterir. Bir model genel olarak gelir ve borç oranını önemli bulabilir; belirli bir başvuruda ise asıl etkili unsur kredi geçmişinin kısa olması olabilir.
Varsayımsal bir müşteri kaybı tahmin modeli, her müşteri için “ayrılma olasılığı” üretmiş olsun. Modele şu bilgiler verilsin: aylık ücretin yüksek olması, son aylarda destek talebi sayısının artması ve sözleşmenin bitmesine az süre kalması. Model yüzde 78 ayrılma olasılığı hesaplasın.
Açıklama katmanı bu sonucun en fazla destek talebi ve sözleşme süresinin sona yaklaşmasından etkilendiğini, yüksek ücretin ise daha küçük bir katkı yaptığını gösterebilir. Çıktının anlamı, modelin müşterinin kesin olarak ayrılacağını bildiği değildir. Yalnızca verilen özelliklerin, eğitim verilerindeki benzer örüntülere göre yüksek riskli bir tahminle ilişkili olduğunu gösterir.
Bu açıklamaya dayanarak müşteriyle iletişim kurulabilir, destek sorunları incelenebilir veya ücretlendirme gözden geçirilebilir. Fakat modelin önerdiği işlem otomatik olarak doğru kabul edilmemelidir; gerçek durum ayrıca kontrol edilmelidir.
Bazı modeller, kararlarını doğrudan okunabilir kurallar veya katsayılarla ifade eder. Küçük karar ağaçları ve doğrusal modeller buna örnektir. Model karmaşıklaştıkça, kararın hangi girdilerden etkilendiğini sonradan tahmin eden ek açıklama yöntemleri kullanılabilir.
Bu yöntemler genellikle bir özelliğin sonucu artırıp azaltmadığını, önem sırasını veya belirli bir sonucu değiştirmek için hangi girdinin ne kadar değişmesi gerektiğini göstermeye çalışır. Ancak farklı açıklama yöntemleri aynı model için farklı görünümler üretebilir. Bu nedenle tek bir grafiğe bakarak kesin nedensellik sonucu çıkarmak doğru değildir.
Daha kolay açıklanan bir model her durumda daha doğru, daha karmaşık bir model ise her durumda daha güvenilir değildir. Model seçerken yalnızca doğruluk ölçümüne değil, kararın etkisine, hatanın maliyetine, verinin niteliğine ve açıklamanın kim tarafından kullanılacağına da bakılmalıdır.
Özellikle insan hayatını, güvenliği, finansal durumu veya erişim hakkını etkileyen uygulamalarda açıklama; veri kalitesinin, model performansının ve hata örneklerinin incelenmesinin yerini tutmaz. Bir açıklama, modelin önyargısız olduğunu kanıtlamaz. Model eğitim verilerindeki ayrımcı örüntüleri öğrenmişse, bunları anlaşılır biçimde göstermesi sorunu ortadan kaldırmaz.
Açıklamanın yararlı olup olmadığını anlamak için şu noktaları birlikte inceleyin:
Açıklanabilir yapay zekâ neyi açıklar?
Bir model, girdi olarak aldığı verilere dayanarak sınıflandırma, tahmin, öneri veya karar üretir. Açıklanabilirlik yöntemleri bu sonuca katkı veren özellikleri, kararın hangi koşullarda değişebileceğini ve benzer girdilerde neden farklı sonuç alınabildiğini görünür kılmaya çalışır.
Örneğin bir kredi başvurusunun reddedildiğini düşünün. Açıklanabilir bir sistem, yalnızca “başvuru reddedildi” demek yerine reddi etkileyen unsurların düşük gelir, yüksek borç oranı veya kısa kredi geçmişi olduğunu gösterebilir. Bu bilgiler, kararın incelenmesini ve başvuru sahibine anlaşılır geri bildirim verilmesini sağlar.
Açıklama iki farklı düzeyde yapılabilir. Genel açıklama, modelin bütün kararlarında hangi özellikleri daha çok kullandığını anlatır. Yerel açıklama ise tek bir kayıt veya tahmin için sonucun nedenini gösterir. Bir model genel olarak gelir ve borç oranını önemli bulabilir; belirli bir başvuruda ise asıl etkili unsur kredi geçmişinin kısa olması olabilir.
Basit bir örnekle işleyişi
Varsayımsal bir müşteri kaybı tahmin modeli, her müşteri için “ayrılma olasılığı” üretmiş olsun. Modele şu bilgiler verilsin: aylık ücretin yüksek olması, son aylarda destek talebi sayısının artması ve sözleşmenin bitmesine az süre kalması. Model yüzde 78 ayrılma olasılığı hesaplasın.
Açıklama katmanı bu sonucun en fazla destek talebi ve sözleşme süresinin sona yaklaşmasından etkilendiğini, yüksek ücretin ise daha küçük bir katkı yaptığını gösterebilir. Çıktının anlamı, modelin müşterinin kesin olarak ayrılacağını bildiği değildir. Yalnızca verilen özelliklerin, eğitim verilerindeki benzer örüntülere göre yüksek riskli bir tahminle ilişkili olduğunu gösterir.
Bu açıklamaya dayanarak müşteriyle iletişim kurulabilir, destek sorunları incelenebilir veya ücretlendirme gözden geçirilebilir. Fakat modelin önerdiği işlem otomatik olarak doğru kabul edilmemelidir; gerçek durum ayrıca kontrol edilmelidir.
Kullanılan başlıca açıklama yaklaşımları
Bazı modeller, kararlarını doğrudan okunabilir kurallar veya katsayılarla ifade eder. Küçük karar ağaçları ve doğrusal modeller buna örnektir. Model karmaşıklaştıkça, kararın hangi girdilerden etkilendiğini sonradan tahmin eden ek açıklama yöntemleri kullanılabilir.
Bu yöntemler genellikle bir özelliğin sonucu artırıp azaltmadığını, önem sırasını veya belirli bir sonucu değiştirmek için hangi girdinin ne kadar değişmesi gerektiğini göstermeye çalışır. Ancak farklı açıklama yöntemleri aynı model için farklı görünümler üretebilir. Bu nedenle tek bir grafiğe bakarak kesin nedensellik sonucu çıkarmak doğru değildir.
Açıklanabilirlik ile doğruluk arasındaki ilişki
Daha kolay açıklanan bir model her durumda daha doğru, daha karmaşık bir model ise her durumda daha güvenilir değildir. Model seçerken yalnızca doğruluk ölçümüne değil, kararın etkisine, hatanın maliyetine, verinin niteliğine ve açıklamanın kim tarafından kullanılacağına da bakılmalıdır.
Özellikle insan hayatını, güvenliği, finansal durumu veya erişim hakkını etkileyen uygulamalarda açıklama; veri kalitesinin, model performansının ve hata örneklerinin incelenmesinin yerini tutmaz. Bir açıklama, modelin önyargısız olduğunu kanıtlamaz. Model eğitim verilerindeki ayrımcı örüntüleri öğrenmişse, bunları anlaşılır biçimde göstermesi sorunu ortadan kaldırmaz.
Bir açıklamayı değerlendirirken sorulacak sorular
Açıklamanın yararlı olup olmadığını anlamak için şu noktaları birlikte inceleyin:
- Açıklama belirli bir tahmin için mi, yoksa modelin genel davranışı için mi veriliyor?
- Gösterilen özellikler gerçekten modelin kararını mı etkiliyor, yoksa yalnızca sonuçla ilişkili mi görünüyor?
- Aynı girdiye küçük değişiklikler yapıldığında açıklama tutarlı kalıyor mu?
- Modelin hata oranı, yanlış pozitif ve yanlış negatif sonuçları ayrıca ölçülüyor mu?
- Açıklamayı okuyacak kişi, bu bilgiyle kararı inceleyebiliyor veya gerekli düzeltmeyi yapabiliyor mu?
