Bu görüş, yapay zekâ çalışmalarının tamamını durdurmak yerine yüksek riskli uygulamaların geçici olarak sınırlandırılmasını ve güvenlik koşulları sağlanmadan yaygınlaştırılmamasını savunacak şekilde daraltılmalıdır. Sağlık, hukuk, güvenlik, istihdam ve kişisel veriler gibi alanlarda bağımsız denetim, insan onayı, etki değerlendirmesi ve geri çekme planı yoksa çalışma durdurulabilir; düşük riskli araştırmalar ise ölçülü kurallarla sürdürülebilir. Böylece hem gerçek zarar ihtimali azaltılır hem de araştırma, eğitim ve yararlı teknolojiler bütünüyle engellenmez.
Bu ifade tek bir faaliyet anlamına gelmez. Temel araştırma, eğitim amaçlı model geliştirme, şirketlerin ürün çalışmaları, kamu hizmetlerinde otomatik karar verme ve otonom sistemler aynı risk düzeyinde değildir. Bir metin oluşturma aracındaki hata ile kritik altyapıyı, sağlık kararını veya güvenlik sistemini etkileyen bir yapay zekânın hatası aynı sonuçları doğurmaz.
Bu nedenle “hepsi durdurulsun” yaklaşımı uygulanabilir bir politika olmaktan çok genel bir tepki olarak kalır. Asıl soru, hangi sistemin, hangi amaçla, kimler üzerinde ve hangi denetimle kullanılacağıdır.
Bir yapay zekâ çalışması aşağıdaki koşullardan biri varsa geçici olarak durdurulmalı veya kapsamı daraltılmalıdır:
Daha uygulanabilir karar, sistemleri risklerine göre ayırmaktır. Aşağıdaki ayrım, bir çalışmanın tamamen durdurulması mı, sınırlandırılması mı yoksa olağan denetimle sürdürülmesi mi gerektiğini değerlendirmeyi kolaylaştırır.
Bu tablo, düşük riskli bir sistemin zararsız olduğunu kanıtlamaz; yalnızca olası zararın kapsamının ve denetim ihtiyacının farklı olduğunu gösterir. Aynı araç, kullanım amacı değiştiğinde daha yüksek riskli hâle gelebilir.
Yapay zekâ araştırmalarının tümünü durdurma çağrısı yerine şu koşullar talep edilebilir: yüksek riskli uygulamalar için ön değerlendirme, bağımsız güvenlik ve ayrımcılık testleri, kullanılan verilerin ve sınırlamaların açıklanması, insanın son kararı verebilmesi, etkilenen kişilerin itiraz edebilmesi ve zarar oluştuğunda sorumlu kurumun açıkça belirlenmesi.
Ayrıca araştırma ile ürün yayını birbirinden ayrılmalıdır. Bir modelin laboratuvar ortamında incelenmesi, onun doğrudan milyonlarca kişiyi etkileyen bir hizmette kullanılmasını gerektirmez. Önce sınırlı ve izlenebilir denemeler yapılmalı; sonuçlar kabul edilebilir değilse yaygınlaştırma durdurulmalıdır.
Sonuç olarak, “yapay zekâ çalışmaları durdurulmalıdır” cümlesi ancak belirli ve yüksek riskli çalışmalar için savunulabilir. Daha dengeli ve etkili talep şudur: Güvenliği, insan denetimini ve hesap verebilirliği kanıtlanmamış yüksek riskli yapay zekâ uygulamaları durdurulmalı; düşük riskli araştırmalar ise açık kurallar ve sürekli denetim altında sürdürülmelidir.
“Yapay zekâ çalışmaları” hangi çalışmaları kapsıyor?
Bu ifade tek bir faaliyet anlamına gelmez. Temel araştırma, eğitim amaçlı model geliştirme, şirketlerin ürün çalışmaları, kamu hizmetlerinde otomatik karar verme ve otonom sistemler aynı risk düzeyinde değildir. Bir metin oluşturma aracındaki hata ile kritik altyapıyı, sağlık kararını veya güvenlik sistemini etkileyen bir yapay zekânın hatası aynı sonuçları doğurmaz.
Bu nedenle “hepsi durdurulsun” yaklaşımı uygulanabilir bir politika olmaktan çok genel bir tepki olarak kalır. Asıl soru, hangi sistemin, hangi amaçla, kimler üzerinde ve hangi denetimle kullanılacağıdır.
Durdurma kararı ne zaman haklı olabilir?
Bir yapay zekâ çalışması aşağıdaki koşullardan biri varsa geçici olarak durdurulmalı veya kapsamı daraltılmalıdır:
- Sistem, insanların yaşamını, güvenliğini, özgürlüğünü, gelirini veya temel haklarını etkileyen kararlar veriyor ve kararın nasıl düzeltileceği belli değilse.
- Modelin hata oranı, önyargısı veya kötüye kullanım riski yeterince ölçülmemişse.
- Kişisel, sağlıkla ilgili veya kurumsal hassas verilerin hangi amaçla işlendiği açık değilse.
- İnsan denetimi yalnızca kâğıt üzerinde bulunuyor, uygulamada kararlar otomatik çıktıya sorgusuz bırakılıyorsa.
- Sistem başarısız olduğunda hizmeti güvenli biçimde durduracak, geri alacak veya etkilenen kişilere itiraz imkânı sağlayacak bir plan yoksa.
Genel durdurma yerine risk temelli yaklaşım
Daha uygulanabilir karar, sistemleri risklerine göre ayırmaktır. Aşağıdaki ayrım, bir çalışmanın tamamen durdurulması mı, sınırlandırılması mı yoksa olağan denetimle sürdürülmesi mi gerektiğini değerlendirmeyi kolaylaştırır.
| Risk düzeyi | Örnek kullanım | Uygun yaklaşım |
|---|---|---|
| Düşük | Taslak oluşturma, kişisel üretkenlik, eğitim amaçlı deneme | Şeffaflık, kullanıcı uyarısı ve temel güvenlik kontrolleriyle sürdürme |
| Orta | İşe alım desteği, müşteri değerlendirmesi, kurumsal analiz | İnsan incelemesi, düzenli hata ve önyargı testleri, itiraz yolu |
| Yüksek | Sağlık, hukuk, kredi, kolluk veya kritik altyapı kararları | Bağımsız denetim, sınırlı pilot, açık sorumluluk ve gerektiğinde durdurma |
Savunulabilir bir politika nasıl kurulmalı?
Yapay zekâ araştırmalarının tümünü durdurma çağrısı yerine şu koşullar talep edilebilir: yüksek riskli uygulamalar için ön değerlendirme, bağımsız güvenlik ve ayrımcılık testleri, kullanılan verilerin ve sınırlamaların açıklanması, insanın son kararı verebilmesi, etkilenen kişilerin itiraz edebilmesi ve zarar oluştuğunda sorumlu kurumun açıkça belirlenmesi.
Ayrıca araştırma ile ürün yayını birbirinden ayrılmalıdır. Bir modelin laboratuvar ortamında incelenmesi, onun doğrudan milyonlarca kişiyi etkileyen bir hizmette kullanılmasını gerektirmez. Önce sınırlı ve izlenebilir denemeler yapılmalı; sonuçlar kabul edilebilir değilse yaygınlaştırma durdurulmalıdır.
Sonuç olarak, “yapay zekâ çalışmaları durdurulmalıdır” cümlesi ancak belirli ve yüksek riskli çalışmalar için savunulabilir. Daha dengeli ve etkili talep şudur: Güvenliği, insan denetimini ve hesap verebilirliği kanıtlanmamış yüksek riskli yapay zekâ uygulamaları durdurulmalı; düşük riskli araştırmalar ise açık kurallar ve sürekli denetim altında sürdürülmelidir.
