Garfield
YZF Admin
Bir ajanın kısa süreli belleği, mevcut görevi yürütürken kullandığı konuşma ve işlem bağlamıdır; uzun süreli belleği ise oturumlar arasında korunabilen, daha sonra yeniden kullanılmak üzere kaydedilmiş bilgilerdir. Kısa süreli bellek ajanın o an ne yaptığını anlamasını sağlar, uzun süreli bellek ise her yeni görevde aynı bilgileri baştan vermeden çalışmasına yardımcı olur. Sağlıklı bir tasarımda ajan, her bilgiyi kalıcı olarak saklamaz; yalnızca gerekli, doğru ve kullanım amacı belli verileri uzun süreli belleğe aktarır.
Kısa süreli bellek çoğunlukla ajanın mevcut bağlam penceresinde bulunan mesajlardan, araç sonuçlarından, ara notlardan ve devam eden görevin durumundan oluşur. Kullanıcı bir istekte bulunduğunda ajan; önceki mesajları, verilen kısıtları ve şimdiye kadar aldığı sonuçları birlikte değerlendirir.
Örneğin kullanıcı şu isteği versin: “Bu ayın satış raporunu özetle, yalnızca iade oranı yüzde 5’in üzerinde olan ürünleri listele.” Ajanın kısa süreli belleğinde kullanıcının isteği, yüklenen rapor, yaptığı hesaplama ve uygulaması gereken yüzde 5 koşulu bulunur. Ajan raporu okurken bu bilgileri kullanarak doğru ürünleri seçer. Görev tamamlandığında bu bağlamın tamamı otomatik olarak kalıcı belleğe aktarılmış sayılmaz.
Kısa süreli bellek, uzun bir konuşmada sınırlı kalabilir. Bağlam büyüdükçe eski mesajlar özetlenebilir, kırpılabilir veya artık gerekli görülmeyen araç çıktıları çıkarılabilir. Bu nedenle ajanın önceki bir mesajı hatırlamaması her zaman kalıcı belleğin silindiği anlamına gelmez; bilgi mevcut çalışma bağlamının dışında kalmış olabilir.
Uzun süreli bellek, bir kullanıcının veya sistemin ileride tekrar ihtiyaç duyabileceği bilgilerin ayrı bir depoda tutulmasıdır. Bu depo basit bir veritabanı, belge koleksiyonu, anahtar-değer kaydı veya anlamsal arama yapılabilen bir vektör deposu olabilir. Ajan, yeni görev başladığında ilgili kayıtları arar ve bulduğu bilgileri kısa süreli çalışma bağlamına ekler.
Örneğin kullanıcı “Raporları her zaman Türkçe hazırla ve tutarları Türk lirası olarak göster” tercihini açıkça belirtirse, bu tercih uygun bir onay ve saklama kuralıyla uzun süreli belleğe yazılabilir. Daha sonra kullanıcı “Geçen ayın raporunu hazırla” dediğinde ajan bu tercihi arayıp mevcut görevin bağlamına ekler. Beklenen çıktı Türkçe hazırlanmış ve TL cinsinden gösterilmiş bir rapordur.
Bu örnek, uzun süreli belleğin kullanıcının tüm geçmiş konuşmalarını sınırsız biçimde saklaması gerektiği anlamına gelmez. Bir kaydın saklanması için amacının belirli olması, güncel tutulması ve gereksiz hassas veri içermemesi gerekir. Eski, çelişkili veya kaynağı belirsiz kayıtlar ajanın hatalı yanıt vermesine yol açabilir.
Aşağıdaki ayrım, bir ajanın hangi bilgiyi nerede tutacağını belirlemeye yardımcı olur.
Tablodaki ayrım kesin bir donanım ayrımı değildir. Bazı sistemler konuşma geçmişini de saklar, bazıları kısa süreli bağlamı özetleyerek uzun süreli depoya aktarır. Belirleyici nokta, bilginin yalnızca mevcut görevi mi desteklediği, yoksa gelecekteki görevlerde yeniden kullanılmak üzere ayrıca kaydedilip kaydedilmediğidir.
Bellek, ajanın bilgiye erişmesini sağlar; tek başına doğru karar verme veya güvenilir sonuç üretme garantisi vermez. Ajanın bir tercihi bellekte kayıtlı olsa bile bu tercih yeni isteğe uygun olmayabilir. Örneğin “tutarları TL göster” kaydı, döviz bazlı bir sözleşmenin hukuki yorumunu doğru yapmasını sağlamaz.
Bilgi tabanı daha çok kurum belgeleri, ürün kılavuzları veya güncel iş kuralları gibi dış kaynakların aranabilir biçimde tutulduğu yapıdır. Uzun süreli kullanıcı belleği ise belirli bir kullanıcıya ait tercih veya geçmiş bilgileri içerebilir. RAG uygulamalarında bilgi tabanından getirilen belge kısa süreli bağlama eklenir; bu, belgenin otomatik olarak ajanın kalıcı kişisel belleğine yazıldığı anlamına gelmez.
Pratik bir tasarım kuralı olarak görev için geçici olan talimatları kısa süreli bellekte tutun. Kullanıcının açıkça saklanmasını istediği, gelecekte işe yarayacak ve doğrulanabilir bilgileri ise amacı, kaynağı ve güncellik durumu belli olacak şekilde uzun süreli belleğe yazın. Her yeni görevde kayıtları doğrudan gerçek kabul etmek yerine güncellik, kullanıcı ve görevle ilgililik açısından yeniden değerlendirin.
Kısa süreli bellek nasıl çalışır?
Kısa süreli bellek çoğunlukla ajanın mevcut bağlam penceresinde bulunan mesajlardan, araç sonuçlarından, ara notlardan ve devam eden görevin durumundan oluşur. Kullanıcı bir istekte bulunduğunda ajan; önceki mesajları, verilen kısıtları ve şimdiye kadar aldığı sonuçları birlikte değerlendirir.
Örneğin kullanıcı şu isteği versin: “Bu ayın satış raporunu özetle, yalnızca iade oranı yüzde 5’in üzerinde olan ürünleri listele.” Ajanın kısa süreli belleğinde kullanıcının isteği, yüklenen rapor, yaptığı hesaplama ve uygulaması gereken yüzde 5 koşulu bulunur. Ajan raporu okurken bu bilgileri kullanarak doğru ürünleri seçer. Görev tamamlandığında bu bağlamın tamamı otomatik olarak kalıcı belleğe aktarılmış sayılmaz.
Kısa süreli bellek, uzun bir konuşmada sınırlı kalabilir. Bağlam büyüdükçe eski mesajlar özetlenebilir, kırpılabilir veya artık gerekli görülmeyen araç çıktıları çıkarılabilir. Bu nedenle ajanın önceki bir mesajı hatırlamaması her zaman kalıcı belleğin silindiği anlamına gelmez; bilgi mevcut çalışma bağlamının dışında kalmış olabilir.
Uzun süreli bellek neyi saklar?
Uzun süreli bellek, bir kullanıcının veya sistemin ileride tekrar ihtiyaç duyabileceği bilgilerin ayrı bir depoda tutulmasıdır. Bu depo basit bir veritabanı, belge koleksiyonu, anahtar-değer kaydı veya anlamsal arama yapılabilen bir vektör deposu olabilir. Ajan, yeni görev başladığında ilgili kayıtları arar ve bulduğu bilgileri kısa süreli çalışma bağlamına ekler.
Örneğin kullanıcı “Raporları her zaman Türkçe hazırla ve tutarları Türk lirası olarak göster” tercihini açıkça belirtirse, bu tercih uygun bir onay ve saklama kuralıyla uzun süreli belleğe yazılabilir. Daha sonra kullanıcı “Geçen ayın raporunu hazırla” dediğinde ajan bu tercihi arayıp mevcut görevin bağlamına ekler. Beklenen çıktı Türkçe hazırlanmış ve TL cinsinden gösterilmiş bir rapordur.
Bu örnek, uzun süreli belleğin kullanıcının tüm geçmiş konuşmalarını sınırsız biçimde saklaması gerektiği anlamına gelmez. Bir kaydın saklanması için amacının belirli olması, güncel tutulması ve gereksiz hassas veri içermemesi gerekir. Eski, çelişkili veya kaynağı belirsiz kayıtlar ajanın hatalı yanıt vermesine yol açabilir.
İki bellek arasındaki temel fark
Aşağıdaki ayrım, bir ajanın hangi bilgiyi nerede tutacağını belirlemeye yardımcı olur.
| Ölçüt | Kısa süreli bellek | Uzun süreli bellek |
|---|---|---|
| Kapsam | Mevcut konuşma ve görev | Oturumlar arasında kullanılacak kayıtlar |
| Süre | Görev veya bağlam devam ettiği sürece | Silinene, süresi dolana veya geçersiz sayılana kadar |
| İçerik | Talimatlar, son mesajlar, araç sonuçları | Tercihler, doğrulanmış bilgiler, geçmiş kayıtlar |
| Erişim biçimi | Genellikle doğrudan mevcut bağlamdan | Arama, filtreleme veya benzerlik sorgusuyla |
| Başlıca risk | Bağlam sınırının aşılması ve bilgi kaybı | Yanlış, eski veya gereksiz verinin yeniden kullanılması |
Bellek, akıl yürütme ve bilgi tabanından nasıl ayrılır?
Bellek, ajanın bilgiye erişmesini sağlar; tek başına doğru karar verme veya güvenilir sonuç üretme garantisi vermez. Ajanın bir tercihi bellekte kayıtlı olsa bile bu tercih yeni isteğe uygun olmayabilir. Örneğin “tutarları TL göster” kaydı, döviz bazlı bir sözleşmenin hukuki yorumunu doğru yapmasını sağlamaz.
Bilgi tabanı daha çok kurum belgeleri, ürün kılavuzları veya güncel iş kuralları gibi dış kaynakların aranabilir biçimde tutulduğu yapıdır. Uzun süreli kullanıcı belleği ise belirli bir kullanıcıya ait tercih veya geçmiş bilgileri içerebilir. RAG uygulamalarında bilgi tabanından getirilen belge kısa süreli bağlama eklenir; bu, belgenin otomatik olarak ajanın kalıcı kişisel belleğine yazıldığı anlamına gelmez.
Pratik bir tasarım kuralı olarak görev için geçici olan talimatları kısa süreli bellekte tutun. Kullanıcının açıkça saklanmasını istediği, gelecekte işe yarayacak ve doğrulanabilir bilgileri ise amacı, kaynağı ve güncellik durumu belli olacak şekilde uzun süreli belleğe yazın. Her yeni görevde kayıtları doğrudan gerçek kabul etmek yerine güncellik, kullanıcı ve görevle ilgililik açısından yeniden değerlendirin.
