AWS ajan hafızasına saklama süresi koydu: epizodik 90 gün, prosedürel süresiz
AWS, uzun süre çalışan ajanların hafızası için yaşam döngüsü politikalarını anlatan bir kılavuz yayımladı. Hafıza üçe ayrılıyor ve her birine ayrı süre öneriliyor; unutulma hakkı için tek kullanıcının bütün kayıtlarını silen bir işleyici tanımlanıyor. Maliyet ölçüsü de veriliyor: 100.000 kayıt ayda
AWS, uzun süre çalışan yapay zeka ajanlarının hafızasını ne kadar tutacağını anlatan bir yol haritası yayımladı. Yazı 4 Eylül'de çıktı; ajan hafızasını üçe ayırıp her biri için ayrı saklama süresi öneriyor ve bunu çalışan koda bağlıyor. Konu teknik görünse de aslında saklama politikası, yani hukuk ve maliyet konusu.
Üç tür hafıza, üç süre
- Epizodik, yani konuşma kayıtları: önce bunun süresi dolsun, varsayılan 90 gün.
- Semantik, yani çıkarılmış olgular ve tercihler: 6 ile 12 ay öneriliyor.
- Prosedürel, yani öğrenilmiş iş akışları ve araç kullanımı: en uzun; AWS bunlara süre koymamayı düşünmeyi öneriyor.
Üç politika
Birincisi süre dolunca silme; varsayılan epizodik için 90, özetler için 30 ile 60 gün. İkincisi alaka azalması: kaydın oluşturulma tazeliği 0,4, son erişim tazeliği 0,35 ve erişim sıklığı 0,25 ağırlıkla puanlanıyor, erişim sayısı 50'de doyuyor. Üçüncüsü, ilişkili kayıtları tek bir derli toplu kayda indiren model destekli birleştirme.
Yazıdaki tabloya göre budama süresi ajanın işine göre değişiyor: gerçek zamanlı destek botu 7 gün, satış ve müşteri kazanımı 21, genel asistan 45, bilgi işlem yardım masası 90, hukuk ve uyum danışmanı 180 gün.
Uyum ve maliyet
Yazı, unutulma hakkı için bir kullanıcıya ait bütün kayıtları silen ayrı bir işleyici tanımlıyor ve denetim izini CloudTrail'e bırakıyor. Maliyet tarafında verdiği ölçü şu: 100.000 hafıza kaydı ayda 50 ile 100 dolar arasına çıkabiliyor. Örnek kurulum Step Functions, beş Lambda ve her gece 02.00 UTC'de tetiklenen bir EventBridge kuralından oluşuyor; kod aws-samples deposunda.
Kurumsal okur için
Ajan hafızası, içinde kişisel veri varsa KVKK kapsamında bir kayıt ortamıdır. Saklama süresi, silme yordamı ve denetim izi tanımlanmadan ajanı üretime almak, veri envanterinde görünmeyen bir arşiv biriktirmek demek. AWS'in tablosu tartışmayı başlatmak için iyi bir taban; süreleri kurumun kendi saklama politikasına oturtmak şart.
Kaynaklar
- Birincil kaynak: AWS Machine Learning blogu, 4 Eylül: aws.amazon.com/blogs/machine-learning
- Örnek kod, aws-samples deposu
