107 Sayfalık RAG ve Agent&LLM Belleği İncelemesi
Bugün, Renmin Üniversitesi, Fudan Üniversitesi, Pekin Üniversitesi vb. tarafından hazırlanan 107 sayfalık teknik inceleme olan "AI Ajanları Çağında Bellek: Bir İnceleme Biçimleri, İşlevleri ve Dinamikleri"ni paylaşıyorum.
Proje adresi: https://github.com/Shichun-Liu/Agent-Memory-Paper-List
Makale adresi: https://arxiv.org/pdf/2512.13564
Son iki yılda, büyük dil modellerinin (LLM) AI akıllı ajanlara (AI Agents) olan şaşırtıcı evrimine tanık olduk. Derin araştırmadan yazılım mühendisliğine, bilimsel keşiften çoklu ajan işbirliğine kadar, temel modellere dayalı bu akıllı ajanlar, yapay genel zekanın (AGI) sınırlarını zorluyor.
Ancak temel bir soru ortaya çıkıyor: Statik LLM parametreleri hızla güncellenemezken, akıllı ajanlar nasıl sürekli öğrenme ve uyum yeteneğine sahip olabilir?
Cevap şu: Bellek (Memory).
"Bellek, statik LLM'leri çevre etkileşimi yoluyla sürekli uyum sağlayabilen akıllı ajanlara dönüştürmenin anahtar yeteneğidir."
Şekil 1, makalede önerilen birleşik sınıflandırma çerçevesini göstermektedir. Akıllı ajan belleğini Biçimler (Forms), İşlevler (Functions), Dinamikler (Dynamics) olmak üzere üç boyutta düzenler ve temsili sistemleri bu sınıflandırma sistemine eşler.
Makale ayrıca Agent Memory'yi yakından ilişkili ancak özünde farklı olan birkaç kavramdan açıkça ayırır: LLM belleği, Alma Artırılmış Üretim (RAG) ve Bağlam Mühendisliği. Hepsi bilgilerin depolanması ve kullanılmasıyla ilgili olsa da, hedefler, mekanizmalar ve uygulama senaryoları açısından temel farklılıklar vardır.
Akıllı Ajan Bellek Teknolojisi
-
Self-Evolving Memory: Memento, H2R
-
Multimodal Memory: Ella, ViloMem, M3-Agent
-
Latent Memory: MemoryLLM, M+, MemGen
-
Parametric Memory: Retroformer, Early experience
-
RL-enabled Memory: MemAgent, RMM, MemSearcher, MEM1, Mem-alpha, Memory-R1
Akıllı Ajan Belleği vs. RAG
RAG ile ilgili teknolojiler:
-
Modular RAG: FlashRAG, ComposeRAG
-
Graph RAG: LightRAG, HippoRAG
-
Agentic RAG: PlanRAG, Self-RAG
RAG ve akıllı ajan belleği, model yeteneklerini geliştirmek için harici depolamadan bilgi almayı içerir, ancak ikisi tasarım felsefesi açısından temel farklılıklara sahiptir:
ÖzellikRAGAkıllı Ajan Belleği Temel HedefMevcut sorgu için ilgili arka plan bilgisi desteğiZaman içinde sürekli öğrenme ve uyarlanabilir davranış Bilgi KaynağıGenellikle statik, önceden oluşturulmuş bilgi tabanlarıDinamik olarak oluşturulmuş, akıllı ajanın kendi etkileşim deneyimlerinden elde edilen kişiselleştirilmiş bilgiler Alma TetikleyicisiKullanıcı sorgusu tarafından pasif olarak tetiklenirAkıllı ajan tarafından ne zaman, neyin alınacağına aktif olarak karar verilir Bilgi GüncellemesiBilgi tabanı genellikle çevrimdışı olarak güncellenirÇevrimiçi, sürekli, seçici olarak güncellenir Geri Bildirim DöngüsüDoğrudan geri bildirim mekanizması yokÇevre ile etkileşim yoluyla kapalı döngü oluşturur
Temel Fark: RAG bir bilgi genişletme aracıdır, akıllı ajan belleği ise bir öğrenme mekanizmasıdır. RAG "Ne biliyorum" sorusunu yanıtlar, akıllı ajan belleği ise "Ne öğrendim" sorusunu yanıtlar.
Akıllı Ajan Belleği vs. LLM Belleği
LLM belleği ile ilgili teknolojiler:
-
Attention KV management: Mixture-of-Memory
-
Long context processing: Mamba, Memformer, MoA, Sparseformer, NSA
BoyutLLM BelleğiAkıllı Ajan Belleği TanımModel parametrelerinde içselleştirilmiş bilgi veya bağlam penceresindeki geçici bilgiAkıllı ajanın çevre ile sürekli etkileşimini, görevler arası öğrenmeyi ve uzun vadeli uyumu destekleyen harici sistem Zaman ÖlçeğiÖn eğitim verileri veya mevcut diyalog bağlamıyla sınırlıBirden çok görevi, oturumu kapsar, yaşam boyu öğrenmeyi destekler GüncellenebilirlikParametre güncelleme maliyeti yüksek, bağlam bilgisi uçucuVerimli, seçici dinamik güncellemeyi ve evrimi destekler AktiflikSorgulara pasif yanıt verirHangi bilgilerin depolanacağına, güncelleneceğine, alınacağına aktif olarak karar verir Çevre ile BağlantıÇevre ile doğrudan etkileşim yokÇevre geri bildirimiyle derinlemesine entegre, etkileşimli öğrenmeyi destekler
Temel Fark: LLM belleği özünde statiktir (parametreler sabit) veya kısadır (bağlam sınırlı), akıllı ajan belleği ise dinamik, kalıcı ve çevreye bağlıdır.
Akıllı Ajan Belleği vs. Bağlam Mühendisliği
Bağlam mühendisliği ile ilgili teknolojiler:
-
Tool-integrated reasoning: ReTool, ToolLLM, Toolformer, VTool-R1, ToRL
-
Tool selection: AutoTool, VisTA
-
Communication protocol: ANP, A2A, MCP, Agora
YönBağlam MühendisliğiAkıllı Ajan Belleği Odak NoktasıTek turluk veya mevcut görev için girdi optimizasyonuÇok turluk, çok görevli bilgi kalıcılığı ve kullanımı Zaman BoyutuMevcut oturumUzun vadeli geçmiş Bilgi Seçimiİnsan tarafından tasarlanmış veya sezgisel kurallarOtomatikleştirilmiş oluşturma, evrim, alma mekanizması Durum YönetimiKalıcı durum yokEvrimleşebilir bellek durumunu açıkça korur
Temel Fark: Bağlam mühendisliği bir ipucu optimizasyon tekniğidir, akıllı ajan belleği ise bir durum yönetim sistemidir. İlki "Şimdi ne girilecek" sorusuna odaklanırken, ikincisi "Geçmişte ne hatırlandı, şimdi ve geleceği nasıl etkiliyor" sorusuna odaklanır.
