Sebuah Tinjauan 107 Halaman tentang RAG dan Memori Agent&LLM

Hari ini saya akan berbagi tinjauan teknis 107 halaman dari Renmin University, Fudan University, Peking University, dll., berjudul "Memory in the Age of AI Agents: A Survey Forms, Functions and Dynamics".

Alamat proyek: https://github.com/Shichun-Liu/Agent-Memory-Paper-List

Alamat makalah: https://arxiv.org/pdf/2512.13564

Dalam dua tahun terakhir, kita telah menyaksikan evolusi luar biasa dari model bahasa besar (LLM) menjadi agen AI (AI Agents). Dari Deep Research hingga rekayasa perangkat lunak, dari penemuan ilmiah hingga kolaborasi multi-agen, agen berbasis model dasar ini mendorong batas kecerdasan umum buatan (AGI).

Tetapi sebuah pertanyaan inti muncul: Parameter LLM statis tidak dapat diperbarui dengan cepat, bagaimana cara membuat agen memiliki kemampuan untuk terus belajar dan beradaptasi?

Jawabannya adalah——Memori (Memory).

"Memori adalah kemampuan utama untuk mengubah LLM statis menjadi agen cerdas yang dapat terus beradaptasi melalui interaksi lingkungan."

Figure 1 menunjukkan kerangka klasifikasi terpadu yang diusulkan dalam makalah, yang mengatur memori agen menurut tiga dimensi Bentuk (Forms), Fungsi (Functions), dan Dinamika (Dynamics), dan memetakan sistem representatif ke dalam sistem klasifikasi ini.

Makalah ini juga dengan jelas membedakan antara Agent Memory dan beberapa konsep terkait erat tetapi pada dasarnya berbeda: Memori LLM, Retrieval Augmented Generation (RAG), dan Context Engineering. Meskipun semuanya terkait dengan penyimpanan dan pemanfaatan informasi, ada perbedaan utama dalam tujuan, mekanisme, dan skenario aplikasi.

Teknologi Memori Agen

• Self-Evolving Memory: Memento, H2R

• Multimodal Memory: Ella, ViloMem, M3-Agent

• Latent Memory: MemoryLLM, M+, MemGen

• Parametric Memory: Retroformer, Early experience

• RL-enabled Memory: MemAgent, RMM, MemSearcher, MEM1, Mem-alpha, Memory-R1

Memori Agen vs. RAG

Teknologi terkait RAG:

• Modular RAG: FlashRAG, ComposeRAG

• Graph RAG: LightRAG, HippoRAG

• Agentic RAG: PlanRAG, Self-RAG

RAG dan memori agen keduanya melibatkan pengambilan informasi dari penyimpanan eksternal untuk meningkatkan kemampuan model, tetapi keduanya memiliki perbedaan mendasar dalam filosofi desain:

FiturRAGMemori Agen Tujuan IntiMenyediakan dukungan pengetahuan latar belakang yang relevan untuk kueri saat iniPembelajaran berkelanjutan dan perilaku adaptif lintas waktu Sumber InformasiBiasanya basis pengetahuan statis dan pra-bangunInformasi yang dihasilkan secara dinamis dan dipersonalisasi dari pengalaman interaksi agen itu sendiri Pemicu PengambilanDipicu secara pasif oleh kueri penggunaAgen secara aktif memutuskan kapan dan apa yang akan diambil Perbarui InformasiBasis pengetahuan biasanya diperbarui secara offlineDiperbarui secara online, berkelanjutan, dan selektif Umpan BalikTidak ada mekanisme umpan balik langsungMembentuk lingkaran tertutup dengan interaksi lingkungan

Perbedaan Utama: RAG adalah alat perluasan pengetahuan, sedangkan memori agen adalah mekanisme pembelajaran. RAG menjawab "Apa yang saya ketahui", dan memori agen menjawab "Apa yang telah saya pelajari".

Memori Agen vs. Memori LLM

Teknologi terkait memori LLM:

• Attention KV management: Mixture-of-Memory

• Long context processing: Mamba, Memformer, MoA, Sparseformer, NSA

DimensiMemori LLMMemori Agen DefinisiPengetahuan yang diinternalisasi dalam parameter model, atau informasi sementara di jendela konteksSistem eksternal yang mendukung interaksi berkelanjutan agen dengan lingkungan, pembelajaran lintas tugas, dan adaptasi jangka panjang Skala WaktuTerbatas pada data pra-pelatihan atau konteks percakapan saat iniMencakup banyak tugas dan sesi, mendukung pembelajaran seumur hidup Kemampuan DiperbaruiBiaya pembaruan parameter tinggi, informasi konteks mudah hilangMendukung pembaruan dan evolusi dinamis yang efisien dan selektif KeaktifanMenanggapi kueri secara pasifSecara aktif memutuskan informasi apa yang akan disimpan, diperbarui, dan diambil Keterkaitan dengan LingkunganTidak ada interaksi langsung dengan lingkunganIntegrasi mendalam dengan umpan balik lingkungan, mendukung pembelajaran interaktif

Perbedaan Utama: Memori LLM pada dasarnya statis (parameter tetap) atau sementara (konteks terbatas), sedangkan memori agen dinamis, persisten, dan terkait lingkungan.

Memori Agen vs. Rekayasa Konteks

Teknologi terkait rekayasa konteks:

• Tool-integrated reasoning: ReTool, ToolLLM, Toolformer, VTool-R1, ToRL

• Tool selection: AutoTool, VisTA

• Communication protocol: ANP, A2A, MCP, Agora

AspekRekayasa KonteksMemori Agen FokusOptimasi input untuk satu putaran atau tugas saat iniPersistensi dan pemanfaatan informasi lintas banyak putaran dan tugas Dimensi WaktuSesi saat iniSejarah jangka panjang Pemilihan InformasiAturan yang dirancang secara manual atau heuristikMekanisme otomatis untuk pembentukan, evolusi, dan pengambilan Manajemen StatusTidak ada status persistenMempertahankan status memori yang dapat dievolusikan secara eksplisit

Perbedaan Utama: Rekayasa konteks adalah teknik optimasi prompt, sedangkan memori agen adalah sistem manajemen status. Yang pertama berfokus pada "Apa yang dimasukkan sekarang", dan yang terakhir berfokus pada "Apa yang diingat di masa lalu, dan bagaimana hal itu memengaruhi masa kini dan masa depan".