Yfirlit yfir 107 blaðsíðna RAG og Agent&LLM minni

Í dag deili ég 107 blaðsíðna tæknilegu yfirliti frá Renmin háskólanum, Fudan háskólanum, Peking háskólanum o.fl., "Memory in the Age of AI Agents: A Survey Forms, Functions and Dynamics".

Verkefnis slóð: https://github.com/Shichun-Liu/Agent-Memory-Paper-List

Ritgerðar slóð: https://arxiv.org/pdf/2512.13564

Undanfarin tvö ár höfum við orðið vitni að ótrúlegri þróun stórra tungumálamódela (LLM) í átt að gervigreindar umboðsmönnum (AI Agents). Allt frá Deep Research til hugbúnaðarverkfræði, frá vísindalegum uppgötvunum til samvinnu margra umboðsmanna, eru þessir umboðsmenn sem byggja á grunnmódelum að ýta undir mörk almennrar gervigreindar (AGI).

En lykilspurning vaknar: Hvernig getum við gert umboðsmönnum kleift að læra og aðlagast stöðugt þegar LLM breytur eru kyrrstæðar og ekki hægt að uppfæra þær hratt?

Svarið er - Minni (Memory).

"Minni er lykilhæfileikinn til að breyta kyrrstæðum LLM í umboðsmenn sem geta stöðugt aðlagast í gegnum samskipti við umhverfið."

Mynd 1 sýnir samræmda flokkunarkerfið sem lagt er til í ritgerðinni, sem skipuleggur minni umboðsmannsins í samræmi við þrjá víddir: Form (Forms), Virkni (Functions) og Hreyfanleika (Dynamics), og kortleggur dæmigerð kerfi í þetta flokkunarkerfi.

Ritgerðin greinir einnig greinilega á milli Agent Memory og nokkurra nátengdra en í eðli sínu ólíkra hugtaka: LLM Memory, Retrieval Augmented Generation (RAG) og Context Engineering. Þrátt fyrir að þau tengist öll geymslu og nýtingu upplýsinga, þá eru lykilmunir á markmiðum, aðferðum og notkunarsviðum.

Tækni fyrir minni umboðsmanns

• Self-Evolving Memory: Memento, H2R

• Multimodal Memory: Ella, ViloMem, M3-Agent

• Latent Memory: MemoryLLM, M+, MemGen

• Parametric Memory: Retroformer, Early experience

• RL-enabled Memory: MemAgent, RMM, MemSearcher, MEM1, Mem-alpha, Memory-R1

Minni umboðsmanns vs. RAG

RAG tengd tækni:

• Modular RAG: FlashRAG, ComposeRAG

• Graph RAG: LightRAG, HippoRAG

• Agentic RAG: PlanRAG, Self-RAG

RAG og minni umboðsmanns fela bæði í sér að sækja upplýsingar úr ytri geymslu til að auka getu líkansins, en það er grundvallarmunur á hönnunarheimspeki þeirra:

EinkenniRAGMinni umboðsmanns KjarnamarkmiðAð veita viðeigandi bakgrunnsupplýsingar fyrir núverandi fyrirspurnStöðugt nám og sjálfvirka hegðun yfir tíma UpplýsingagjafiEr venjulega kyrrstæð, fyrirfram byggð þekkingargrunnurPersónulegar upplýsingar sem myndast á kraftmikinn hátt úr eigin samskiptareynslu umboðsmannsins Sækja af staðEr virkjað af fyrirspurn notanda á óvirkan háttEr ákveðið af umboðsmanninum á virkan hátt hvenær og hvað á að sækja UpplýsingauppfærslaÞekkingargrunnur er venjulega uppfærður án nettengingarEr uppfærður á netinu, stöðugt og sértækt EndurgjöfarlykkjaEkkert beint endurgjöfarkerfiMyndar lokaða lykkju með samskiptum við umhverfið

Lykilmunur: RAG er verkfæri til að auka þekkingu, en minni umboðsmanns er námskerfi. RAG svarar "Hvað veit ég", en minni umboðsmanns svarar "Hvað hef ég lært".

Minni umboðsmanns vs. LLM minni

LLM minni tengd tækni:

• Attention KV management: Mixture-of-Memory

• Long context processing: Mamba, Memformer, MoA, Sparseformer, NSA

VíddLLM minniMinni umboðsmanns SkilgreiningInnbyggð þekking í breytum líkansins, eða tímabundnar upplýsingar í samhengisglugganumYtra kerfi sem styður stöðug samskipti umboðsmanns við umhverfið, nám yfir verkefni og langtímaaðlögun TímaskaliTakmarkast við forþjálfunargögn eða núverandi samhengisviðræðurNær yfir mörg verkefni, fundi og styður ævilangt nám UppfærsluhæfniKostnaður við að uppfæra breytur er hár og samhengisupplýsingar eru rokgjarnarStyður skilvirka, sértæka kraftmikla uppfærslu og þróun FrumkvæðiSvarar fyrirspurnum á óvirkan háttÁkveður á virkan hátt hvaða upplýsingar á að geyma, uppfæra og sækja Tenging við umhverfiðEkkert beint samspil við umhverfiðEr djúpt samþætt endurgjöf umhverfisins og styður gagnvirkt nám

Lykilmunur: LLM minni er í eðli sínu kyrrstætt (fastar breytur) eða skammvinnt (takmarkað samhengi), en minni umboðsmanns er kraftmikið, varanlegt og umhverfistengt.

Minni umboðsmanns vs. Samhengisverkfræði

Samhengisverkfræði tengd tækni:

• Tool-integrated reasoning: ReTool, ToolLLM, Toolformer, VTool-R1, ToRL

• Tool selection: AutoTool, VisTA

• Communication protocol: ANP, A2A, MCP, Agora

HliðSamhengisverkfræðiMinni umboðsmanns ÁherslaFínstillir inntak fyrir eina umferð eða núverandi verkefniVaranleg og nýting upplýsinga yfir margar umferðir og verkefni TímavíddNúverandi fundurLangtímasaga UpplýsingavalHandhönnuð eða heurísk reglaSjálfvirk myndun, þróun og sóknarkerfi Stjórnun á stöðuEngin varanleg staðaViðheldur sérstaklega þróanlegri minnisstöðu

Lykilmunur: Samhengisverkfræði er tækni til að fínstilla vísbendingar, en minni umboðsmanns er kerfi til að stjórna stöðu. Hið fyrra einbeitir sér að "Hvað á að slá inn núna", en hið síðara einbeitir sér að "Hvað hefur verið munað í fortíðinni og hvernig hefur það áhrif á nútíð og framtíð".