107 పేజీల RAG మరియు ఏజెంట్ & LLM మెమరీ సమీక్ష

ఈరోజు, రెన్‌మిన్ విశ్వవిద్యాలయం, ఫుడాన్ విశ్వవిద్యాలయం, పీకింగ్ విశ్వవిద్యాలయం మొదలైన వాటి నుండి 107 పేజీల సాంకేతిక సమీక్షను పంచుకుంటున్నాను, దీని పేరు మెమరీ ఇన్ ది ఏజ్ ఆఫ్ AI ఏజెంట్స్: ఎ సర్వే ఫార్మ్స్, ఫంక్షన్స్ అండ్ డైనమిక్స్. ప్రాజెక్ట్ చిరునామా: https://github.com/Shichun-Liu/Agent-Memory-Paper-List పేపర్ చిరునామా: https://arxiv.org/pdf/2512.13564 గత రెండు సంవత్సరాలలో, పెద్ద భాషా నమూనాలు (LLMలు) AI తెలివైన ఏజెంట్లుగా (AI Agents) అద్భుతమైన పరిణామాన్ని మనం చూశాము. డీప్ రీసెర్చ్ నుండి సాఫ్ట్‌వేర్ ఇంజనీరింగ్ వరకు, శాస్త్రీయ ఆవిష్కరణ నుండి బహుళ తెలివైన ఏజెంట్ల సహకారం వరకు, ఈ ప్రాథమిక నమూనా ఆధారిత తెలివైన ఏజెంట్లు కృత్రిమ సాధారణ మేధస్సు (AGI) యొక్క సరిహద్దులను ముందుకు తీసుకువెళుతున్నాయి. కానీ ఒక ప్రధాన ప్రశ్న తలెత్తుతుంది: స్థిర LLM పారామితులను త్వరగా నవీకరించలేము, తెలివైన ఏజెంట్లు నిరంతరం నేర్చుకునే మరియు స్వీకరించే సామర్థ్యాన్ని ఎలా కలిగి ఉంటారు? సమాధానం - మెమరీ (Memory). > "మెమరీ అనేది స్థిర LLMలను పర్యావరణ పరస్పర చర్య ద్వారా నిరంతరం స్వీకరించగల తెలివైన ఏజెంట్లుగా మార్చే కీలక సామర్థ్యం." Figure 1 తెలివైన ఏజెంట్ మెమరీని రూపాలు (Forms), విధులు (Functions), డైనమిక్స్ (Dynamics) అనే మూడు కోణాలలో నిర్వహించడానికి మరియు ప్రాతినిధ్య వ్యవస్థలను ఈ వర్గీకరణ వ్యవస్థకు మ్యాప్ చేయడానికి పేపర్ ప్రతిపాదించిన ఏకీకృత వర్గీకరణ ఫ్రేమ్‌వర్క్‌ను చూపుతుంది. పేపర్ ఏజెంట్ మెమరీ మరియు కొన్ని దగ్గరి సంబంధిత కానీ స్వతహాగా విభిన్నమైన భావనల మధ్య స్పష్టమైన వ్యత్యాసాన్ని కూడా చేస్తుంది: LLM మెమరీ, రిట్రీవల్ ఆగ్మెంటెడ్ జనరేషన్ (RAG) మరియు కాంటెక్స్ట్ ఇంజనీరింగ్. వాటి లక్ష్యాలు, విధానాలు మరియు అప్లికేషన్ దృశ్యాలలో కీలకమైన వ్యత్యాసాలు ఉన్నప్పటికీ, అవన్నీ సమాచారాన్ని నిల్వ చేయడం మరియు ఉపయోగించడంతో ముడిపడి ఉన్నాయి. ## తెలివైన ఏజెంట్ మెమరీ టెక్నాలజీ - స్వీయ-పరిణామ మెమరీ: Memento, H2R - మల్టీమోడల్ మెమరీ: Ella, ViloMem, M3-Agent - గుప్త మెమరీ: MemoryLLM, M+, MemGen - పారామెట్రిక్ మెమరీ: Retroformer, Early experience - RL-ఎనేబుల్డ్ మెమరీ: MemAgent, RMM, MemSearcher, MEM1, Mem-alpha, Memory-R1 ## తెలివైన ఏజెంట్ మెమరీ vs. RAG RAG సంబంధిత సాంకేతికతలు: - మాడ్యులర్ RAG: FlashRAG, ComposeRAG - గ్రాఫ్ RAG: LightRAG, HippoRAG - ఏజెంటిక్ RAG: PlanRAG, Self-RAG RAG మరియు తెలివైన ఏజెంట్ మెమరీ రెండూ మోడల్ సామర్థ్యాన్ని మెరుగుపరచడానికి బాహ్య నిల్వ నుండి సమాచారాన్ని తిరిగి పొందడాన్ని కలిగి ఉంటాయి, అయితే రెండింటి మధ్య డిజైన్ తత్వశాస్త్రంలో ముఖ్యమైన వ్యత్యాసం ఉంది: లక్షణంRAGతెలివైన ఏజెంట్ మెమరీ ప్రధాన లక్ష్యంప్రస్తుత ప్రశ్నకు సంబంధిత నేపథ్య జ్ఞాన మద్దతును అందించడంసమయం గడిచేకొద్దీ నిరంతర అభ్యాసం మరియు స్వీకరించే ప్రవర్తన సమాచార మూలంసాధారణంగా స్థిరమైన, ముందుగా నిర్మించిన జ్ఞాన స్థావరంతెలివైన ఏజెంట్ యొక్క స్వంత పరస్పర చర్య అనుభవం నుండి డైనమిక్‌గా ఉత్పత్తి చేయబడిన వ్యక్తిగతీకరించిన సమాచారం తిరిగి పొందే ట్రిగ్గర్వినియోగదారు ప్రశ్న ద్వారా నిష్క్రియంగా ప్రేరేపించబడుతుందితెలివైన ఏజెంట్ ఎప్పుడు, ఏమి తిరిగి పొందాలో చురుకుగా నిర్ణయిస్తుంది సమాచార నవీకరణజ్ఞాన స్థావరం సాధారణంగా ఆఫ్‌లైన్‌లో నవీకరించబడుతుందిఆన్‌లైన్, నిరంతరం, ఎంపిక చేసుకుని నవీకరించబడుతుంది ఫీడ్‌బ్యాక్ లూప్‌ప్రత్యక్ష ఫీడ్‌బ్యాక్ యంత్రాంగం లేదుపర్యావరణ పరస్పర చర్యతో క్లోజ్డ్ లూప్‌ను ఏర్పరుస్తుంది కీలక వ్యత్యాసం: RAG అనేది జ్ఞాన విస్తరణ సాధనం, అయితే తెలివైన ఏజెంట్ మెమరీ అనేది అభ్యాస యంత్రాంగం. RAG "నాకు ఏమి తెలుసు" అని సమాధానం ఇస్తుంది, తెలివైన ఏజెంట్ మెమరీ "నేను ఏమి నేర్చుకున్నాను" అని సమాధానం ఇస్తుంది. ## తెలివైన ఏజెంట్ మెమరీ vs. LLM మెమరీ LLM మెమరీ సంబంధిత సాంకేతికతలు: - అటెన్షన్ KV మేనేజ్‌మెంట్: మిక్స్‌చర్-ఆఫ్-మెమరీ - లాంగ్ కాంటెక్స్ట్ ప్రాసెసింగ్: Mamba, Memformer, MoA, Sparseformer, NSA కోణంLLM మెమరీతెలివైన ఏజెంట్ మెమరీ నిర్వచనంమోడల్ పారామితులలో అంతర్గతీకరించబడిన జ్ఞానం లేదా సందర్భోచిత విండోలోని తాత్కాలిక సమాచారంపర్యావరణంతో తెలివైన ఏజెంట్ యొక్క నిరంతర పరస్పర చర్య, క్రాస్-టాస్క్ లెర్నింగ్ మరియు దీర్ఘకాలిక అనుసరణకు మద్దతు ఇచ్చే బాహ్య వ్యవస్థ సమయ స్కేలుముందుగా శిక్షణ పొందిన డేటా లేదా ప్రస్తుత సంభాషణ సందర్భానికి పరిమితం చేయబడిందిబహుళ పనులు, సెషన్‌లను విస్తరించడం, జీవితకాల అభ్యాసానికి మద్దతు ఇవ్వడం నవీకరణ సామర్థ్యంపారామితి నవీకరణ ఖరీదైనది, సందర్భోచిత సమాచారం అస్థిరంగా ఉంటుందిసమర్థవంతమైన, ఎంపిక చేసుకుని డైనమిక్ నవీకరణ మరియు పరిణామానికి మద్దతు ఇస్తుంది చురుకుదనంప్రశ్నలకు నిష్క్రియంగా స్పందిస్తుందిఏ సమాచారాన్ని నిల్వ చేయాలి, నవీకరించాలి, తిరిగి పొందాలి అని చురుకుగా నిర్ణయిస్తుంది పర్యావరణంతో జతచేయడంపర్యావరణంతో ప్రత్యక్ష పరస్పర చర్య లేదుపర్యావరణ ఫీడ్‌బ్యాక్‌ను లోతుగా ఏకీకృతం చేస్తుంది, ఇంటరాక్టివ్ లెర్నింగ్‌కు మద్దతు ఇస్తుంది కీలక వ్యత్యాసం: LLM మెమరీ స్వతహాగా స్థిరమైనది (పారామితులు స్థిరంగా ఉంటాయి) లేదా తాత్కాలికమైనది (సందర్భం పరిమితం చేయబడింది), అయితే తెలివైన ఏజెంట్ మెమరీ డైనమిక్, శాశ్వతమైనది మరియు పర్యావరణంతో జతచేయబడినది. ## తెలివైన ఏజెంట్ మెమరీ vs. కాంటెక్స్ట్ ఇంజనీరింగ్ కాంటెక్స్ట్ ఇంజనీరింగ్ సంబంధిత సాంకేతికతలు: - టూల్-ఇంటిగ్రేటెడ్ రీజనింగ్: ReTool, ToolLLM, Toolformer, VTool-R1, ToRL - టూల్ సెలెక్షన్: AutoTool, VisTA - కమ్యూనికేషన్ ప్రోటోకాల్: ANP, A2A, MCP, Agora కోణంకాంటెక్స్ట్ ఇంజనీరింగ్‌తెలివైన ఏజెంట్ మెమరీ శ్రద్ధఒకే రౌండ్ లేదా ప్రస్తుత పని యొక్క ఇన్‌పుట్ ఆప్టిమైజేషన్‌బహుళ రౌండ్లు, బహుళ పనుల సమాచార శాశ్వతీకరణ మరియు వినియోగం సమయ కోణంప్రస్తుత సెషన్దీర్ఘకాలిక చరిత్ర సమాచార ఎంపికమానవీయంగా రూపొందించిన లేదా హ్యూరిస్టిక్ నియమాలుస్వయంచాలకంగా ఏర్పడే, అభివృద్ధి చెందే, తిరిగి పొందే యంత్రాంగం స్థితి నిర్వహణశాశ్వత స్థితి లేదుఅభివృద్ధి చెందగల మెమరీ స్థితిని స్పష్టంగా నిర్వహిస్తుంది కీలక వ్యత్యాసం: కాంటెక్స్ట్ ఇంజనీరింగ్ అనేది ప్రాంప్ట్ ఆప్టిమైజేషన్ టెక్నిక్, తెలివైన ఏజెంట్ మెమరీ అనేది స్థితి నిర్వహణ వ్యవస్థ. మొదటిది "ఇప్పుడు ఏమి నమోదు చేయాలి" అనే దానిపై దృష్టి పెడుతుంది, రెండోది "గతంలో ఏమి గుర్తుంచుకున్నాము, అది ఇప్పుడు మరియు భవిష్యత్తును ఎలా ప్రభావితం చేస్తుంది" అనే దానిపై దృష్టి పెడుతుంది.