Engin stillingar, bara kóða! Nýtt verkefni frá Jeff Clune teyminu: Meta Agent þróar sjálfkrafa minniseiningar

Á leiðinni til Software 3.0 byrjar gervigreind að skrifa Python kóða sjálf til að þróa heilann.

Í djúpum vötn Agent þróunar er minni (Memory) alltaf sársaukafullt vandamál sem ekki er hægt að komast hjá.

Þrátt fyrir að geta undirliggjandi líkana sé sífellt að aukast, þá eru þau í eðli sínu ástandlaus (Stateless) í rökfærsluferlinu, sem takmarkar getu Agent til að safna stöðugt reynslu.

Núverandi almennar lausnir iðnaðarins til að meðhöndla minni, hvort sem það er RAG eða gluggarennsli, eru í raun enn á stigi handvirkt hannaðra heurískra reglna.

Þessi handvirkt útbúna minniseining er afar viðkvæm og erfitt að flytja. Prompt og endurheimtarrökfræði sem er vandlega fínstillt fyrir samtalskerfi mun oft mistakast beint þegar hún er sett í langtíma skipulagsverkefni (eins og ALFWorld) eða flókna herkænskuleiki.

Til að takast á við þessa erfiðleika hefur Jeff Clune teymi, prófessor við UBC og fyrrverandi rannsóknarmaður hjá OpenAI, gefið nördalega lausn.

Þar sem við vitum ekki hvaða minnisbygging er best, skulum við láta Agent skrifa Python kóða sjálfan til að hanna hana.

Þetta er nýlega gefið út ALMA (Automated meta-Learning of Memory designs for Agentic systems).

Frá ADAS til ALMA: Sjálfvirk hönnun byggð á kóða

ALMA er framhald af tæknilegri leið gervigreindar sem þetta teymi hefur nýlega stuðlað að.

Í ADAS (Automated Design of Agentic Systems) sannaði teymið að kóði er skilvirkara leitarsvæði en tauganetsþyngd eða Soft Prompts við hönnun Agent arkitektúrs. Kóði hefur Turing fullkomnun og sterka skýringarhæfni.

Síðan í DGM (Darwin Gödel Machine) kynnti teymið hugmyndina um opna könnun úr þróunarreikniritinu, viðheldur hönnunarskjalasafni og hvetur líkanið til að kanna nýjar lausnir.

ALMA erfir kóðaöflunarparadigm ADAS og þróunarstefnu DGM og einbeitir sér að minni, sem er mest háð mannlegri reynslu í Agent kerfum.

Vinnubrögð ALMA

Vinnubrögð ALMA eru staðlað meta-námslykkja. Meta Agent vinnur ekki lengur beint með verkefni, heldur er ábyrgur fyrir forritun. Ferlið inniheldur fjögur stig:

• Hugmyndavinna: Greindu núverandi minnishönnunarskjalasafn og hugsaðu um endurbætur byggðar á sögulegri frammistöðu
• Skipulag: Umbreyttu hugmyndum í gervikóðarökfræði
• Framkvæmd: Skrifaðu keyranlegan Python kóða til að skilgreina kjarnaföll
• Mat: Settu útgefna kóðann í sandkassaumhverfi til að framkvæma verkefni og gefa til baka frammistöðuvísa

Í þróunarferlinu mun ALMA búa til stórt hönnunartré. Eftir því sem fjöldi endurtekninga eykst þróast minniskóðinn smám saman frá einfaldri geymslurökfræði yfir í flókið vitrænt arkitektúr.

Minniseiningar sem hafa þróast

Minnishönnunin sem ALMA býr til sýnir mikinn mun í mismunandi verkefnum:

• MiniHack (dýflissukönnun): Hannaði Risk and Interaction einingu, skráir greinilega aðgerðirnar sem leiða til blóðmissis og árásargirni skrímslanna
• Baba Is AI (rökfræðiþrautir): Hannaði Strategy Library, skráir reglusamsetningarnar sem þarf til að komast í gegnum borðin

Þetta sýnir að gervigreind getur greint verkefnaeiginleika: lifunarleikir þurfa að einbeita sér að áhættu og þrautaleikir þurfa að einbeita sér að regluútdrætti.

Niðurstöður tilrauna

ALMA var borið saman við almennar grunnlínur í fjórum umhverfum: TextWorld, ALFWorld, MiniHack og Baba Is AI.

Á GPT-5-mini líkaninu náði ALMA meðalárangurshlutfalli upp á 53.9%, sem er betra en G-Memory (46.0%) og Trajectory Retrieval (48.6%).

Hvað varðar kostnaðarskilvirkni eyðir ALMA að meðaltali aðeins 1.319 táknum, en Trajectory Retrieval eyðir allt að 9.149 táknum og G-Memory nær einnig 6.055 táknum. ALMA skilar betri afköstum með aðeins um 1/7 til 1/5 af kostnaðinum.

Lokaorð

ALMA sýnir möguleika á umskiptum frá Software 2.0 (Neural Networks) yfir í Software 3.0 (AI-Generating Algorithms).

Í Agent þróun hefur hönnun minniseininga lengi verið háð innsæi verkfræðinga. ALMA hefur sannað að með meta-námi og kóðaöflun getur gervigreind sjálfkrafa fundið bestu minnisbygginguna í samræmi við tiltekið umhverfi.

Auðlindatenglar

• Ritgerð: https://arxiv.org/pdf/2602.07755
• Kóði: https://github.com/zksha/alma
• Vefsíða verkefnisins: https://yimingxiong.me/alma