કોઈ પેરામીટર ટ્યુનિંગ નહીં, ફક્ત કોડ લખો! જેફ ક્લુન ટીમનું નવું કામ: મેટા એજન્ટ સ્વચાલિત રીતે મેમરી મોડ્યુલ વિકસાવે છે

Software 3.0 તરફ, AI હવે જાતે જ Python કોડ લખીને મગજને વિકસાવવાનું શરૂ કરી રહ્યું છે.

ALMA

એજન્ટ ડેવલપમેન્ટના ઊંડા પાણીમાં, મેમરી (Memory) હંમેશા એક પીડાદાયક મુદ્દો રહ્યો છે જેને ટાળી શકાય તેમ નથી.

મૂળભૂત મોડેલોની ક્ષમતા દિવસેને દિવસે વધી રહી છે, પરંતુ તર્ક પ્રક્રિયામાં તે મૂળભૂત રીતે સ્ટેટલેસ (Stateless) છે, જે એજન્ટની સતત અનુભવ મેળવવાની ક્ષમતાને મર્યાદિત કરે છે.

હાલમાં, મેમરીને હેન્ડલ કરવા માટે ઉદ્યોગના મુખ્ય ઉકેલો, પછી ભલે તે RAG હોય કે સ્લાઇડિંગ વિન્ડો સારાંશ, હજી પણ માનવ દ્વારા ડિઝાઇન કરેલા હ્યુરિસ્ટિક નિયમોના તબક્કામાં છે.

આ રીતે હાથથી બનાવેલ મેમરી મોડ્યુલ અત્યંત નાજુક અને સ્થાનાંતરિત કરવું મુશ્કેલ છે. સંવાદ સિસ્ટમ માટે કાળજીપૂર્વક ટ્યુન કરેલા પ્રોમ્પ્ટ અને પુનઃપ્રાપ્તિ તર્ક, એકવાર લાંબા ગાળાની આયોજન કાર્યો (જેમ કે ALFWorld) અથવા જટિલ વ્યૂહરચના રમતોમાં મૂકવામાં આવે તો, તે સીધા જ નિષ્ફળ જાય છે.

ALMA આર્કિટેક્ચર

આ સમસ્યાને ધ્યાનમાં રાખીને, UBC પ્રોફેસર અને OpenAI ના ભૂતપૂર્વ સંશોધક જેફ ક્લુનની ટીમે એક ગીકી ઉકેલ આપ્યો છે.

કેવા પ્રકારનું મેમરી સ્ટ્રક્ચર શ્રેષ્ઠ છે તે ખબર નથી, તો પછી એજન્ટને જાતે જ Python કોડ લખીને ડિઝાઇન કરવા દો.

આ જ તાજેતરમાં પ્રકાશિત થયેલ ALMA (Automated meta-Learning of Memory designs for Agentic systems) છે.

ADAS થી ALMA: કોડ આધારિત સ્વચાલિત ડિઝાઇન

ALMA એ ટીમ દ્વારા તાજેતરમાં પ્રમોટ કરવામાં આવેલ AI જનરેટિવ એલ્ગોરિધમ ટેક્નોલોજી રૂટનું ચાલુ છે.

ADAS

ADAS (Automated Design of Agentic Systems) માં, ટીમે સાબિત કર્યું કે એજન્ટ આર્કિટેક્ચર ડિઝાઇન કરતી વખતે, કોડ એ ન્યુરલ નેટવર્ક વજન અથવા સોફ્ટ પ્રોમ્પ્ટ્સ કરતાં વધુ કાર્યક્ષમ શોધ જગ્યા છે. કોડ ટ્યુરિંગ કમ્પ્લીટ છે અને તેમાં ખૂબ જ મજબૂત સમજૂતી ક્ષમતા છે.

મેટા એજન્ટ

ત્યારબાદ DGM (Darwin Gödel Machine) માં, ટીમે ઇવોલ્યુશનરી એલ્ગોરિધમમાંથી ઓપન-એન્ડેડ એક્સપ્લોરેશનનો ખ્યાલ રજૂ કર્યો, એક ડિઝાઇન આર્કાઇવ જાળવી રાખ્યું અને મોડેલને નવા ઉકેલો શોધવા માટે પ્રોત્સાહિત કર્યા.

DGM

ALMA એ ADAS ના કોડ જનરેશન પેરાડાઈમ અને DGM ની ઇવોલ્યુશનરી વ્યૂહરચનાને વારસામાં મેળવી છે, અને એપ્લિકેશનના દૃશ્યોને એજન્ટ સિસ્ટમમાં સૌથી વધુ માનવ અનુભવ પર આધારિત ઘટકો - મેમરી પર કેન્દ્રિત કર્યા છે.

ALMA ની કાર્ય પદ્ધતિ

ALMA ની ઓપરેટિંગ મિકેનિઝમ એ એક પ્રમાણભૂત મેટા-લર્નિંગ ક્લોઝ્ડ લૂપ છે. મેટા એજન્ટ હવે સીધા કાર્યોને હેન્ડલ કરતું નથી, પરંતુ પ્રોગ્રામિંગ માટે જવાબદાર છે. પ્રક્રિયામાં ચાર તબક્કાઓ શામેલ છે:

વિચારણા: વર્તમાન મેમરી ડિઝાઇન આર્કાઇવનું વિશ્લેષણ કરો અને ઐતિહાસિક કામગીરીના આધારે સુધારણા યોજનાઓ બનાવો
આયોજન: વિચારોને સ્યુડોકોડ લોજિકમાં રૂપાંતરિત કરો
અમલીકરણ: એક્ઝિક્યુટેબલ Python કોડ લખો અને મુખ્ય કાર્યોને વ્યાખ્યાયિત કરો
મૂલ્યાંકન: જનરેટ કરેલા કોડને સેન્ડબોક્સ પર્યાવરણમાં કાર્યો કરવા માટે જમાવો અને કામગીરીના સૂચકાંકોને પ્રતિસાદ આપો

કાર્ય પ્રવાહ

ઉત્ક્રાંતિની પ્રક્રિયામાં, ALMA એક વિશાળ ડિઝાઇન ટ્રી જનરેટ કરશે. પુનરાવર્તનની સંખ્યામાં વધારો થતાં, જનરેટ કરેલ મેમરી કોડ ધીમે ધીમે સરળ સ્ટોરેજ લોજિકથી જટિલ જ્ઞાનાત્મક આર્કિટેક્ચરમાં વિકસિત થાય છે.

ઉત્ક્રાંતિ વૃક્ષ

વિકસિત મેમરી સ્ટ્રક્ચર

ALMA દ્વારા જનરેટ કરવામાં આવેલી મેમરી ડિઝાઇને વિવિધ કાર્યોમાં ખૂબ જ તફાવત દર્શાવ્યો છે:

MiniHack (ભોંયરું સાહસ): રિસ્ક એન્ડ ઇન્ટરેક્શન મોડ્યુલ ડિઝાઇન કર્યું, જે સ્પષ્ટપણે લોહી ગુમાવવા તરફ દોરી જતી ક્રિયાઓ અને રાક્ષસોની આક્રમકતાને રેકોર્ડ કરે છે.
Baba Is AI (લોજિક પઝલ): સ્ટ્રેટેજી લાઇબ્રેરી ડિઝાઇન કરી, જે સ્તરને પાર કરવા માટે જરૂરી નિયમોના સંયોજનને રેકોર્ડ કરે છે.

મેમરી સ્ટ્રક્ચર

આ સૂચવે છે કે AI કાર્યની લાક્ષણિકતાઓને ઓળખી શકે છે: સર્વાઇવલ ગેમ્સને જોખમ પર ધ્યાન આપવાની જરૂર છે, અને પઝલ ગેમ્સને નિયમ અમૂર્તતા પર ધ્યાન આપવાની જરૂર છે.

પ્રાયોગિક પરિણામો

TextWorld, ALFWorld, MiniHack, Baba Is AI ચાર પર્યાવરણોમાં ALMA ની મુખ્ય બેઝલાઇન્સ સાથે સરખામણી કરવામાં આવી.

GPT-5-mini મોડેલ પર, ALMA ની સરેરાશ સફળતા દર 53.9% સુધી પહોંચી, જે G-Memory (46.0%) અને Trajectory Retrieval (48.6%) કરતા વધારે છે.

પ્રાયોગિક પરિણામો

ખર્ચ કાર્યક્ષમતાના સંદર્ભમાં, ALMA સરેરાશ માત્ર 1,319 tokens નો વપરાશ કરે છે, જ્યારે Trajectory Retrieval 9,149 tokens નો વપરાશ કરે છે, અને G-Memory પણ 6,055 tokens સુધી પહોંચે છે. ALMA એ માત્ર 1/7 થી 1/5 ખર્ચમાં વધુ સારી કામગીરી મેળવી છે.

ખર્ચ કાર્યક્ષમતા

નિષ્કર્ષ

ALMA એ Software 2.0 (Neural Networks) થી Software 3.0 (AI-Generating Algorithms) તરફ સંક્રમણની સંભાવના દર્શાવે છે.

એજન્ટ ડેવલપમેન્ટમાં, મેમરી મોડ્યુલની ડિઝાઇન લાંબા સમયથી એન્જિનિયરોની અંતર્જ્ઞાન પર આધાર રાખે છે. ALMA એ સાબિત કર્યું છે કે મેટા-લર્નિંગ અને કોડ જનરેશન દ્વારા, AI ચોક્કસ પર્યાવરણ અનુસાર આપમેળે શ્રેષ્ઠ મેમરી આર્કિટેક્ચર શોધી શકે છે.