Az új agentiális memória keretrendszer 118 ezer tokennel dolgozik lekérdezésenként. A LangMem 3,26 milliót használ el.
Megosztás
Összefoglalót olvas. A teljes tartalom itt érhető el: venturebeat.com.
A hosszú távú gondolkodás egy alapvető gyengeséget leplez le az AI ügynökökben: a kontextusablakok gyorsan megtelnek, és a visszakeresési csatornák zajt adnak vissza a jel helyett. Ennek megoldására a Szingapúri Nemzeti Egyetem kutatói kifejlesztették az MRAgentet, egy keretrendszert, amely elveti a statikus "visszakeresés-majd-gondolkodás" megközelítést. Ehelyett egy olyan mechanizmust használ, amely lehetővé teszi, hogy az ügynök dinamikusan fejlessze a memóriáját a felhalmozódó bizonyítékok alapján. Ez a több lépésből álló memóriarekonstrukció integrálódik a nagy nyelvi modell (LLM) gondolkodási folyamatába. Bár nem ez az egyetlen keretrendszer ezen a területen, az MRAgent jelentősen csökkenti a tokenfogyasztást és a futási költségeket más ügynöki memória kezelési megközelítésekhez képest. A passzív visszakeresés határai a hosszú távú feladatokban A klasszikus visszakeresési csatornákban a dokumentumokat vektoros kereséssel vagy gráfkereséssel szerzik meg, majd átadják az LLM-nek gondolkodásra. Ez a passzív megközelítés nem működik, mert nem tudja kombinálni a gondolkodást a memória hozzáféréssel, három fő szűk keresztmetszetet teremtve: ezek a rendszerek nem tudják felülvizsgálni a visszakeresési stratégiájukat gondolkodás közben. Ha egy ügynök egy dokumentumot keres, és felfedez egy kulcsfontosságú hiányzó nyomot - például egy konkrét dátumot vagy személyt - akkor nincs módja új kérdést kiadni ennek a felfedezésnek a alapján. A rögzített hasonlósági pontszámok és előre definiált gráf kiterjesztések felszíni szintű találatokat adnak vissza, amelyek elárasztják az LLM kontextusablakát irreleváns zajjal, rontva a gondolkodást. A jelenlegi rendszerek nagymértékben támaszkodnak előre felépített struktúrákra, mint például a top-k eredmények és statikus relevanciafüggvények, korlátozva ezzel a rugalmasságot, amely szükséges a kiszámíthatatlan, hosszú távú felhasználói interakciók skálázásához. A kutatók azt állítják, hogy ezen korlátok leküzdéséhez a fejlesztőknek aktív és asszociatív rekonstrukciós folyamatra kell áttérniük, egy fogalomra, amelyet a kognitív neurotudomány inspirált. E paradigmán belül a memóriafelidézés szekvenciálisan történik, nem pedig passzív módon egy statikus adatbázisból. A rendszer kis, specifikus kiváltó eseményekkel kezdődik a felhasználó kérdéséből, mint például egy személy neve, egy akció vagy egy hely. Ezek a kezdeti nyomok kapcsolódó fogalmakra vagy kategóriákra mutatnak, nem pedig hatalmas szövegtömbökre. Ezeknek a metaadat-kihívásoknak a nyomában az ügynök kis bizonyítékokat gyűjt össze egyesével. Minden új információt használ, hogy irányítsa a következő lépését, amíg sikeresen össze nem rakja a teljes, pontos történetet. Hogyan valósítja meg az MRAgent az aktív memória rekonstrukciót Az MRAgent (Memória Gondolkodási Architektúra LLM Ügynökök számára) nem statikus adatbázisként kezeli a memóriát, hanem interaktív környezetként. Egy összetett kérdés feldolgozása során az ügynök a háttér LLM gondolkodási képességeit használja, hogy több jelölt visszakeresési utat felfedezzen egy struktúrált memória gráfon. Minden lépésben az LLM értékeli az összegyűjtött közbenső bizonyítékokat, és felhasználja azokat a keresési folyamat iteratív optimalizálására. Új keresési korlátozásokat inféréz, a legjobb információval rendelkező utakat követi, és irreleváns ágakat elágazik. Ez lehetővé teszi az MRAgent számára, hogy összeállítsa a mélyen elrejtett információkat anélkül, hogy zajjal töltené meg az LLM kontextusát. Annak érdekében, hogy ez az aktív feltárás számításilag hatékony és skálázható legyen, a keretrendszer "Kihívó-Címke-Tartalom" mechanizmust alkalmaz. Ez egy többrétegű asszociatív gráfként működik, három csomópont-típussal: Kihívók: Finom szemcséjű kulcsszavak, például entitások vagy a felhasználói interakciókból származó kontextuális attribútumok. Tartalom: Az ténylegesen tárolt memóriaegységek. Ezeket több rétegre osztják, például epizodikus memória konkretizált eseményekhez és szemantikai memória stabil tényekhez és felhasználói preferenciákhoz. Címkék: Szemantikai hidak, amelyek összegzik a kapcsolati asszociációkat a specifikus Kihívók és Tartalom között. Ez a struktúra lehetővé teszi a rendkívül hatékony kétszintű visszakeresési folyamatot. Az LLM először a Kihívóktól a jelölt Címkékhez navigál. Mivel a Címkék kifejezetten bemutatják az adatok szemantikai kapcsolatait és struktúráját, az ügynök ezeket a rövid összefoglalókat értékeli a relevancia megítélésére. Az LLM azonosítja a ígéretes keresési utakat és elágazik az irreleváns ágaktól, mielőtt számítási erőforrást és kérdés tokeneket költ arra, hogy hozzáférjen a részletes, nehéz memória tartalmakhoz. Például egy felhasználó megkérdezheti egy AI ügynöktől: "Hogyan használta Nate a díjpénzt, amikor megnyerte a harmadik videojáték-tornáját?" Az MRAgent elsőként kinyeri a finom szemcséjű kezdő kihívókat a kérdésből, mint például "Nate", "videójáték-torna" és "nyer". Az ügynök ezeket a kezdeti kihívókat a memória gráfhoz térképezi, és megnézi az ezekhez kapcsolódó elérhető asszociatív Címkéket. Az ügynök Címkéket lát, mint például "Torna Győzelem" és "Torna Részvétel." Mivel csak azzal foglalkozik, hogy a személy mit tett a bajnokság megnyerése után, az MRAgent elhagyja a torna részvételi címkét, és a győzelem címkét követi. Az ügynök hozzáfér az epizodikus tartalomhoz, amely a kiválasztott Kihívó-Címke párhoz kapcsolódik, három különálló memóriaepizódot nyerve, ahol Nate megnyerte a tornát. Az MRAgent megnézi a három emléket, egy különösen relevánsnak dönt, és a másik kettőt elveti. Ezzel az információval frissíti kihívóit, és újabb felfedezési és csökkentési kört kezd. Az új epizodikus emlékkel, amit visszanyert, az ügynök “torna bevételeket” ad hozzá a kihívóinak, és ezt használja új címkék feltérképezésére és új emlékekre összpontosítására. Ismétli ezt a folyamatot, amíg elegendő információt nem gyűjt, hogy válaszoljon a kérdésre, ami lehet valami mint "Nate megtakarította a pénzt." Az MRAgent teljesítménye ipari benchmarkokon Az MRAgent más keretrendszerek mellett működik, amelyek az ügynöki memória építését célozzák. Alternatívák közé tartozik az A-MEM, egy gráf alapú ügynöki memória keretrendszer, és a MemoryOS, egy hierarchikus memória keretrendszer. Egyéb tartós memória keretrendszerek közé tartozik a LangMem és a Mem0. A kutatók az MRAgentet a LoCoMo és LongMemEval ipari benchmarkokon tesztelték. Ezek tesztelik az ügynökök képességét arra, hogy megoldják a hosszú távú feladatokkal és beszélgetésekkel kapcsolatos kérdéseket, tucatnyi ülésen és száz fordulón keresztül. A használt háttérmodellek a Gemini 2.5 Flash és a Claude Sonnet 4.5 voltak. A rendszert standard RAG, A-MEM, MemoryOS, LangMem és Mem0 ellen tesztelték. Az MRAgent következetesen jelentősen felülmúlta az összes alapvonalat mindkét modellen és minden kérdéstípussal. Azonban az vállalati fejlesztők számára a legkritikusabb mutató gyakran a számítási költség. A LongMemEval tesztek során az MRAgent a kérés tokenfogyasztását csupán 118k-ra csökkentette mintánként. Összehasonlításképpen, az A-Mem 632k tokent használt el, a LangMem pedig 3,26 millió tokent tüntetett el kérdésenként. Az MRAgent a futási időt is hatékonyan felére csökkentette az A-Memhez képest, 1,122 másodpercről 586 másodpercre. Ami az MRAgentet a gyakorlatban hatékonnyá teszi, az az igény szerinti viselkedése. A címkék értékelése és az irreleváns utak csökkentése a visszakeresés előtt pénzt és kontextust takarít meg. Ezenkívül a rendszer autonóm módon értékeli a felhalmozott kontextust, és részben tudja, mikor álljon le a keresés, teljes mértékben elkerülve a redundáns adatfeltárást. Megvalósítási és fejlesztési megjegyzés Bár az MRAgent rendkívül hatékony, a Kihívó-Címke-Tartalom struktúra előkészítése szükséges, mielőtt az ügynök kérdést tehetne fel. A fejlesztőknek ki kell találniuk, hogyan építsék fel az alapul szolgáló memória adatbázist, hogy az LLM hatékonyan navigálhasson az asszociatív elemek között, és csökkenthesse az irreleváns utakat anélkül, hogy robbanna a számítási költség. Szerencsére a fejlesztőknek nem kell manuálisan címkézniük vagy struktúrázniuk ezeket az adatokat. A szerzők az MRAgentet egy automatizált desztillációs csővezetékkel tervezték, amely LLM-eket használ a nyers interakciós történetek feldolgozására, és automatikusan kitölti a memória gráfot. A fejlesztő dolga, hogy megvalósítsa és megszervezze ezt az automatizált bejegyzési csővezetéket, nem pedig manuálisan címkézni az adatokat. Háttérmunkát vagy streaming csővezetéket kell beállítani, amely a nyers felhasználói interakciókat a prompt sablonok segítségével átviszi, hogy kinyerje ezeket a metaadatokat, mielőtt tárolná a gráf adatbázisában. A szerzők hangsúlyozzák, hogy ez könnyű építési fázis, és az MRAgent szándékosan egyszerűsíti a befogadást. A szerzők a kódot elérhetővé tették a GitHubon.
Külső link: venturebeat.com
Kapcsolódó cikkek
startup
Az Uber leállítja élelmiszer-kiszállítási terveit az általa bővítés céljából választott hét európai ország közül ötben, miközben a Delivery Hero felvásárlását célozza meg.
startup
India értesítést küldött a Telegramnak, kérve, hogy korlátozza a kalózfilmek és egyéb szerzői jogvédelem alatt álló tartalmak terjedését, valamint 15 napon belül kér action-tett jelentést.
startup
