A Morgan Stanley felére csökkentette a legkockázatosabb elszámolási feladatát — azáltal, hogy az ügynökeit kevésbé autonómmá tette.

A legtöbb vállalati AI bevezetés eddig kódoló asszisztensekre és ügyfélszolgálati botokra összpontosított. A Morgan Stanley azonban olyan ügynököket állított szolgálatba, amelyek a banki szektor legnagyobb pontosságra és határidőre befolyásoló munkafolyamataiban tevékenykednek, mint például a nyereség és veszteség (P&L) egyeztetés, és ezzel felére csökkentették a munka időtartamát. A ellentmondásos rész: ezt a rendszert nem a nagyobb autonómia, hanem a kisebb mértékű autonómia révén érték el. Az emberek szorosabban részt vesznek a folyamatban, és döntéseik iteratív módon átalakulnak alkalmazható, ismételhető szabályokká, amelyeket a rendszer önállóan alkalmazhat. "Sokkal inkább egy munkatárs, mint egy másodpilóta" - mondta a Morgan Stanley ügyvezető igazgatója, Todd Johnson egy nemrégiben tartott VB AI Impact eseményen. A FIXR néven ismert belső termelési ügynöki rendszer túllép a egyszerű, közvetlen "gen AI 1.0" feladatokon. "Úgy gondoljuk, hogy itt rejlik a lehetőség a szervezeten belüli összetett munka valódi feltárására." A FIXR a háttérben Minden kereskedési napon a Morgan Stanley kereskedési asztalai fontos munkát végeznek a tranzakciókkal, például készpénzes részvényekkel vagy adósságberuházásokkal kapcsolatban. Azoknak a napoknak a végén a kontrollereknek egyeztetniük kell a P&L-t a pénzügyi óriás pénzügyi, kockázati, működési és kereskedési rendszerein. Minden adatot össze kell gyűjteni, és, talán nem meglepő módon, számos attribútum gyakran nem egyezik. Jellemzően ez azt jelenti, hogy a kontrollereknek kézzel kell megvizsgálniuk minden eltérést (vagy "törést"), döntéseket kell hozniuk a kiigazításokról, majd ideális esetben jóvá kell hagyniuk mielőtt a szám a pultra kerül. Mindezt egy szoros reggeli határidővel végezve. Korábban ez akár hat órát is igénybe vehetett egyetlen könyv esetén. Most a FIXR ezt a feladatot két-három órán belül elvégzi - mondta Johnson. Azok között a körülbelül 100 ellenőr között, akik ezt a munkát végzik, ez körülbelül 1500 órát takarít meg hetente. Miután az éjszakai P&L számítások befejeződnek, a rendszer automatikusan elemzi a "töréseket", és javaslatokat tesz az olyan szabályok alapján, amelyeket megtanult. Számos ügynök működik együtt: egy az előző útmutatásokat értelmezi a nap elejére javasolt megoldások kidolgozása érdekében. Egy másik a kontrollerek viselkedéséből tanul, és dokumentálja az alkalmazott szabályokat. Egy harmadik pedig az ismétlődő mintákat tartós, automatizált logikává alakítja. Idővel a rendszer automatikusan képes tisztázni bizonyos töréseket, amelyekkel korábban már találkozott, javaslatokat tehet mások esetében, amelyek esetleg ismeretlenebbek, kérhet segítséget, ha nem biztos, és jelezheti az emberi vizsgálatot. Amikor a töréseket ismételten ugyanazzal a módszerrel oldják meg, megszilárdíthat megbízható szabályokat. Kritikus, hogy az emberek nem lépnek ki a körből, hanem teljes mértékben részt vesznek benne - mondta. Ellenőrzik, jóváhagyják vagy kijavítják minden ajánlást, majd visszatérítik ezeket a döntéseket a következő futás javítása érdekében. Az ügynök napi szinten tanul a kontrollerektől arról, hogy mit csinál jól és rosszul, és ezt a tudást kodifikálja a fejlődése során. "Még mindig megőrizzük az emberi felelősségérzetet, még ha elkezdi is automatizálni" - mondta Johnson. "Idővel egyre több ilyen tételt fog látni automatikus módon megoldva." Hangsúlyozta, hogy az autonómia nagy mértékű bizalmat igényel; a vállalatok nem tapasztalnak hatékonyságnövekedést, ha mindenki mindent ellenőriz, amit az ügynök csinál. Az ember-ügynök visszajelzési ciklus kulcsfontosságú volt a kontrollált, mérhető és ismételhető automatizálás kihívásainak kezelésében. "Felismertük, hogy mindaz az intelligencia, ami a kontrollerek fejében van, nehéz lesz egy ügynökbe besűríteni az első napon" - mondta Johnson. A folyamatokra, először is, bővíthetőségre összpontosítani Fontos volt, hogy először a folyamatokat állítsák fel, mielőtt bármilyen AI-t bevonnának - mondta Johnson. Csapata egy "nagyon alapos" folyamatintelligencia-értékelést végzett, amely feltérképezte és kiaknázta a munkafolyamatokat, hogy meghatározza, hol lenne a legelőnyösebb az automatizálás: az ügynökök, a hagyományos automatizálás vagy egy hatékonytalan lépés egyszerű újragondolása a megoldás? "Ha ezt először meg tudjuk oldani, mielőtt ügynököket vonunk be a problémába, akkor valóban átalakítjuk a lehetőséget" - mondta. A P&L aláírási folyamat tele volt automatizálásra alkalmas manuális lépésekkel, és az ügynökök, akik átveszik e időigényes feladatokat, felszabadítják a kontrollereket "értéknövelő elemzés" és "mélyebb kockázati megfontolások" elvégzésére - tette hozzá. A bővíthetőség azonban éppolyan fontos volt, mint az időmegtakarítás. Johnson csapata ezt a P&L egyeztetési esett választotta, mert több száz ellenőr végezte világszerte ezt a munkát (Amerikában, Európában, Ázsiában). Tehát kezdj el egy felhasználási esettel, bizonyítsd be, bővítsd, "és végső soron a transzformáció akkor valósul meg, ahogy ezt egyre inkább bevezetjük a szervezeten belül" - mondta Johnson. Tervezett determináltság Johnson elmondta, hogy a csapat szándékosan korlátozta, mennyire függ a munkafolyamat a modell ítéletétől. "Ha van lehetőséged arra, hogy a dolgokat nagyon előírásosan és ismételhetően alakítsd, az olcsóbb a tokenhasználat szempontjából, kontrollok szempontjából pedig ismételhetőbb - és hagyd, hogy a LLM végezze el azokat a feladatokat, ahol nem szükséges ilyenfajta determinisztikus munkafolyamat" - mondta. Ahogy a rendszer egyre több visszajelzést kap a kontrollerektől egy adott töréstípusról, a Morgan Stanley ezt a mintát rögzített szabállyá alakítja, nem pedig a modellre bízva. Az emberek továbbra is birtokában vannak a viselkedésnek Egy érdekes (és talán alapvető) kérdés merül fel az ügynöki kor hajnalán: Az ügynökök kódok vagy digitális alkalmazottak? Johnson érvelése szerint "valószínűleg mindkettő egy kicsit", és ennek megfelelően árnyalt megközelítést igényel a kormányzást és felügyeletet illetően. A műszaki csapatoknak továbbra is felelőseknek kell lenniük a védelmi és határozón rendszerek, például tűzfalak vagy titkosítás fenntartásáért. De új dinamika áll fenn a "teljesítmény elemmel" kapcsolatban: Az ügynököket használó emberek felelősek azokért, mert segítenek a munkájukban. Például, ha egy vezetői ellenőr egy junior kontrollerekkel dolgozik, nem egyszerűen mond le a felelősségről, mert valaki segít nekik - jegyezte meg Johnson. "Az AI kormányzási elveink egyik erős alapelve általánosságban az, hogy mindig kell, hogy legyen emberi felelősség, még ha van is valamiféle automatizálás" - mondta. De általában nincs "egyetlen ember", és a folyamat végső soron folyamatos. Ebből a szempontból Johnson viccelődött, hogy az ügynöki AI egyik "lesújtó" dolog az, hogy folyamatosan továbbképzést igényel, mivel a modellek folyamatosan változnak. "Soha nem fogod tudni mondani: ‘Minden értékelést és tesztelést elvégeztünk. Most már csak hagyjuk menni.’ Folyamatosan szükséged lesz egy állandó nézetre, ahogy az idő múlásával fejlődik." A Morgan Stanley a valódi vállalati fájdalompontokra összpontosít A Morgan Stanley tapasztalata tükrözi azokat a mintákat, amelyeket a VentureBeat felfedezett a vállalati AI bevezetésekkel kapcsolatban. A VentureBeat nemrégiben készült VB Pulse felmérésében a megkérdezettek közel háromnegyede arról számolt be, hogy alig vagy egyáltalán nem tapasztalnak megtérülést a testreszabott modellek finomhangolásából, leírva egy "sandbox temetőt" az AI projektekről, amelyek fenntartása túl költségesnek bizonyult. Ez arra utal, hogy a Morgan Stanley folyamat-első, vásárlás és keverés megközelítése fenntarthatóbb lehet, mint a testreszabott modellek kergetése. A felmérés 87 válaszadót tartalmazott, és az adatok irányadó tartalomként értelmezendők. A kormányzás egy másik közös kihívásként jelent meg: a válaszadók 38%-a a felelős tulajdonos hiányát jelölte meg legnagyobb akadályaként a gyártási AI-ban, míg a 87 megkérdezett vállalatból csak kettő rendelkezett aktív monitorozással és riasztásokkal a modellhibák észlelésére.