Miért nem maradhat az összehangolás az AI elfogadásának szélén?

Ahogy a globális AI-költés idén meghaladja a 2,5 trillió dollárt, sok cég még mindig nem lát érdemi megtérülést. A növekvő nyomás, hogy igazolják befektetéseiket, miatt az AI ügynökökre támaszkodnak, hogy helyrehozzák a helyzetet. De ha az ügynökök ki akarják szolgálni az értéket, amire a cégek várnak, akkor az emberi ítélethez való illeszkedés nem lehet utólagos gondolat. KORLÁTOZÁS MINT EGYENSÚLY A cégek, amikor beindítják AI irányítási programjaikat, gyakran leltárakkal, biztonsági irányelvekkel, hozzáférési politikákkal és nyomon követéssel kezdik. Ezt korlátozásnak nevezem. Gondolj rá úgy, mint a fékekre egy önvezető autóban. Ez az a programozás, amely lehetővé teszi a rendszerek számára, hogy reagáljanak a stop táblákra, közlekedési lámpákra és egyéb formális közlekedési szabályokra. A korlátozás megmondja a rendszernek, hogy mit nem tehet. De az AI ügynökök arra kényszerítik a vállalkozásokat, hogy szembenézzenek egy lényegibb kihívással: az emberi ítélet beágyazásával az autonóm rendszerekbe, amelyek AI sebességgel hoznak döntéseket. Hogyan tervezzük meg az AI-t úgy, hogy működjön egy szervezet értékeivel, politikáival, kockázatvállalásával és a kontextus megértésével, ahogy a körülmények változnak? Ez az egyensúly. Az egyensúly segít meghatározni, hogy a rendszernek mit kellene tennie, amikor a helyes válasz a kontextustól függ. Míg a korlátok megakadályozhatják, hogy egy ügynök átlépje a határt, nem mondják meg, hogy hogyan gyakoroljon ítéletet, amikor nincs világosan kijelölt határ. Gondolj rá úgy, mint egy önvezető autó képességére, hogy olvassa a kontextust és engedjen át egy temetési menetre, még akkor is, ha nincs hatályos törvény. Ez magában foglalja a politikák, adatfelhasználási szabályok és etikai irányelvek betartását, de azt is jelenti, hogy az ügynököket a szervezet által megcélzott tényleges üzleti eredményekhez kell rögzíteni. Egy ügynök, aki minden szabályt követ, miközben eltávolodik a cég stratégiai prioritásaitól és márkaígéretétől, még mindig nem megfelelően hangolt. A munkavállalók gyakran második természetként alkalmazzák ezt az ítélkezést. Idővel megfigyeljük a viselkedéseket, felismerjük a regionális és kulturális árnyalatokat, megkérdőjelezzük azokat az ötleteket, amelyek papíron jónak tűnnek, de a valóságban megbuknak, és megértjük, amikor a módszerek veszélyeztetik az eredményt. De az AI ügynökök nem így működnek. A FOLYAMATOS OPTIMALIZÁCIÓ KOCKÁZATA Van egy példa, amit használok az egyensúly szükségességének magyarázatára. Egy étkezési előfizetési szolgáltatásnak van egy marketingügynöke, amelyet a kampány teljesítményének optimalizálására terveztek. Egy adott költségvetéssel és célokkal az ügynök hozzáfér a különböző adathalmozókhoz, elemzi a csevegési és támogatási naplókat, azonosítja az ügyfélszegmenseket és akciókat kínál. Mire a kampány véget ér, az ügynök elérte eladási és nyereségcéljait. De a háttérben valami más történt. Az ügynök agresszív hirdetéseket szolgáltatott, magasabb árakkal, melyeket “korlátozott idejű kedvezményeknek” álcázott, olyan emberek számára, akik korábban anyagi nehézségekről vagy egészségügyi aggodalmakról beszéltek a támogatási telefonhívások és csevegések során. Amikor az incidens nyilvánosságra kerül, a következmények széleskörűek. Az árdrágítás—különösen a cég legkiszolgáltatottabb ügyfeleivel szemben—megsértette az etikai felhasználási politikát, és közvetlenül ellenkezett a cég küldetésnyilatkozatával és értékeivel. Ennek eredményeként az ügyfelek tömegesen lemondják előfizetéseiket, a szabályozók vizsgálatot indítanak, és az első kampány során szerzett összes bevétel elveszik. Ez a történet megmutatja, milyen gyorsan okozhat problémákat egy ügynök anélkül, hogy valaha is technikailag meghibásodna. Bizonyos ügyfelek kihasználása nem volt része a feladatnak; csupán a minta volt, ami javította az eredményeket. A diszkrimináció, a magánélet kérdései és a politikai megsértések függetlenül a cég szándékától bekövetkezhetnek. Végső soron ez azért van, mert az ügynökök olyan rendszerek, amelyeket arra képeztek ki, hogy maximalizálják a hatékonyságot. A folyamatos optimalizáció lehetővé teszi számukra, hogy teljesítsék céljaikat. Ez az oka annak is, hogy az ügynököknek egyensúlyra van szükségük. A biztonsági és hozzáférési korlátok mellett a politikák biztosítják, hogy az ügynökök csak a cég által meghatározott határokon belül optimalizáljanak. EGY KANYARHOZ ÉRTÜNK A Gartner előrejelzése szerint a nagyvállalatok 2028-ra több mint 150 000 ügynököt fognak alkalmazni, szemben a mai több tucat cégre jutó ügynökkel. És ez a szám gyorsan nő, köszönhetően a tokenmaxxingnak és a vállalati ösztönzőknek az AI kihasználására. Most a kihívás az, hogy miként programozzunk ügynököket emberi ítélettel nagy léptékben. A hagyományos manuális felülvizsgálati folyamatokat lassabb, statikusabb rendszerekhez építették, ahol a csapatoknak volt idejük átnézni, észlelni és megoldani a problémákat a termelés előtt. Sajnos semmilyen mennyiségű felvétel nem segíthet abban, hogy lépést tartson a több száz, végül pedig több ezer ügynökkel, akik AI sebességgel optimalizálnak. A jó hír az, hogy ma kevesebb AI ügynök van, mint valaha. Most van itt az ideje, hogy automatizált irányítást hozzunk létre, nyilvántartsuk ügynökeinket, meghatározzuk alappolitikai kereteinket, és érvényesítsük azokat a biztonsági intézkedésekkel és korlátokkal együtt. Sokkal könnyebb programot skálázni, ahogy az ügynökök száma nő, mint utólagosan alkalmazni egyet. Az AI-t csak a sebesség kedvéért építeni rövidlátó kísérlet. Célunk egy olyan AI építése, amely gyorsan halad—de a helyes irányba. Blake Brannon a OneTrust innovációs vezetője.