A Kontrollhiány: A vállalati AI szervezetek tulajdonosi problémával küzdenek, nem technológiai problémával — és a legtöbben manuálisan irányítják ezt.

Az AI portfóliók gyorsabban bővülnek, mint ahogy képesek lennénk irányítani őket a vállalatokon belül. A legtöbb szervezet több, egymással versengő platformot üzemeltet, mindegyik azt állítja, hogy ő a „fő” AI réteg; kevesen képesek magabiztosan észlelni egy modellt, amely eltér a normától vagy elbukik a termelésben; és a leggyakrabban említett akadály a kontrollt illetően az, hogy nincs egyetlen felelős személy, aki a teljes AI-készleten számon kérhető lenne. Ennek következményeként egyre szélesedik a kontrollhiány — a vállalatok ambíciója és kiadásai egyre gyorsabban haladnak a láthatóság, birtoklás és költségkontroll előtt — miközben az autonóm ügynökök valódi pénzügyi és működési kudarcokat okoznak. A VentureBeat Pulse Research legújabb hulláma a vállalati AI kontrollhiányt vizsgálja: hány platform állítja, hogy ő a fő AI réteg, ki irányítja valójában az AI viselkedését közöttük, képesek-e a szervezetek észlelni egy modell termelésbeli kudarcát, mi blokkolja leginkább a platformok közötti irányítást, valamint hogy az autonóm ügynökök pénzügyi és működési kontrollhibái már megjelentek-e. A központi megállapítás egy kontrollhiány — a távolság aközött, hogy a vállalatok mennyire agresszíven bővítik az AI-t, és mennyire keveset látnak, birtokolnak vagy irányítanak belőle. Kicsivel kevesebb mint három ötöd (58%) az AI kezdeményezések nettó hozzáadását mutatja, a „jelentős bővülés” a legnagyobb egyedi postura. Mégis, 85% üzemeltet két vagy több platformot, mindegyik a „fő” AI réteg szerepét követelve, és csak 8% konszolidálta az egyetlenre. Ezzel a versengő háttérrel szemben 40% mondja, hogy nagyon biztos abban, hogy észlelne egy modellt, amely eltér, veszélyesen viselkedik vagy elbukik a termelésben — de csupán 10% támasztja alá ezt a bizalmat aktív megfigyeléssel és riasztással, a többi manuális emberi ellenőrzésre támaszkodik. Az AI bővítésére szolgáló gépezet messze előrébb jár, mint az irányításához szükséges gépezet. A rés legfőbb oka elsősorban a birtoklás kérdése. Csak egyharmad (38%) mondja, hogy egy központi csapat irányítja az AI-t napjainkban, és egyötöd (20%) mondja, hogy minden platformcsapat függetlenül irányítja a sajátját; a leggyakrabban említett akadály a platformok közötti irányításban az, hogy nincs egyetlen felelős tulajdonos (32%), és körülbelül minden hatodik (17%) mondja, hogy egyetlen szerep sem vállal hivatalos felelősséget. Ugyanez a hiány már a költésekben is megmutatkozik: kicsivel kevesebb mint a fele (49%) a megfigyelt AI-t — nem engedélyezett, vállalati bankkártyán működtetett ügynöki csatornákat — a legrosszabb kontrollhiányuknak nevezi, és további 25%-ot érintett egy elhagyott „végtelen hurok” ügynöki számla. A vállalatok megstandardizálták az ambíciót, jóval azelőtt, hogy a kontrollt is megstandardizálták. Módszertan A VentureBeat ezt a felmérést a folytatódó Pulse Research sorozat részeként végezte, az eszköz az vállalati AI kontrollhiányra, az irányításra, láthatóságra és költségellenőrzésre összpontosít több AI platformon. A válaszokat 100 vagy annál több alkalmazottal rendelkező szervezetek köréből válogatták, és ez a vágás kizárja azokat a válaszadókat, akik az „Egyéb” opciót választották, így egy azonosítható szerepkör alapja maradt (n=145); mindannyian egyetlen második negyedévi hullámból (június) származnak. A mintavétel a szervezet mérete szerint a középi és alacsony nagy kategóriák felé hajlik: 100–499 és 500–2,499 alkalmazott (23%-23%) vezet, a 10,000–49,999 (22%) és a 2,500–9,999 (20%) közel állnak hozzá, míg az 50,000+-osok 11%-ot tesznek ki. A szerepkörök tekintetében vezető és technikai: tanácsadók és tanácsadók (20%), CIO/CTO/CISO (18%), mérnöki/IT vezérigazgatók (14%), termék- és programmenedzserek (13%), valamint vállalati architektek (12%) alkotják az alapot. A Technológia/Szoftver a legnagyobb iparág 41%-kal, ezt követi a Pénzügyi Szolgáltatások és a Szakmai Szolgáltatások (12%-12%) és az Egészségügy/Élet tudományok és Gyártás/Ipari (10%-10%). Az eredményeket irányadó jelzésként kell értelmezni, nem pedig pontos mérésként; önválasztott és nem valószínűségi minta. Ahol egyetlen részvény törékeny lenne önmagában, a jelentés inkább a válaszok irányára és csoportosítására támaszkodik, nem pedig a pontos százalékpontra. Megállapítás 1: A bővülés megelőzi az irányítást Az AI portfóliók gyorsabb növekedésben vannak, mint az irányításuk eszközei. Megkérdeztük a vállalatokat, hogy miként változott az AI portfóliójuk az elmúlt 12 hónapban. A növekedés vezet. Jelentős kisebbség céltudatosan visszavonul. A bővülés dominál. A „jelentős bővülés” (33%) és a „nettó pozitív növekedés” (25%) kombinálásával, a vállalatok közel három ötöde (58%) nettó hozzáadást mutat az AI kezdeményezésekben. Mégis, jelentős részesedés szándékosan visszafogja a növekedést: körülbelül egynegyed (23%) aktívan racionalizálja — bővítve, ami működik, és levágva a többit — és további 12% laposan tartja a portfólióját. Csak egy maroknyi (3%) állt meg, hogy először az irányítást rendbe tegye. Ez a motorja minden következő hiányosságnak: a vállalatok felgyorsulnak egy olyan tájékra, amelyet még nem tanultak meg látni vagy birtokolni, és figyelemre méltó, hogy 4% még saját portfólióját sem képes leírni. Az itt dokumentált ambíció pontosan az, ami következményessé teszi a láthatóság és birtoklás hiányosságait a 3. és 4. megállapításban. Megállapítás 2: Nincs egyetlen „fő” AI réteg — a felület vitatott Több mint négyből öt vállalat több platformot üzemeltet, mindegyik a primátusra törekszik. Megkérdeztük, hány vállalati platform állítja, hogy ő a szervezet „fő” AI rétege — az ERP, EHR, ITSM, a termelékenységi csomag vagy az adatplatform, mindegyik magát a középpontba pozicionálja. Szinte senki sem ad egyetlen választ. A meghatározó állapot a vitatott primátus. A két multi-platform kategória összevonásával 85% -ban van legalább két platform, mindegyik önállóan igényli a fő AI réteg státusát, és több mint egyharmad (36%) nyílt négy- vagy annál több versenyt ír le. Csak 8%-nak sikerült egyetlen rétegre konszolidálni, és további 6% még a kérdést sem térképezte fel. Ez a strukturális oka annak, hogy az irányítás nehéz: nincs közösen elfogadott súlypont az irányításhoz. Minden platform saját AI-ját, saját kontrolljait és saját feltételeztéseit hozza — és ahogy a 3. megállapítás mutatja, az, hogy ki irányít közöttük, egyre inkább nem adott válasz. Megállapítás 3: Az irányítás papíron van, de a gyakorlatban vitatott Egy központi csapat birtokolja papíron; a gyakorlatban, darabokban áll. Megkérdeztük, ki felel valójában az AI viselkedésének irányításáért ezeken a platformokon, és melyik funkció tartja a fő felelősséget. A fő válasz nyugtató; a részletek nem azok. A felszínen a központi irányítási funkció a vezető válasz — de csak egyharmad (38%) mondja, hogy van, ami messze elmarad a többségtől. Az eloszlás többi része tovább csökkenti ezt: egyötöd (21%) azt mondja, hogy a tulajdonjog nem egyértelmű, vagy csapatok között vitatott, egyötöd (20%) azt mondja, hogy minden platformcsapat egyszerűen függetlenül irányítja a saját AI-ját, és 19% azt mondja, hogy senki nem foglalkozott ezzel. A felelősség tovább fragmentálódik, amikor megkérdeztük, hogy melyik szerep tartja azt — a CIO/CTO/CISO vezet 27%-kal, egy Chief AI Officer vagy hasonló 22%-kal, és figyelemre méltó, hogy 17% azt mondja, hogy senki sem tart hivatalosan felelősséget. Még ahol központi csapatot említenek, a megnevezett tulajdonos leggyakrabban egy általános technológiai vezető, nem pedig egy dedikált AI szakértő. Az irányítási funkció inkább egy szervezeti ábrán feltüntetett aspiráció, mint operatív valóság — a 4. megállapításban a detektálási rés előfeltétele. Megállapítás 4: A detektálási rés — a bizalom valós, de nagyrészt manuális Csak 10% rendelkezik aktív megfigyeléssel és riasztással. Megkérdeztük, mennyire biztosak a vállalatok abban, hogy észlelni tudnák az AI modellt a termelésben, amely eltér, veszélyesen viselkedik vagy helytelenül teljesíti a feladatokat. Ez a kontrollhiány szíve. Ez a jelentés központi száma. Míg 40% azt mondja, hogy nagyon biztos abban, hogy észlelné a megbukó modellt, a bizalom túlnyomó többsége a manuális emberi áttekintésre (30%) támaszkodik, nem pedig automatizálásra — csupán 10% rendelkezik ténylegesen aktív megfigyeléssel és riasztással. A másik oldalon több mint negyed kombinálja a két reakciós választ — nincs rendszeres láthatóság (8%) és azt hallaná az első végfelhasználóktól (19%) — tehát megtudnák a termelési hibáról utólag, azoktól, akiket érintett. A többség (32%) egy reményteljes középmezőnyben ül, várva, hogy „végül a legtöbb problémát elkapja”. Az 1. megállapítás agresszív bővítése mellett ez a kontrollhiány kruxa — a vállalatok gyorsabban mélyítik az AI-t a termelésben, mint ahogy automatizált eszközöket építenének ki a hibáik észlelésére. A bizalom valós, de nagyrészt manuális, és az automatizált észlelés továbbra is a kivétel. Megállapítás 5: A hiányzó tulajdonos a legnagyobb akadály Az irányítás a felelősség első, a láthatóság második szinten akadozik. Azt kérdeztük a vállalatoktól, hogy mi a legnagyobb akadályuk az AI irányításában több platformon. A szervezeti ábra az első helyen áll. Az egyetlen hiányzó tulajdonos 32%-kal vezeti az akadályok listáját. A szolgáltatók átláthatósága (25%) és az a hiány, hogy nincsenek eszközök vagy infrastrukturális megoldások a platformok közötti megfigyeléshez (16%) állnak mögötte, és együtt ezek a két technikai láthatósági akadály (41%) felülmúlják a birtoklási hiányt. A vezetőség prioritáscsökkentése további 17% -ot képvisel, míg a tehetség hiánya ritka (5%). A kép teljes kerekítéséhez további 5% mondja, hogy ez számukra nem akadály — már megoldották. Összességében a kép inkább vitatott, mint a főcím sugallja: a vállalatok legtöbbször egy hiányzó tulajdonost neveznek meg, de sokan a akadályt a szolgáltató „fekete dobozaiban” és a platformok közötti megfigyelés hiányában látják. Amikor ingyenes szöveges kérdésben arról kérdezték őket, hogy mit javítanának meg, a válaszadók különböző irányokból egy dologra a középpontba kerültek — egyetlen felelős tulajdonosra és egy kontrolltérképre, amely leválasztja a költségeket, az eltéréseket és a modellválasztást a végfelhasználóról. Megállapítás 6: A finomhangolás ROI kimutatása Körülbelül hétből hat vállalatnak van kevés eredménye egyedi modellbe fektetett pénzügyi hozammal. Megkérdeztük, hogy az elmúlt 18 hónapban a tulajdonos alapmodellek közül hányba fektetett pénzt finomhangolás céljából, amelyek világos, mérhető pozitív ROI-t hoztak a termelésben. A legtöbben egy homokozó temetőt írnak le — vagy szándékos döntést hoznak annak elkerüléséről. A testreszabott finomhangolás a legtöbbek számára nem hozta meg a várt nyereséget. A három csalódást okozó kimenet kombinálásával — homokozó temető, stratégiai elkerülés és teljes elírás — körülbelül hétből hat (73%) vagy nem tudott testreszabott modelleket termelési használatra bevezetni, vagy szándékosan elutasította a próbálkozást, míg 27% -nál a finomhangolt modellek megbízható előnyként szerepelnek. A legnagyobb egyedi csoport (45%) továbbra is a temető: olyan projektek, amelyek túl drágák vagy bonyolultak a fenntarthatósághoz, fejlesztés alatt rekedve. Egy másik negyed (24%) soha nem kezdett — figyelembe vették az utólagos fenntartási terhet, és elkerülték azt. A jelzés az, hogy sok vállalat továbbra is költségcsapdának tekinti a testreszabott modellképzést, ami segít megmagyarázni a pragmatikus, beszerzésre és keverésre orientált vállalatstratégiát, amelyet a 7. megállapítás tárgyal. Megállapítás 7: Szolgáltatói hozzáállás — hibrid alapértelmezett, emelkedő elhagyás mellett A vállalatok keverik az nyílt és zárt modelleket; egyre többen csökkentik a szolgáltatók számát. Két kapcsolatban álló kérdést tettünk fel: vajon a vállalatok az API-k költségeit és a zártságot elkerülendő az nyílt súlyú modellek felé mozdulnak-e, és hogy melyik zárt szolgáltatót, ha van, a következő évben a legvalószínűbb phasing out. A válaszok fedezetet írnak le — és egyre növekvő hajlandóságot az elhagyásra. Nyílt súlyok terén egyértelmű többség (51%) hibrid egyensúlyt teremthet, a szándékos zárt elköteleződés második helyen (32%), míg a self-hostolt nyílt modellekre való kemény áttérés 16% -kal. A hibrid többség ugyanazt az ösztönt tükrözi, amely a felmérés során végigkísérte: megőrizni a választási lehetőséget, elkerülni a befogást — míg a zárt csoport nyíltan elismeri, hogy az önálló üzemeltetés fennmaradó operatív terhe továbbra is felülmúlja a megtakarításokat számukra. A szolgáltatói elhagyás esetében a hűség a tehetetlenségtől már nem vezet: a Microsoft a legnagyobb mértékben megnevezett célpont (29%, gyakran említve a Copilot / Azure csökkentését a közvetlen modelfelvétel javára), szorosan követi a 27%, akik senki (senkit) sem csökkentenek. Az OpenAI a 21% -nál következik (az árfolyam-ingadozásra hivatkozva), az Anthropic 15%-nál és a Google 6%-nál. Egyetlen szolgáltató sem néz szembe egy széles körű elhagyással, de az azonosítható szerepkörök között az egyensúly eltolódott az „összes bővítése” irányába, hogy legalább egy szolgáltatót aktívan csökkentettek. Megállapítás 8: Az ügynöki kiadási válság — a shadow AI vezeti a kudarcokat. A nem engedélyezett csatornák, nem az elhagyott hurkok, a legrosszabb kontrollhiba. Végül megkérdeztük, mi a legrosszabb pénzügyi vagy működési kontrollhiba, amellyel a vállalatok szembesültek, mivel az autonóm ügynökök hosszabb végrehajtási időszakokban működnek. A shadow AI az első helyen áll — és nagyon kevesen úsztak meg félelmet. A kontrollhiánynak ára van, és ezt már megfizetik. A vállalatok közel fele (49%) említi a shadow AI-t — a központi felügyelet nélkül működtetett nem engedélyezett ügynöki csatornákat — mint legrosszabb hibájukat, az „nincs egyetlen tulajdonos” akadály operatív ikertestvéreként az 5. megállapításban. További 25%-ot érintettek egy elszabadult végtelen hurok ügynöki számla, és 6% egy ügynök, amely rontotta a termelési adatbázisokat. Csak 21% mondja, hogy őrzött stabilitással bír — a kisebbség, aki kemény token limitálást és költségkapszulázást vezetett be az infrastruktúra szintjén, elkerülve ezzel a meglepetéseket. Más szavakkal, körülbelül négyből öt vállalat (79%) már tapasztalt valós pénzügyi vagy működési kontrollhibát az autonóm AI-tól, nem csupán aggódva egyért. Ahogy a 4. megállapításban a detektálás is, ezen kudarcokat megelőző determinisztikus kontrollok csak a szervezetek egy töredékénél léteznek. Az alsó vonal: egy kontrollhiány, amelyet a kiadások önmagában nem zárhat be. A 100 vagy annál több alkalmazottal rendelkező szervezetek olyan mesterséges intelligenciát leíró programokat mutatnak be, amelyek gyorsan bővülnek és lassan irányíthatók. Kicsivel kevesebb mint három ötöde nettó hozzáadási adatokat mutat a portfólióikban; több mint négyből öt üzemeltet olyan platformokat, amelyek közül egyik sem konszolidálódott egy tényelt alapról; és azt a dolgot, amit a leggyakrabban említenek, mint legfőbb akadályukat, egyetlen felelős tulajdonos hiányát. A láthatóság, amely az ambícióval társul, nagyrészt manuális — csupán 10% aktív megfigyeléssel és riasztással rendelkezik, és a kudarcot szenvedő modell észlelésére való bizalom leginkább emberi áttekintésen alapul, nem automatizáláson. A következmények már konkrétak, nem csupán hipotetikusak. A testreszabott finomhangolás gyakran csalódást okozott, aminek következtében a vállalatok egy hibrid, védett, vészelés irányába terelték, és az autonóm ügynökök, amelyek most elérik a termelést, valódi kontrollhibákat okoztak körülbelül négyből öt válaszadónál, kiemelkedve a központi felügyelet nélkül működő shadow AI-t. Ez inkább iránymutató jelzés, mint pontos mérés — de az irány minden kérdésnél következetes: az ambíció, kiadások és bevezetés gyorsan a birtoklás, láthatóság és költségkontroll elé szaladt. A kontrollhiány nem eszközprobléma, amelyet több költés egyedül lezárna; először is az a kérdés, hogy ki birtokolja a választ. A 145 kvalifikált vállalati válaszadó (100+ alkalmazott) válaszai alapján. A mintavétel mérete kicsi; az adatokat irányadóként kell kezelni. A válaszadók között vannak igazgatók, alelnökök, CIO-k, CTO-k és vállalati architektek a technológia, pénzügyi szolgáltatások, kiskereskedelem, egészségügy és egyéb szektorok területéről.