Nyílt modellek, globális hálózatok: Hogyan gyorsítja az AT&T és a GSMA a telekommunikációs innovációt a Gemma segítségével
Megosztás
Összefoglalót olvas. A teljes tartalom itt érhető el: cloudblog.withgoogle.com.
A telekommunikáció hihetetlenül összetett, rendkívül specializált terület. A modern mobilhálózatok alapvetően több beszállítósak, sokféle és gyakran tulajdonjoggal védett adatszerkezettel rendelkeznek. Míg az AI óriási előrelépéseket tett az általános nyelvi és programozási területeken, a telekommunikációs szakterület tudása ritkán hozzáférhető az interneten — egyszerűen nincs "Wikipedia" a telekommunikáció számára. Ez az adat-hiányosság komoly akadályt jelent az AI modellek számára, amelyek mélyen szeretnék megérteni a hálózati működést. Amikor hatalmas globális léptékben működik, amely milliárdokat kapcsol össze naponta több száz milliárd alkalommal, az iparág abszolút pontosságot igényel. Mégis, a GSMA Intelligence szerint a telekommunikáción belüli AI telepítéseknek mindössze 16%-a működik a hálózaton, főként a specializált szakterület tudásán alapuló modellek tréningezésének nehézsége miatt. Míg a általános célú AI modellek sokat fejlődtek, a telekommunikációs szolgáltatók által tapasztalt lépték, összetettség és specifikusság azt jelenti, hogy a szakterületre specifikus modellek továbbra is a legjobb módját jelentik a drámai hálózati és folyamat automatizálás valamint az ügynöki munkafolyamatok elérésének, amelyek az AI korszak szívét alkotják. És egy nyílt modellre van szükség ahhoz, hogy megadja azt a rugalmasságot és dinamizmust, amelyre a globális hálózatoknak szükségük van. A szakterületre specifikus modellek jelentősége Az általános határmodellek rendkívül képesek a széleskörű érvelésre és nyelvi feladatokra, de hiányzik belőlük az alapvető kontextus, amely szükséges a kritikus infrastruktúra kezeléséhez. Az általános modellek még mindig küzdenek a rendkívül specializált szókincsek, összetett hálózati topológiák és a telekommunikációs szektorra jellemző, beszállítóra specifikus telemetriai adatok kezelésével. A telekommunikációra specifikus modellek ezt úgy oldják meg, hogy az AI-t a hálózati működés valóságaira alapozzák. Szakterületre specifikus adatállományokon való tréningezéssel ezek az egyedi modellek képesek értelmezni a finom technikai naplókat, diagnosztizálni a hálózati teljesítmény szűk keresztmetszeteit és megérteni a szabványos iparági protokollokat a valós idejű rendszerekhez szükséges magas fokú pontossággal. A Google Gemma modellek: Az Open Telco AI alapját képezik A probléma megoldására a GSMA nemrégiben bevezette az Open Telco AI platformot, hogy pontos, hatékony és megbízható telekommunikációs szintű AI-t építsen. E közös erőfeszítés egyik központi részeként az AT&T egy nyílt telekommunikációs modellekből álló családot, OTel néven, különböző architektúrákon képzett, beleértve a Google nyílt forráskódú Gemma modelljeit. Ezek a modellek a GSMA és együttműködő felei, köztük telekommunikációs szolgáltatók, hálózati berendezések szállítói és az akadémia által összeállított, specializált telekommunikációs adatbázison kerültek tréningezésre. Az kezdeményezés sikeresen 30 modellt szállított különböző méretekben és architektúrákban, optimalizálva az pontosság és hatékonyság közötti egyensúlyt. Lényeges, hogy ezek a modellek a biztonságra épülnek, és az absztinencia tréninge a retrieval augmented generation (RAG) használatával történik a hallucinációk drasztikus csökkentése érdekében — ami egy abszolút szükséglet a modern élethez oly központi szerepet játszó, erősen szabályozott telekommunikációs környezetekben. “Az Open Telco AI platform egy kritikus mérföldkő a telekommunikációs ipar számára megbízható, szakterület-specifikus intelligencia kialakításában” — mondta Louis Powell, a GSMA AI technológiákért felelős igazgatója. “A Gemma nyílt forráskódú alapjainak kihasználásával bizonyítjuk, hogy a rendkívül pontos, hatékony és reprodukálható modellek külső iparági együttműködéssel építhetők.” Gemma kiemelkedik, mint vezető modell Az AT&T tesztjei az OTel fejlesztése során kiemelik a Gemma erősségét más architektúrákkal szemben, erős teljesítményjavulást mutatva az egész OTel modellcsaládon a telekommunikációra specifikus finomhangolás után. Különösen: A gemma-4-E4B-it modell az esetek 91,74%-ában korrekt választ adott, elérve a legmagasabb általános pontosságot a tesztelt modellek közül. A Gemma 3 alapváltozata, 27 milliárd paraméterrel, a legjobb teljesítményt nyújtotta az AT&T által tesztelt modellek kezdeti tréningezése során. A Gemma 3 modell, 300 millió telekommunikációval kapcsolatos beágyazással, jelentős visszakeresési fejlődést mutatott. “A Gemma modellek folyamatosan állítják fel a nyílt forráskódú finomhangolás szabványait” — mondta Mark Austin, az AT&T adatelemzési és AI alelnöke. “Ha ezeket a modelleket kifejezetten telekommunikációs adatokra tréningezzük, akkor képesek leszünk túlszárnyalni a hagyományos modelleket, amelyek többszörösének nagysága bizonyos telekommunikációs helyzetekben. Ez segíthet növelni a pontosságot, miközben csökkenti a költségeket.” A jövő megerősítése a Google Cloud teljes stack megoldásaival Ennek a nyílt együttműködésnek a hatása azonnali volt, eddig több mint 18 millió letöltéssel a modellekből. Ma az OTel a legjobb modellek egyike az Open Telco Benchmarkokon, megmutatva, hogy az egyedi, kisebb modellek képesek túlszárnyalni a hatalmas határmodelleket, amikor azokat specifikus területekre optimalizálják. A jövőre nézve a Google Cloud elkötelezett amellett, hogy globálisan támogassa a telekommunikációs szolgáltatókat saját egyedi telekommunikációs AI modelljeik fejlesztésében és telepítésében. Átfogó, teljes stack megoldások — beleértve a rendkívül optimalizált AI infrastruktúrát, AI fejlesztő eszközöket és olyan nyílt modelleket, mint a Gemma — révén segíthetünk a szolgáltatóknak, szállítóknak és innovátoroknak finomítani ezeket a modelleket a saját adataikkal. Ez lehetővé teszi a telekommunikációs szolgáltatók számára, hogy felgyorsítsák az AI-hoz való alkalmazkodásukat, miközben a telekommunikációs szintű AI-t biztonságosan telepítik a Gemma beépített támogatásának és védőkereteinek segítségével. Együtt a telekommunikációs ipar megismételheti a programozásban és érvelésben tapasztalt hihetetlen előrelépéseket, és ezeket az fejlett képességeket a kritikus telekommunikációs alterületekre, például az automatizált hálózati konfigurációra és az önjavító rendszerekre hozhatják.
Külső link: cloudblog.withgoogle.com
Kapcsolódó cikkek
architect
A Cycle bevezeti az EU-ellenőrző szintet, miközben folytatódik a szuverenitásról szóló vita.
architect
A Cloudflare részletezi az egységes adatplatformot, ahol a számlázási munkaterhelések a lekérdezések 53%-át teszik ki.
architect
