startup

A Liquid AI legkisebb modellje, az LFM2.5-230M, a méretének négyszeresét meghaladó modelleket is felülmúl a adatkinyerés terén, és 'bárhol' futtatható.

Forrás: venturebeat.com 7 perc olvasás

Megosztás

A Liquid AI legkisebb modellje, az LFM2.5-230M, a méretének négyszeresét meghaladó modelleket is felülmúl a adatkinyerés terén, és 'bárhol' futtatható.

Összefoglalót olvas. A teljes tartalom itt érhető el: venturebeat.com.

A Liquid AI, amelyet korábbi MIT számítástechnikai tudósok alapítottak, ma bemutatta eddigi legkisebb AI nyelvi modelljét, az LFM2.5-230M-t, és a vállalatoknak érdemes lenne figyelembe venniük azt adatkinyerésre és helyi telepítésre okostelefonokon, laptopokon és robotikán. Ez egy 230 millió paraméterből álló alapmodell, amelyet kifejezetten az eszközön végzett autonóm munkafolyamatokra terveztek, és ahogy a Liquid a kiadási blogjában kifejti, ez a kis méret lehetővé teszi, hogy szinte "bárhol" futhasson. A Liquid szerint a modell a választott tesztelési eredmények alapján túlszárnyalja a négy szeresénél nagyobb modelleket, kifejezetten jobb teljesítményt nyújt az adatkinyerésben, mint az 800 millió paraméteres Alibaba Qwen3.5-0.8B (Instruct) és az 1 milliárd paraméteres Google Gemma 3 1B. A modell a könnyű adatkinyerő rendszerek és autonóm határmenti rendszerek kidolgozóit és mérnökeit célozza meg. Kettős felhasználású kereskedelmi licence alatt működik, a modell ingyenes marad azok számára, akik éves bevétele kevesebb mint 10 millió dollár, míg a nagyobb vállalatok számára fizetős vállalati megállapodást igényel. Ez a kiadás különbözik más kis AI modellektől az LFM2 architektúra felhasználásával, amely hozzáférhető gyors következtetések elérésére összpontosít, anélkül, hogy túllépné a paraméter-dús transzformátorok tipikus memóriaigényét. Míg a nagyobb AI cégek, mint az Anthropic, OpenAI, Google, Microsoft, Meta és mások, a paraméterek számát százmilliárdokba vagy trilliókba emelik a csúcsteljesítmény elérése érdekében, egy párhuzamos verseny teljes egészében a határra és a helyi telepítésekre összpontosít. A Liquid AI LFM2.5-230M bevezetése egy lényeges elmozdulást jelez az architekturális hatékonyság irányába a brutális méretezés helyett. A cég 19 billió előképzett token 230 millió paraméteres érintőképébe való beszorításával bizonyítja, hogy a határmenti eszközöknek nincs szükségük hatalmas számítógépes teljesítményre vagy folyamatos felhős kapcsolatokra az összetett, többlépéses autonóm munkafolyamatok végrehajtásához. Az LFM2.5-230M működése Az LFM2.5-230M modell eltér a hagyományos transzformátor architektúráktól, ehelyett az LFM2 keretrendszerre támaszkodik. Ez az architektúra hibrid rendszerként működik, amely szakaszos rövid távú konvolúciókat váltogat csoportosított lekérdezés figyeléssel az információ hatékony feldolgozása érdekében. Azok számára, akik nyomon követik a hatékony architektúrák fejlődését, a Liquid megközelítése hasonló koncepcionális célt oszt: a hosszú kontextusok és szekvenciális adatok hatékony kezelése határmenti hardveren, anélkül, hogy a tiszta figyelmi mechanizmusok négyzetes memória költségeivel kellene számolni. A modell kibővített 32K kontextusablakot támogat, lehetővé téve ezzel jelentős dokumentumok vagy folyamatos robotikai telemetria áramlások feldolgozását. A kiadásban megadott teljesítménydiagramok elemzésekor az architekturális hatékonyság vizuálisan is nyilvánvalóvá válik. A modell 400 MB alatti memória lábnyomot tart fenn, miközben a prefill és dekódoló sebességeket olyan összehasonlítható modellek, mint a Gemma 3 1B IT és a Granite 4.0-H-350M, meghaladóan éri el. Egy Qualcomm Snapdragon Gen4 CPU-val felszerelt Samsung Galaxy S25 Ultra készüléken a modell 213 token másodpercenkénti dekódoló sebességet ér el. Még egy rendkívül korlátozott Raspberry Pi 5-ön is 42 token másodpercenkénti dekódolási sebességet tart fenn. Ezenkívül a belső benchmarking megmutatja, hogy a GPU következtetési stack alacsonyabb végponti késleltetést nyújt, mint a versenytárs kis modellek, minden párhuzamizálási szinten. Miért fontos a vállalatoknak Ahhoz, hogy megértsük, miért szükséges egy 230 millió paraméteres modell, meg kell nézni, hogyan kezelik a vállalatok jelenleg az adatokat. A szervezetek hagyományosan merev, szabályalapú Extract, Transform, Load (ETL) szkriptekre támaszkodtak az adatok mozgatására és feldolgozására. Azonban ezek a régi rendszerek híresen törékenyek; egy egyszerű változás a dokumentum elrendezésében vagy egy sémafrissítés tönkreteheti az egész folyamatot. Ennek megoldására az ipar az "AI ETL" felé fordul, ahol a gépi tanulás inferenciákat képez, és automatikusan alkalmazkodik a változásokhoz. Egy modern könnyű adatkinyerő csővezetékben egy AI modell kapcsolódik a struktúrálatlan forrásokhoz - mint például PDF-ek, e-mailek vagy webes űrlapok - és az adatokat JSON formátumúvá alakítja úgy, hogy nem követel meg keményen kódolt szabályokat. A vállalatok számára nem gazdaságos, ha egy hatalmas zászlóshajó modellt, mint a Claude Opus 4.6-ot (amely 5.00 dollárt számít fel minden millió bemeneti tokenért), használnak rutin számlák elemzésére, címformátumra, vagy telemetriai adatok irányítására. Itt válik kulcsfontosságúvá az olyan modellek megoldása, mint az LFM2.5-230M. A könnyű adatkinyerő motoraként kifejlesztve lehetővé teszi a cégek számára, hogy automatizálják a repetitív formázást és adatfeldolgozást, egy töredékéért a számítástechnikai költségnek és késleltetésnek; közvetlenül a helyi hardveren működik, nem támaszkodik drága, folyamatos felhő API hívásokra. Kis modell benchmarkok: LFM vs. A 3B osztály Az AI ipar 2026 közepén a "kis" modellek reneszánszát éli, de a "kicsi" meghatározása széles spektrumot ölel fel. Nemrégiben a nyílt súlyú közösség megdöbbent a Weibo VibeThinker-3B nevű, 3 milliárd paraméteres modelljétől, amely egy Qwen2-stílusú háttéren készült, és amely óriási, 94,3-as pontszámot ért el az AIME 2026 matematikai benchmarkján, vetélytársául állítva a 600 milliárd paraméteres óriásoknak agresszív adatkurálással és megerősítő tanulással. Hasonlóképpen, a Google Gemma 4 családja – amely nemrégiben átlépte a 200 millió letöltést – a határ AI-t a határra tolja, beleértve az E2B-t (2 milliárd paraméter), amelyet kifejezetten mobil és IoT telepítésekhez terveztek. Ezzel szemben a Liquid AI LFM2.5-230M egy teljesen másik súlyosztályban működik. Mindössze 230 millió paraméterrel körülbelül tízszer kisebb a Google legkisebb Gemma 4 modelljénél és a VibeThinker-3B-nél. Microskópikus lábnyoma miatt az LFM2.5-230M nem úgy van tervezve, hogy versenyezzen a magas érvelési munkaterhelésű feladatokkal, mint a haladó matematika, kódolás vagy kreatív írás – ezt a korlátot a Liquid AI kifejezetten elismeri. Azonban az adatkinyerés és eszközhasználat területén a modell jól teljesít a saját súlyosztályánál. A Liquid AI által közzétett benchmarkok szerint az LFM2.5-230M 43.26-ot ért el a BFCLv3 eszközhasználati benchmarkon, dominálva az IBM Granite 4.0-350M (39.58) mellett, és teljesen felülmúlva a nagyobb, 1 milliárd paraméteres modelleket, mint a Google Gemma 3 1B IT (16.61). Az adatok kinyerésére a CaseReportBench-en 22.51-et ért el, meglepően alulmúlva a Qwen3.5-0.8B (Instruct) modellt. Az LFM2.5-230M bizonyítja, hogy míg a 3 milliárd paraméteres modellek, mint a VibeThinker, haladó kalkulus problémákat oldanak meg, egy 230 millió paraméteres modell a kiegyensúlyozott, magasan optimalizált választás az struktúrált eszközhasználatok végrehajtásához és az autonóm munkafolyamatok hatékony működtetéséhez korlátozott hardveren. Fejlett kutatási felhasználások Mivel kiemelkedően teljesít az eszközhasználatban, az LFM2.5-230M elsősorban egy képességválasztó rétegként működik. A Liquid AI demonstrálta ezt a képességet azzal, hogy a modellt egy Unitree G1 humanoid roboton telepítette. Teljes egészében az eszközön működik a robot fedélzeti NVIDIA Jetson Orin számítási modulján keresztül, a modell sikeresen feldolgozza az összetett környezeti utasításokat. Ahogy a cég műszaki blogjában említve van, a modell egy szabad formájú utasítást, mint például: *"Tartsd magad teljesen mozdulatlanul 2 másodpercig, majd lépj előre 1 méter per másodperc sebességgel 3 méteren át, tarts egy egy lábon térdelést 5 másodpercre, és lépj hátra 0.5 méter per másodperces sebességgel 3 méteren át,"* automatikusan egy struktúrált, többlépéses tervbe fordítja, amely a NVIDIA SONIC keretrendszere által biztosított előképzett, alacsony szintű készségeket hívja meg. Az alap- és utólag betanított modellek azonnal elérhetők a Hugging Face-en, natív, azonnali támogatással a következtetési ökoszisztémában az llama.cpp (GGUF), MLX, vLLM, SGLang és ONNX platformokon. Kettős felhasználású, egyedi LFM Nyílt Licenc A Liquid AI az LFM2.5-230M modellt az LFM Nyílt Licenc v1.0 alatt forgalmazza. A "nyílt" szónak ellenére ez nem egy Open Source Initiative (OSI) kompatibilis licenc; korlátozott, kettős felhasználású kereskedelmi keretrendszerként működik. Független fejlesztők, kutatók és korai szakaszban lévő startupok számára a licenc azonos módon működik, mint a nyílt forráskódú szoftver. A felhasználók világméretű, örök, jogdíjmentes engedélyt kapnak a modell újragyártására, módosítására és terjesztésére, feltéve, hogy megőrzik az eredeti szerzői jogi megjegyzéseket és kiemelik bármilyen módosítást. Azonban a licenc tartalmaz egy szigorú "Kereskedelmi Használati Korlátozást". Bármely jogi személlyel, amely évente 10 millió dollárt vagy annál többet generál, elveszik a jogát a modell kereskedelmi felhasználatára ezen megállapodás keretein belül. A nagyobb vállalatoknak, amelyek átlépik ezt a pénzügyi küszöböt, külön, fizetős kereskedelmi megállapodást kell tárgyalniuk a Liquid AI-vel, hogy a modellt a gyakorlatban használhassák. Ez a stratégia megvédi a céget attól, hogy szellemi tulajdonát ingyen átengedje nagy technológiai konglomerátumoknak, miközben a modellt a grassroots szintű fejlesztőknek biztosítja.

A teljes cikk az eredeti weboldalon

Külső link: venturebeat.com

Kapcsolódó cikkek