AlloyDB AI funkciók - most forradalmi teljesítménynövekedéssel és költségmegtakarítással.

Az AlloyDB egy AI-natív adatbázis - nem csupán egy passzív adatbolt, hanem intelligensen megérti és feldolgozza az adatokat. Az AlloyDB-vel iparágvezető vektoros és hibrid keresést, közel 100%-os pontos természetes nyelvből SQL-ra konvertálási képességeket kapsz, amely lehetővé teszi, hogy beszélgető ügynököket építs, eszközöket, amelyek segítségével a választott ügynöki IDE-dal dolgozhatsz, és képes vagy az alapmodellek, mint a Gemini intelligenciáját közvetlenül az adataidra hozni AI funkciók révén. Ebben a blogbejegyzésben a funkciófeldolgozásban elért hatalmas áttörésekről és számos új AI funkcióról beszélünk. De először: pontosan mik is az AI funkciók? Ezek a Gemini világismeretét hozzák el az AlloyDB adatbázisodba. Gondolj a nyers felhasználói visszajelzések kezelésének kihívására: ez strukturálatlan, és nehéz átpásztázni. Mielőtt ezeket az adatokat keresésre használnád, szükséges lehet az előfeldolgozás és az entitáskiemelés. Ahelyett, hogy összetett egyedi csöveket fenntartanál a tudáskiemeléshez, közvetlenül az AlloyDB-ben használhatod a Gemini generációs képességeit, hogy a nyers szöveget strukturált, kereshető betekintésekké alakítsd. Például, itt van, hogyan használhatod az ai.generate-t, hogy azonnal konvertáld a nyers visszajelzést tiszta, strukturált JSON formátumba:

Itt van egy példa arra, hogy hogyan lehet használni az ai.agg_summarize funkciót a termékek termékvizsgálati összefoglalásának megszorítására egy kiskereskedelmi weboldalon:

Itt van egy minta a két játék konzolt termékek összefoglalt visszajelzéseiről:

A LLM-ek ereje az adataidon: most lényegesen gyorsabb és olcsóbb

Most eddig példátlan teljesítményt és költség-áttöréseket értünk el az AI funkciók feldolgozásában. Korábban minden egyes rekordhoz egy alapmodell hívása költség- és késleltetési korlátokat állított be. Ezen akadályokat áttörtük két áttörő lehetőség bevezetésével:

Intelligens Batching az AI Funkciók számára: Ez az AI Funkció Gyorsító lehetőség intelligens batch-elést biztosít az AI funkcióhívások számára, hogy optimális teljesítményt és minőséget biztosítson. Ez a hatékonyság a prompt fölösleg csökkentésével érhető el; a LLM alaputasításait egyszeri alkalommal küldik el minden egyes batch során ahelyett, hogy minden egyes rekordra megismételnék.

Az AlloyDB intelligensen meghatározza a megfelelő batch méretet az optimális eredmények érdekében - ha alábecsülöd a batch méretét, nem logális költség- és késleltetési előnyöket, és ha felülbecsülöd, a prompt a LLM-nek elárasztva lehet, ami hallucinációkhoz vezethet, vagy túllépheted a modell token határait.

Az optimalizált ai.if használatával az AI funkciók teljesítményének még nagyobb hatékonysága érdekében bemutattunk egy optimalizált módot, amely az ai.if-tel kezdődik.

A Gemini intelligenciájának alkalmazásakor az AlloyDB-ben az új AI funkciók könnyen elérhetők. Készen állsz a páratlan sebesség és költséghatékonyság bevezetésére az AI munkafolyamataidban? Új az AlloyDB-ben? Fedezd fel az AlloyDB-t 30 napos ingyenes próbaverzióval.