A Red Hat OpenShift nagy teljesítményű LLM következtetést nyújt a pénzügyi szolgáltatások számára.

A pénzügyi szolgáltatási ipar, akárcsak sok más szektor, arra törekszik, hogy a legjobban kihasználja hardverét az erőforrás-intenzív mesterséges intelligencia munkaterhelések korában. A pénzügyi szolgáltatók a konténer alapú architektúra előnyeire támaszkodnak, de aggódhatnak, hogy a konténerorchestration platformok teljesítménybeli hátrányokat jelentenek, amelyek súlyosbíthatják az erőforrás-korlátozásokat. Az új STAC-AI™ LANG6 (Csak Inferencia) audit eredményei, amely az ipari szabvány benchmark a nagy nyelvi modellek (LLM) inferencia teljesítményének értékelésére a pénzügyi szolgáltatások területén, segíthetnek csökkenteni ezeket az aggályokat.