startup

Los agentes de IA necesitan contexto en todas partes donde operan, incluso donde la nube no puede seguir.

Fuente: venturebeat.com 6 min de lectura

Compartir

Los agentes de IA necesitan contexto en todas partes donde operan, incluso donde la nube no puede seguir.

Estás leyendo un resumen. El contenido completo está en venturebeat.com.

La ventaja competitiva en la IA empresarial se está desplazando hacia el contexto: qué plataforma puede ofrecer a un agente la memoria correcta, la recuperación adecuada y los datos necesarios en el momento de la decisión. Couchbase anunció el martes su AI Data Plane, que combina memoria persistente para agentes, recuperación de contexto en tiempo real y un servidor MCP gestionado por la empresa en una única plataforma operativa. Couchbase tiene sus raíces en el almacenamiento en caché y las bases de datos de alta transacción, una arquitectura que la compañía sostiene que la hace más adecuada para la memoria del agente que a los proveedores que abordaron el problema desde la búsqueda o la analítica. El AI Data Plane funciona de manera idéntica en entornos de nube, locales y desconectados, extendiendo la memoria del agente y la búsqueda de vectores locales a dispositivos sin conexión a la red. "¿Cómo aseguras que la inteligencia que obtienes de estos modelos son las que las bases de datos especializan?" dijo Gopi Duddi, CTO de Couchbase, a VentureBeat. "¿Cómo puedes obtener ese valor de los sistemas de almacenamiento, que seguirán siendo bases de datos?" Qué entrega el AI Data Plane El AI Data Plane agrupa tres componentes diseñados para reemplazar las pilas fragmentadas que la mayoría de las empresas están utilizando actualmente. Memoria del agente: una capa de persistencia unificada para el contexto conversacional, datos operativos estructurados y embebidos en vectores. Couchbase dice que las restricciones que impone la distinguen de los servicios de memoria independientes: restricciones de tokens por sesión, límites de tiempo de vida en las memorias almacenadas y controles de medición que limitan el consumo de computación por sesión de agente. Servidor MCP empresarial: un servidor autogestionado respaldado por la empresa para la integración del protocolo de contexto del modelo estandarizado, que se envía como parte de la plataforma en lugar de requerir un servicio separado. Catálogo de agentes: un catálogo a nivel de función de herramientas de agente descubribles construidas por Couchbase. Duddi la distinguió de catálogos de metadatos como Databricks Unity o AWS Glue — describiéndola, en sus palabras, como más cercana a un glorificado MCP que presenta funciones de agentes como herramientas invocables dentro de la plataforma. Arquitectura centrada en la memoria lleva el contexto del agente a la periferia desconectada La herencia de Couchbase y su fundación arquitectónica básica es lo que Duddi dice que le da una ventaja en relación al contexto. "Éramos un caché antes de convertirnos en una base de datos," dijo Duddi. Escribir en memoria es 10 veces más rápido que escribir en disco, afirmó Duddi — una ventaja de velocidad que argumenta separa a Couchbase de las bases de datos NoSQL que superponen cargas de trabajo de memoria sobre almacenamiento basado en discos. Couchbase no es la única tecnología de datos que tiene sus raíces en una capa de almacenamiento en caché. Redis también se basa en la caché y recientemente anunció una capa de contexto de IA agente. Duddi argumentó que Couchbase es diferente en que mantiene una base de datos cumplidora con ACID (Atomicidad, Consistencia, Aislamiento y Durabilidad) lo cual es importante para cargas de trabajo transaccionales. Couchbase también tiene una larga historia en múltiples modalidades de implementación. Esa arquitectura se extiende hasta la periferia a través de Couchbase Lite, el entorno de ejecución en dispositivo de la plataforma. Funciona SQL, búsqueda de texto completo y búsqueda de vectores localmente sin conexión a la red, utilizando un mecanismo de sincronización propietario para replicar bidireccionalmente de regreso a la nube o entre nodos de periferia cuando la conectividad vuelve. Los entornos objetivo son operaciones en el piso de venta, servicio de campo, implementaciones industriales y entornos regulados donde los datos del agente no pueden abandonar el dispositivo. Duddi citó las reservas de hotel como un ejemplo temprano: múltiples agentes atendiendo a clientes concurrentemente, cada uno extrayendo contexto local y realizando búsquedas de vectores en el dispositivo, con memoria de sesión compartida sincronizada centralmente. El beneficio práctico es la eficiencia de tokens. En lugar de que cada agente recupere y procese de manera independiente la misma información, la plataforma almacena en caché el contexto compartido para que las sesiones concurrentes lo utilicen sin consumir tokens repetidamente. Visión de Agora desde la producción Agora, una plataforma que ayuda a los desarrolladores a integrar voz en tiempo real, video e IA conversacional en aplicaciones empresariales, ha utilizado Couchbase en producción desde febrero de 2024. El caso de uso inicial fue su producto de señalización, gestionando la configuración de canales y la sincronización de estado para llamadas en vivo. La expansión hacia agentes de IA conversacional trajo requisitos más estrictos: arquitectura centrada en la memoria, soporte completo para JSON para almacenamiento y consulta, replicación entre centros de datos para alta disponibilidad y soporte de proveedor de calidad empresarial. "Couchbase fue la mejor opción basada en estos criterios," dijo Patrick Ferriter, SVP de Producto en Agora, a VentureBeat. Agora ahora está ampliando esa relación para apoyar la recuperación de contexto para agentes de IA conversacional. "Esto simplificará la arquitectura y ofrecerá RAG de calidad empresarial con una latencia predecible más baja requerida para casos de uso de IA conversacional," dijo Ferriter. Para los profesionales de datos que intentan determinar la mejor forma de abordar el contexto, no hay una única respuesta. Con respecto a la selección de la plataforma, Ferriter fue directo. "Depende de la preferencia y los objetivos de la organización, incluyendo el tiempo," dijo Ferriter. "Si quieren algo de calidad empresarial y óptimo para producción inmediata y escala frente a tener que optimizar y mantener una solución de código abierto con soporte comunitario. Queríamos lo primero y por eso buscamos una asociación ampliada con Couchbase." Contexto competitivo: siguiendo la tendencia correcta La capa de contexto se ha convertido en un espacio abarrotado en 2025. Oracle incorporó un núcleo de memoria en su base de datos en marzo proporcionando una capa de contexto. Redis añadió una capa de contexto en mayo al igual que el proveedor de bases de datos nativas de vectores Pinecone. "Couchbase está siguiendo esta tendencia, no estableciéndola, pero es la correcta a seguir," dijo Devin Pratt, Director de Investigación de IA, Automatización, Datos y Análisis en IDC, a VentureBeat. "Su verdadera ventaja es el alcance, ejecutando la misma plataforma desde la nube hasta la periferia y móvil, que es cómo operan realmente las empresas. La prueba ahora es escalar contra nombres más grandes." Para los equipos que navegan por el paisaje de proveedores, la formulación de Pratt es directa. "Ajusta la herramienta a la carga de trabajo. Consolida donde tenga sentido, utiliza un motor especializado como una base de datos de gráficos donde el razonamiento basado en relaciones lo justifique, y deja que la gobernanza dirija la decisión en lugar de tratar la memoria como plomería," dijo Pratt.

Leer el artículo completo en el sitio original

Enlace externo a venturebeat.com

Artículos relacionados