Funciones de AlloyDB AI: ahora con aumentos de rendimiento revolucionarios y ahorros de costos.
Compartir
Estás leyendo un resumen. El contenido completo está en cloudblog.withgoogle.com.
AlloyDB es una base de datos nativa de IA: no solo es un almacén de datos pasivo, sino que comprende y procesa tus datos de manera inteligente. Con AlloyDB, obtienes búsqueda de vectores e híbrida de vanguardia, capacidades de lenguaje natural a SQL casi 100% precisas para crear agentes conversacionales, herramientas que te permiten construir con tus IDEs preferidos, y la capacidad de llevar la inteligencia de modelos de base como Gemini directamente a tus datos a través de funciones de IA. En esta publicación del blog, discutimos los avances masivos en el procesamiento de funciones de IA junto con un conjunto de funciones de IA completamente nuevas. Pero primero: ¿qué son exactamente las funciones de IA? Traen el conocimiento del mundo de Gemini a tus datos de AlloyDB. Considera el reto de gestionar comentarios de usuarios en bruto: son no estructurados y difíciles de analizar. Antes de que estos datos puedan ser aprovechados para la búsqueda, pueden requerir preprocesamiento y extracción de entidades. En lugar de mantener pipelines personalizados complejos para la extracción de conocimiento, puedes usar las capacidades de generación de Gemini directamente en AlloyDB para transformar texto en bruto en ideas estructuradas y buscables. Por ejemplo, así es como puedes usar ai.generate para convertir instantáneamente comentarios en bruto en JSON estructurado (ve más ejemplos aquí): Aquí hay un resultado de muestra: log_id raw_content structured_analysis 1001 2025-12-16 08:00:01 [ERROR] Servicio: OrderSvc | DbConnectionTimeout: No se pudo adquirir conexión del grupo "primary-shard-04" después de 5000ms. {"errorCode": "DbConnectionTimeout", "serviceName": "OrderSvc", "rootCause": "El servicio no pudo adquirir una conexión a la base de datos del grupo de shards primarios dentro del límite de tiempo de 5000ms."} 1002 2025-12-16 08:05:12 [WARN] Servicio: IdentityProvider | 401 No autorizado: La validación del token Bearer falló para user_id=9942. Coincidencia de firma. { "error_code": "401", "service_name": "IdentityProvider", "root_cause": "La validación del token bearer falló debido a una coincidencia de firma." } 1003 2025-12-16 08:12:45 [CRITICAL] Servicio: AnalyticsEngine | OutOfMemoryError: Espacio de pila de Java. La asignación de un array de 1.2GB falló. Uso de pila 99%. { "error_code": "OutOfMemoryError", "service_name": "AnalyticsEngine", "root_cause": "El servicio agotó la memoria disponible de la pila de Java al intentar asignar un array de 1.2GB." } 1004 2025-12-16 08:25:33 [ERROR] Servicio: WebFrontEnd | 404 No encontrado: Recurso /api/v3/users/profile/settings no encontrado. El upstream devolvió 404. { "error_code": "404", "service_name": "WebFrontEnd", "root_cause": "El recurso API solicitado para la configuración del perfil de usuario no fue encontrado por el servicio upstream." } 1005 2025-12-16 08:35:50 [WARN] Servicio: NotificationGateway | GatewayTimeout: El proveedor externo "SendGrid" no respondió dentro de 30s. Reintento programado. {"error_code": "GatewayTimeout", "service_name": "NotificationGateway", "root_cause": "El proveedor externo SendGrid no respondió dentro del límite de tiempo de 30 segundos."} Más funciones para resumir y analizar sentimientos Nuestras funciones centrales de IA —ai.generate, ai.rank, ai.if y ai.forecast— están ahora disponibles en general. Para aprender más sobre los casos de uso de los primeros tres, consulta esta publicación del blog. Para explorar la función de pronóstico en acción, echa un vistazo a este análisis profundo. Aprovechando este impulso, hemos introducido tres funciones completamente nuevas: ai.summarize, ai.agg_summarize y ai.analyze_sentiment. ai.analyze_sentiment: Clasifica automáticamente el tono emocional del texto como positivo, negativo o neutro. ai.summarize: Condensa textos extensos en su información más esencial mientras preserva el tono y matices originales. ai.agg_summarize: Una herramienta agregada que procesa múltiples filas dentro de una columna para generar un único resumen unificado para todo un grupo (por ejemplo, mediante una cláusula GROUP BY). Aquí tienes un ejemplo de cómo usar ai.agg_summarize para consolidar revisiones de productos en un sitio web minorista: Aquí hay un resultado de muestra de las revisiones resumidas de dos productos de consola de juegos: nombre_producto resumen_revisiones Consola AlphaCore Los usuarios elogian los impresionantes gráficos 4K, las suaves tasas de cuadro de 120Hz y el diseño altamente ergonómico del controlador. Sin embargo, varias reseñas expresan frustración por el ruido del ventilador de refrigeración durante sesiones de juego prolongadas. En general, se considera una consola de primer nivel a pesar de pequeñas quejas térmicas y de ruido. Consola NeoCore A los clientes les encanta la excepcional duración de la batería y la vibrante pantalla OLED para juegos portátiles. Un número significativo de usuarios notó que la interfaz puede sentirse lenta y la biblioteca de juegos está actualmente limitada. Representa un gran valor para los jugadores ocasionales, pero los usuarios avanzados pueden encontrar que el rendimiento es insuficiente. El poder de los LLM en tus datos: ahora significativamente más rápido y más barato Ahora hemos logrado avances sin precedentes en el rendimiento y costo en el procesamiento de funciones de IA. Anteriormente, ejecutar una llamada de modelo de base para cada fila individual en una base de datos masiva introducía restricciones de costo y latencia. Hemos derribado estas barreras introduciendo dos capacidades revolucionarias: Batching Inteligente para Funciones de IA: Esta capacidad de Aceleración de Funciones de IA proporciona agrupamientos inteligentes de llamadas a funciones de IA para un rendimiento y calidad óptimos. Esta eficiencia se logra al deduplicar la sobrecarga de los prompts; las instrucciones estándar del LLM se transmiten una vez por lote en lugar de repetirse en cada fila individual. Una pregunta que podrías tener es: "¿Por qué no hacer esto en la capa de aplicación propia?". Eso es porque AlloyDB determina inteligentemente el tamaño de lote correcto para resultados óptimos; si subestimas el tamaño del lote, no obtendrás ganancias en costo y latencia, y si lo sobreestimas, el prompt al LLM podría volverse inflado y provocar alucinaciones, o podrías exceder los límites de tokens del modelo. Además de calcular el tamaño de lote perfecto para cada solicitud, AlloyDB también maneja reintentos automáticamente, asegurando que tu pipeline se mantenga resiliente. Realizamos algunas pruebas internamente y vimos ganancias masivas; por ejemplo, un aumento de rendimiento de hasta 2,400 veces (procesando 10,000 filas/seg) en comparación con las llamadas tradicionales de LLM fila por fila. Esto está disponible actualmente para las funciones ai.if y ai.rank, con soporte para funciones adicionales que llegará en el futuro. Veamos un ejemplo de uso de Batching Inteligente / Aceleración con ai.if para resolver este caso de uso: Imagina un cliente en un sitio de venta de gadgets buscando una cámara que pueda manejar una profundidad submarina de "60 metros o más". La búsqueda híbrida tradicional obtendrá las coincidencias semánticas y de texto completo más cercanas, pero se perderán las restricciones estrictas de datos numéricos, lo que significa que podría ofrecer una cámara que solo funciona a 20 metros de profundidad. Al usar el filtrado inteligente basado en ai.if de AlloyDB, la base de datos realmente entiende la matiz de la profundidad y hace que la consulta devuelva productos que cumplen o superan el criterio de profundidad de 60 metros. Observa cómo, en el ejemplo a continuación, no necesitas especificar el tamaño del lote; AlloyDB maneja todas las optimizaciones tras bambalinas al usar ai.if. Aquí hay un resultado de muestra en un hipotético sitio de gadgets. Observa cómo las descripciones ampliadas de productos realmente coinciden con el criterio de trabajar a una profundidad de 60 metros: Funciones de IA optimizadas: Para una mayor eficiencia, hemos introducido un modo optimizado, comenzando con ai.if. Al implementar un pequeño modelo proxy que utiliza tus embeddings y está entrenado en las salidas específicas de tu LLM, podemos procesar decisiones nativamente dentro de la base de datos. Esto reduce drásticamente la necesidad de llamar al LLM externo; y basado en algunas de nuestras pruebas internas, vimos mejoras sorprendentes; por ejemplo, hasta 100,000 filas procesadas por segundo (una mejora de 23,000 veces) y costos reducidos en 6,000 veces (hasta 1/10 de centavo). Para obtener información técnica sobre esta técnica, incluyendo cuándo funciona mejor y cuándo no, consulta esta publicación del blog. AlloyDB hace lo siguiente al usar ai.if optimizado: Entrena un modelo proxy: AlloyDB entrena un modelo proxy ligero en una muestra de tus datos. Esto ocurre en segundo plano cuando usas la declaración PREPARE con la función ai.if para entrenar el modelo para consultas optimizadas. Ejecuta la consulta: Cuando usas la declaración EXECUTE, AlloyDB utiliza el modelo proxy entrenado para procesar la consulta localmente. Recurre al LLM: Si la precisión del modelo es baja o si AlloyDB no puede encontrar un modelo, AlloyDB automáticamente recurre al uso del LLM. Veamos el mismo ejemplo de buscar una cámara que puede manejar una profundidad submarina de 60 metros o más usando ai.if optimizado. Aquí entrenamos un modelo proxy usando la declaración PREPARE y luego ejecutamos la declaración posteriormente. Puedes ver los mismos productos que realmente coinciden con el criterio de trabajar a una profundidad de 60 metros. Aquí tienes una versión tabulada de los primeros tres productos, para que puedas observar las descripciones más de cerca: nombre_producto descripción Pulsetron Action Camera MZ314 Conquista tu próxima aventura con esta cámara. No dejes que los elementos te detengan; sumérgete hasta 60 metros de profundidad o soporta caminos difíciles con su chasis resistente a choques, listo para la aventura. Cada salto, cada giro, cada salpicadura se refleja perfectamente suave con la avanzada estabilización Horizon Lock, asegurando que tu metraje cuente la historia con fluidez inigualable. Hyperbyte Action Camera LG688 Captura el mundo con un detalle impresionante, incluso cuando la acción es intensa. Esta cámara incorpora un formidable sensor de 1 pulgada en un marco sorprendentemente resistente y portátil. Graba video 5K asombroso y fotos nítidas de 20MP que rivalizan con equipos profesionales. Sumérgete más que nunca con una robusta impermeabilidad de 60 metros. Alphasync Action Camera WW897 Esta formidable cámara compacta desafía los elementos, mientras que su enorme sensor de 1 pulgada traduce cada momento impresionante en video 5K asombroso y fotos nítidas de 20MP. Conquista cualquier entorno, desde la inmersión más profunda hasta la cima más alta, gracias a su impermeabilidad de 60 metros y a la revolucionaria Horizon Lock, asegurando que tu metraje permanezca increíblemente estable. ¡Vívelo en acción! Observa cómo todo esto se une en este video de demostración. Lleva la inteligencia de Gemini a AlloyDB usando funciones de IA Comenzar es fácil. ¿Listo para llevar una velocidad y eficiencia en costos sin precedentes a tus cargas de trabajo de IA? ¿Nuevo en AlloyDB? Descubre AlloyDB con una prueba gratuita de 30 días. Quickstart de funciones de IA: Habilita algunos prerrequisitos rápidos y comienza a llamar funciones como ai.if, ai.generate o ai.analyze_sentiment directamente en tus consultas SQL. Consulta estos ejemplos prácticos para comenzar. Aumenta el rendimiento y optimiza costos: Para desbloquear las mayores ganancias en rendimiento y costo, sigue nuestra guía sobre funciones optimizadas. Esto está disponible en vista previa para ai.if y se expandirá a más funciones pronto. Para obtener información técnica sobre esta técnica, incluyendo cuándo funciona mejor y cuándo no, consulta esta publicación del blog. Escala tu rendimiento: Usa batching inteligente para acelerar funciones de IA (disponible en vista previa para ai.if y ai.rank) o funciones basadas en arrays (generalmente disponibles para todas las funciones de IA basadas en LLM) para manejar prompts masivos sin inconvenientes.
Enlace externo a cloudblog.withgoogle.com
Artículos relacionados
architect
Cycle presenta el Plano de Control de la UE mientras continúa el debate sobre la soberanía.
architect
Cloudflare detalla la Plataforma de Datos Unificada donde las cargas de trabajo de facturación representan el 53% de las consultas.
architect
