El modelo de Alibaba nunca se entrenó como un agente y mejoró el rendimiento del agente en siete benchmarks.
Compartir
Estás leyendo un resumen. El contenido completo está en venturebeat.com.
El equipo de Qwen de Alibaba lanzó Qwen-AgentWorld el martes, con dos modelos entrenados no para actuar dentro de entornos de agentes, sino para predecir lo que esos entornos devuelven. El lanzamiento abarca siete dominios bajo una sola arquitectura: MCP, Búsqueda, Terminal, Ingeniería de Software, Android, Web y OS. Esta publicación amplía el reciente impulso de Alibaba hacia agentes autónomos. Qwen3.7-Max, lanzado en mayo, se construyó en torno a una capacidad de ejecución autónoma de 35 horas. Este cambio apunta a un límite con el que se encuentran directamente los equipos que entrenan a los agentes a gran escala. Los motores de búsqueda reales muestran cualquier resultado existente, sin un mecanismo para inyectar condiciones controladas. Los terminales en vivo no permiten inyectar una condición de poco espacio en disco a demanda. El entrenamiento de agentes está limitado por lo que los entornos de producción mostrarán, sin una manera sistemática de exponer las situaciones límite que los agentes deberán manejar pero que raramente encuentran durante el entrenamiento. El equipo de investigación entrenó agentes dentro del simulador resultante y encontró mejoras en el rendimiento que superaron lo que el entrenamiento contra entornos reales produjo por sí solo. En una prueba separada, usar el entrenamiento de modelos mundiales como una preparación antes de la afinación de agentes mejoró el rendimiento en siete métricas, incluyendo tres que el modelo nunca había visto durante el entrenamiento. El documento que acompaña al lanzamiento identificó una brecha en la investigación previa sobre agentes. "Argumentamos que la modelización mundial es una pieza crucial que falta en el camino hacia agentes generales." Qwen-AgentWorld se entrena en lo que los entornos devuelven, no en lo que los agentes deberían hacer. La mayoría de los modelos de agentes se entrenan para responder a una pregunta: dado lo que el entorno me mostró recientemente, ¿qué debo hacer a continuación? Qwen-AgentWorld se entrena para responder a la inversa: dado lo que el agente acaba de hacer, ¿qué mostrará el entorno a continuación? Esa inversión es el núcleo de lo que el documento llama un modelo de mundo lingüístico: en lugar de optimizar la selección de acciones, el modelo aprende a predecir el siguiente estado del entorno en los siete dominios bajo un único objetivo de entrenamiento. Los trabajos previos eran más estrechos: WebWorld, un proyecto anterior de Qwen de febrero, cubría solo entornos web; el Modelo de Mundo de Agente de Snowflake, publicado el mismo mes, genera entornos basados en SQL impulsados por código en lugar de entrenar un modelo para predecir estados. Qwen-AgentWorld es el primero en abarcar siete dominios en un solo modelo, con la modelización del entorno integrada desde la etapa de preentrenamiento más temprana. Alibaba entrenó ambos modelos en tres etapas utilizando más de 10 millones de trayectorias de interacción con el entorno de ejecuciones reales de agentes. La primera etapa enseña al modelo cómo se comportan los entornos: sistemas de archivos, estados de terminal, cambios en el DOM del navegador, respuestas de API. La segunda etapa entrena al modelo para razonar sobre lo que viene a continuación antes de predecirlo. La tercera etapa, el aprendizaje por refuerzo, afina las predicciones utilizando verificaciones basadas en reglas y puntuaciones de calidad abiertas. Ambos modelos son diseños de Mezcla de Expertos: solo una fracción de los parámetros está activa por token. El modelo de 35B activa 3B; el de 397B activa 17B. Ambos soportan ventanas de contexto de 256K. Para los dominios de GUI (Android, Web y OS), los modelos trabajan a partir de árboles de accesibilidad textual y jerarquías de vistas de interfaz de usuario en lugar de capturas de pantalla. Los pesos del modelo de 35B y AgentWorldBench están disponibles bajo Apache 2.0; los pesos de 397B no se han lanzado públicamente. Los resultados del entrenamiento importan más que las métricas. Las puntuaciones de las métricas muestran qué tan precisamente los modelos predicen lo que devuelven los entornos. Los resultados del entrenamiento muestran cuánto vale realmente esa capacidad de predicción para los equipos que construyen agentes, y esos son los números que importan más. Según los investigadores, los agentes entrenados dentro de una simulación controlada superaron a los agentes entrenados en entornos reales. Inyectar perturbaciones dirigidas —respuestas parciales que obligan a pasos adicionales del agente, y situaciones límite que los entornos reales raramente muestran— empujó el MCPMark de 24.6 a 33.8. En Búsqueda, los agentes entrenados en mundos completamente ficticios se transfirieron a tareas de búsqueda reales, empujando el WideSearch F1 Item de 34.02 a 50.31 en el modelo abierto de 35B. Una prueba de calentamiento separada mostró que la preentrenamiento de modelos mundiales mejoró BFCL v4 de 62.29 a 71.25 y Claw-Eval de 53.60 a 64.88 sin afinación específica para agentes. Los investigadores señalan la métrica y el riesgo de sobreajuste. El artículo generó reacciones inmediatas de investigadores de IA en X. Las preocupaciones que plantearon se relacionan con lo que los practicantes necesitan verificar antes de actuar sobre los hallazgos. Sobre el objetivo de entrenamiento y el resultado de transferencia, la evaluación de un investigador de AI/ML fue directa. "Cada otro modelo de 'agente' ha sido entrenado para actuar en entornos", escribió @drawais_ai, quien tiene un doctorado y descompone regularmente artículos de IA. "Qwen dio la vuelta a la pregunta. Entrenaron al modelo para predecir el entorno en sí... Ese conocimiento predictivo se transfiere luego a tareas de agentes incluso sin afinación específica para agentes." Identificó el resultado de Sim RL Controlable como "el recibo" para la afirmación de que el entrenamiento sintético puede sustituir al RL de entornos reales a gran escala, y señaló que tres de las siete métricas de transferencia estaban completamente fuera de dominio. El margen de la métrica generó un escrutinio inmediato. "AgentWorldBench es una métrica que Alibaba construyó y publicó en el mismo artículo", escribió @TheSignal_Desk, quien se concentra en análisis honestos y números clave en la investigación de IA. "Escribieron la prueba, luego la superaron por 0.46." La metodología sim-RL es el resultado que @limalemonnn, quien construye agentes de IA en producción, identificó como el más necesitado de escrutinio antes de que la afirmación principal sea citada. "Los agentes entrenados en simulación tradicionalmente sobreajustan a las peculiaridades del simulador", escribieron. "Si el modelo del mundo es demasiado limpio, el agente aprende el modelo, no la tarea." Señalaron que la división de retención del documento es la sección que los practicantes deben leer antes de actuar sobre los números. La preocupación por el sobreajuste tiene una respuesta parcial en los datos. La brecha entre el Sim RL no controlado (MCPMark 24.6) y el Sim RL controlado (MCPMark 33.8) sugiere que las ganancias dependen sustancialmente del mecanismo de control, no solo de la precisión de la simulación. El resultado de búsqueda en mundos ficticios, donde los agentes entrenados en entornos inventados se transfieren a tareas de búsqueda reales, es la evidencia más fuerte del documento contra la preocupación por el sobreajuste. Lo que esto significa para los equipos que construyen vías de agentes. Para los equipos de ingeniería de IA que construyen y escalan vías de agentes, este trabajo señala un cambio significativo en cómo se construye la capacidad de los agentes. Los equipos que entrenan agentes a gran escala ahora tienen una tercera opción entre el RL de entornos reales y las métricas estáticas: la simulación controlada que inyecta las situaciones límite que la producción no mostrará. Los entornos sintéticos son un nivel de entrenamiento legítimo. La simulación controlada que inyecta condiciones que los entornos reales no producirán es un complemento al RL de entornos reales, no un atajo a su alrededor. Lo que un modelo aprende antes de que comience el entrenamiento de agentes importa más de lo que la mayoría de las vías consideren. El hallazgo de calentamiento —ganancias de rendimiento en métricas no vistas sin entrenamiento específico para agentes— sugiere que la fundamentación en el entorno pertenece a etapas anteriores en el desarrollo que la práctica actual.
Enlace externo a venturebeat.com
Artículos relacionados
startup
Uber detiene los planes para lanzar la entrega de comida en cinco de los siete países europeos que había señalado para expansión mientras persigue una adquisición de Delivery Hero.
startup
India emite un aviso a Telegram, pidiéndole que frene la difusión de películas piratas y otro contenido protegido por derechos de autor, y solicita un informe de acciones tomadas en un plazo de 15 días.
startup
