GBC: Conexiones Basadas en Gradientes para la Optimización de Sistemas Multiagente

Resumen

Los sistemas multiagente (MAS) construidos sobre modelos de lenguaje grandes (LLMs) ofrecen un marco prometedor para resolver tareas complejas mediante la especialización de roles y la interacción estructurada. Sin embargo, su rendimiento a menudo se ve limitado por la falta de coordinación y, más fundamentalmente, por la ausencia de una asignación de crédito detallada entre los agentes. Los enfoques existentes suelen basarse en retroalimentación gruesa, lo que dificulta identificar qué agentes o pasos de interacción son responsables de los errores. Proponemos Conexiones Basadas en Gradientes (GBC), un enfoque para la atribución y optimización detallada de sistemas multiagente. GBC modela un MAS como un grafo computacional e introduce pesos de conexión basados en gradientes para cuantificar la influencia de la salida de cada agente en los agentes posteriores a nivel de tokens. Mediante la construcción de un grafo de atribución y la propagación hacia atrás de señales de pérdida específicas de la tarea, nuestro método permite la identificación precisa de las fuentes de error y la optimización dirigida de las indicaciones. Además, desarrollamos AgentChord, una implementación eficiente que aprovecha el cálculo de gradientes basado en prefijos. Los experimentos en MultiWOZ y τ-bench muestran que GBC mejora el rendimiento multiagente y supera a los modelos de referencia de agente único y multiagente, y que una mayor calidad de atribución se asocia con una mayor efectividad de optimización. El código está disponible en: https://github.com/yxc-cyber/AgentChord.

English

Multi-agent systems (MAS) built on large language models (LLMs) provide a promising framework for solving complex tasks through role specialization and structured interaction. However, their performance is often limited by miscoordination and, more fundamentally, the lack of fine-grained credit assignment across agents. Existing approaches typically rely on coarse-grained feedback, making it difficult to identify which agents or interaction steps are responsible for errors. We propose Gradient-Based Connections (GBC), an approach for fine-grained attribution and optimization of multi-agent systems. GBC models a MAS as a computational graph and introduces gradient-based connection weights to quantify the influence of each agent's output on downstream agents at the token level. By constructing an attribution graph and propagating task-specific loss signals backward, our method enables precise identification of error sources and targeted prompt optimization. We further develop AgentChord, an efficient implementation that leverages prefix-based gradient computation. Experiments on MultiWOZ and τ-bench show that GBC improves multi-agent performance and outperforms strong single-agent and multi-agent baselines, and higher attribution quality is associated with greater optimization effectiveness. Code is available at: https://github.com/yxc-cyber/AgentChord.