GBC: Conexões Baseadas em Gradiente para Otimização de Sistemas Multiagente

Resumo

Sistemas multiagentes (MAS) construídos sobre modelos de linguagem de grande porte (LLMs) fornecem uma estrutura promissora para resolver tarefas complexas por meio de especialização de papéis e interação estruturada. No entanto, seu desempenho é frequentemente limitado por má coordenação e, mais fundamentalmente, pela falta de atribuição refinada de crédito entre os agentes. Abordagens existentes tipicamente dependem de feedback grosseiro, dificultando a identificação de quais agentes ou etapas de interação são responsáveis por erros. Propomos Gradient-Based Connections (GBC), uma abordagem para atribuição e otimização refinadas de sistemas multiagentes. O GBC modela um MAS como um grafo computacional e introduz pesos de conexão baseados em gradientes para quantificar a influência da saída de cada agente nos agentes downstream no nível de token. Ao construir um grafo de atribuição e propagar sinais de perda específicos da tarefa para trás, nosso método permite a identificação precisa das fontes de erro e a otimização direcionada de prompts. Desenvolvemos ainda o AgentChord, uma implementação eficiente que aproveita o cálculo de gradiente baseado em prefixo. Experimentos no MultiWOZ e no τ-bench mostram que o GBC melhora o desempenho multiagente e supera fortes baselines monoagente e multiagente, e que uma maior qualidade de atribuição está associada a uma maior eficácia de otimização. O código está disponível em: https://github.com/yxc-cyber/AgentChord.

English

Multi-agent systems (MAS) built on large language models (LLMs) provide a promising framework for solving complex tasks through role specialization and structured interaction. However, their performance is often limited by miscoordination and, more fundamentally, the lack of fine-grained credit assignment across agents. Existing approaches typically rely on coarse-grained feedback, making it difficult to identify which agents or interaction steps are responsible for errors. We propose Gradient-Based Connections (GBC), an approach for fine-grained attribution and optimization of multi-agent systems. GBC models a MAS as a computational graph and introduces gradient-based connection weights to quantify the influence of each agent's output on downstream agents at the token level. By constructing an attribution graph and propagating task-specific loss signals backward, our method enables precise identification of error sources and targeted prompt optimization. We further develop AgentChord, an efficient implementation that leverages prefix-based gradient computation. Experiments on MultiWOZ and τ-bench show that GBC improves multi-agent performance and outperforms strong single-agent and multi-agent baselines, and higher attribution quality is associated with greater optimization effectiveness. Code is available at: https://github.com/yxc-cyber/AgentChord.