GBC: Градиентные связи для оптимизации мультиагентных систем

Аннотация

Многоагентные системы (МАС), построенные на основе больших языковых моделей (БЯМ), предоставляют перспективную платформу для решения сложных задач за счет специализации по ролям и структурированного взаимодействия. Однако их производительность часто ограничена рассогласованием и, что более фундаментально, отсутствием мелкозернистого распределения кредита между агентами. Существующие подходы обычно полагаются на крупнозернистую обратную связь, что затрудняет определение того, какие агенты или шаги взаимодействия ответственны за ошибки. Мы предлагаем метод градиентных связей (GBC) — подход к мелкозернистой атрибуции и оптимизации многоагентных систем. GBC моделирует МАС как вычислительный граф и вводит веса градиентных связей для количественной оценки влияния вывода каждого агента на нижестоящие агенты на уровне токенов. Путем построения графа атрибуции и распространения сигналов потерь, специфичных для задачи, в обратном направлении наш метод позволяет точно определять источники ошибок и целенаправленно оптимизировать промпты. Мы также разрабатываем AgentChord — эффективную реализацию, использующую градиентные вычисления на основе префиксов. Эксперименты на MultiWOZ и τ-bench показывают, что GBC улучшает производительность многоагентных систем и превосходит сильные одноагентные и многоагентные базовые модели, причем более высокое качество атрибуции связано с большей эффективностью оптимизации. Код доступен по ссылке: https://github.com/yxc-cyber/AgentChord.

English

Multi-agent systems (MAS) built on large language models (LLMs) provide a promising framework for solving complex tasks through role specialization and structured interaction. However, their performance is often limited by miscoordination and, more fundamentally, the lack of fine-grained credit assignment across agents. Existing approaches typically rely on coarse-grained feedback, making it difficult to identify which agents or interaction steps are responsible for errors. We propose Gradient-Based Connections (GBC), an approach for fine-grained attribution and optimization of multi-agent systems. GBC models a MAS as a computational graph and introduces gradient-based connection weights to quantify the influence of each agent's output on downstream agents at the token level. By constructing an attribution graph and propagating task-specific loss signals backward, our method enables precise identification of error sources and targeted prompt optimization. We further develop AgentChord, an efficient implementation that leverages prefix-based gradient computation. Experiments on MultiWOZ and τ-bench show that GBC improves multi-agent performance and outperforms strong single-agent and multi-agent baselines, and higher attribution quality is associated with greater optimization effectiveness. Code is available at: https://github.com/yxc-cyber/AgentChord.