GBC: 다중 에이전트 시스템 최적화를 위한 기울기 기반 연결

초록

대규모 언어 모델(LLM) 기반 다중 에이전트 시스템(MAS)은 역할 전문화와 구조화된 상호작용을 통해 복잡한 작업을 해결하기 위한 유망한 프레임워크를 제공한다. 그러나 이러한 시스템의 성능은 종종 협력 조정 실패와, 더 근본적으로는 에이전트 간 세분화된 신용 할당(credit assignment)의 부재로 인해 제한된다. 기존 접근법은 일반적으로 거친 수준의 피드백에 의존하기 때문에 오류의 원인이 되는 에이전트나 상호작용 단계를 식별하기 어렵다. 본 논문에서는 다중 에이전트 시스템의 세분화된 귀인(attribution)과 최적화를 위한 접근법인 경사 기반 연결(Gradient-Based Connections, GBC)을 제안한다. GBC는 MAS를 계산 그래프로 모델링하고, 각 에이전트 출력이 하위 에이전트에 미치는 영향을 토큰 수준에서 정량화하기 위해 경사 기반 연결 가중치를 도입한다. 귀인 그래프를 구성하고 작업별 손실 신호를 역방향으로 전파함으로써, 본 방법은 오류 원인의 정밀한 식별과 표적화된 프롬프트 최적화를 가능하게 한다. 또한 접두사 기반 경사 계산을 활용한 효율적인 구현인 AgentChord를 개발한다. MultiWOZ 및 τ-bench에 대한 실험 결과, GBC는 다중 에이전트 성능을 향상시키고 강력한 단일 에이전트 및 다중 에이전트 기준선을 능가하며, 높은 귀인 품질이 최적화 효과성과 연관되어 있음을 보여준다. 코드는 https://github.com/yxc-cyber/AgentChord에서 확인할 수 있다.

English

Multi-agent systems (MAS) built on large language models (LLMs) provide a promising framework for solving complex tasks through role specialization and structured interaction. However, their performance is often limited by miscoordination and, more fundamentally, the lack of fine-grained credit assignment across agents. Existing approaches typically rely on coarse-grained feedback, making it difficult to identify which agents or interaction steps are responsible for errors. We propose Gradient-Based Connections (GBC), an approach for fine-grained attribution and optimization of multi-agent systems. GBC models a MAS as a computational graph and introduces gradient-based connection weights to quantify the influence of each agent's output on downstream agents at the token level. By constructing an attribution graph and propagating task-specific loss signals backward, our method enables precise identification of error sources and targeted prompt optimization. We further develop AgentChord, an efficient implementation that leverages prefix-based gradient computation. Experiments on MultiWOZ and τ-bench show that GBC improves multi-agent performance and outperforms strong single-agent and multi-agent baselines, and higher attribution quality is associated with greater optimization effectiveness. Code is available at: https://github.com/yxc-cyber/AgentChord.