GBC: Gradientenbasierte Verbindungen zur Optimierung von Multi-Agenten-Systemen

Zusammenfassung

Auf großen Sprachmodellen (LLMs) basierende Multi-Agenten-Systeme (MAS) bieten einen vielversprechenden Rahmen zur Lösung komplexer Aufgaben durch Rollenspezialisierung und strukturierte Interaktion. Ihre Leistung wird jedoch häufig durch Fehlkoordination und, grundlegender, durch das Fehlen einer feinkörnigen Zuschreibung von Verantwortlichkeiten (Credit Assignment) zwischen den Agenten eingeschränkt. Bestehende Ansätze verlassen sich typischerweise auf grobkörniges Feedback, was es schwierig macht, zu identifizieren, welche Agenten oder Interaktionsschritte für Fehler verantwortlich sind. Wir schlagen Gradient-Based Connections (GBC) vor, einen Ansatz zur feinkörnigen Attribution und Optimierung von Multi-Agenten-Systemen. GBC modelliert ein MAS als Berechnungsgraphen und führt gradientenbasierte Verbindungsgewichte ein, um den Einfluss der Ausgabe jedes Agenten auf nachgelagerte Agenten auf Token-Ebene zu quantifizieren. Durch die Konstruktion eines Attributionsgraphen und die Rückwärtspropagation aufgabenspezifischer Verlustsignale ermöglicht unsere Methode eine präzise Identifizierung von Fehlerquellen und eine gezielte Prompt-Optimierung. Wir entwickeln zudem AgentChord, eine effiziente Implementierung, die auf einer präfixbasierten Gradientenberechnung beruht. Experimente auf MultiWOZ und τ-bench zeigen, dass GBC die Leistung von Multi-Agenten-Systemen verbessert und starke Einzelagenten- und Multi-Agenten-Basislinien übertrifft, und dass eine höhere Attributionsqualität mit einer größeren Optimierungseffektivität einhergeht. Der Code ist verfügbar unter: https://github.com/yxc-cyber/AgentChord.

English

Multi-agent systems (MAS) built on large language models (LLMs) provide a promising framework for solving complex tasks through role specialization and structured interaction. However, their performance is often limited by miscoordination and, more fundamentally, the lack of fine-grained credit assignment across agents. Existing approaches typically rely on coarse-grained feedback, making it difficult to identify which agents or interaction steps are responsible for errors. We propose Gradient-Based Connections (GBC), an approach for fine-grained attribution and optimization of multi-agent systems. GBC models a MAS as a computational graph and introduces gradient-based connection weights to quantify the influence of each agent's output on downstream agents at the token level. By constructing an attribution graph and propagating task-specific loss signals backward, our method enables precise identification of error sources and targeted prompt optimization. We further develop AgentChord, an efficient implementation that leverages prefix-based gradient computation. Experiments on MultiWOZ and τ-bench show that GBC improves multi-agent performance and outperforms strong single-agent and multi-agent baselines, and higher attribution quality is associated with greater optimization effectiveness. Code is available at: https://github.com/yxc-cyber/AgentChord.