DarkForest: Weniger Reden, Höhere Genauigkeit für Multi-Agenten-LLMs

Zusammenfassung

Multi-Agenten-LLM-Systeme verbessern das logische Denken, indem sie die Ergebnisse mehrerer Agenten kombinieren. Allerdings können interaktionsintensive Verfahren Fehlerfortpflanzung und hohen Kommunikationsaufwand verursachen. Wenn Agenten Rohantworten oder Reasoning-Spuren austauschen, können falsche Zwischenschritte übernommen und verstärkt werden, was zu einer selbstsicheren, aber falschen Übereinstimmung führt. Zudem steigern mehrstufige Kommunikationen den Token-Verbrauch, die Latenz und die Inferenzkosten. In dieser Arbeit schlagen wir ein Koordinationsframework mit kontrollierter Kommunikation namens DarkForest vor. DarkForest hält die Agenten zunächst unabhängig, sodass jeder Agent eine Antwort generiert, ohne die Ergebnisse der anderen zu sehen. Anschließend werden die Rohantworten in strukturierte Kandidateneinträge geparst, semantisch äquivalente Kandidaten zu Clustern gruppiert und eine kalibrierte Glaubensverteilung über diese Cluster geschätzt – unter Berücksichtigung von Agentenzuverlässigkeit, Konfidenz, Parse-Qualität, Zuverlässigkeit von Unterstützungsmustern sowie Unabhängigkeitskorrekturen. Ein Koordinator erhält lediglich richtlinienzugelassene Evidenz aus diesem Glaubenszustand mit kontrollierter Kommunikation. Experimente mit sechs Reasoning-Benchmarks zeigen, dass DarkForest insgesamt eine führende Qualität erzielt, die stärkste Baseline bei Benchmark-Metriken um bis zu 30,7 % verbessert und den Token-Verbrauch im Vergleich zu kommunikationsintensiven Baselines um bis zu das 6,5-fache reduziert.

English

Multi-agent LLM systems improve reasoning by combining outputs from multiple agents, but interaction-heavy methods can introduce error propagation and high communication overhead. When agents exchange raw responses or reasoning traces, incorrect intermediate reasoning may be adopted and amplified, leading to confident but wrong consensus; multi-round communication also increases token consumption, latency, and inference cost. In this paper, we propose a controlled-communication coordination framework named DarkForest. DarkForest first keeps agents independent, so each agent produces an answer without seeing the others' outputs. It then parses the raw responses into structured candidate records, groups semantically equivalent candidates into clusters, and estimates a calibrated belief distribution over these clusters using agent reliability, confidence, parse quality, support-pattern reliability, and independence corrections. A coordinator receives only policy-permitted evidence from this belief state with controlled communication. Experiments on six reasoning benchmarks show that DarkForest achieves leading overall quality, improves the strongest baseline by up to 30.7\% on benchmark metrics, and reduces token consumption by up to 6.5times compared with communication-heavy baselines.