Spreek Structureel, Handel Hiërarchisch: Een Samenwerkingskader voor LLM Multi-Agent Systemen

Talk Structurally, Act Hierarchically: A Collaborative Framework for LLM Multi-Agent Systems

February 16, 2025

Auteurs: Zhao Wang, Sota Moriyama, Wei-Yao Wang, Briti Gangopadhyay, Shingo Takamatsu

cs.AI

Samenvatting

Recente ontwikkelingen in op LLM gebaseerde multi-agent (LLM-MA) systemen tonen veelbelovende resultaten, maar er blijven aanzienlijke uitdagingen bestaan bij het beheren van communicatie en verfijning wanneer agenten samenwerken aan complexe taken. In dit artikel stellen we Talk Structurally, Act Hierarchically (TalkHier) voor, een nieuw raamwerk dat een gestructureerd communicatieprotocol introduceert voor contextrijke uitwisselingen en een hiërarchisch verfijningssysteem om problemen zoals onjuiste uitvoer, onwaarheden en vooroordelen aan te pakken. TalkHier overtreft verschillende soorten SoTA, waaronder inferentieschaalmodellen (OpenAI-o1), open-source multi-agent modellen (bijv. AgentVerse), en meerderheidsstemstrategieën op huidige LLM- en single-agent baselines (bijv. ReAct, GPT4o), over diverse taken, waaronder open-domeinvraagbeantwoording, domeinspecifieke selectieve vraagstelling, en praktische advertentietekstgeneratie. Deze resultaten benadrukken het potentieel om een nieuwe standaard te zetten voor LLM-MA systemen, waardoor effectievere, aanpasbare en collaboratieve multi-agent raamwerken mogelijk worden. De code is beschikbaar op https://github.com/sony/talkhier.

English

Recent advancements in LLM-based multi-agent (LLM-MA) systems have shown promise, yet significant challenges remain in managing communication and refinement when agents collaborate on complex tasks. In this paper, we propose Talk Structurally, Act Hierarchically (TalkHier), a novel framework that introduces a structured communication protocol for context-rich exchanges and a hierarchical refinement system to address issues such as incorrect outputs, falsehoods, and biases. TalkHier surpasses various types of SoTA, including inference scaling model (OpenAI-o1), open-source multi-agent models (e.g., AgentVerse), and majority voting strategies on current LLM and single-agent baselines (e.g., ReAct, GPT4o), across diverse tasks, including open-domain question answering, domain-specific selective questioning, and practical advertisement text generation. These results highlight its potential to set a new standard for LLM-MA systems, paving the way for more effective, adaptable, and collaborative multi-agent frameworks. The code is available https://github.com/sony/talkhier.