Parler Structurellement, Agir Hiérarchiquement : Un Cadre Collaboratif pour les Systèmes Multi-Agents LLM

Talk Structurally, Act Hierarchically: A Collaborative Framework for LLM Multi-Agent Systems

February 16, 2025

Auteurs: Zhao Wang, Sota Moriyama, Wei-Yao Wang, Briti Gangopadhyay, Shingo Takamatsu

cs.AI

Résumé

Les récents progrès des systèmes multi-agents basés sur LLM (LLM-MA) ont montré des promesses, mais des défis significatifs persistent dans la gestion de la communication et de l'amélioration lorsque les agents collaborent sur des tâches complexes. Dans cet article, nous proposons Talk Structurally, Act Hierarchically (TalkHier), un nouveau cadre qui introduit un protocole de communication structurée pour des échanges riches en contexte et un système de raffinement hiérarchique pour traiter des problèmes tels que des sorties incorrectes, des faussetés et des biais. TalkHier surpasse divers types de SoTA, y compris le modèle d'échelle d'inférence (OpenAI-o1), les modèles multi-agents open-source (par exemple, AgentVerse) et les stratégies de vote à la majorité sur les bases actuelles de LLM et d'agents uniques (par exemple, ReAct, GPT4o), sur des tâches diverses, y compris la réponse à des questions en domaine ouvert, la question sélective spécifique au domaine et la génération de textes publicitaires pratiques. Ces résultats mettent en lumière son potentiel pour établir une nouvelle norme pour les systèmes LLM-MA, ouvrant la voie à des cadres multi-agents plus efficaces, adaptables et collaboratifs. Le code est disponible sur https://github.com/sony/talkhier.

English

Recent advancements in LLM-based multi-agent (LLM-MA) systems have shown promise, yet significant challenges remain in managing communication and refinement when agents collaborate on complex tasks. In this paper, we propose Talk Structurally, Act Hierarchically (TalkHier), a novel framework that introduces a structured communication protocol for context-rich exchanges and a hierarchical refinement system to address issues such as incorrect outputs, falsehoods, and biases. TalkHier surpasses various types of SoTA, including inference scaling model (OpenAI-o1), open-source multi-agent models (e.g., AgentVerse), and majority voting strategies on current LLM and single-agent baselines (e.g., ReAct, GPT4o), across diverse tasks, including open-domain question answering, domain-specific selective questioning, and practical advertisement text generation. These results highlight its potential to set a new standard for LLM-MA systems, paving the way for more effective, adaptable, and collaborative multi-agent frameworks. The code is available https://github.com/sony/talkhier.