Говорить структурно, действовать иерархически: совместная платформа для LLM мультиагентных систем

Talk Structurally, Act Hierarchically: A Collaborative Framework for LLM Multi-Agent Systems

February 16, 2025

Авторы: Zhao Wang, Sota Moriyama, Wei-Yao Wang, Briti Gangopadhyay, Shingo Takamatsu

cs.AI

Аннотация

Недавние достижения в системах на основе LLM для мультиагентных систем (LLM-MA) показали потенциал, однако остаются значительные проблемы в управлении коммуникацией и усовершенствованием при совместной работе агентов над сложными задачами. В данной статье мы предлагаем Talk Structurally, Act Hierarchically (TalkHier), новую концепцию, которая вводит структурированный протокол коммуникации для обменов контекстно насыщенной информацией и иерархическую систему усовершенствования для решения проблем, таких как неправильные выводы, ложные утверждения и предвзятость. TalkHier превосходит различные типы SoTA, включая модель масштабирования выводов (OpenAI-o1), мультиагентные модели с открытым исходным кодом (например, AgentVerse) и стратегии большинственного голосования на текущих LLM и одноагентных базовых моделях (например, ReAct, GPT4o), на разнообразных задачах, включая ответы на вопросы в открытой области, доменно-специфическое селективное опросное и практическое создание рекламных текстов. Эти результаты подчеркивают его потенциал для установления нового стандарта для систем LLM-MA, открывая путь к более эффективным, адаптивным и совместным мультиагентным структурам. Код доступен по ссылке https://github.com/sony/talkhier.

English

Recent advancements in LLM-based multi-agent (LLM-MA) systems have shown promise, yet significant challenges remain in managing communication and refinement when agents collaborate on complex tasks. In this paper, we propose Talk Structurally, Act Hierarchically (TalkHier), a novel framework that introduces a structured communication protocol for context-rich exchanges and a hierarchical refinement system to address issues such as incorrect outputs, falsehoods, and biases. TalkHier surpasses various types of SoTA, including inference scaling model (OpenAI-o1), open-source multi-agent models (e.g., AgentVerse), and majority voting strategies on current LLM and single-agent baselines (e.g., ReAct, GPT4o), across diverse tasks, including open-domain question answering, domain-specific selective questioning, and practical advertisement text generation. These results highlight its potential to set a new standard for LLM-MA systems, paving the way for more effective, adaptable, and collaborative multi-agent frameworks. The code is available https://github.com/sony/talkhier.