Parla Strutturalmente, Agisci Gerarchicamente: Un Framework Collaborativo per Sistemi Multi-Agente basati su LLM

Talk Structurally, Act Hierarchically: A Collaborative Framework for LLM Multi-Agent Systems

February 16, 2025

Autori: Zhao Wang, Sota Moriyama, Wei-Yao Wang, Briti Gangopadhyay, Shingo Takamatsu

cs.AI

Abstract

I recenti progressi nei sistemi multi-agente basati su LLM (LLM-MA) hanno mostrato risultati promettenti, ma permangono sfide significative nella gestione della comunicazione e del perfezionamento quando gli agenti collaborano su compiti complessi. In questo articolo, proponiamo Talk Structurally, Act Hierarchically (TalkHier), un nuovo framework che introduce un protocollo di comunicazione strutturato per scambi contestualmente ricchi e un sistema di perfezionamento gerarchico per affrontare problemi come output errati, falsità e bias. TalkHier supera vari tipi di modelli all'avanguardia (SoTA), tra cui il modello di scaling inferenziale (OpenAI-o1), modelli multi-agente open-source (ad esempio, AgentVerse) e strategie di voto a maggioranza sui benchmark attuali di LLM e agenti singoli (ad esempio, ReAct, GPT4o), in una gamma diversificata di compiti, tra cui risposte a domande in dominio aperto, interrogazioni selettive in ambiti specifici e generazione pratica di testi pubblicitari. Questi risultati evidenziano il suo potenziale nel definire un nuovo standard per i sistemi LLM-MA, aprendo la strada a framework multi-agente più efficaci, adattabili e collaborativi. Il codice è disponibile all'indirizzo https://github.com/sony/talkhier.

English

Recent advancements in LLM-based multi-agent (LLM-MA) systems have shown promise, yet significant challenges remain in managing communication and refinement when agents collaborate on complex tasks. In this paper, we propose Talk Structurally, Act Hierarchically (TalkHier), a novel framework that introduces a structured communication protocol for context-rich exchanges and a hierarchical refinement system to address issues such as incorrect outputs, falsehoods, and biases. TalkHier surpasses various types of SoTA, including inference scaling model (OpenAI-o1), open-source multi-agent models (e.g., AgentVerse), and majority voting strategies on current LLM and single-agent baselines (e.g., ReAct, GPT4o), across diverse tasks, including open-domain question answering, domain-specific selective questioning, and practical advertisement text generation. These results highlight its potential to set a new standard for LLM-MA systems, paving the way for more effective, adaptable, and collaborative multi-agent frameworks. The code is available https://github.com/sony/talkhier.