HyperAgent: 다중 에이전트 통신을 위한 토폴로지 최적화에 하이퍼그래프 활용

초록

대규모 언어 모델 기반 다중 에이전트 시스템의 최근 발전은 효과적인 의사소통을 통해 놀라운 집단 지능을 보여주었습니다. 그러나 기존 접근 방식은 두 가지 주요 과제에 직면해 있습니다: (i) 그래프 구조에서 쌍별 엣지 표현에 의존함으로써 다중 에이전트 간의 관계를 포착하는 능력이 제한되는 비효율적인 그룹 협업 모델링, 그리고 (ii) 의사소통 토폴로지 설계에서의 제한된 작업 적응성으로 인해 간단한 작업에서는 과도한 의사소통 비용이 발생하고 복잡한 시나리오에서는 충분한 조정이 이루어지지 않는 문제입니다. 이러한 문제들은 적응형 협업 프레임워크의 확장성과 실제 배포를 제한합니다. 이러한 과제를 해결하기 위해, 우리는 하이퍼그래프 기반 프레임워크인 HyperAgent를 제안합니다. HyperAgent는 직접 하이퍼엣지 표현을 사용하여 그룹 협업 패턴을 효과적으로 포착하고 의사소통 토폴로지를 최적화합니다. 엣지 기반 접근 방식과 달리, HyperAgent는 동일한 하위 작업 내의 다중 에이전트를 연결하기 위해 하이퍼엣지를 사용하고, 하이퍼그래프 컨볼루션 레이어를 통해 협업 그룹에서의 정보 집계를 한 단계로 달성합니다. 또한, HyperAgent는 희소성 정규화를 포함한 변분 오토인코더 프레임워크를 통합하여 작업 복잡도에 따라 하이퍼그래프 토폴로지를 동적으로 조정합니다. 실험 결과, HyperAgent는 성능과 효율성 모두에서 우수성을 입증했습니다. 예를 들어, GSM8K에서 HyperAgent는 95.07%의 정확도를 달성하면서 토큰 소비를 25.33% 줄였으며, 이는 다중 에이전트 의사소통을 위한 하이퍼그래프 기반 최적화의 잠재력을 보여줍니다.

English

Recent advances in large language model-powered multi-agent systems have demonstrated remarkable collective intelligence through effective communication. However, existing approaches face two primary challenges: (i) Ineffective group collaboration modeling, as they rely on pairwise edge representations in graph structures, limiting their ability to capture relationships among multiple agents; and (ii) Limited task-adaptiveness in communication topology design, leading to excessive communication cost for simple tasks and insufficient coordination for complex scenarios. These issues restrict the scalability and practical deployment of adaptive collaboration frameworks. To address these challenges, we propose HyperAgent, a hypergraph-based framework that optimizes communication topologies and effectively captures group collaboration patterns using direct hyperedge representations. Unlike edge-based approaches, HyperAgent uses hyperedges to link multiple agents within the same subtask and employs hypergraph convolutional layers to achieve one-step information aggregation in collaboration groups. Additionally, it incorporates a variational autoencoder framework with sparsity regularization to dynamically adjust hypergraph topologies based on task complexity. Experiments highlight the superiority of HyperAgent in both performance and efficiency. For instance, on GSM8K, HyperAgent achieves 95.07\% accuracy while reducing token consumption by 25.33\%, demonstrating the potential of hypergraph-based optimization for multi-agent communication.

HyperAgent: 다중 에이전트 통신을 위한 토폴로지 최적화에 하이퍼그래프 활용

HyperAgent: Leveraging Hypergraphs for Topology Optimization in Multi-Agent Communication

초록

Support