TCAndon-Router: 다중 에이전트 협업을 위한 적응형 추론 라우터

초록

다중 에이전트 시스템(MAS)은 고성능 지능형 애플리케이션 구축을 위한 강력한 패러다임으로 자리잡았습니다. 이러한 시스템 내에서 주어진 쿼리를 처리해야 할 전문가 에이전트를 결정하는 라우터는 전체 성능에 있어 핵심적인 역할을 수행합니다. 기존 라우팅 전략은 일반적으로 두 가지 범주로 나뉩니다: 서로 다른 규모의 모델 간 지연 시간과 비용을 균형 있게 조절하는 성능 기반 라우팅과, 정확도 향상을 위해 도메인별 전문가에게 쿼리를 할당하는 작업 기반 라우팅입니다. 실제 기업 애플리케이션에서는 작업 기반 라우팅이 더 적합하지만, 대부분의 기존 접근법은 정적 단일 레이블 결정에 의존하여 두 가지 주요 한계를 초래합니다: (i) 비즈니스 영역이 확장됨에 따라 새로운 에이전트를 원활하게 통합하기 어렵고, (ii) 에이전트 역량의 중복으로 인한 라우팅 충돌이 발생하여 궁극적으로 정확도와 견고성이 저하됩니다. 이러한 문제를 해결하기 위해 우리는 다중 에이전트 협력을 위한 적응형 추론 라우터인 TCAndon-Router(TCAR)를 제안합니다. 기존 라우터와 달리 TCAR은 동적 에이전트 온보딩을 지원하며, 쿼리를 처리할 수 있는 후보 에이전트 집합을 예측하기 전에 먼저 자연어 추론 체인을 생성합니다. 또한, 선별된 에이전트들이 독립적으로 응답을 생성한 후, 전담 리파이닝 에이전트(Refining Agent)가 이를 통합 및 정제하여 단일 고품질 응답으로 만드는 협업 실행 파이프라인을 설계했습니다. 공개 데이터셋과 실제 기업 데이터에 대한 실험 결과, TCAR은 라우팅 정확도를 크게 향상시키고, 라우팅 충돌을 줄이며, 모호한 시나리오에서도 견고한 성능을 유지하는 것으로 나타났습니다. 우리는 설명 가능하고 협력적인 다중 에이전트 라우팅에 대한 향후 연구를 지원하기 위해 TCAR을 https://huggingface.co/tencent/TCAndon-Router 에 공개했습니다.

English

Multi-Agent Systems(MAS) have become a powerful paradigm for building high performance intelligent applications. Within these systems, the router responsible for determining which expert agents should handle a given query plays a crucial role in overall performance. Existing routing strategies generally fall into two categories: performance routing, which balances latency and cost across models of different sizes, and task routing, which assigns queries to domain-specific experts to improve accuracy. In real-world enterprise applications, task routing is more suitable; however, most existing approaches rely on static single-label decisions, which introduce two major limitations: (i) difficulty in seamlessly integrating new agents as business domains expand, and (ii) routing conflicts caused by overlapping agent capabilities, ultimately degrading accuracy and robustness.To address these challenges, we propose TCAndon-Router(TCAR): an adaptive reasoning router for multi-agent collaboration. Unlike traditional routers, TCAR supports dynamic agent onboarding and first generates a natural-language reasoning chain before predicting a set of candidate agents capable of handling the query. In addition, we design a collaborative execution pipeline in which selected agents independently produce responses, which are then aggregated and refined into a single high-quality response by a dedicated Refining Agent.Experiments on public datasets and real enterprise data demonstrate that TCAR significantly improves routing accuracy, reduces routing conflicts, and remains robust in ambiguous scenarios. We have released TCAR at https://huggingface.co/tencent/TCAndon-Router to support future research on explainable and collaborative multi-agent routing.

TCAndon-Router: 다중 에이전트 협업을 위한 적응형 추론 라우터

TCAndon-Router: Adaptive Reasoning Router for Multi-Agent Collaboration

초록

Support