RetrievalRouter: 문서 검색을 위한 모달리티 및 아키텍처 공동 선택

초록

문서 검색은 금융, 의료, 법률 분야에서 고위험 정보 접근을 점점 더 많이 지원하고 있다. 현대 검색 파이프라인은 모달리티(텍스트 또는 멀티모달)와 검색 아키텍처(덴스 또는 후기 상호작용)에 따라 다양하다. 이러한 선택은 어쩔 수 없는 절충을 강요한다. 가장 효과적인 파이프라인은 대규모로 실행하기에는 너무 느리고 비용이 많이 드는 반면, 가장 빠른 파이프라인은 복잡한 문서에서 증거를 검색하지 못한다. 따라서 실무자는 누락된 증거와 사용할 수 없는 지연 시간 사이에서 선택해야 하며, 쿼리 수준에서 그러한 선택을 조정할 원칙적 근거가 없다. 우리는 이러한 절충이 불필요함을 보여준다. 모든 쿼리가 동일한 파이프라인을 요구하는 것은 아니다. 금융 및 과학 말뭉치를 아우르는 벤치마크 전반에서 어떤 정적 파이프라인도 지배하지 못한다. 우리는 쿼리 텍스트만으로 어떤 검색 파이프라인이 각 쿼리에 가장 적합한지 학습하는 경량의 쿼리 인식 라우터인 RetrievalRouter를 소개한다. 단일 조정 가능 매개변수가 전체 정확도-지연 시간 프런티어를 노출하며, 모든 정적 기준선에 대해 RetrievalRouter는 동시에 더 정확하고 더 빠른 운영 지점을 제공한다. 최상의 정적 기준선과 비교했을 때 RetrievalRouter는 정확도가 2.5% 더 높고 12.4배 더 빠르다. 또한 기존 적응형 전략 선택 방법과 비교할 때, RetrievalRouter는 정확도 중심 설정에서 nDCG@5가 유의미하게 더 높으며, 지연 시간 중심 설정에서는 nDCG@5와 지연 시간 모두에서 동등하거나 수치적으로 더 우수하다. 코드와 데이터는 https://github.com/emrekuruu/retrieval-router 에서 확인할 수 있다.

English

Document retrieval increasingly supports high-stakes information access in finance, healthcare, and law. Modern retrieval pipelines vary both in modality (text or multimodal) and in retrieval architecture (dense or late-interaction). These choices impose a hard compromise: the most effective pipelines are too slow and expensive to run at scale, while the fastest fail to retrieve evidence from complex documents. Practitioners must therefore choose between missed evidence and unusable latency, with no principled basis for adapting that choice at the query level. We show that this compromise is unnecessary. Not every query requires the same pipeline. Across benchmarks spanning financial and scientific corpora, no static pipeline dominates. We introduce RetrievalRouter, a lightweight query-aware router that learns, from the query text alone, which retrieval pipeline best fits each query. A single tunable parameter exposes the full accuracy-latency frontier, and for every static baseline, RetrievalRouter offers an operating point that is simultaneously more accurate and faster. Against the best static baseline, RetrievalRouter is 2.5% more accurate and 12.4 times faster. Furthermore, compared with prior adaptive strategy selection methods, RetrievalRouter achieves significantly higher nDCG@5 across accuracy-oriented settings, while matching or numerically outperforming them on both nDCG@5 and latency in latency-oriented settings. Our code and data are available at https://github.com/emrekuruu/retrieval-router.