jina-reranker-v3: 문서 재순위화를 위한 늦지만 중요한 상호작용

jina-reranker-v3: Last but Not Late Interaction for Document Reranking

September 29, 2025

저자: Feng Wang, Yuqing Li, Han Xiao

cs.AI

초록

jina-reranker-v3는 0.6B 파라미터를 가진 다국어 문서 리랭커로, 새로운 '늦지 않은 마지막 상호작용' 방식을 도입했습니다. ColBERT와 같은 후기 상호작용 모델이 별도의 인코딩 후 다중 벡터 매칭을 수행하는 것과 달리, 이 접근 방식은 동일한 컨텍스트 창 내에서 쿼리와 문서 간의 인과적 자기 주의(causal self-attention)를 수행하여, 각 문서의 마지막 토큰에서 컨텍스트 임베딩을 추출하기 전에 풍부한 문서 간 상호작용을 가능하게 합니다. 이 컴팩트한 아키텍처는 생성적 리스트와이즈 리랭커보다 10배 작으면서도 61.94 nDCG@10로 최신 BEIR 성능을 달성합니다.

English

jina-reranker-v3 is a 0.6B parameter multilingual document reranker that introduces a novel last but not late interaction. Unlike late interaction models such as ColBERT that perform separate encoding followed by multi-vector matching, our approach conducts causal self-attention between query and documents within the same context window, enabling rich cross-document interactions before extracting contextual embeddings from the last token of each document. This compact architecture achieves state-of-the-art BEIR performance with 61.94 nDCG@10 while being ten times smaller than generative listwise rerankers.