MCompassRAG : Les métadonnées thématiques comme boussole sémantique pour la récupération au niveau des paragraphes

Résumé

Les systèmes de génération augmentée par récupération (RAG) dépendent de manière cruciale de la manière dont les documents sont fragmentés et recherchés. Des fragments fins peuvent améliorer la précision de la récupération, mais élargissent l'espace de recherche, augmentant ainsi la latence et le coût ; des fragments plus volumineux réduisent le nombre de candidats mais rendent la similarité dense moins fiable, car la représentation de chaque fragment mélange plusieurs sujets et introduit davantage de bruit sémantique. Ce compromis devient particulièrement limitant dans les tâches de recherche approfondie, où la récupération doit être à la fois rapide et précise sur de larges corpus hétérogènes. Nous présentons MCompassRAG, un cadre de récupération guidé par métadonnées qui utilise des signaux au niveau des sujets comme une boussole sémantique pour sélectionner les preuves pertinentes. Au lieu de se fier uniquement à la similarité cosinus entre les requêtes et les représentations de fragments bruitées, MCompassRAG enrichit les représentations des fragments avec des métadonnées de sujet dans le même espace de représentation et entraîne un récupérateur léger via une distillation enseignant-LLM. Au moment de l'inférence, MCompassRAG effectue une récupération consciente des sujets sans appels supplémentaires au LLM, améliorant à la fois l'efficacité et la qualité des preuves. Sur six bancs d'essai de récupération complexes, MCompassRAG améliore l'efficacité informationnelle (IE) de 8,24 % en moyenne, avec une latence plus de 5 fois inférieure à celle des bases de référence RAG efficaces les plus performantes. Le code est disponible sur https://github.com/AmirAbaskohi/MCompassRAG.

English

Retrieval-augmented generation (RAG) systems depend critically on how documents are chunked and searched. Fine-grained chunks can improve retrieval precision but expand the search space, increasing latency and cost; larger chunks reduce the number of candidates but make dense similarity less reliable, as the representation for each chunk mixes multiple topics and introduces more semantic noise. This trade-off becomes especially limiting in deep research tasks, where retrieval must be both fast and precise across large, heterogeneous corpora. We introduce MCompassRAG, a metadata-guided retrieval framework that uses topic-level signals as a semantic compass for selecting relevant evidence. Instead of relying only on cosine similarity between queries and noisy chunk embeddings, MCompassRAG enriches chunk representations with topic metadata in the same embedding space and trains a lightweight retriever through LLM-teacher distillation. At inference time, MCompassRAG performs topic-aware retrieval without additional LLM calls, improving both efficiency and evidence quality. Across six complex retrieval benchmarks, MCompassRAG improves information efficiency (IE) by 8.24% on average with over 5 times lower latency than the strongest efficient RAG baselines. Code is available on https://github.com/AmirAbaskohi/MCompassRAG.