Compréhension des comportements de la recherche d'information sensible à l'environnement

Résumé

Les approches récentes de génération augmentée par récupération (RAG) ont démontré une forte capacité à traiter des requêtes complexes, mais les recherches actuelles négligent un défi crucial : différents récupérateurs nécessitent des stratégies de formulation de requêtes fondamentalement différentes pour une performance optimale. Dans ce travail, nous présentons la première analyse systématique de la manière dont les LLM peuvent apprendre à adapter leurs stratégies de formulation de requêtes pour différents récupérateurs via l'apprentissage par renforcement (RL). Notre étude empirique révèle que le RL permet effectivement d'apprendre à un LLM à adapter ses requêtes aux caractéristiques spécifiques du récupérateur. Nous découvrons que différents récupérateurs présentent des styles de requêtes optimales étonnamment distincts (par exemple, descriptifs vs. interrogatifs), suggérant que les stratégies apprises pour un récupérateur sont inefficaces pour un autre. Nous montrons en outre que la performance peut être améliorée en intégrant des directives humaines spécifiques au récupérateur et en augmentant la taille du modèle. Pour faciliter l'apprentissage sur des trajectoires multi-étapes de récupération, nous introduisons une technique de déploiement basée sur le branchement qui améliore la stabilité de l'entraînement. Notre travail fournit les premières preuves empiriques et des pistes exploitables pour construire des systèmes RAG véritablement conscients du récupérateur. Le code et les ressources sont disponibles à l'adresse https://github.com/LCO-Embedding/Envs-aware-Information-Retrieval.

English

Recent retrieval-augmented generation (RAG) approaches have demonstrated strong capability in handling complex queries, yet current research overlooks a critical challenge: different retrievers require fundamentally different query formulation strategies for optimal performance. In this work, we present the first systematic analysis of how LLMs can learn to adapt their query formulation strategies for different retrievers via reinforcement learning (RL). Our empirical study reveals that RL effectively teaches an LLM to tailor its queries to specific retriever characteristics. We discover that different retrievers exhibit surprisingly distinct optimal query styles (e.g., descriptive vs. question-like), suggesting strategies learned for one retriever ineffective for another. We further show that performance can be enhanced by incorporating retriever-specific human guidance and by scaling model size. To facilitate learning over multi-retrieval-step trajectories, we introduce a branching-based rollout technique that improves training stability. Our work provides the first empirical evidence and actionable insights for building truly retriever-aware RAG systems. Code and resources are available at https://github.com/LCO-Embedding/Envs-aware-Information-Retrieval.