BESPOKE : Benchmark pour la personnalisation des grands modèles de langage assistés par recherche via un retour d'information diagnostique

BESPOKE: Benchmark for Search-Augmented Large Language Model Personalization via Diagnostic Feedback

September 25, 2025

papers.authors: Hyunseo Kim, Sangam Lee, Kwangwook Seo, Dongha Lee

cs.AI

papers.abstract

Les grands modèles de langage (LLM) augmentés par la recherche ont fait progresser les tâches de recherche d'information en intégrant la récupération dans la génération, réduisant ainsi la charge cognitive des utilisateurs par rapport aux systèmes de recherche traditionnels. Cependant, ils restent insuffisants pour répondre pleinement aux besoins diversifiés des utilisateurs, ce qui nécessite de reconnaître comment une même requête peut refléter des intentions différentes selon les utilisateurs et de fournir l'information sous des formes privilégiées. Bien que des systèmes récents comme ChatGPT et Gemini tentent de personnaliser les réponses en exploitant les historiques des utilisateurs, l'évaluation systématique de cette personnalisation reste peu explorée. Pour combler cette lacune, nous proposons BESPOKE, un benchmark réaliste pour évaluer la personnalisation dans les LLM augmentés par la recherche. BESPOKE est conçu pour être à la fois réaliste, en collectant des historiques de chat et de recherche directement auprès d'humains, et diagnostique, en associant les réponses à des scores de préférence détaillés et à des retours d'expérience. Le benchmark est construit grâce à une annotation humaine approfondie et à long terme, où des annotateurs ont contribué leurs propres historiques, rédigé des requêtes avec des besoins d'information détaillés, et évalué les réponses avec des scores et des retours diagnostiques. En exploitant BESPOKE, nous menons des analyses systématiques qui révèlent les exigences clés pour une personnalisation efficace dans les tâches de recherche d'information, fournissant ainsi une base pour l'évaluation fine des LLM augmentés par la recherche et personnalisés. Notre code et nos données sont disponibles à l'adresse https://augustinlib.github.io/BESPOKE/.

English

Search-augmented large language models (LLMs) have advanced information-seeking tasks by integrating retrieval into generation, reducing users' cognitive burden compared to traditional search systems. Yet they remain insufficient for fully addressing diverse user needs, which requires recognizing how the same query can reflect different intents across users and delivering information in preferred forms. While recent systems such as ChatGPT and Gemini attempt personalization by leveraging user histories, systematic evaluation of such personalization is under-explored. To address this gap, we propose BESPOKE, the realistic benchmark for evaluating personalization in search-augmented LLMs. BESPOKE is designed to be both realistic, by collecting authentic chat and search histories directly from humans, and diagnostic, by pairing responses with fine-grained preference scores and feedback. The benchmark is constructed through long-term, deeply engaged human annotation, where human annotators contributed their own histories, authored queries with detailed information needs, and evaluated responses with scores and diagnostic feedback. Leveraging BESPOKE, we conduct systematic analyses that reveal key requirements for effective personalization in information-seeking tasks, providing a foundation for fine-grained evaluation of personalized search-augmented LLMs. Our code and data are available at https://augustinlib.github.io/BESPOKE/.