BESPOKE: Benchmark für die Personalisierung von suchverstärkten großen Sprachmodellen durch diagnostisches Feedback

BESPOKE: Benchmark for Search-Augmented Large Language Model Personalization via Diagnostic Feedback

September 25, 2025

papers.authors: Hyunseo Kim, Sangam Lee, Kwangwook Seo, Dongha Lee

cs.AI

papers.abstract

Suchverstärkte große Sprachmodelle (LLMs) haben informationssuchende Aufgaben vorangetrieben, indem sie die Informationsbeschaffung in die Generierung integrieren und so die kognitive Belastung der Nutzer im Vergleich zu traditionellen Suchsystemen verringern. Dennoch sind sie noch nicht ausreichend, um die vielfältigen Bedürfnisse der Nutzer vollständig zu erfüllen, was erfordert, zu erkennen, wie dieselbe Anfrage bei verschiedenen Nutzern unterschiedliche Intentionen widerspiegeln kann, und Informationen in bevorzugten Formen bereitzustellen. Während neuere Systeme wie ChatGPT und Gemini versuchen, durch die Nutzung von Nutzerverläufen eine Personalisierung zu erreichen, ist die systematische Bewertung solcher Personalisierungsansätze noch unzureichend erforscht. Um diese Lücke zu schließen, schlagen wir BESPOKE vor, den realistischen Benchmark zur Bewertung der Personalisierung in suchverstärkten LLMs. BESPOKE ist darauf ausgelegt, sowohl realistisch zu sein, indem authentische Chat- und Suchverläufe direkt von Menschen gesammelt werden, als auch diagnostisch, indem Antworten mit detaillierten Präferenzbewertungen und Feedback kombiniert werden. Der Benchmark wird durch langfristige, intensiv engagierte menschliche Annotation erstellt, bei der menschliche Annotatoren ihre eigenen Verläufe beigetragen, Anfragen mit detaillierten Informationsbedürfnissen verfasst und Antworten mit Bewertungen und diagnostischem Feedback bewertet haben. Durch die Nutzung von BESPOKE führen wir systematische Analysen durch, die wesentliche Anforderungen für eine effektive Personalisierung in informationssuchenden Aufgaben aufdecken und eine Grundlage für die detaillierte Bewertung personalisierter suchverstärkter LLMs bieten. Unser Code und unsere Daten sind verfügbar unter https://augustinlib.github.io/BESPOKE/.

English

Search-augmented large language models (LLMs) have advanced information-seeking tasks by integrating retrieval into generation, reducing users' cognitive burden compared to traditional search systems. Yet they remain insufficient for fully addressing diverse user needs, which requires recognizing how the same query can reflect different intents across users and delivering information in preferred forms. While recent systems such as ChatGPT and Gemini attempt personalization by leveraging user histories, systematic evaluation of such personalization is under-explored. To address this gap, we propose BESPOKE, the realistic benchmark for evaluating personalization in search-augmented LLMs. BESPOKE is designed to be both realistic, by collecting authentic chat and search histories directly from humans, and diagnostic, by pairing responses with fine-grained preference scores and feedback. The benchmark is constructed through long-term, deeply engaged human annotation, where human annotators contributed their own histories, authored queries with detailed information needs, and evaluated responses with scores and diagnostic feedback. Leveraging BESPOKE, we conduct systematic analyses that reveal key requirements for effective personalization in information-seeking tasks, providing a foundation for fine-grained evaluation of personalized search-augmented LLMs. Our code and data are available at https://augustinlib.github.io/BESPOKE/.