BESPOKE: Бенчмарк для персонализации больших языковых моделей с поисковым расширением через диагностическую обратную связь

BESPOKE: Benchmark for Search-Augmented Large Language Model Personalization via Diagnostic Feedback

September 25, 2025

Авторы: Hyunseo Kim, Sangam Lee, Kwangwook Seo, Dongha Lee

cs.AI

Аннотация

Поисково-усиленные большие языковые модели (LLM) значительно продвинули задачи поиска информации, интегрируя извлечение данных в процесс генерации, что снижает когнитивную нагрузку пользователей по сравнению с традиционными поисковыми системами. Однако они по-прежнему недостаточно эффективны для полного удовлетворения разнообразных потребностей пользователей, что требует распознавания различных намерений, скрытых за одним и тем же запросом у разных пользователей, и предоставления информации в предпочтительных формах. Хотя современные системы, такие как ChatGPT и Gemini, пытаются персонализировать результаты, используя историю взаимодействий пользователей, систематическая оценка такой персонализации остается недостаточно изученной. Для устранения этого пробела мы предлагаем BESPOKE — реалистичный бенчмарк для оценки персонализации в поисково-усиленных LLM. BESPOKE разработан как реалистичный, собирая аутентичные истории чатов и поисков непосредственно от людей, так и диагностический, сопоставляя ответы с детализированными оценками предпочтений и обратной связью. Бенчмарк создан в ходе долгосрочной, глубоко вовлеченной аннотации, где люди-аннотаторы предоставляли свои истории, формулировали запросы с подробными информационными потребностями и оценивали ответы с помощью баллов и диагностической обратной связи. Используя BESPOKE, мы проводим систематический анализ, который выявляет ключевые требования для эффективной персонализации в задачах поиска информации, закладывая основу для детализированной оценки персонализированных поисково-усиленных LLM. Наш код и данные доступны по адресу https://augustinlib.github.io/BESPOKE/.

English

Search-augmented large language models (LLMs) have advanced information-seeking tasks by integrating retrieval into generation, reducing users' cognitive burden compared to traditional search systems. Yet they remain insufficient for fully addressing diverse user needs, which requires recognizing how the same query can reflect different intents across users and delivering information in preferred forms. While recent systems such as ChatGPT and Gemini attempt personalization by leveraging user histories, systematic evaluation of such personalization is under-explored. To address this gap, we propose BESPOKE, the realistic benchmark for evaluating personalization in search-augmented LLMs. BESPOKE is designed to be both realistic, by collecting authentic chat and search histories directly from humans, and diagnostic, by pairing responses with fine-grained preference scores and feedback. The benchmark is constructed through long-term, deeply engaged human annotation, where human annotators contributed their own histories, authored queries with detailed information needs, and evaluated responses with scores and diagnostic feedback. Leveraging BESPOKE, we conduct systematic analyses that reveal key requirements for effective personalization in information-seeking tasks, providing a foundation for fine-grained evaluation of personalized search-augmented LLMs. Our code and data are available at https://augustinlib.github.io/BESPOKE/.