BESPOKE: Evaluación de la Personalización en Modelos de Lenguaje de Gran Escala Aumentados con Búsqueda mediante Retroalimentación Diagnóstica

BESPOKE: Benchmark for Search-Augmented Large Language Model Personalization via Diagnostic Feedback

September 25, 2025

Autores: Hyunseo Kim, Sangam Lee, Kwangwook Seo, Dongha Lee

cs.AI

Resumen

Los modelos de lenguaje de gran escala (LLMs) potenciados con búsqueda han avanzado en tareas de búsqueda de información al integrar la recuperación en la generación, reduciendo la carga cognitiva de los usuarios en comparación con los sistemas de búsqueda tradicionales. Sin embargo, siguen siendo insuficientes para abordar completamente las diversas necesidades de los usuarios, lo que requiere reconocer cómo la misma consulta puede reflejar diferentes intenciones entre usuarios y entregar la información en las formas preferidas. Aunque sistemas recientes como ChatGPT y Gemini intentan personalizar utilizando los historiales de los usuarios, la evaluación sistemática de dicha personalización ha sido poco explorada. Para abordar esta brecha, proponemos BESPOKE, un punto de referencia realista para evaluar la personalización en LLMs potenciados con búsqueda. BESPOKE está diseñado para ser tanto realista, al recopilar historiales de chat y búsqueda auténticos directamente de humanos, como diagnóstico, al emparejar respuestas con puntuaciones detalladas de preferencia y retroalimentación. El punto de referencia se construye a través de una anotación humana a largo plazo y profundamente comprometida, donde los anotadores humanos contribuyeron con sus propios historiales, redactaron consultas con necesidades de información detalladas y evaluaron respuestas con puntuaciones y retroalimentación diagnóstica. Utilizando BESPOKE, realizamos análisis sistemáticos que revelan requisitos clave para una personalización efectiva en tareas de búsqueda de información, proporcionando una base para la evaluación detallada de LLMs potenciados con búsqueda personalizados. Nuestro código y datos están disponibles en https://augustinlib.github.io/BESPOKE/.

English

Search-augmented large language models (LLMs) have advanced information-seeking tasks by integrating retrieval into generation, reducing users' cognitive burden compared to traditional search systems. Yet they remain insufficient for fully addressing diverse user needs, which requires recognizing how the same query can reflect different intents across users and delivering information in preferred forms. While recent systems such as ChatGPT and Gemini attempt personalization by leveraging user histories, systematic evaluation of such personalization is under-explored. To address this gap, we propose BESPOKE, the realistic benchmark for evaluating personalization in search-augmented LLMs. BESPOKE is designed to be both realistic, by collecting authentic chat and search histories directly from humans, and diagnostic, by pairing responses with fine-grained preference scores and feedback. The benchmark is constructed through long-term, deeply engaged human annotation, where human annotators contributed their own histories, authored queries with detailed information needs, and evaluated responses with scores and diagnostic feedback. Leveraging BESPOKE, we conduct systematic analyses that reveal key requirements for effective personalization in information-seeking tasks, providing a foundation for fine-grained evaluation of personalized search-augmented LLMs. Our code and data are available at https://augustinlib.github.io/BESPOKE/.