Персонализированный графовый поиск для больших языковых моделей

Personalized Graph-Based Retrieval for Large Language Models

January 4, 2025

Авторы: Steven Au, Cameron J. Dimacali, Ojasmitha Pedirappagari, Namyong Park, Franck Dernoncourt, Yu Wang, Nikos Kanakaris, Hanieh Deilamsalehy, Ryan A. Rossi, Nesreen K. Ahmed

cs.AI

Аннотация

По мере развития больших языковых моделей (LLM) их способность предоставлять персонализированные и контекстно-ориентированные ответы предлагает трансформационный потенциал для улучшения пользовательских впечатлений. Однако существующие подходы к персонализации часто полагаются исключительно на историю пользователя для дополнения запроса, что ограничивает их эффективность в генерации настроенных выводов, особенно в сценариях холодного старта с ограниченными данными. Для преодоления этих ограничений мы предлагаем фреймворк Personalized Graph-based Retrieval-Augmented Generation (PGraphRAG), который использует графы знаний, ориентированные на пользователя, для обогащения персонализации. Путем прямого интегрирования структурированных знаний пользователя в процесс извлечения и дополнения запросов контекстом, релевантным для пользователя, PGraphRAG улучшает понимание контекста и качество вывода. Мы также представляем бенчмарк Personalized Graph-based для оценки задач генерации текста с учетом персонализации в реальных ситуациях, где история пользователя ограничена или недоступна. Экспериментальные результаты показывают, что PGraphRAG значительно превосходит современные методы персонализации на разнообразных задачах, демонстрируя уникальные преимущества графового извлечения для персонализации.

English

As large language models (LLMs) evolve, their ability to deliver personalized and context-aware responses offers transformative potential for improving user experiences. Existing personalization approaches, however, often rely solely on user history to augment the prompt, limiting their effectiveness in generating tailored outputs, especially in cold-start scenarios with sparse data. To address these limitations, we propose Personalized Graph-based Retrieval-Augmented Generation (PGraphRAG), a framework that leverages user-centric knowledge graphs to enrich personalization. By directly integrating structured user knowledge into the retrieval process and augmenting prompts with user-relevant context, PGraphRAG enhances contextual understanding and output quality. We also introduce the Personalized Graph-based Benchmark for Text Generation, designed to evaluate personalized text generation tasks in real-world settings where user history is sparse or unavailable. Experimental results show that PGraphRAG significantly outperforms state-of-the-art personalization methods across diverse tasks, demonstrating the unique advantages of graph-based retrieval for personalization.