Recuperación Personalizada Basada en Grafos para Modelos de Lenguaje Grandes

Personalized Graph-Based Retrieval for Large Language Models

January 4, 2025

Autores: Steven Au, Cameron J. Dimacali, Ojasmitha Pedirappagari, Namyong Park, Franck Dernoncourt, Yu Wang, Nikos Kanakaris, Hanieh Deilamsalehy, Ryan A. Rossi, Nesreen K. Ahmed

cs.AI

Resumen

A medida que los modelos de lenguaje de gran escala (LLMs) evolucionan, su capacidad para ofrecer respuestas personalizadas y contextualmente conscientes ofrece un potencial transformador para mejorar las experiencias de usuario. Sin embargo, los enfoques de personalización existentes a menudo se basan únicamente en el historial del usuario para complementar la solicitud, lo que limita su efectividad en la generación de salidas adaptadas, especialmente en escenarios de inicio en frío con datos escasos. Para abordar estas limitaciones, proponemos Recuperación Generativa Basada en Grafo Personalizado (PGraphRAG), un marco que aprovecha los grafos de conocimiento centrados en el usuario para enriquecer la personalización. Al integrar directamente el conocimiento estructurado del usuario en el proceso de recuperación y mejorar las solicitudes con contexto relevante para el usuario, PGraphRAG mejora la comprensión contextual y la calidad de la salida. También presentamos el Conjunto de Datos de Benchmark Basado en Grafo Personalizado para Generación de Texto, diseñado para evaluar tareas de generación de texto personalizado en entornos del mundo real donde el historial del usuario es escaso o no está disponible. Los resultados experimentales muestran que PGraphRAG supera significativamente a los métodos de personalización de vanguardia en diversas tareas, demostrando las ventajas únicas de la recuperación basada en grafo para la personalización.

English

As large language models (LLMs) evolve, their ability to deliver personalized and context-aware responses offers transformative potential for improving user experiences. Existing personalization approaches, however, often rely solely on user history to augment the prompt, limiting their effectiveness in generating tailored outputs, especially in cold-start scenarios with sparse data. To address these limitations, we propose Personalized Graph-based Retrieval-Augmented Generation (PGraphRAG), a framework that leverages user-centric knowledge graphs to enrich personalization. By directly integrating structured user knowledge into the retrieval process and augmenting prompts with user-relevant context, PGraphRAG enhances contextual understanding and output quality. We also introduce the Personalized Graph-based Benchmark for Text Generation, designed to evaluate personalized text generation tasks in real-world settings where user history is sparse or unavailable. Experimental results show that PGraphRAG significantly outperforms state-of-the-art personalization methods across diverse tasks, demonstrating the unique advantages of graph-based retrieval for personalization.