Gepersonaliseerde Grafiekgebaseerde Terugvinding voor Grote Taalmodellen

Personalized Graph-Based Retrieval for Large Language Models

January 4, 2025

Auteurs: Steven Au, Cameron J. Dimacali, Ojasmitha Pedirappagari, Namyong Park, Franck Dernoncourt, Yu Wang, Nikos Kanakaris, Hanieh Deilamsalehy, Ryan A. Rossi, Nesreen K. Ahmed

cs.AI

Samenvatting

Naarmate grote taalmodellen (LLM's) evolueren, biedt hun vermogen om gepersonaliseerde en contextbewuste antwoorden te leveren een transformerend potentieel om gebruikerservaringen te verbeteren. Bestaande personalisatiebenaderingen vertrouwen echter vaak alleen op gebruikersgeschiedenis om de prompt aan te vullen, wat hun effectiviteit beperkt bij het genereren van op maat gemaakte resultaten, vooral in scenario's met weinig data bij het opstarten. Om deze beperkingen aan te pakken, stellen we Personalized Graph-based Retrieval-Augmented Generation (PGraphRAG) voor, een raamwerk dat gebruiksvriendelijke kennisgrafieken benut om personalisatie te verrijken. Door gestructureerde gebruikerskennis rechtstreeks in het ophaalproces te integreren en prompts aan te vullen met gebruikersrelevante context, verbetert PGraphRAG het contextuele begrip en de kwaliteit van de output. We introduceren ook de Personalized Graph-based Benchmark voor Tekstgeneratie, ontworpen om gepersonaliseerde tekstgeneratietaken te evalueren in real-world settings waar gebruikersgeschiedenis schaars of niet beschikbaar is. Experimentele resultaten tonen aan dat PGraphRAG aanzienlijk beter presteert dan state-of-the-art personalisatiemethoden over diverse taken, waarbij de unieke voordelen van op grafiek gebaseerde ophaling voor personalisatie worden aangetoond.

English

As large language models (LLMs) evolve, their ability to deliver personalized and context-aware responses offers transformative potential for improving user experiences. Existing personalization approaches, however, often rely solely on user history to augment the prompt, limiting their effectiveness in generating tailored outputs, especially in cold-start scenarios with sparse data. To address these limitations, we propose Personalized Graph-based Retrieval-Augmented Generation (PGraphRAG), a framework that leverages user-centric knowledge graphs to enrich personalization. By directly integrating structured user knowledge into the retrieval process and augmenting prompts with user-relevant context, PGraphRAG enhances contextual understanding and output quality. We also introduce the Personalized Graph-based Benchmark for Text Generation, designed to evaluate personalized text generation tasks in real-world settings where user history is sparse or unavailable. Experimental results show that PGraphRAG significantly outperforms state-of-the-art personalization methods across diverse tasks, demonstrating the unique advantages of graph-based retrieval for personalization.