ChatPaper.aiChatPaper

대규모 언어 모델을 위한 개인화된 그래프 기반 검색

Personalized Graph-Based Retrieval for Large Language Models

January 4, 2025
저자: Steven Au, Cameron J. Dimacali, Ojasmitha Pedirappagari, Namyong Park, Franck Dernoncourt, Yu Wang, Nikos Kanakaris, Hanieh Deilamsalehy, Ryan A. Rossi, Nesreen K. Ahmed
cs.AI

초록

대형 언어 모델(LLMs)이 발전함에 따라, 개인화되고 문맥에 민감한 응답을 제공하는 능력은 사용자 경험을 개선하는 혁신적 잠재력을 제공합니다. 그러나 기존의 개인화 접근법은 종종 프롬프트를 보강하기 위해 사용자 이력에만 의존하여, 특히 희소 데이터로 이루어진 콜드 스타트 시나리오에서 맞춤 출력을 생성하는 데 효과가 제한됩니다. 이러한 한계를 극복하기 위해, 우리는 개인화된 그래프 기반 검색 보강 생성(Personalized Graph-based Retrieval-Augmented Generation, PGraphRAG)을 제안합니다. 이 프레임워크는 사용자 중심의 지식 그래프를 활용하여 개인화를 풍부하게 합니다. 구조화된 사용자 지식을 검색 프로세스에 직접 통합하고 프롬프트를 사용자 관련 문맥으로 보강함으로써, PGraphRAG는 문맥 이해와 출력 품질을 향상시킵니다. 또한 사용자 이력이 희소하거나 없는 실제 환경에서 개인화된 텍스트 생성 작업을 평가하기 위해 설계된 개인화된 그래프 기반 벤치마크를 소개합니다. 실험 결과는 PGraphRAG가 다양한 작업에서 최첨단 개인화 방법을 크게 능가하여, 그래프 기반 검색이 개인화에 대한 독특한 장점을 입증하고 있음을 보여줍니다.
English
As large language models (LLMs) evolve, their ability to deliver personalized and context-aware responses offers transformative potential for improving user experiences. Existing personalization approaches, however, often rely solely on user history to augment the prompt, limiting their effectiveness in generating tailored outputs, especially in cold-start scenarios with sparse data. To address these limitations, we propose Personalized Graph-based Retrieval-Augmented Generation (PGraphRAG), a framework that leverages user-centric knowledge graphs to enrich personalization. By directly integrating structured user knowledge into the retrieval process and augmenting prompts with user-relevant context, PGraphRAG enhances contextual understanding and output quality. We also introduce the Personalized Graph-based Benchmark for Text Generation, designed to evaluate personalized text generation tasks in real-world settings where user history is sparse or unavailable. Experimental results show that PGraphRAG significantly outperforms state-of-the-art personalization methods across diverse tasks, demonstrating the unique advantages of graph-based retrieval for personalization.

Summary

AI-Generated Summary

PDF322January 7, 2025