LettinGo: Onderzoek naar Gebruikersprofielgeneratie voor Aanbevelingssystemen

LettinGo: Explore User Profile Generation for Recommendation System

June 23, 2025

Auteurs: Lu Wang, Di Zhang, Fangkai Yang, Pu Zhao, Jianfeng Liu, Yuefeng Zhan, Hao Sun, Qingwei Lin, Weiwei Deng, Dongmei Zhang, Feng Sun, Qi Zhang

cs.AI

Samenvatting

Gebruikersprofielen zijn cruciaal voor aanbevelingssystemen, omdat ze ruwe gebruikersinteractiegegevens omzetten in beknopte en gestructureerde representaties die gepersonaliseerde aanbevelingen sturen. Terwijl traditionele op embeddings gebaseerde profielen gebrek hebben aan interpreteerbaarheid en aanpasbaarheid, maken recente vooruitgangen met grote taalmodellen (LLM's) tekstgebaseerde profielen mogelijk die semantisch rijker en transparanter zijn. Bestaande methoden houden zich echter vaak aan vaste formaten die hun vermogen beperken om de volledige diversiteit van gebruikersgedrag vast te leggen. In dit artikel introduceren we LettinGo, een nieuw raamwerk voor het genereren van diverse en adaptieve gebruikersprofielen. Door gebruik te maken van de expressieve kracht van LLM's en directe feedback van downstream aanbevelingstaken te integreren, vermijdt onze aanpak de rigide beperkingen die worden opgelegd door supervised fine-tuning (SFT). In plaats daarvan gebruiken we Direct Preference Optimization (DPO) om de profielgenerator af te stemmen op taakspecifieke prestaties, waardoor de profielen adaptief en effectief blijven. LettinGo werkt in drie fasen: (1) het verkennen van diverse gebruikersprofielen via meerdere LLM's, (2) het evalueren van de profielkwaliteit op basis van hun impact in aanbevelingssystemen, en (3) het afstemmen van de profielgeneratie via paarsgewijze voorkeursgegevens afgeleid van taakprestaties. Experimentele resultaten tonen aan dat ons raamwerk de nauwkeurigheid, flexibiliteit en contextbewustheid van aanbevelingen aanzienlijk verbetert. Dit werk versterkt profielgeneratie als een belangrijke innovatie voor de volgende generatie aanbevelingssystemen.

English

User profiling is pivotal for recommendation systems, as it transforms raw user interaction data into concise and structured representations that drive personalized recommendations. While traditional embedding-based profiles lack interpretability and adaptability, recent advances with large language models (LLMs) enable text-based profiles that are semantically richer and more transparent. However, existing methods often adhere to fixed formats that limit their ability to capture the full diversity of user behaviors. In this paper, we introduce LettinGo, a novel framework for generating diverse and adaptive user profiles. By leveraging the expressive power of LLMs and incorporating direct feedback from downstream recommendation tasks, our approach avoids the rigid constraints imposed by supervised fine-tuning (SFT). Instead, we employ Direct Preference Optimization (DPO) to align the profile generator with task-specific performance, ensuring that the profiles remain adaptive and effective. LettinGo operates in three stages: (1) exploring diverse user profiles via multiple LLMs, (2) evaluating profile quality based on their impact in recommendation systems, and (3) aligning the profile generation through pairwise preference data derived from task performance. Experimental results demonstrate that our framework significantly enhances recommendation accuracy, flexibility, and contextual awareness. This work enhances profile generation as a key innovation for next-generation recommendation systems.