LettinGo: Erforschung der Benutzerprofilgenerierung für Empfehlungssysteme

LettinGo: Explore User Profile Generation for Recommendation System

June 23, 2025

Autoren: Lu Wang, Di Zhang, Fangkai Yang, Pu Zhao, Jianfeng Liu, Yuefeng Zhan, Hao Sun, Qingwei Lin, Weiwei Deng, Dongmei Zhang, Feng Sun, Qi Zhang

cs.AI

Zusammenfassung

Benutzerprofilierung ist entscheidend für Empfehlungssysteme, da sie Rohdaten aus Benutzerinteraktionen in prägnante und strukturierte Darstellungen umwandelt, die personalisierte Empfehlungen ermöglichen. Während traditionelle, auf Einbettungen basierende Profile an Interpretierbarkeit und Anpassungsfähigkeit mangeln, ermöglichen jüngste Fortschritte mit großen Sprachmodellen (LLMs) textbasierte Profile, die semantisch reicher und transparenter sind. Allerdings halten bestehende Methoden oft an festen Formaten fest, die ihre Fähigkeit einschränken, die gesamte Vielfalt des Benutzerverhaltens zu erfassen. In diesem Artikel stellen wir LettinGo vor, ein neuartiges Framework zur Erzeugung vielfältiger und adaptiver Benutzerprofile. Indem wir die Ausdruckskraft von LLMs nutzen und direktes Feedback aus nachgelagerten Empfehlungsaufgaben einbeziehen, vermeidet unser Ansatz die starren Einschränkungen, die durch überwachtes Feinabstimmen (SFT) auferlegt werden. Stattdessen verwenden wir Direct Preference Optimization (DPO), um den Profilgenerator mit aufgabenbezogener Leistung abzustimmen und sicherzustellen, dass die Profile anpassungsfähig und effektiv bleiben. LettinGo arbeitet in drei Phasen: (1) Erforschung vielfältiger Benutzerprofile über mehrere LLMs, (2) Bewertung der Profilqualität basierend auf ihrer Auswirkung in Empfehlungssystemen und (3) Abstimmung der Profilgenerierung durch paarweise Präferenzdaten, die aus der Aufgabenleistung abgeleitet werden. Experimentelle Ergebnisse zeigen, dass unser Framework die Empfehlungsgenauigkeit, Flexibilität und Kontextbewusstsein erheblich verbessert. Diese Arbeit stärkt die Profilgenerierung als eine Schlüsselinnovation für die nächste Generation von Empfehlungssystemen.

English

User profiling is pivotal for recommendation systems, as it transforms raw user interaction data into concise and structured representations that drive personalized recommendations. While traditional embedding-based profiles lack interpretability and adaptability, recent advances with large language models (LLMs) enable text-based profiles that are semantically richer and more transparent. However, existing methods often adhere to fixed formats that limit their ability to capture the full diversity of user behaviors. In this paper, we introduce LettinGo, a novel framework for generating diverse and adaptive user profiles. By leveraging the expressive power of LLMs and incorporating direct feedback from downstream recommendation tasks, our approach avoids the rigid constraints imposed by supervised fine-tuning (SFT). Instead, we employ Direct Preference Optimization (DPO) to align the profile generator with task-specific performance, ensuring that the profiles remain adaptive and effective. LettinGo operates in three stages: (1) exploring diverse user profiles via multiple LLMs, (2) evaluating profile quality based on their impact in recommendation systems, and (3) aligning the profile generation through pairwise preference data derived from task performance. Experimental results demonstrate that our framework significantly enhances recommendation accuracy, flexibility, and contextual awareness. This work enhances profile generation as a key innovation for next-generation recommendation systems.