LettinGo: Исследование генерации пользовательских профилей для системы рекомендаций

LettinGo: Explore User Profile Generation for Recommendation System

June 23, 2025

Авторы: Lu Wang, Di Zhang, Fangkai Yang, Pu Zhao, Jianfeng Liu, Yuefeng Zhan, Hao Sun, Qingwei Lin, Weiwei Deng, Dongmei Zhang, Feng Sun, Qi Zhang

cs.AI

Аннотация

Профилирование пользователей играет ключевую роль в рекомендательных системах, так как преобразует необработанные данные о взаимодействиях пользователей в компактные и структурированные представления, которые лежат в основе персонализированных рекомендаций. В то время как традиционные профили на основе эмбеддингов страдают от недостатка интерпретируемости и адаптивности, последние достижения в области больших языковых моделей (LLM) позволяют создавать текстовые профили, которые обладают более богатой семантикой и прозрачностью. Однако существующие методы часто придерживаются фиксированных форматов, что ограничивает их способность охватывать всё разнообразие пользовательских поведений. В данной статье мы представляем LettinGo — новый фреймворк для генерации разнообразных и адаптивных пользовательских профилей. Используя выразительные возможности LLM и включая прямую обратную связь от задач рекомендательных систем, наш подход избегает жёстких ограничений, накладываемых обучением с учителем (SFT). Вместо этого мы применяем оптимизацию на основе прямых предпочтений (DPO) для согласования генератора профилей с производительностью, специфичной для задачи, что обеспечивает адаптивность и эффективность профилей. LettinGo работает в три этапа: (1) исследование разнообразных пользовательских профилей с помощью нескольких LLM, (2) оценка качества профилей на основе их влияния на рекомендательные системы и (3) согласование генерации профилей с использованием парных данных о предпочтениях, полученных из результатов выполнения задачи. Экспериментальные результаты показывают, что наш фреймворк значительно повышает точность, гибкость и контекстную осведомлённость рекомендаций. Эта работа поднимает генерацию профилей на новый уровень, представляя её как ключевое направление для рекомендательных систем следующего поколения.

English

User profiling is pivotal for recommendation systems, as it transforms raw user interaction data into concise and structured representations that drive personalized recommendations. While traditional embedding-based profiles lack interpretability and adaptability, recent advances with large language models (LLMs) enable text-based profiles that are semantically richer and more transparent. However, existing methods often adhere to fixed formats that limit their ability to capture the full diversity of user behaviors. In this paper, we introduce LettinGo, a novel framework for generating diverse and adaptive user profiles. By leveraging the expressive power of LLMs and incorporating direct feedback from downstream recommendation tasks, our approach avoids the rigid constraints imposed by supervised fine-tuning (SFT). Instead, we employ Direct Preference Optimization (DPO) to align the profile generator with task-specific performance, ensuring that the profiles remain adaptive and effective. LettinGo operates in three stages: (1) exploring diverse user profiles via multiple LLMs, (2) evaluating profile quality based on their impact in recommendation systems, and (3) aligning the profile generation through pairwise preference data derived from task performance. Experimental results demonstrate that our framework significantly enhances recommendation accuracy, flexibility, and contextual awareness. This work enhances profile generation as a key innovation for next-generation recommendation systems.