Pensez avant de recommander : Libérer le pouvoir de raisonnement latent pour la recommandation séquentielle

Think Before Recommend: Unleashing the Latent Reasoning Power for Sequential Recommendation

March 28, 2025

Auteurs: Jiakai Tang, Sunhao Dai, Teng Shi, Jun Xu, Xu Chen, Wen Chen, Wu Jian, Yuning Jiang

cs.AI

Résumé

La recommandation séquentielle (SeqRec) vise à prédire le prochain élément en capturant les motifs séquentiels à partir des interactions historiques des utilisateurs, jouant un rôle crucial dans de nombreux systèmes de recommandation du monde réel. Cependant, les approches existantes adoptent principalement un paradigme de calcul direct en avant, où l'état caché final de l'encodeur de séquence sert de représentation de l'utilisateur. Nous soutenons que ce paradigme d'inférence, en raison de sa profondeur de calcul limitée, peine à modéliser la nature complexe et évolutive des préférences des utilisateurs et manque d'une compréhension nuancée des éléments de la longue traîne, conduisant à des performances sous-optimales. Pour résoudre ce problème, nous proposons ReaRec, le premier cadre de calcul au moment de l'inférence pour les systèmes de recommandation, qui améliore les représentations des utilisateurs grâce à un raisonnement implicite en plusieurs étapes. Plus précisément, ReaRec alimente de manière autorégressive le dernier état caché de la séquence dans le recommandateur séquentiel tout en incorporant des embeddings de position de raisonnement spéciaux pour découpler l'espace d'encodage des éléments originaux de l'espace de raisonnement en plusieurs étapes. De plus, nous introduisons deux méthodes d'apprentissage légères basées sur le raisonnement, l'Apprentissage par Raisonnement d'Ensemble (ERL) et l'Apprentissage par Raisonnement Progressif (PRL), pour exploiter plus efficacement le potentiel de raisonnement de ReaRec. Des expériences approfondies sur cinq ensembles de données publics du monde réel et différentes architectures SeqRec démontrent la généralité et l'efficacité de notre proposition ReaRec. De manière remarquable, des analyses post-hoc révèlent que ReaRec élève significativement le plafond de performance de plusieurs architectures de recommandation séquentielle d'environ 30\% à 50\%. Ainsi, nous croyons que ce travail peut ouvrir une nouvelle voie prometteuse pour la recherche future sur le calcul au moment de l'inférence pour la recommandation séquentielle.

English

Sequential Recommendation (SeqRec) aims to predict the next item by capturing sequential patterns from users' historical interactions, playing a crucial role in many real-world recommender systems. However, existing approaches predominantly adopt a direct forward computation paradigm, where the final hidden state of the sequence encoder serves as the user representation. We argue that this inference paradigm, due to its limited computational depth, struggles to model the complex evolving nature of user preferences and lacks a nuanced understanding of long-tail items, leading to suboptimal performance. To address this issue, we propose ReaRec, the first inference-time computing framework for recommender systems, which enhances user representations through implicit multi-step reasoning. Specifically, ReaRec autoregressively feeds the sequence's last hidden state into the sequential recommender while incorporating special reasoning position embeddings to decouple the original item encoding space from the multi-step reasoning space. Moreover, we introduce two lightweight reasoning-based learning methods, Ensemble Reasoning Learning (ERL) and Progressive Reasoning Learning (PRL), to further effectively exploit ReaRec's reasoning potential. Extensive experiments on five public real-world datasets and different SeqRec architectures demonstrate the generality and effectiveness of our proposed ReaRec. Remarkably, post-hoc analyses reveal that ReaRec significantly elevates the performance ceiling of multiple sequential recommendation backbones by approximately 30\%-50\%. Thus, we believe this work can open a new and promising avenue for future research in inference-time computing for sequential recommendation.