Denk Voor Je Aanbeveelt: Het Vrijmaken van de Latente Redeneerkracht voor Sequentieel Aanbevelen

Think Before Recommend: Unleashing the Latent Reasoning Power for Sequential Recommendation

March 28, 2025

Auteurs: Jiakai Tang, Sunhao Dai, Teng Shi, Jun Xu, Xu Chen, Wen Chen, Wu Jian, Yuning Jiang

cs.AI

Samenvatting

Sequentiële Aanbeveling (SeqRec) heeft als doel het volgende item te voorspellen door sequentiële patronen te herkennen uit de historische interacties van gebruikers, wat een cruciale rol speelt in veel real-world aanbevelingssystemen. Bestaande benaderingen hanteren echter voornamelijk een directe voorwaartse rekenparadigma, waarbij de laatste verborgen toestand van de sequentie-encoder dient als gebruikersrepresentatie. Wij stellen dat dit inferentieparadigma, vanwege de beperkte reken diepte, moeite heeft om de complexe, evoluerende aard van gebruikersvoorkeuren te modelleren en een genuanceerd begrip mist van long-tail items, wat leidt tot suboptimale prestaties. Om dit probleem aan te pakken, stellen we ReaRec voor, het eerste inferentie-tijd rekenframework voor aanbevelingssystemen, dat gebruikersrepresentaties verbetert door impliciete meerstaps redenering. Specifiek voert ReaRec de laatste verborgen toestand van de sequentie autoregressief terug in de sequentiële aanbeveler, terwijl speciale redeneringspositie-embeddings worden geïntegreerd om de originele itemcoderingsruimte te ontkoppelen van de meerstaps redeneringsruimte. Bovendien introduceren we twee lichtgewicht, op redenering gebaseerde leermethoden, Ensemble Reasoning Learning (ERL) en Progressive Reasoning Learning (PRL), om het redeneringspotentieel van ReaRec verder effectief te benutten. Uitgebreide experimenten op vijf openbare real-world datasets en verschillende SeqRec-architecturen demonstreren de algemeenheid en effectiviteit van ons voorgestelde ReaRec. Opmerkelijk is dat post-hoc analyses aantonen dat ReaRec de prestatieplafonds van meerdere sequentiële aanbevelingsbackbones aanzienlijk verhoogt met ongeveer 30\%-50\%. Wij geloven daarom dat dit werk een nieuwe en veelbelovende weg kan openen voor toekomstig onderzoek naar inferentie-tijd rekenen voor sequentiële aanbeveling.

English

Sequential Recommendation (SeqRec) aims to predict the next item by capturing sequential patterns from users' historical interactions, playing a crucial role in many real-world recommender systems. However, existing approaches predominantly adopt a direct forward computation paradigm, where the final hidden state of the sequence encoder serves as the user representation. We argue that this inference paradigm, due to its limited computational depth, struggles to model the complex evolving nature of user preferences and lacks a nuanced understanding of long-tail items, leading to suboptimal performance. To address this issue, we propose ReaRec, the first inference-time computing framework for recommender systems, which enhances user representations through implicit multi-step reasoning. Specifically, ReaRec autoregressively feeds the sequence's last hidden state into the sequential recommender while incorporating special reasoning position embeddings to decouple the original item encoding space from the multi-step reasoning space. Moreover, we introduce two lightweight reasoning-based learning methods, Ensemble Reasoning Learning (ERL) and Progressive Reasoning Learning (PRL), to further effectively exploit ReaRec's reasoning potential. Extensive experiments on five public real-world datasets and different SeqRec architectures demonstrate the generality and effectiveness of our proposed ReaRec. Remarkably, post-hoc analyses reveal that ReaRec significantly elevates the performance ceiling of multiple sequential recommendation backbones by approximately 30\%-50\%. Thus, we believe this work can open a new and promising avenue for future research in inference-time computing for sequential recommendation.