Piensa antes de recomendar: Liberando el poder latente del razonamiento para la recomendación secuencial

Think Before Recommend: Unleashing the Latent Reasoning Power for Sequential Recommendation

March 28, 2025

Autores: Jiakai Tang, Sunhao Dai, Teng Shi, Jun Xu, Xu Chen, Wen Chen, Wu Jian, Yuning Jiang

cs.AI

Resumen

La Recomendación Secuencial (SeqRec) tiene como objetivo predecir el siguiente ítem capturando patrones secuenciales a partir de las interacciones históricas de los usuarios, desempeñando un papel crucial en muchos sistemas de recomendación del mundo real. Sin embargo, los enfoques existentes adoptan predominantemente un paradigma de cálculo directo hacia adelante, donde el estado oculto final del codificador de secuencias sirve como representación del usuario. Argumentamos que este paradigma de inferencia, debido a su profundidad computacional limitada, tiene dificultades para modelar la naturaleza compleja y en evolución de las preferencias de los usuarios y carece de una comprensión matizada de los ítems de cola larga, lo que lleva a un rendimiento subóptimo. Para abordar este problema, proponemos ReaRec, el primer marco de computación en tiempo de inferencia para sistemas de recomendación, que mejora las representaciones de los usuarios mediante razonamiento implícito de múltiples pasos. Específicamente, ReaRec alimenta autoregresivamente el último estado oculto de la secuencia en el recomendador secuencial mientras incorpora incrustaciones de posición de razonamiento especiales para desacoplar el espacio de codificación original de los ítems del espacio de razonamiento de múltiples pasos. Además, introducimos dos métodos de aprendizaje basados en razonamiento livianos, Aprendizaje de Razonamiento por Conjunto (ERL) y Aprendizaje de Razonamiento Progresivo (PRL), para explotar aún más efectivamente el potencial de razonamiento de ReaRec. Experimentos extensos en cinco conjuntos de datos públicos del mundo real y diferentes arquitecturas de SeqRec demuestran la generalidad y efectividad de nuestro ReaRec propuesto. Notablemente, análisis post-hoc revelan que ReaRec eleva significativamente el límite de rendimiento de múltiples arquitecturas base de recomendación secuencial en aproximadamente un 30\%-50\%. Por lo tanto, creemos que este trabajo puede abrir una nueva y prometedora vía para futuras investigaciones en computación en tiempo de inferencia para recomendación secuencial.

English

Sequential Recommendation (SeqRec) aims to predict the next item by capturing sequential patterns from users' historical interactions, playing a crucial role in many real-world recommender systems. However, existing approaches predominantly adopt a direct forward computation paradigm, where the final hidden state of the sequence encoder serves as the user representation. We argue that this inference paradigm, due to its limited computational depth, struggles to model the complex evolving nature of user preferences and lacks a nuanced understanding of long-tail items, leading to suboptimal performance. To address this issue, we propose ReaRec, the first inference-time computing framework for recommender systems, which enhances user representations through implicit multi-step reasoning. Specifically, ReaRec autoregressively feeds the sequence's last hidden state into the sequential recommender while incorporating special reasoning position embeddings to decouple the original item encoding space from the multi-step reasoning space. Moreover, we introduce two lightweight reasoning-based learning methods, Ensemble Reasoning Learning (ERL) and Progressive Reasoning Learning (PRL), to further effectively exploit ReaRec's reasoning potential. Extensive experiments on five public real-world datasets and different SeqRec architectures demonstrate the generality and effectiveness of our proposed ReaRec. Remarkably, post-hoc analyses reveal that ReaRec significantly elevates the performance ceiling of multiple sequential recommendation backbones by approximately 30\%-50\%. Thus, we believe this work can open a new and promising avenue for future research in inference-time computing for sequential recommendation.