Ripensare il Tokenizzatore per Raccomandatori Generativi: Codifica Nativa per i Sistemi di Raccomandazione e Quantizzazione Semantica oltre i LLM
Rethinking Generative Recommender Tokenizer: Recsys-Native Encoding and Semantic Quantization Beyond LLMs
February 2, 2026
Autori: Yu Liang, Zhongjin Zhang, Yuxuan Zhu, Kerui Zhang, Zhiluohan Guo, Wenhang Zhou, Zonqi Yang, Kangle Wu, Yabo Ni, Anxiang Zeng, Cong Fu, Jianxin Wang, Jiazhi Xia
cs.AI
Abstract
La raccomandazione basata su Semantic ID (SID) è un paradigma promettente per il ridimensionamento dei sistemi di raccomandazione sequenziali, ma i metodi esistenti seguono in gran parte una pipeline di tipo semantic-centric: gli embedding degli item vengono appresi da modelli di base e discretizzati utilizzando schemi di quantizzazione generici. Questo design è disallineato rispetto agli obiettivi della raccomandazione generativa: gli embedding semantici sono debolmente accoppiati con la previsione collaborativa, e la quantizzazione generica è inefficiente nel ridurre l'incertezza sequenziale per la modellazione autoregressiva. Per affrontare questi problemi, proponiamo ReSID, un framework SID nativo per la raccomandazione e basato su principi, che ripensa l'apprendimento della rappresentazione e la quantizzazione dalla prospettiva della preservazione dell'informazione e della prevedibilità sequenziale, senza fare affidamento su LLM. ReSID è composto da due componenti: (i) Field-Aware Masked Auto-Encoding (FAMAE), che apprende rappresentazioni degli item predittive e sufficienti a partire da feature strutturate, e (ii) Globally Aligned Orthogonal Quantization (GAOQ), che produce sequenze SID compatte e prevedibili riducendo congiuntamente l'ambiguità semantica e l'incertezza condizionata al prefisso. L'analisi teorica e ampi esperimenti su dieci dataset dimostrano l'efficacia di ReSID. ReSID supera costantemente solidi baseline sequenziali e generativi basati su SID di una media superiore al 10%, riducendo al contempo il costo di tokenizzazione fino a 122 volte. Il codice è disponibile all'indirizzo https://github.com/FuCongResearchSquad/ReSID.
English
Semantic ID (SID)-based recommendation is a promising paradigm for scaling sequential recommender systems, but existing methods largely follow a semantic-centric pipeline: item embeddings are learned from foundation models and discretized using generic quantization schemes. This design is misaligned with generative recommendation objectives: semantic embeddings are weakly coupled with collaborative prediction, and generic quantization is inefficient at reducing sequential uncertainty for autoregressive modeling. To address these, we propose ReSID, a recommendation-native, principled SID framework that rethinks representation learning and quantization from the perspective of information preservation and sequential predictability, without relying on LLMs. ReSID consists of two components: (i) Field-Aware Masked Auto-Encoding (FAMAE), which learns predictive-sufficient item representations from structured features, and (ii) Globally Aligned Orthogonal Quantization (GAOQ), which produces compact and predictable SID sequences by jointly reducing semantic ambiguity and prefix-conditional uncertainty. Theoretical analysis and extensive experiments across ten datasets show the effectiveness of ReSID. ReSID consistently outperforms strong sequential and SID-based generative baselines by an average of over 10%, while reducing tokenization cost by up to 122x. Code is available at https://github.com/FuCongResearchSquad/ReSID.