RecGPT-V3 テクニカルレポート

要旨

大規模言語モデル（LLM）は、レコメンダーシステムを、過去の行動における共起パターンのマッチングから、その行動を駆動する意図の推論へと変革している。RecGPT-V1は、ユーザー理解を中心に据えることで淘宝（タオバオ）上でこのパラダイムを開拓し、RecGPT-V2はマルチエージェント推論の協調によりそれを拡大した。いずれも本番環境にデプロイされ、ユーザー体験と商業指標の一貫した改善を達成している。しかし、RecGPTを大規模に運用する中で、次の3つの課題が明らかになった。（1）ステートレスな行動モデリング：各リクエストが過去の履歴全体を再処理するため、計算リソースを浪費し、過去の分析結果が破棄される。（2）タグからアイテムへの情報ボトルネック：自然言語タグが、ユーザー理解とアイテム具体化の間に損失のあるチャネルを形成する。（3）非効率な明示的推論：長大な思考連鎖（Chain-of-Thought）が、許容困難なレイテンシと計算オーバーヘッドを引き起こす。本稿では、オープンワールドの知識には自然言語を、具体的なアイテムの具体化にはセマンティックID（SID）を用いて推論する、ステートフルでハイブリッドモーダルなレコメンダーであるRecGPT-V3を提案する。メモリハブは、構造化され継続的に進化するユーザーメモリを維持し、長期的な行動を凝縮された単位に蒸留することで、ユーザーモデリングの計算量を55.8％削減する。ハイブリッドモーダル基盤モデルは、LLMがテキストタグとSIDを共同で推論できるようにし、アイテム空間への高帯域チャネルを開放する。潜在意図推論は、冗長な根拠説明をコンパクトで学習可能な潜在トークンに内面化し、それを可読な説明にデコード可能にすることで、出力トークンコストを200倍削減する。淘宝の「おすすめ」フィードにデプロイされたRecGPT-V3は、大規模オンラインA/Bテストにおいて一貫した改善を達成した。IPV +1.28％、CTR +1.00％、TC +1.97％、GMV +3.97％、同時にエンドツーエンドのサービングリソース消費を52.4％削減した。

English

Large language models (LLMs) are transforming recommender systems from matching co-occurrence patterns in historical behavior toward reasoning about the intent that drives it. RecGPT-V1 pioneered this paradigm on Taobao by centering user understanding, and RecGPT-V2 scaled it via coordinated multi-agent reasoning; both are deployed in production with consistent gains in user experience and commercial outcomes. However, operating RecGPT at scale reveals three challenges: (1) stateless behavior modeling, where each request reprocesses full user history, wasting computation and discarding prior analysis; (2) a tag-to-item information bottleneck, where natural-language tags form a lossy channel between user understanding and item grounding; and (3) inefficient explicit reasoning, whose lengthy chain-of-thought incurs untenable latency and compute overhead. We present RecGPT-V3, a stateful, hybrid-modal recommender that reasons over natural language for open-world knowledge and Semantic IDs (SIDs) for concrete item grounding. A Memory Hub maintains structured, continually evolving user memory that distills long-horizon behavior into condensed units, cutting user-modeling computation by 55.8%. A Hybrid-modal Foundation Model allows the LLM jointly reason over text tags and SIDs, opening a high-bandwidth channel into the item space. Latent Intent Reasoning internalizes verbose rationales into compact learnable latent tokens that remain decodable into readable explanations, lowering output token cost by 200x. Deployed in Taobao's "Guess What You Like" feed, RecGPT-V3 achieves consistent gains in large-scale online A/B tests: IPV +1.28%, CTR +1.00%, TC +1.97%, GMV +3.97%, while cutting end-to-end serving resource consumption by 52.4%.