RecGPT-V3 기술 보고서

초록

대규모 언어 모델(LLM)은 추천 시스템을 과거 행동의 동시 발생 패턴 매칭에서 그 행동을 유발하는 의도 추론으로 변환시키고 있습니다. RecGPT-V1은 사용자 이해를 중심으로 타오바오에서 이 패러다임을 개척했으며, RecGPT-V2는 조정된 다중 에이전트 추론을 통해 이를 확장했습니다. 두 모델 모두 실제 운영 환경에 배포되어 사용자 경험과 상업적 성과에서 일관된 개선을 이루고 있습니다. 그러나 RecGPT를 대규모로 운영하면서 세 가지 과제가 드러났습니다: (1) 상태 비저장 행동 모델링 – 각 요청이 사용자의 전체 이력을 다시 처리하여 계산 자원을 낭비하고 이전 분석을 폐기함, (2) 태그-아이템 정보 병목 – 자연어 태그가 사용자 이해와 아이템 기반 간에 손실이 있는 채널을 형성함, (3) 비효율적인 명시적 추론 – 긴 사고 사슬이 감당할 수 없는 지연 시간과 계산 오버헤드를 초래함. 우리는 자연어를 통한 개방형 세계 지식 추론과 구체적인 아이템 기반을 위한 의미론적 ID(SID)를 사용하는 상태 저장 하이브리드 모달 추천기인 RecGPT-V3를 제시합니다. 메모리 허브는 장기적인 행동을 압축된 단위로 증류하는 구조화되고 지속적으로 진화하는 사용자 메모리를 유지하여 사용자 모델링 계산을 55.8% 절감합니다. 하이브리드 모달 기초 모델은 LLM이 텍스트 태그와 SID를 공동으로 추론할 수 있게 하여 아이템 공간으로의 고대역폭 채널을 엽니다. 잠재 의도 추론은 장황한 근거를 읽을 수 있는 설명으로 디코딩 가능한 소형 학습 가능 잠재 토큰으로 내면화하여 출력 토큰 비용을 200배 절감합니다. 타오바오의 '당신이 좋아할 만한 상품' 피드에 배포된 RecGPT-V3는 대규모 온라인 A/B 테스트에서 일관된 개선을 달성했습니다: IPV +1.28%, CTR +1.00%, TC +1.97%, GMV +3.97%, 종단 간 서빙 리소스 소비는 52.4% 절감했습니다.

English

Large language models (LLMs) are transforming recommender systems from matching co-occurrence patterns in historical behavior toward reasoning about the intent that drives it. RecGPT-V1 pioneered this paradigm on Taobao by centering user understanding, and RecGPT-V2 scaled it via coordinated multi-agent reasoning; both are deployed in production with consistent gains in user experience and commercial outcomes. However, operating RecGPT at scale reveals three challenges: (1) stateless behavior modeling, where each request reprocesses full user history, wasting computation and discarding prior analysis; (2) a tag-to-item information bottleneck, where natural-language tags form a lossy channel between user understanding and item grounding; and (3) inefficient explicit reasoning, whose lengthy chain-of-thought incurs untenable latency and compute overhead. We present RecGPT-V3, a stateful, hybrid-modal recommender that reasons over natural language for open-world knowledge and Semantic IDs (SIDs) for concrete item grounding. A Memory Hub maintains structured, continually evolving user memory that distills long-horizon behavior into condensed units, cutting user-modeling computation by 55.8%. A Hybrid-modal Foundation Model allows the LLM jointly reason over text tags and SIDs, opening a high-bandwidth channel into the item space. Latent Intent Reasoning internalizes verbose rationales into compact learnable latent tokens that remain decodable into readable explanations, lowering output token cost by 200x. Deployed in Taobao's "Guess What You Like" feed, RecGPT-V3 achieves consistent gains in large-scale online A/B tests: IPV +1.28%, CTR +1.00%, TC +1.97%, GMV +3.97%, while cutting end-to-end serving resource consumption by 52.4%.