OnePiece: Внедрение контекстной инженерии и логического анализа в промышленную систему каскадного ранжирования

OnePiece: Bringing Context Engineering and Reasoning to Industrial Cascade Ranking System

September 22, 2025

Авторы: Sunhao Dai, Jiakai Tang, Jiahua Wu, Kun Wang, Yuxuan Zhu, Bingjun Chen, Bangyang Hong, Yu Zhao, Cong Fu, Kangle Wu, Yabo Ni, Anxiang Zeng, Wenjie Wang, Xu Chen, Jun Xu, See-Kiong Ng

cs.AI

Аннотация

Несмотря на растущий интерес к воспроизведению масштабируемого успеха крупных языковых моделей (LLM) в промышленных поисковых и рекомендательных системах, большинство существующих промышленных усилий ограничиваются внедрением архитектур Transformer, которые приносят лишь инкрементальные улучшения по сравнению с мощными моделями рекомендаций на основе глубокого обучения (DLRM). С точки зрения фундаментальных принципов, прорывы LLM обусловлены не только их архитектурой, но и двумя дополнительными механизмами: контекстной инженерией, которая обогащает исходные входные запросы контекстными подсказками для более эффективного раскрытия возможностей модели, и многошаговым рассуждением, которое итеративно уточняет выходные данные модели через промежуточные пути рассуждений. Однако эти два механизма и их потенциал для достижения существенных улучшений остаются в значительной степени неисследованными в промышленных системах ранжирования. В данной статье мы предлагаем OnePiece, унифицированную структуру, которая бесшовно интегрирует контекстную инженерию и рассуждения в стиле LLM как в модели поиска, так и в модели ранжирования промышленных каскадных конвейеров. OnePiece построена на чистой архитектуре Transformer и дополнительно вводит три ключевых инновации: (1) структурированная контекстная инженерия, которая обогащает историю взаимодействий сигналами предпочтений и сценариев и объединяет их в структурированную токенизированную входную последовательность как для поиска, так и для ранжирования; (2) блочное латентное рассуждение, которое оснащает модель многошаговым уточнением представлений и масштабирует пропускную способность рассуждений через размер блока; (3) прогрессивное многозадачное обучение, которое использует цепочки пользовательских отзывов для эффективного контроля шагов рассуждений во время обучения. OnePiece была внедрена в основной персонализированный поисковый сценарий Shopee и демонстрирует стабильные улучшения в различных ключевых бизнес-метриках, включая более чем +2% GMV/UU и увеличение рекламных доходов на +2,90%.

English

Despite the growing interest in replicating the scaled success of large language models (LLMs) in industrial search and recommender systems, most existing industrial efforts remain limited to transplanting Transformer architectures, which bring only incremental improvements over strong Deep Learning Recommendation Models (DLRMs). From a first principle perspective, the breakthroughs of LLMs stem not only from their architectures but also from two complementary mechanisms: context engineering, which enriches raw input queries with contextual cues to better elicit model capabilities, and multi-step reasoning, which iteratively refines model outputs through intermediate reasoning paths. However, these two mechanisms and their potential to unlock substantial improvements remain largely underexplored in industrial ranking systems. In this paper, we propose OnePiece, a unified framework that seamlessly integrates LLM-style context engineering and reasoning into both retrieval and ranking models of industrial cascaded pipelines. OnePiece is built on a pure Transformer backbone and further introduces three key innovations: (1) structured context engineering, which augments interaction history with preference and scenario signals and unifies them into a structured tokenized input sequence for both retrieval and ranking; (2) block-wise latent reasoning, which equips the model with multi-step refinement of representations and scales reasoning bandwidth via block size; (3) progressive multi-task training, which leverages user feedback chains to effectively supervise reasoning steps during training. OnePiece has been deployed in the main personalized search scenario of Shopee and achieves consistent online gains across different key business metrics, including over +2% GMV/UU and a +2.90% increase in advertising revenue.