DeepCodeSeek: Поиск API в реальном времени для контекстно-зависимой генерации кода

DeepCodeSeek: Real-Time API Retrieval for Context-Aware Code Generation

September 30, 2025

Авторы: Esakkivel Esakkiraja, Denis Akhiyarov, Aditya Shanmugham, Chitra Ganapathy

cs.AI

Аннотация

Современные методы поиска ограничены стандартными приложениями RAG для запросов и документов. В данной статье мы предлагаем новую методику расширения кода и индекса для прогнозирования необходимых API, что напрямую обеспечивает высококачественную сквозную генерацию кода для автодополнения и агентных приложений ИИ. Мы решаем проблему утечек API в текущих наборах данных для бенчмаркинга кода, представляя новый набор данных, созданный на основе реальных Script Includes из ServiceNow, которые отражают сложность неясного намерения использования API в коде. Наши метрики оценки показывают, что этот метод достигает точности извлечения в топ-40 на уровне 87,86%, предоставляя критически важный контекст с API, необходимый для успешной последующей генерации кода. Для обеспечения прогнозирования в реальном времени мы разработали комплексный посттренировочный конвейер, который оптимизирует компактный реранкер объемом 0,6 млрд параметров за счет генерации синтетических наборов данных, контролируемого тонкого настройки и обучения с подкреплением. Этот подход позволяет нашему компактному реранкеру превосходить гораздо более крупную модель объемом 8 млрд параметров, сохраняя при этом снижение задержки в 2,5 раза, эффективно решая нюансы корпоративного кода без вычислительных затрат, характерных для более крупных моделей.

English

Current search techniques are limited to standard RAG query-document applications. In this paper, we propose a novel technique to expand the code and index for predicting the required APIs, directly enabling high-quality, end-to-end code generation for auto-completion and agentic AI applications. We address the problem of API leaks in current code-to-code benchmark datasets by introducing a new dataset built from real-world ServiceNow Script Includes that capture the challenge of unclear API usage intent in the code. Our evaluation metrics show that this method achieves 87.86% top-40 retrieval accuracy, allowing the critical context with APIs needed for successful downstream code generation. To enable real-time predictions, we develop a comprehensive post-training pipeline that optimizes a compact 0.6B reranker through synthetic dataset generation, supervised fine-tuning, and reinforcement learning. This approach enables our compact reranker to outperform a much larger 8B model while maintaining 2.5x reduced latency, effectively addressing the nuances of enterprise-specific code without the computational overhead of larger models.