Жесткий отбор негативных примеров для предметно-ориентированного поиска в корпоративных системах

Hard Negative Mining for Domain-Specific Retrieval in Enterprise Systems

May 23, 2025

Авторы: Hansa Meghwani, Amit Agarwal, Priyaranjan Pattnayak, Hitesh Laxmichand Patel, Srikant Panda

cs.AI

Аннотация

Корпоративные поисковые системы часто сталкиваются с трудностями при извлечении точной, предметно-ориентированной информации из-за семантических несоответствий и пересекающихся терминологий. Эти проблемы могут снижать производительность последующих приложений, таких как управление знаниями, поддержка клиентов и агенты генерации с усилением поиска. Для решения этой задачи мы предлагаем масштабируемую структуру для извлечения сложных негативных примеров, специально адаптированную для предметно-ориентированных корпоративных данных. Наш подход динамически выбирает семантически сложные, но контекстуально нерелевантные документы для улучшения развернутых моделей переранжирования. Наш метод интегрирует разнообразные модели эмбеддингов, выполняет снижение размерности и уникальным образом выбирает сложные негативные примеры, обеспечивая вычислительную эффективность и семантическую точность. Оценка на нашем проприетарном корпоративном корпусе (область облачных сервисов) демонстрирует значительное улучшение на 15% в MRR@3 и на 19% в MRR@10 по сравнению с современными базовыми методами и другими техниками негативной выборки. Дополнительная проверка на публичных предметно-ориентированных наборах данных (FiQA, Climate Fever, TechQA) подтверждает обобщаемость нашего метода и его готовность к применению в реальных условиях.

English

Enterprise search systems often struggle to retrieve accurate, domain-specific information due to semantic mismatches and overlapping terminologies. These issues can degrade the performance of downstream applications such as knowledge management, customer support, and retrieval-augmented generation agents. To address this challenge, we propose a scalable hard-negative mining framework tailored specifically for domain-specific enterprise data. Our approach dynamically selects semantically challenging but contextually irrelevant documents to enhance deployed re-ranking models. Our method integrates diverse embedding models, performs dimensionality reduction, and uniquely selects hard negatives, ensuring computational efficiency and semantic precision. Evaluation on our proprietary enterprise corpus (cloud services domain) demonstrates substantial improvements of 15\% in MRR@3 and 19\% in MRR@10 compared to state-of-the-art baselines and other negative sampling techniques. Further validation on public domain-specific datasets (FiQA, Climate Fever, TechQA) confirms our method's generalizability and readiness for real-world applications.