CRINN: Kontrastives Reinforcement Learning für die Suche nach den nächsten Nachbarn in der Nähe

CRINN: Contrastive Reinforcement Learning for Approximate Nearest Neighbor Search

August 4, 2025

papers.authors: Xiaoya Li, Xiaofei Sun, Albert Wang, Chris Shum, Jiwei Li

cs.AI

papers.abstract

Algorithmen für die approximative Suche nach nächsten Nachbarn (Approximate Nearest-Neighbor Search, ANNS) sind für aktuelle KI-Anwendungen zunehmend entscheidend geworden, insbesondere bei retrieval-augmentierter Generierung (Retrieval-Augmented Generation, RAG) und agentenbasierten LLM-Anwendungen. In diesem Artikel stellen wir CRINN vor, ein neues Paradigma für ANNS-Algorithmen. CRINN behandelt die ANNS-Optimierung als ein Reinforcement-Learning-Problem, bei dem die Ausführungsgeschwindigkeit als Belohnungssignal dient. Dieser Ansatz ermöglicht die automatische Generierung von zunehmend schnelleren ANNS-Implementierungen unter Beibehaltung von Genauigkeitsbeschränkungen. Unsere experimentelle Auswertung zeigt die Effektivität von CRINN anhand von sechs weit verbreiteten NNS-Benchmark-Datensätzen. Im Vergleich zu state-of-the-art Open-Source-ANNS-Algorithmen erzielt CRINN die beste Leistung bei drei von ihnen (GIST-960-Euklidisch, MNIST-784-Euklidisch und GloVe-25-winklig) und teilt sich den ersten Platz bei zwei weiteren (SIFT-128-Euklidisch und GloVe-25-winklig). Die Bedeutung des Erfolgs von CRINN geht weit über die ANNS-Optimierung hinaus: Es bestätigt, dass LLMs, die mit Reinforcement Learning erweitert wurden, als effektives Werkzeug zur Automatisierung anspruchsvoller algorithmischer Optimierungen dienen können, die spezialisiertes Wissen und arbeitsintensive manuelle Verfeinerung erfordern. Der Code ist unter https://github.com/deepreinforce-ai/CRINN verfügbar.

English

Approximate nearest-neighbor search (ANNS) algorithms have become increasingly critical for recent AI applications, particularly in retrieval-augmented generation (RAG) and agent-based LLM applications. In this paper, we present CRINN, a new paradigm for ANNS algorithms. CRINN treats ANNS optimization as a reinforcement learning problem where execution speed serves as the reward signal. This approach enables the automatic generation of progressively faster ANNS implementations while maintaining accuracy constraints. Our experimental evaluation demonstrates CRINN's effectiveness across six widely-used NNS benchmark datasets. When compared against state-of-the-art open-source ANNS algorithms, CRINN achieves best performance on three of them (GIST-960-Euclidean, MNIST-784-Euclidean, and GloVe-25-angular), and tied for first place on two of them (SIFT-128-Euclidean and GloVe-25-angular). The implications of CRINN's success reach well beyond ANNS optimization: It validates that LLMs augmented with reinforcement learning can function as an effective tool for automating sophisticated algorithmic optimizations that demand specialized knowledge and labor-intensive manual refinement.Code can be found at https://github.com/deepreinforce-ai/CRINN