G-LNS: Búsqueda de Vecindario Grande Generativa para el Diseño Automático de Heurísticas Basado en LLM
G-LNS: Generative Large Neighborhood Search for LLM-Based Automatic Heuristic Design
February 9, 2026
Autores: Baoyun Zhao, He Wang, Liang Zeng
cs.AI
Resumen
Si bien los Modelos de Lenguaje a Gran Escala (LLMs) han mostrado recientemente potencial en el Diseño Automatizado de Heurísticas (AHD), los enfoques existentes suelen formular el AHD en torno a reglas de prioridad constructivas o a la guía parametrizada de búsqueda local, restringiendo así el espacio de búsqueda a formas heurísticas fijas. Dichos diseños ofrecen una capacidad limitada para la exploración estructural, lo que dificulta escapar de óptimos locales profundos en Problemas de Optimización Combinatoria (COPs) complejos. En este trabajo, proponemos G-LNS, un marco evolutivo generativo que extiende el AHD basado en LLMs al diseño automatizado de operadores de Búsqueda en Vecindarios Grandes (LNS). A diferencia de métodos previos que evolucionan heurísticas de forma aislada, G-LNS aprovecha los LLMs para co-evolucionar pares estrechamente acoplados de operadores de destrucción y reparación. Un mecanismo de evaluación cooperativa captura explícitamente su interacción, permitiendo el descubrimiento de lógicas de operadores complementarias que realizan conjuntamente una disruptura y reconstrucción estructural efectiva. Experimentos exhaustivos en benchmarks desafiantes de COPs, como los Problemas del Viajante de Comercio (TSP) y los Problemas de Ruteo de Vehículos con Capacidad (CVRP), demuestran que G-LNS supera significativamente a los métodos de AHD basados en LLMs, así como a sólidos solucionadores clásicos. Las heurísticas descubiertas no solo logran soluciones casi óptimas con presupuestos computacionales reducidos, sino que también exhiben una generalización robusta en distribuciones de instancias diversas y no vistas.
English
While Large Language Models (LLMs) have recently shown promise in Automated Heuristic Design (AHD), existing approaches typically formulate AHD around constructive priority rules or parameterized local search guidance, thereby restricting the search space to fixed heuristic forms. Such designs offer limited capacity for structural exploration, making it difficult to escape deep local optima in complex Combinatorial Optimization Problems (COPs). In this work, we propose G-LNS, a generative evolutionary framework that extends LLM-based AHD to the automated design of Large Neighborhood Search (LNS) operators. Unlike prior methods that evolve heuristics in isolation, G-LNS leverages LLMs to co-evolve tightly coupled pairs of destroy and repair operators. A cooperative evaluation mechanism explicitly captures their interaction, enabling the discovery of complementary operator logic that jointly performs effective structural disruption and reconstruction. Extensive experiments on challenging COP benchmarks, such as Traveling Salesman Problems (TSP) and Capacitated Vehicle Routing Problems (CVRP), demonstrate that G-LNS significantly outperforms LLM-based AHD methods as well as strong classical solvers. The discovered heuristics not only achieve near-optimal solutions with reduced computational budgets but also exhibit robust generalization across diverse and unseen instance distributions.