G-LNS: Ricerca a Grande Intorno Generativa per la Progettazione Automatica di Euristiche Basata su LLM
G-LNS: Generative Large Neighborhood Search for LLM-Based Automatic Heuristic Design
February 9, 2026
Autori: Baoyun Zhao, He Wang, Liang Zeng
cs.AI
Abstract
Mentre i Large Language Model (LLM) hanno recentemente mostrato potenzialità nell'Automated Heuristic Design (AHD), gli approcci esistenti tipicamente formulano l'AHD attorno a regole di priorità costruttive o a linee guida parametriche per la ricerca locale, limitando così lo spazio di ricerca a forme euristiche fisse. Tali progetti offrono una capacità limitata di esplorazione strutturale, rendendo difficile fuggire da profondi ottimi locali in complessi Problemi di Ottimizzazione Combinatoria (COP). In questo lavoro, proponiamo G-LNS, un framework evolutivo generativo che estende l'AHD basata su LLM alla progettazione automatizzata di operatori di Large Neighborhood Search (LNS). A differenza dei metodi precedenti che evolvono euristiche in isolamento, G-LNS sfrutta i LLM per co-evolvere coppie strettamente accoppiate di operatori di distruzione e riparazione. Un meccanismo di valutazione cooperativa cattura esplicitamente la loro interazione, permettendo la scoperta di logiche operative complementari che eseguono congiuntamente un'efficace perturbazione e ricostruzione strutturale. Esperimenti estesi su benchmark impegnativi di COP, come i Traveling Salesman Problems (TSP) e i Capacitated Vehicle Routing Problems (CVRP), dimostrano che G-LNS supera significativamente i metodi AHD basati su LLM, nonché forti solver classici. Le euristiche scoperte non solo raggiungono soluzioni quasi-ottimali con budget computazionali ridotti, ma mostrano anche una robusta generalizzazione su distribuzioni di istanze diverse e non viste durante l'addestramento.
English
While Large Language Models (LLMs) have recently shown promise in Automated Heuristic Design (AHD), existing approaches typically formulate AHD around constructive priority rules or parameterized local search guidance, thereby restricting the search space to fixed heuristic forms. Such designs offer limited capacity for structural exploration, making it difficult to escape deep local optima in complex Combinatorial Optimization Problems (COPs). In this work, we propose G-LNS, a generative evolutionary framework that extends LLM-based AHD to the automated design of Large Neighborhood Search (LNS) operators. Unlike prior methods that evolve heuristics in isolation, G-LNS leverages LLMs to co-evolve tightly coupled pairs of destroy and repair operators. A cooperative evaluation mechanism explicitly captures their interaction, enabling the discovery of complementary operator logic that jointly performs effective structural disruption and reconstruction. Extensive experiments on challenging COP benchmarks, such as Traveling Salesman Problems (TSP) and Capacitated Vehicle Routing Problems (CVRP), demonstrate that G-LNS significantly outperforms LLM-based AHD methods as well as strong classical solvers. The discovered heuristics not only achieve near-optimal solutions with reduced computational budgets but also exhibit robust generalization across diverse and unseen instance distributions.