G-LNS: Busca em Grande Vizinhança Generativa para Projeto Automático de Heurísticas Baseado em LLM
G-LNS: Generative Large Neighborhood Search for LLM-Based Automatic Heuristic Design
February 9, 2026
Autores: Baoyun Zhao, He Wang, Liang Zeng
cs.AI
Resumo
Embora os Modelos de Linguagem de Grande Porte (LLMs) tenham demonstrado potencial recentemente no Projeto Automatizado de Heurísticas (AHD), as abordagens existentes geralmente formulam o AHD em torno de regras de prioridade construtivas ou de orientação de busca local parametrizada, restringindo assim o espaço de busca a formas heurísticas fixas. Tais projetos oferecem capacidade limitada para exploração estrutural, dificultando a escape de ótimos locais profundos em Problemas de Otimização Combinatória (COPs) complexos. Neste trabalho, propomos o G-LNS, um framework evolutivo generativo que estende o AHD baseado em LLMs para o projeto automatizado de operadores de Busca em Grande Vizinhança (LNS). Diferente de métodos anteriores que evoluem heurísticas isoladamente, o G-LNS aproveita os LLMs para co-evoluir pares fortemente acoplados de operadores de destruição e reparo. Um mecanismo de avaliação cooperativa captura explicitamente sua interação, permitindo a descoberta de lógicas operacionais complementares que realizam conjuntamente uma disruptura e reconstrução estrutural eficazes. Experimentos extensos em benchmarks desafiadores de COPs, como o Problema do Caixeiro-Viajante (TSP) e o Problema de Roteamento de Veículos com Capacidade (CVRP), demonstram que o G-LNS supera significativamente os métodos de AHD baseados em LLMs, bem como solvers clássicos robustos. As heurísticas descobertas não apenas alcançam soluções quase ótimas com orçamentos computacionais reduzidos, mas também exibem generalização robusta através de distribuições de instâncias diversas e não vistas durante o treinamento.
English
While Large Language Models (LLMs) have recently shown promise in Automated Heuristic Design (AHD), existing approaches typically formulate AHD around constructive priority rules or parameterized local search guidance, thereby restricting the search space to fixed heuristic forms. Such designs offer limited capacity for structural exploration, making it difficult to escape deep local optima in complex Combinatorial Optimization Problems (COPs). In this work, we propose G-LNS, a generative evolutionary framework that extends LLM-based AHD to the automated design of Large Neighborhood Search (LNS) operators. Unlike prior methods that evolve heuristics in isolation, G-LNS leverages LLMs to co-evolve tightly coupled pairs of destroy and repair operators. A cooperative evaluation mechanism explicitly captures their interaction, enabling the discovery of complementary operator logic that jointly performs effective structural disruption and reconstruction. Extensive experiments on challenging COP benchmarks, such as Traveling Salesman Problems (TSP) and Capacitated Vehicle Routing Problems (CVRP), demonstrate that G-LNS significantly outperforms LLM-based AHD methods as well as strong classical solvers. The discovered heuristics not only achieve near-optimal solutions with reduced computational budgets but also exhibit robust generalization across diverse and unseen instance distributions.