LLM 기반 진화 탐색의 궤적 분석: 좋은 최적화 도구로서의 LLM의 조건

초록

최근 연구에서는 진화 및 에이전트 기반 최적화 시스템 내에서 대규모 언어 모델(LLM)을 조정하는 접근법의 가능성이 입증되었습니다. 그러나 이러한 최적화 성능 향상을 주도하는 메커니즘은 여전히 명확히 이해되지 않고 있습니다. 본 연구에서는 LLM 주도 진화 탐색에 대한 대규모 연구를 통해 8개 작업에 걸쳐 15개 LLM의 최적화 궤적을 수집하였습니다. 제로샷 문제 해결 능력은 최종 최적화 결과와 상관관계를 보이지만, 이는 변동성의 일부만을 설명합니다: 유사한 초기 능력을 가진 모델들도 극적으로 다른 탐색 궤적과 결과를 초래하는 경우가 많습니다. 이러한 궤적을 분석한 결과, 강력한 LLM 최적화기는 지역 정제자(local refiner)처럼 행동하여 의미 공간 내에서 탐색을 점차 국소화하면서 빈번한 점진적 개선을 생성하는 것으로 나타났습니다. 반대로, 약한 최적화기는 큰 의미적 변위(semantic drift)를 보이며, 간헐적인 돌파구 이후 정체 상태에 빠지는 특징을 보였습니다. 특히, 다양한 솔루션 신규성(novelty) 측정 지표들은 최종 성능을 예측하지 못했습니다. 신규성은 탐색이 솔루션 공간의 고성능 영역 주변으로 충분히 국소화되었을 때만 유익한 것으로 나타났습니다. 우리의 결과는 LLM 기반 최적화 시스템을 이해하고 개선하기 위한 궤적 분석의 중요성을 강조하며, 해당 시스템의 설계 및 학습을 위한 실질적인 통찰을 제공합니다.

English

Recent work has demonstrated the promise of orchestrating large language models (LLMs) within evolutionary and agentic optimization systems. However, the mechanisms driving these optimization gains remain poorly understood. In this work, we present a large-scale study of LLM-guided evolutionary search, collecting optimization trajectories for 15 LLMs across 8 tasks. Although zero-shot problem-solving ability correlates with final optimization outcomes, it explains only part of the variance: models with similar initial capability often induce dramatically different search trajectories and outcomes. By analyzing these trajectories, we find that strong LLM optimizers behave as local refiners, producing frequent incremental improvements while progressively localizing the search in semantic space. Conversely, weaker optimizers exhibit large semantic drift, with sporadic breakthroughs followed by stagnation. Notably, various measures of solution novelty do not predict final performance; novelty is beneficial only when the search remains sufficiently localized around high-performing regions of the solution space. Our results highlight the importance of trajectory analysis for understanding and improving LLM-based optimization systems and provide actionable insights for their design and training.

LLM 기반 진화 탐색의 궤적 분석: 좋은 최적화 도구로서의 LLM의 조건

What Makes an LLM a Good Optimizer? A Trajectory Analysis of LLM-Guided Evolutionary Search

초록

Support