FlowEvo: 워크플로우와 실행 가능한 스킬의 공진화를 통한 자기 진화 에이전트

초록

대규모 언어 모델 에이전트는 추론 시점에 워크플로우를 구성하여 복잡한 작업에 적응할 수 있지만, 한 에피소드에서 발견된 절차는 실행 후 일반적으로 폐기된다. 기존의 스킬 라이브러리는 재사용 가능한 실행 루틴을 제공하지만, 보통 오프라인에서 구축되며 에이전트 자신의 워크플로우에서 성장하지 않는다. 우리는 학습이 필요 없는 프레임워크인 FlowEvo를 제안하며, 이 프레임워크에서는 워크플로우와 스킬이 추론 시점에 공진화한다. FlowEvo는 성공적인 워크플로우를 호출 가능한 스킬로 컴파일하여 영속적 저장소에 보관하고, 검색된 스킬을 직접 실행하거나 새 워크플로우 구성을 위한 맥락으로 활용한다. 또한 각 스킬의 후속 작업 효용을 추적하고 부정적 전이를 유발하는 스킬의 사용을 억제한다. 공유된 GPT-4o-mini 백본을 사용한 FlowEvo는 ALFWorld, HumanEval, MBPP, GSM8K, MATH-500의 전체 표준 분할에서 8개 베이스라인 중 최고 정확도를 달성한다. ALFWorld에서는 가장 강력한 베이스라인보다 26.4포인트 높은 85.6%에 도달하면서 대략 3분의 1 수준의 토큰만을 사용한다. 7B에서 671B 파라미터에 이르는 10개의 기반 모델에 걸쳐 FlowEvo는 50개의 모델-데이터셋 비교 중 49개에서 ExpeL을 능가한다. 코드는 https://github.com/DEFENSE-SEU/FlowEvo에서 확인할 수 있다.

English

Large language model agents can adapt to complex tasks by constructing workflows at inference time, but procedures discovered in one episode are usually discarded after execution. Existing skill libraries provide reusable executable routines, but are typically assembled offline and do not grow from the agent's own workflows. We introduce FlowEvo, a training-free framework in which workflows and skills co-evolve at inference time. FlowEvo compiles successful workflows into callable skills, stores them in a persistent bank, and uses retrieved skills either through direct execution or as context for constructing new workflows. It also tracks each skill's downstream utility and suppresses skills that cause negative transfer. Using a shared GPT-4o-mini backbone, FlowEvo achieves the highest accuracy among 8 baselines on the full standard splits of ALFWorld, HumanEval, MBPP, GSM8K, and MATH-500. On ALFWorld, it reaches 85.6%, 26.4 points above the strongest baseline, while using roughly one third as many tokens. Across 10 base models spanning 7B to 671B parameters, FlowEvo outperforms ExpeL in 49 of 50 model-dataset comparisons. Code is available at https://github.com/DEFENSE-SEU/FlowEvo.