API 호출 에이전트를 위한 환경 불필요 합성 데이터 생성

초록

API 호출 기반 대규모 언어 모델(LLM) 에이전트를 훈련하려면 대량의 고품질 궤적(trajectory) 데이터가 필요합니다. 그러나 이러한 데이터를 대규모로 수집하려면 일반적으로 실행 가능한 API와 현실적이고 사전 구축된 백엔드 데이터베이스를 갖춘 완전히 구현된 환경이 필요하므로 확장성에 큰 병목이 발생합니다. 이를 극복하기 위해, 우리는 LLM을 즉석 디지털 세계 모델로 활용하는 환경 없는 합성 데이터 생성 접근법을 제안합니다. 제안된 방법은 API 사양만 주어지면 에이전트와 상태를 유지하는 환경 간의 상호작용을 모방하는 궤적을 생성합니다. 구체적으로, 먼저 LLM이 제공된 API로 해결 가능한 다양한 작업을 생성합니다. 그런 다음 교사 에이전트가 각 작업을 반복적으로 해결하는 동안, LLM 시뮬레이터가 작업 컨텍스트와 시뮬레이션 이력을 조건으로 일관된 합성 API 응답을 생성합니다. 마지막으로 LLM 심사관이 궤적을 필터링하여 결과 데이터셋의 품질을 보장합니다. 우리는 정보 검색 및 상태 변경 작업을 모두 포함하는 까다로운 AppWorld 및 OfficeBench 벤치마크에서 접근법을 평가했습니다. 합성 데이터로 모델을 미세 조정한 결과 상당한 성능 향상을 얻었으며, 이는 실행 가능한 환경 없이도 API 호출 에이전트를 위한 효과적인 지도 학습 데이터를 생성할 수 있음을 보여줍니다. 본 결과는 LLM 기반 API 시뮬레이션이 다양한 API 생태계에 걸쳐 에이전트를 훈련하기 위한 실용적이고 확장 가능한 솔루션임을 입증합니다.

English

Training API-calling large language model (LLM) agents demands massive amounts of high-quality trajectories. However, collecting such data at scale typically requires fully implemented environments with executable APIs and realistic, pre-populated backend databases, creating a major bottleneck for scalability. To overcome this, we propose an environment-free synthetic data generation approach that leverages LLMs as on-the-fly digital world models. Given only API specifications, our method generates trajectories mimicking interactions between an agent and a stateful environment. Specifically, an LLM first generates diverse tasks solvable with the provided APIs. A teacher agent then iteratively solves each task while an LLM simulator generates coherent synthetic API responses conditioned on the task context and simulation history. Finally, an LLM judge filters the trajectories to ensure the quality of the resulting dataset. We evaluate our approach on the challenging AppWorld and OfficeBench benchmarks, which include both information-retrieval and state-changing tasks. Fine-tuning models on our synthetic data yields significant performance gains, demonstrating that effective supervision for API-calling agents can be generated without any executable environment. Our results establish LLM-based API simulation as a practical, scalable solution for training agents across diverse API ecosystems.