복합 AI 시스템 최적화: 방법론, 도전 과제 및 미래 방향에 대한 조사

초록

대규모 언어 모델(LLMs)과 AI 시스템의 최근 발전은 복잡한 AI 워크플로우의 설계 및 최적화에 있어 패러다임 전환을 가져왔다. 다중 구성 요소를 통합함으로써, 복합 AI 시스템은 정교한 작업을 수행하는 데 점점 더 능숙해지고 있다. 그러나 이러한 시스템이 복잡성에서 성장함에 따라, 개별 구성 요소뿐만 아니라 그들 간의 상호작용을 최적화하는 데 새로운 도전 과제가 대두되고 있다. 지도 미세 조정(SFT) 및 강화 학습(RL)과 같은 전통적인 최적화 방법이 여전히 기초를 이루고 있지만, 자연어 피드백의 등장은 특히 미분 불가능한 시스템을 최적화하는 데 있어 유망한 새로운 접근 방식을 소개한다. 본 논문은 수치 기반 및 언어 기반 기법을 포괄하여 복합 AI 시스템 최적화의 최근 진전을 체계적으로 검토한다. 우리는 복합 AI 시스템 최적화의 개념을 공식화하고, 기존 방법을 여러 주요 차원에 따라 분류하며, 이 빠르게 진화하는 분야에서의 개방형 연구 과제와 미래 방향을 강조한다. 조사된 논문 목록은 https://github.com/MiuLab/AISysOpt-Survey에서 공개적으로 확인할 수 있다.

English

Recent advancements in large language models (LLMs) and AI systems have led to a paradigm shift in the design and optimization of complex AI workflows. By integrating multiple components, compound AI systems have become increasingly adept at performing sophisticated tasks. However, as these systems grow in complexity, new challenges arise in optimizing not only individual components but also their interactions. While traditional optimization methods such as supervised fine-tuning (SFT) and reinforcement learning (RL) remain foundational, the rise of natural language feedback introduces promising new approaches, especially for optimizing non-differentiable systems. This paper provides a systematic review of recent progress in optimizing compound AI systems, encompassing both numerical and language-based techniques. We formalize the notion of compound AI system optimization, classify existing methods along several key dimensions, and highlight open research challenges and future directions in this rapidly evolving field. A list of surveyed papers is publicly available at https://github.com/MiuLab/AISysOpt-Survey.

복합 AI 시스템 최적화: 방법론, 도전 과제 및 미래 방향에 대한 조사

Compound AI Systems Optimization: A Survey of Methods, Challenges, and Future Directions

초록

Support