複合AIシステムの最適化：手法、課題、および将来の方向性に関する調査

要旨

大規模言語モデル（LLMs）およびAIシステムの最近の進展により、複雑なAIワークフローの設計と最適化においてパラダイムシフトが生じている。複数のコンポーネントを統合することにより、複合AIシステムは高度なタスクを遂行する能力をますます向上させている。しかし、これらのシステムが複雑化するにつれて、個々のコンポーネントだけでなく、それらの相互作用を最適化する新たな課題が浮上している。従来の最適化手法である教師ありファインチューニング（SFT）や強化学習（RL）が依然として基盤をなす一方で、自然言語フィードバックの台頭は、特に非微分可能なシステムの最適化において有望な新たなアプローチを提供している。本論文では、数値的および言語ベースの技術を含む、複合AIシステムの最適化に関する最近の進展を体系的にレビューする。複合AIシステム最適化の概念を形式化し、既存の手法をいくつかの主要な次元に沿って分類し、この急速に進化する分野における未解決の研究課題と今後の方向性を強調する。調査対象の論文リストはhttps://github.com/MiuLab/AISysOpt-Surveyで公開されている。

English

Recent advancements in large language models (LLMs) and AI systems have led to a paradigm shift in the design and optimization of complex AI workflows. By integrating multiple components, compound AI systems have become increasingly adept at performing sophisticated tasks. However, as these systems grow in complexity, new challenges arise in optimizing not only individual components but also their interactions. While traditional optimization methods such as supervised fine-tuning (SFT) and reinforcement learning (RL) remain foundational, the rise of natural language feedback introduces promising new approaches, especially for optimizing non-differentiable systems. This paper provides a systematic review of recent progress in optimizing compound AI systems, encompassing both numerical and language-based techniques. We formalize the notion of compound AI system optimization, classify existing methods along several key dimensions, and highlight open research challenges and future directions in this rapidly evolving field. A list of surveyed papers is publicly available at https://github.com/MiuLab/AISysOpt-Survey.

複合AIシステムの最適化：手法、課題、および将来の方向性に関する調査

Compound AI Systems Optimization: A Survey of Methods, Challenges, and Future Directions

要旨

Support