Optimización de Sistemas de IA Compuestos: Una Revisión de Métodos, Desafíos y Direcciones Futuras

Compound AI Systems Optimization: A Survey of Methods, Challenges, and Future Directions

June 9, 2025

Autores: Yu-Ang Lee, Guan-Ting Yi, Mei-Yi Liu, Jui-Chao Lu, Guan-Bo Yang, Yun-Nung Chen

cs.AI

Resumen

Los recientes avances en los modelos de lenguaje de gran escala (LLMs, por sus siglas en inglés) y los sistemas de inteligencia artificial (IA) han provocado un cambio de paradigma en el diseño y la optimización de flujos de trabajo complejos de IA. Al integrar múltiples componentes, los sistemas compuestos de IA se han vuelto cada vez más hábiles para realizar tareas sofisticadas. Sin embargo, a medida que estos sistemas aumentan en complejidad, surgen nuevos desafíos en la optimización no solo de los componentes individuales, sino también de sus interacciones. Si bien los métodos tradicionales de optimización, como el ajuste fino supervisado (SFT, por sus siglas en inglés) y el aprendizaje por refuerzo (RL, por sus siglas en inglés), siguen siendo fundamentales, el surgimiento de la retroalimentación en lenguaje natural introduce enfoques prometedores, especialmente para la optimización de sistemas no diferenciables. Este artículo ofrece una revisión sistemática de los avances recientes en la optimización de sistemas compuestos de IA, abarcando tanto técnicas numéricas como basadas en lenguaje. Formalizamos la noción de optimización de sistemas compuestos de IA, clasificamos los métodos existentes según varias dimensiones clave y destacamos los desafíos de investigación abiertos y las direcciones futuras en este campo en rápida evolución. Una lista de los artículos revisados está disponible públicamente en https://github.com/MiuLab/AISysOpt-Survey.

English

Recent advancements in large language models (LLMs) and AI systems have led to a paradigm shift in the design and optimization of complex AI workflows. By integrating multiple components, compound AI systems have become increasingly adept at performing sophisticated tasks. However, as these systems grow in complexity, new challenges arise in optimizing not only individual components but also their interactions. While traditional optimization methods such as supervised fine-tuning (SFT) and reinforcement learning (RL) remain foundational, the rise of natural language feedback introduces promising new approaches, especially for optimizing non-differentiable systems. This paper provides a systematic review of recent progress in optimizing compound AI systems, encompassing both numerical and language-based techniques. We formalize the notion of compound AI system optimization, classify existing methods along several key dimensions, and highlight open research challenges and future directions in this rapidly evolving field. A list of surveyed papers is publicly available at https://github.com/MiuLab/AISysOpt-Survey.