Avances y Desafíos en Agentes Fundamentales: Desde la Inteligencia Inspirada en el Cerebro Hacia Sistemas Evolutivos, Colaborativos y Seguros

Advances and Challenges in Foundation Agents: From Brain-Inspired Intelligence to Evolutionary, Collaborative, and Safe Systems

March 31, 2025

Autores: Bang Liu, Xinfeng Li, Jiayi Zhang, Jinlin Wang, Tanjin He, Sirui Hong, Hongzhang Liu, Shaokun Zhang, Kaitao Song, Kunlun Zhu, Yuheng Cheng, Suyuchen Wang, Xiaoqiang Wang, Yuyu Luo, Haibo Jin, Peiyan Zhang, Ollie Liu, Jiaqi Chen, Huan Zhang, Zhaoyang Yu, Haochen Shi, Boyan Li, Dekun Wu, Fengwei Teng, Xiaojun Jia, Jiawei Xu, Jinyu Xiang, Yizhang Lin, Tianming Liu, Tongliang Liu, Yu Su, Huan Sun, Glen Berseth, Jianyun Nie, Ian Foster, Logan Ward, Qingyun Wu, Yu Gu, Mingchen Zhuge, Xiangru Tang, Haohan Wang, Jiaxuan You, Chi Wang, Jian Pei, Qiang Yang, Xiaoliang Qi, Chenglin Wu

cs.AI

Resumen

El advenimiento de los modelos de lenguaje de gran escala (LLMs, por sus siglas en inglés) ha catalizado un cambio transformador en la inteligencia artificial, allanando el camino para agentes inteligentes avanzados capaces de razonamiento sofisticado, percepción robusta y acción versátil en diversos dominios. A medida que estos agentes impulsan cada vez más la investigación y las aplicaciones prácticas de la IA, su diseño, evaluación y mejora continua presentan desafíos intrincados y multifacéticos. Este estudio ofrece una visión integral, enmarcando a los agentes inteligentes dentro de una arquitectura modular inspirada en el cerebro que integra principios de la ciencia cognitiva, la neurociencia y la investigación computacional. Estructuramos nuestra exploración en cuatro partes interconectadas. Primero, profundizamos en la base modular de los agentes inteligentes, mapeando sistemáticamente sus módulos cognitivos, perceptivos y operativos en funcionalidades análogas del cerebro humano, y elucidando componentes clave como la memoria, el modelado del mundo, el procesamiento de recompensas y sistemas similares a las emociones. Segundo, discutimos los mecanismos de auto-mejora y evolución adaptativa, explorando cómo los agentes refinan autónomamente sus capacidades, se adaptan a entornos dinámicos y logran un aprendizaje continuo a través de paradigmas de optimización automatizada, incluyendo estrategias emergentes de AutoML y optimización impulsada por LLMs. Tercero, examinamos los sistemas multiagente colaborativos y evolutivos, investigando la inteligencia colectiva que emerge de las interacciones, la cooperación y las estructuras sociales de los agentes, destacando paralelismos con las dinámicas sociales humanas. Finalmente, abordamos el imperativo crítico de construir sistemas de IA seguros, confiables y beneficiosos, enfatizando las amenazas de seguridad intrínsecas y extrínsecas, la alineación ética, la robustez y las estrategias prácticas de mitigación necesarias para un despliegue confiable en el mundo real.

English

The advent of large language models (LLMs) has catalyzed a transformative shift in artificial intelligence, paving the way for advanced intelligent agents capable of sophisticated reasoning, robust perception, and versatile action across diverse domains. As these agents increasingly drive AI research and practical applications, their design, evaluation, and continuous improvement present intricate, multifaceted challenges. This survey provides a comprehensive overview, framing intelligent agents within a modular, brain-inspired architecture that integrates principles from cognitive science, neuroscience, and computational research. We structure our exploration into four interconnected parts. First, we delve into the modular foundation of intelligent agents, systematically mapping their cognitive, perceptual, and operational modules onto analogous human brain functionalities, and elucidating core components such as memory, world modeling, reward processing, and emotion-like systems. Second, we discuss self-enhancement and adaptive evolution mechanisms, exploring how agents autonomously refine their capabilities, adapt to dynamic environments, and achieve continual learning through automated optimization paradigms, including emerging AutoML and LLM-driven optimization strategies. Third, we examine collaborative and evolutionary multi-agent systems, investigating the collective intelligence emerging from agent interactions, cooperation, and societal structures, highlighting parallels to human social dynamics. Finally, we address the critical imperative of building safe, secure, and beneficial AI systems, emphasizing intrinsic and extrinsic security threats, ethical alignment, robustness, and practical mitigation strategies necessary for trustworthy real-world deployment.