基盤エージェントの進展と課題：脳に着想を得た知能から進化的、協調的、安全なシステムへ

Advances and Challenges in Foundation Agents: From Brain-Inspired Intelligence to Evolutionary, Collaborative, and Safe Systems

March 31, 2025

著者: Bang Liu, Xinfeng Li, Jiayi Zhang, Jinlin Wang, Tanjin He, Sirui Hong, Hongzhang Liu, Shaokun Zhang, Kaitao Song, Kunlun Zhu, Yuheng Cheng, Suyuchen Wang, Xiaoqiang Wang, Yuyu Luo, Haibo Jin, Peiyan Zhang, Ollie Liu, Jiaqi Chen, Huan Zhang, Zhaoyang Yu, Haochen Shi, Boyan Li, Dekun Wu, Fengwei Teng, Xiaojun Jia, Jiawei Xu, Jinyu Xiang, Yizhang Lin, Tianming Liu, Tongliang Liu, Yu Su, Huan Sun, Glen Berseth, Jianyun Nie, Ian Foster, Logan Ward, Qingyun Wu, Yu Gu, Mingchen Zhuge, Xiangru Tang, Haohan Wang, Jiaxuan You, Chi Wang, Jian Pei, Qiang Yang, Xiaoliang Qi, Chenglin Wu

cs.AI

要旨

大規模言語モデル（LLM）の登場は、人工知能に変革をもたらし、高度な推論、堅牢な知覚、多様な領域での汎用的な行動を可能とする先進的インテリジェントエージェントの道を切り開きました。これらのエージェントがAI研究や実用化をますます牽引する中、その設計、評価、継続的改善は複雑で多面的な課題を提示しています。本調査では、認知科学、神経科学、計算機研究の原則を統合したモジュール型の脳に着想を得たアーキテクチャの中で、インテリジェントエージェントを包括的に概観します。私たちの探求は、四つの相互接続された部分に構造化されています。まず、インテリジェントエージェントのモジュール基盤に深く入り込み、その認知、知覚、操作モジュールを人間の脳機能に系統的にマッピングし、記憶、世界モデリング、報酬処理、感情に似たシステムなどのコアコンポーネントを明らかにします。次に、自己強化と適応的進化のメカニズムについて議論し、エージェントがどのように自律的に能力を向上させ、動的環境に適応し、AutoMLやLLM駆動の最適化戦略を含む自動化された最適化パラダイムを通じて継続的学習を達成するかを探ります。第三に、協調的および進化的なマルチエージェントシステムを検討し、エージェント間の相互作用、協力、社会構造から生まれる集団知能を調査し、人間の社会動態との類似点を強調します。最後に、安全でセキュアかつ有益なAIシステムを構築するための重要な要請に取り組み、信頼できる実世界展開に必要な内在的および外在的なセキュリティ脅威、倫理的整合性、堅牢性、実践的な緩和策を強調します。

English

The advent of large language models (LLMs) has catalyzed a transformative shift in artificial intelligence, paving the way for advanced intelligent agents capable of sophisticated reasoning, robust perception, and versatile action across diverse domains. As these agents increasingly drive AI research and practical applications, their design, evaluation, and continuous improvement present intricate, multifaceted challenges. This survey provides a comprehensive overview, framing intelligent agents within a modular, brain-inspired architecture that integrates principles from cognitive science, neuroscience, and computational research. We structure our exploration into four interconnected parts. First, we delve into the modular foundation of intelligent agents, systematically mapping their cognitive, perceptual, and operational modules onto analogous human brain functionalities, and elucidating core components such as memory, world modeling, reward processing, and emotion-like systems. Second, we discuss self-enhancement and adaptive evolution mechanisms, exploring how agents autonomously refine their capabilities, adapt to dynamic environments, and achieve continual learning through automated optimization paradigms, including emerging AutoML and LLM-driven optimization strategies. Third, we examine collaborative and evolutionary multi-agent systems, investigating the collective intelligence emerging from agent interactions, cooperation, and societal structures, highlighting parallels to human social dynamics. Finally, we address the critical imperative of building safe, secure, and beneficial AI systems, emphasizing intrinsic and extrinsic security threats, ethical alignment, robustness, and practical mitigation strategies necessary for trustworthy real-world deployment.