Progrès et défis des agents fondamentaux : de l'intelligence inspirée du cerveau aux systèmes évolutifs, collaboratifs et sécurisésAdvances and Challenges in Foundation Agents: From Brain-Inspired
Intelligence to Evolutionary, Collaborative, and Safe Systems
L'avènement des grands modèles de langage (LLMs) a catalysé un changement transformateur dans l'intelligence artificielle, ouvrant la voie à des agents intelligents avancés capables de raisonnement sophistiqué, de perception robuste et d'action polyvalente dans divers domaines. Alors que ces agents jouent un rôle croissant dans la recherche en IA et ses applications pratiques, leur conception, évaluation et amélioration continue présentent des défis complexes et multidimensionnels. Cette étude offre un aperçu complet, en encadrant les agents intelligents dans une architecture modulaire inspirée du cerveau, intégrant des principes issus des sciences cognitives, des neurosciences et de la recherche computationnelle. Nous structurons notre exploration en quatre parties interconnectées. Premièrement, nous plongeons dans le fondement modulaire des agents intelligents, en cartographiant systématiquement leurs modules cognitifs, perceptuels et opérationnels sur des fonctionnalités cérébrales humaines analogues, et en élucidant des composants clés tels que la mémoire, la modélisation du monde, le traitement des récompenses et les systèmes ressemblant aux émotions. Deuxièmement, nous discutons des mécanismes d'auto-amélioration et d'évolution adaptative, en explorant comment les agents affinent leurs capacités de manière autonome, s'adaptent à des environnements dynamiques et atteignent un apprentissage continu grâce à des paradigmes d'optimisation automatisée, y compris les stratégies émergentes d'AutoML et d'optimisation pilotée par les LLMs. Troisièmement, nous examinons les systèmes multi-agents collaboratifs et évolutifs, en étudiant l'intelligence collective émergeant des interactions, de la coopération et des structures sociétales des agents, en mettant en lumière les parallèles avec les dynamiques sociales humaines. Enfin, nous abordons l'impératif critique de construire des systèmes d'IA sûrs, sécurisés et bénéfiques, en mettant l'accent sur les menaces de sécurité intrinsèques et extrinsèques, l'alignement éthique, la robustesse et les stratégies d'atténuation pratiques nécessaires pour un déploiement fiable dans le monde réel.