La Vision du Calcul Autonome : Les Modèles de Langage à Grande Échelle Peuvent-ils la Rendre Réalité ?

The Vision of Autonomic Computing: Can LLMs Make It a Reality?

July 19, 2024

Auteurs: Zhiyang Zhang, Fangkai Yang, Xiaoting Qin, Jue Zhang, Qingwei Lin, Gong Cheng, Dongmei Zhang, Saravan Rajmohan, Qi Zhang

cs.AI

Résumé

La Vision du Calcul Autonome (ACV), proposée il y a plus de deux décennies, envisage des systèmes informatiques capables de s'auto-gérer à l'instar des organismes biologiques, s'adaptant de manière fluide à des environnements changeants. Malgré des décennies de recherche, la réalisation de l'ACV reste un défi en raison de la nature dynamique et complexe des systèmes informatiques modernes. Les récents progrès des Modèles de Langage à Grande Échelle (LLMs) offrent des solutions prometteuses à ces défis en exploitant leur vaste connaissance, leur compréhension du langage et leurs capacités d'automatisation des tâches. Cet article explore la faisabilité de réaliser l'ACV à travers un cadre multi-agent basé sur les LLMs pour la gestion des microservices. Nous introduisons une taxonomie à cinq niveaux pour la maintenance autonome des services et présentons un benchmark d'évaluation en ligne basé sur le projet de démonstration de microservices Sock Shop pour évaluer la performance de notre cadre. Nos résultats démontrent des progrès significatifs vers l'atteinte de l'autonomie de niveau 3, mettant en lumière l'efficacité des LLMs dans la détection et la résolution des problèmes au sein des architectures de microservices. Cette étude contribue à l'avancement du calcul autonome en pionnière de l'intégration des LLMs dans les cadres de gestion des microservices, ouvrant la voie à des systèmes informatiques plus adaptatifs et auto-gérés. Le code sera disponible à l'adresse https://aka.ms/ACV-LLM.

English

The Vision of Autonomic Computing (ACV), proposed over two decades ago, envisions computing systems that self-manage akin to biological organisms, adapting seamlessly to changing environments. Despite decades of research, achieving ACV remains challenging due to the dynamic and complex nature of modern computing systems. Recent advancements in Large Language Models (LLMs) offer promising solutions to these challenges by leveraging their extensive knowledge, language understanding, and task automation capabilities. This paper explores the feasibility of realizing ACV through an LLM-based multi-agent framework for microservice management. We introduce a five-level taxonomy for autonomous service maintenance and present an online evaluation benchmark based on the Sock Shop microservice demo project to assess our framework's performance. Our findings demonstrate significant progress towards achieving Level 3 autonomy, highlighting the effectiveness of LLMs in detecting and resolving issues within microservice architectures. This study contributes to advancing autonomic computing by pioneering the integration of LLMs into microservice management frameworks, paving the way for more adaptive and self-managing computing systems. The code will be made available at https://aka.ms/ACV-LLM.