La Visión de la Computación Autonómica: ¿Pueden los LLMs Hacerla Realidad?

The Vision of Autonomic Computing: Can LLMs Make It a Reality?

July 19, 2024

Autores: Zhiyang Zhang, Fangkai Yang, Xiaoting Qin, Jue Zhang, Qingwei Lin, Gong Cheng, Dongmei Zhang, Saravan Rajmohan, Qi Zhang

cs.AI

Resumen

La Visión de la Computación Autonómica (ACV), propuesta hace más de dos décadas, visualiza sistemas informáticos que se autogestionan de manera similar a los organismos biológicos, adaptándose sin problemas a entornos cambiantes. A pesar de décadas de investigación, lograr la ACV sigue siendo un desafío debido a la naturaleza dinámica y compleja de los sistemas informáticos modernos. Los avances recientes en Modelos de Lenguaje Grandes (LLMs) ofrecen soluciones prometedoras a estos desafíos al aprovechar su extenso conocimiento, comprensión del lenguaje y capacidades de automatización de tareas. Este artículo explora la viabilidad de realizar la ACV a través de un marco multiagente basado en LLM para la gestión de microservicios. Introducimos una taxonomía de cinco niveles para el mantenimiento autónomo de servicios y presentamos un banco de pruebas de evaluación en línea basado en el proyecto de demostración de microservicios Sock Shop para evaluar el rendimiento de nuestro marco. Nuestros hallazgos demuestran un progreso significativo hacia el logro del Nivel 3 de autonomía, resaltando la efectividad de los LLM en la detección y resolución de problemas dentro de arquitecturas de microservicios. Este estudio contribuye al avance de la computación autonómica al ser pionero en la integración de LLM en marcos de gestión de microservicios, allanando el camino para sistemas informáticos más adaptables y autogestionados. El código estará disponible en https://aka.ms/ACV-LLM.

English

The Vision of Autonomic Computing (ACV), proposed over two decades ago, envisions computing systems that self-manage akin to biological organisms, adapting seamlessly to changing environments. Despite decades of research, achieving ACV remains challenging due to the dynamic and complex nature of modern computing systems. Recent advancements in Large Language Models (LLMs) offer promising solutions to these challenges by leveraging their extensive knowledge, language understanding, and task automation capabilities. This paper explores the feasibility of realizing ACV through an LLM-based multi-agent framework for microservice management. We introduce a five-level taxonomy for autonomous service maintenance and present an online evaluation benchmark based on the Sock Shop microservice demo project to assess our framework's performance. Our findings demonstrate significant progress towards achieving Level 3 autonomy, highlighting the effectiveness of LLMs in detecting and resolving issues within microservice architectures. This study contributes to advancing autonomic computing by pioneering the integration of LLMs into microservice management frameworks, paving the way for more adaptive and self-managing computing systems. The code will be made available at https://aka.ms/ACV-LLM.