자율 컴퓨팅의 비전: LLM이 이를 현실로 만들 수 있을까?

The Vision of Autonomic Computing: Can LLMs Make It a Reality?

July 19, 2024

저자: Zhiyang Zhang, Fangkai Yang, Xiaoting Qin, Jue Zhang, Qingwei Lin, Gong Cheng, Dongmei Zhang, Saravan Rajmohan, Qi Zhang

cs.AI

초록

20여 년 전에 제안된 자율 컴퓨팅 비전(Autonomic Computing Vision, ACV)은 생물학적 유기체와 유사하게 스스로 관리하며 변화하는 환경에 원활하게 적응하는 컴퓨팅 시스템을 상정합니다. 수십 년간의 연구에도 불구하고, 현대 컴퓨팅 시스템의 동적이고 복잡한 특성으로 인해 ACV를 달성하는 것은 여전히 도전적인 과제로 남아 있습니다. 최근 대규모 언어 모델(Large Language Models, LLMs)의 발전은 방대한 지식, 언어 이해 능력, 그리고 작업 자동화 능력을 활용하여 이러한 과제에 대한 유망한 해결책을 제공합니다. 본 논문은 마이크로서비스 관리를 위한 LLM 기반 다중 에이전트 프레임워크를 통해 ACV를 실현할 가능성을 탐구합니다. 우리는 자율 서비스 유지를 위한 5단계 분류 체계를 소개하고, Sock Shop 마이크로서비스 데모 프로젝트를 기반으로 한 온라인 평가 벤치마크를 제시하여 프레임워크의 성능을 평가합니다. 연구 결과는 마이크로서비스 아키텍처 내에서 문제를 탐지하고 해결하는 데 있어 LLM의 효과성을 강조하며, Level 3 자율성 달성에 있어 상당한 진전을 보여줍니다. 이 연구는 LLM을 마이크로서비스 관리 프레임워크에 통합하는 선구적인 접근을 통해 자율 컴퓨팅을 발전시키는 데 기여하며, 더욱 적응적이고 자율적으로 관리되는 컴퓨팅 시스템을 위한 길을 열어줍니다. 코드는 https://aka.ms/ACV-LLM에서 공개될 예정입니다.

English

The Vision of Autonomic Computing (ACV), proposed over two decades ago, envisions computing systems that self-manage akin to biological organisms, adapting seamlessly to changing environments. Despite decades of research, achieving ACV remains challenging due to the dynamic and complex nature of modern computing systems. Recent advancements in Large Language Models (LLMs) offer promising solutions to these challenges by leveraging their extensive knowledge, language understanding, and task automation capabilities. This paper explores the feasibility of realizing ACV through an LLM-based multi-agent framework for microservice management. We introduce a five-level taxonomy for autonomous service maintenance and present an online evaluation benchmark based on the Sock Shop microservice demo project to assess our framework's performance. Our findings demonstrate significant progress towards achieving Level 3 autonomy, highlighting the effectiveness of LLMs in detecting and resolving issues within microservice architectures. This study contributes to advancing autonomic computing by pioneering the integration of LLMs into microservice management frameworks, paving the way for more adaptive and self-managing computing systems. The code will be made available at https://aka.ms/ACV-LLM.