De Visie van Autonoom Rekenen: Kunnen LLM's Het Realiseren?

The Vision of Autonomic Computing: Can LLMs Make It a Reality?

July 19, 2024

Auteurs: Zhiyang Zhang, Fangkai Yang, Xiaoting Qin, Jue Zhang, Qingwei Lin, Gong Cheng, Dongmei Zhang, Saravan Rajmohan, Qi Zhang

cs.AI

Samenvatting

De Visie van Autonoom Rekenen (ACV), meer dan twee decennia geleden voorgesteld, voorziet rekeningsystemen die zichzelf beheren, vergelijkbaar met biologische organismen, en naadloos aanpassen aan veranderende omgevingen. Ondanks decennia van onderzoek blijft het bereiken van ACV een uitdaging vanwege de dynamische en complexe aard van moderne rekeningsystemen. Recente vooruitgang in Grote Taalmodellen (LLMs) biedt veelbelovende oplossingen voor deze uitdagingen door gebruik te maken van hun uitgebreide kennis, taalbegrip en mogelijkheden voor taakautomatisering. Dit artikel onderzoekt de haalbaarheid van het realiseren van ACV door middel van een LLM-gebaseerd multi-agent raamwerk voor microservicebeheer. We introduceren een vijf niveaus tellende taxonomie voor autonoom serviceonderhoud en presenteren een online evaluatiebenchmark gebaseerd op het Sock Shop microservice demo project om de prestaties van ons raamwerk te beoordelen. Onze bevindingen tonen significante vooruitgang in het bereiken van Niveau 3 autonomie, wat de effectiviteit van LLMs in het detecteren en oplossen van problemen binnen microservice-architecturen benadrukt. Deze studie draagt bij aan de vooruitgang van autonoom rekenen door als eerste LLMs te integreren in microservicebeheer raamwerken, waardoor de weg wordt geëffend voor meer adaptieve en zelfbeherende rekeningsystemen. De code zal beschikbaar worden gesteld op https://aka.ms/ACV-LLM.

English

The Vision of Autonomic Computing (ACV), proposed over two decades ago, envisions computing systems that self-manage akin to biological organisms, adapting seamlessly to changing environments. Despite decades of research, achieving ACV remains challenging due to the dynamic and complex nature of modern computing systems. Recent advancements in Large Language Models (LLMs) offer promising solutions to these challenges by leveraging their extensive knowledge, language understanding, and task automation capabilities. This paper explores the feasibility of realizing ACV through an LLM-based multi-agent framework for microservice management. We introduce a five-level taxonomy for autonomous service maintenance and present an online evaluation benchmark based on the Sock Shop microservice demo project to assess our framework's performance. Our findings demonstrate significant progress towards achieving Level 3 autonomy, highlighting the effectiveness of LLMs in detecting and resolving issues within microservice architectures. This study contributes to advancing autonomic computing by pioneering the integration of LLMs into microservice management frameworks, paving the way for more adaptive and self-managing computing systems. The code will be made available at https://aka.ms/ACV-LLM.