Die Vision des autonomen Rechnens: Können LLMs sie zur Realität machen?

The Vision of Autonomic Computing: Can LLMs Make It a Reality?

July 19, 2024

Autoren: Zhiyang Zhang, Fangkai Yang, Xiaoting Qin, Jue Zhang, Qingwei Lin, Gong Cheng, Dongmei Zhang, Saravan Rajmohan, Qi Zhang

cs.AI

Zusammenfassung

Die Vision des Autonomen Rechnens (ACV), die vor über zwei Jahrzehnten vorgeschlagen wurde, sieht Rechensysteme vor, die sich selbst verwalten, ähnlich wie biologische Organismen, und sich nahtlos an sich ändernde Umgebungen anpassen. Trotz jahrzehntelanger Forschung bleibt die Realisierung von ACV aufgrund der dynamischen und komplexen Natur moderner Rechensysteme eine Herausforderung. Die jüngsten Fortschritte bei Großen Sprachmodellen (LLMs) bieten vielversprechende Lösungen für diese Herausforderungen, indem sie ihr umfangreiches Wissen, ihr Sprachverständnis und ihre Fähigkeiten zur Aufgabenautomatisierung nutzen. Dieser Artikel untersucht die Machbarkeit der Verwirklichung von ACV durch ein auf LLMs basierendes Multi-Agenten-Framework für das Management von Mikroservices. Wir stellen eine fünfstufige Taxonomie für die autonome Service-Wartung vor und präsentieren einen Online-Evaluierungsbenchmark, der auf dem Sock Shop Mikroservice-Demoprojekt basiert, um die Leistung unseres Frameworks zu bewerten. Unsere Ergebnisse zeigen signifikante Fortschritte bei der Erreichung von Autonomiestufe 3 auf und betonen die Wirksamkeit von LLMs bei der Erkennung und Behebung von Problemen innerhalb von Mikroservice-Architekturen. Diese Studie trägt zur Weiterentwicklung des autonomen Rechnens bei, indem sie die Integration von LLMs in Mikroservice-Management-Frameworks vorantreibt und den Weg für adaptivere und selbstverwaltende Rechensysteme ebnet. Der Code wird unter https://aka.ms/ACV-LLM verfügbar sein.

English

The Vision of Autonomic Computing (ACV), proposed over two decades ago, envisions computing systems that self-manage akin to biological organisms, adapting seamlessly to changing environments. Despite decades of research, achieving ACV remains challenging due to the dynamic and complex nature of modern computing systems. Recent advancements in Large Language Models (LLMs) offer promising solutions to these challenges by leveraging their extensive knowledge, language understanding, and task automation capabilities. This paper explores the feasibility of realizing ACV through an LLM-based multi-agent framework for microservice management. We introduce a five-level taxonomy for autonomous service maintenance and present an online evaluation benchmark based on the Sock Shop microservice demo project to assess our framework's performance. Our findings demonstrate significant progress towards achieving Level 3 autonomy, highlighting the effectiveness of LLMs in detecting and resolving issues within microservice architectures. This study contributes to advancing autonomic computing by pioneering the integration of LLMs into microservice management frameworks, paving the way for more adaptive and self-managing computing systems. The code will be made available at https://aka.ms/ACV-LLM.