La Visione del Calcolo Autonomo: i Modelli Linguistici di Grandi Dimensioni Possono Renderla Realtà?
The Vision of Autonomic Computing: Can LLMs Make It a Reality?
July 19, 2024
Autori: Zhiyang Zhang, Fangkai Yang, Xiaoting Qin, Jue Zhang, Qingwei Lin, Gong Cheng, Dongmei Zhang, Saravan Rajmohan, Qi Zhang
cs.AI
Abstract
La Visione del Calcolo Autonomo (ACV), proposta oltre due decenni fa, immagina sistemi informatici che si autogestiscono in modo simile agli organismi biologici, adattandosi senza soluzione di continuità a ambienti in cambiamento. Nonostante decenni di ricerca, il raggiungimento dell'ACV rimane una sfida a causa della natura dinamica e complessa dei moderni sistemi informatici. I recenti progressi nei Modelli Linguistici di Grande Dimensione (LLM) offrono soluzioni promettenti a queste sfide sfruttando la loro vasta conoscenza, comprensione del linguaggio e capacità di automazione delle attività. Questo articolo esplora la fattibilità di realizzare l'ACV attraverso un framework multi-agente basato su LLM per la gestione dei microservizi. Introduciamo una tassonomia a cinque livelli per la manutenzione autonoma dei servizi e presentiamo un benchmark di valutazione online basato sul progetto dimostrativo di microservizi Sock Shop per valutare le prestazioni del nostro framework. I nostri risultati dimostrano un progresso significativo verso il raggiungimento dell'autonomia di Livello 3, evidenziando l'efficacia degli LLM nel rilevare e risolvere problemi all'interno delle architetture di microservizi. Questo studio contribuisce a far avanzare il calcolo autonomo aprendo la strada all'integrazione degli LLM nei framework di gestione dei microservizi, gettando le basi per sistemi informatici più adattivi e autogestiti. Il codice sarà reso disponibile all'indirizzo https://aka.ms/ACV-LLM.
English
The Vision of Autonomic Computing (ACV), proposed over two decades ago,
envisions computing systems that self-manage akin to biological organisms,
adapting seamlessly to changing environments. Despite decades of research,
achieving ACV remains challenging due to the dynamic and complex nature of
modern computing systems. Recent advancements in Large Language Models (LLMs)
offer promising solutions to these challenges by leveraging their extensive
knowledge, language understanding, and task automation capabilities. This paper
explores the feasibility of realizing ACV through an LLM-based multi-agent
framework for microservice management. We introduce a five-level taxonomy for
autonomous service maintenance and present an online evaluation benchmark based
on the Sock Shop microservice demo project to assess our framework's
performance. Our findings demonstrate significant progress towards achieving
Level 3 autonomy, highlighting the effectiveness of LLMs in detecting and
resolving issues within microservice architectures. This study contributes to
advancing autonomic computing by pioneering the integration of LLMs into
microservice management frameworks, paving the way for more adaptive and
self-managing computing systems. The code will be made available at
https://aka.ms/ACV-LLM.