Видение автономных вычислений: могут ли модели языков с большим объемом параметров сделать его реальностью?

The Vision of Autonomic Computing: Can LLMs Make It a Reality?

July 19, 2024

Авторы: Zhiyang Zhang, Fangkai Yang, Xiaoting Qin, Jue Zhang, Qingwei Lin, Gong Cheng, Dongmei Zhang, Saravan Rajmohan, Qi Zhang

cs.AI

Аннотация

Видение Автономного Вычисления (ACV), предложенное более двух десятилетий назад, предвидит вычислительные системы, самостоятельно управляющиеся, подобно биологическим организмам, плавно адаптирующимся к изменяющимся окружениям. Несмотря на десятилетия исследований, достижение ACV остается сложной задачей из-за динамичной и сложной природы современных вычислительных систем. Недавние достижения в области Больших Языковых Моделей (LLM) предлагают многообещающие решения для этих вызовов, используя свои обширные знания, понимание языка и возможности автоматизации задач. В данной статье исследуется осуществимость реализации ACV через мультиагентную платформу на основе LLM для управления микросервисами. Мы представляем пятиуровневую таксономию для автономного обслуживания сервисов и представляем онлайн бенчмарк оценки на основе демонстрационного проекта микросервисов Sock Shop для оценки производительности нашей платформы. Наши результаты демонстрируют значительный прогресс в достижении уровня 3 автономности, подчеркивая эффективность LLM в обнаружении и устранении проблем в архитектурах микросервисов. Это исследование способствует развитию автономного вычисления путем пионерского внедрения LLM в платформы управления микросервисами, открывая путь к более адаптивным и самоуправляемым вычислительным системам. Код будет доступен по ссылке https://aka.ms/ACV-LLM.

English

The Vision of Autonomic Computing (ACV), proposed over two decades ago, envisions computing systems that self-manage akin to biological organisms, adapting seamlessly to changing environments. Despite decades of research, achieving ACV remains challenging due to the dynamic and complex nature of modern computing systems. Recent advancements in Large Language Models (LLMs) offer promising solutions to these challenges by leveraging their extensive knowledge, language understanding, and task automation capabilities. This paper explores the feasibility of realizing ACV through an LLM-based multi-agent framework for microservice management. We introduce a five-level taxonomy for autonomous service maintenance and present an online evaluation benchmark based on the Sock Shop microservice demo project to assess our framework's performance. Our findings demonstrate significant progress towards achieving Level 3 autonomy, highlighting the effectiveness of LLMs in detecting and resolving issues within microservice architectures. This study contributes to advancing autonomic computing by pioneering the integration of LLMs into microservice management frameworks, paving the way for more adaptive and self-managing computing systems. The code will be made available at https://aka.ms/ACV-LLM.