自律コンピューティングのビジョン：LLMはそれを実現できるか？

The Vision of Autonomic Computing: Can LLMs Make It a Reality?

July 19, 2024

著者: Zhiyang Zhang, Fangkai Yang, Xiaoting Qin, Jue Zhang, Qingwei Lin, Gong Cheng, Dongmei Zhang, Saravan Rajmohan, Qi Zhang

cs.AI

要旨

自律コンピューティングのビジョン（ACV）は、20年以上前に提案され、生物学的な生物のように自己管理し、変化する環境にシームレスに適応するコンピューティングシステムを構想しています。数十年にわたる研究にもかかわらず、現代のコンピューティングシステムの動的で複雑な性質により、ACVの実現は依然として困難です。最近の大規模言語モデル（LLM）の進展は、その広範な知識、言語理解、およびタスク自動化能力を活用することで、これらの課題に対する有望な解決策を提供しています。本論文では、LLMベースのマルチエージェントフレームワークを用いたマイクロサービス管理を通じてACVを実現する可能性を探ります。自律的なサービスメンテナンスのための5段階の分類法を導入し、Sock Shopマイクロサービスデモプロジェクトに基づくオンライン評価ベンチマークを提示して、当フレームワークの性能を評価します。我々の調査結果は、レベル3の自律性を達成するための重要な進展を示し、マイクロサービスアーキテクチャ内の問題を検出し解決するLLMの有効性を強調しています。本研究は、LLMをマイクロサービス管理フレームワークに統合する先駆的な取り組みを通じて、自律コンピューティングの進展に貢献し、より適応的で自己管理可能なコンピューティングシステムへの道を開きます。コードはhttps://aka.ms/ACV-LLMで公開されます。

English

The Vision of Autonomic Computing (ACV), proposed over two decades ago, envisions computing systems that self-manage akin to biological organisms, adapting seamlessly to changing environments. Despite decades of research, achieving ACV remains challenging due to the dynamic and complex nature of modern computing systems. Recent advancements in Large Language Models (LLMs) offer promising solutions to these challenges by leveraging their extensive knowledge, language understanding, and task automation capabilities. This paper explores the feasibility of realizing ACV through an LLM-based multi-agent framework for microservice management. We introduce a five-level taxonomy for autonomous service maintenance and present an online evaluation benchmark based on the Sock Shop microservice demo project to assess our framework's performance. Our findings demonstrate significant progress towards achieving Level 3 autonomy, highlighting the effectiveness of LLMs in detecting and resolving issues within microservice architectures. This study contributes to advancing autonomic computing by pioneering the integration of LLMs into microservice management frameworks, paving the way for more adaptive and self-managing computing systems. The code will be made available at https://aka.ms/ACV-LLM.