ChatPaper.aiChatPaper

ModelScope-Agent: オープンソースの大規模言語モデルを用いたカスタマイズ可能なエージェントシステムの構築

ModelScope-Agent: Building Your Customizable Agent System with Open-source Large Language Models

September 2, 2023
著者: Chenliang Li, Hehong Chen, Ming Yan, Weizhou Shen, Haiyang Xu, Zhikai Wu, Zhicheng Zhang, Wenmeng Zhou, Yingda Chen, Chen Cheng, Hongzhu Shi, Ji Zhang, Fei Huang, Jingren Zhou
cs.AI

要旨

大規模言語モデル(LLMs)は最近、人間の意図を理解し、推論を行い、計画的な行動を設計する顕著な能力を示しています。複雑なタスクを達成するためにLLMsの力をさらに引き出すため、ChatGPTなどのLLMsにツール使用能力を備えさせ、大規模な外部APIと接続するエージェントフレームワークを構築する動きが高まっています。本論文では、オープンソースのLLMsをコントローラーとして使用する、実世界のアプリケーション向けの汎用的でカスタマイズ可能なエージェントフレームワークであるModelScope-Agentを紹介します。このフレームワークは、ユーザーフレンドリーなシステムライブラリを提供し、複数のオープンソースLLMsでのモデルトレーニングをサポートするカスタマイズ可能なエンジンデザインを備えています。また、モデルAPIと一般的なAPIを統一された方法でシームレスに統合することも可能です。LLMsにツール使用能力を備えさせるため、ツール使用データの収集、ツール検索、ツール登録、メモリ制御、カスタマイズされたモデルトレーニング、実世界のアプリケーション向けの評価にわたる包括的なフレームワークが提案されています。最後に、ModelScope-Agentフレームワークに基づくModelScopeコミュニティの実世界のインテリジェントアシスタントであるModelScopeGPTを紹介します。これは、オープンソースのLLMsをModelScope内の1000以上の公開AIモデルとローカルコミュニティの知識と接続することができます。ModelScope-Agentライブラリ(https://github.com/modelscope/modelscope-agent)とオンラインデモ(https://modelscope.cn/studios/damo/ModelScopeGPT/summary)は現在公開されています。
English
Large language models (LLMs) have recently demonstrated remarkable capabilities to comprehend human intentions, engage in reasoning, and design planning-like behavior. To further unleash the power of LLMs to accomplish complex tasks, there is a growing trend to build agent framework that equips LLMs, such as ChatGPT, with tool-use abilities to connect with massive external APIs. In this work, we introduce ModelScope-Agent, a general and customizable agent framework for real-world applications, based on open-source LLMs as controllers. It provides a user-friendly system library, with customizable engine design to support model training on multiple open-source LLMs, while also enabling seamless integration with both model APIs and common APIs in a unified way. To equip the LLMs with tool-use abilities, a comprehensive framework has been proposed spanning over tool-use data collection, tool retrieval, tool registration, memory control, customized model training, and evaluation for practical real-world applications. Finally, we showcase ModelScopeGPT, a real-world intelligent assistant of ModelScope Community based on the ModelScope-Agent framework, which is able to connect open-source LLMs with more than 1000 public AI models and localized community knowledge in ModelScope. The ModelScope-Agent libraryhttps://github.com/modelscope/modelscope-agent and online demohttps://modelscope.cn/studios/damo/ModelScopeGPT/summary are now publicly available.
PDF211December 15, 2024