ModelScope-Agent: オープンソースの大規模言語モデルを用いたカスタマイズ可能なエージェントシステムの構築
ModelScope-Agent: Building Your Customizable Agent System with Open-source Large Language Models
September 2, 2023
著者: Chenliang Li, Hehong Chen, Ming Yan, Weizhou Shen, Haiyang Xu, Zhikai Wu, Zhicheng Zhang, Wenmeng Zhou, Yingda Chen, Chen Cheng, Hongzhu Shi, Ji Zhang, Fei Huang, Jingren Zhou
cs.AI
要旨
大規模言語モデル(LLMs)は最近、人間の意図を理解し、推論を行い、計画的な行動を設計する顕著な能力を示しています。複雑なタスクを達成するためにLLMsの力をさらに引き出すため、ChatGPTなどのLLMsにツール使用能力を備えさせ、大規模な外部APIと接続するエージェントフレームワークを構築する動きが高まっています。本論文では、オープンソースのLLMsをコントローラーとして使用する、実世界のアプリケーション向けの汎用的でカスタマイズ可能なエージェントフレームワークであるModelScope-Agentを紹介します。このフレームワークは、ユーザーフレンドリーなシステムライブラリを提供し、複数のオープンソースLLMsでのモデルトレーニングをサポートするカスタマイズ可能なエンジンデザインを備えています。また、モデルAPIと一般的なAPIを統一された方法でシームレスに統合することも可能です。LLMsにツール使用能力を備えさせるため、ツール使用データの収集、ツール検索、ツール登録、メモリ制御、カスタマイズされたモデルトレーニング、実世界のアプリケーション向けの評価にわたる包括的なフレームワークが提案されています。最後に、ModelScope-Agentフレームワークに基づくModelScopeコミュニティの実世界のインテリジェントアシスタントであるModelScopeGPTを紹介します。これは、オープンソースのLLMsをModelScope内の1000以上の公開AIモデルとローカルコミュニティの知識と接続することができます。ModelScope-Agentライブラリ(https://github.com/modelscope/modelscope-agent)とオンラインデモ(https://modelscope.cn/studios/damo/ModelScopeGPT/summary)は現在公開されています。
English
Large language models (LLMs) have recently demonstrated remarkable
capabilities to comprehend human intentions, engage in reasoning, and design
planning-like behavior. To further unleash the power of LLMs to accomplish
complex tasks, there is a growing trend to build agent framework that equips
LLMs, such as ChatGPT, with tool-use abilities to connect with massive external
APIs. In this work, we introduce ModelScope-Agent, a general and customizable
agent framework for real-world applications, based on open-source LLMs as
controllers. It provides a user-friendly system library, with customizable
engine design to support model training on multiple open-source LLMs, while
also enabling seamless integration with both model APIs and common APIs in a
unified way. To equip the LLMs with tool-use abilities, a comprehensive
framework has been proposed spanning over tool-use data collection, tool
retrieval, tool registration, memory control, customized model training, and
evaluation for practical real-world applications. Finally, we showcase
ModelScopeGPT, a real-world intelligent assistant of ModelScope Community based
on the ModelScope-Agent framework, which is able to connect open-source LLMs
with more than 1000 public AI models and localized community knowledge in
ModelScope. The ModelScope-Agent
libraryhttps://github.com/modelscope/modelscope-agent and online
demohttps://modelscope.cn/studios/damo/ModelScopeGPT/summary are now
publicly available.