MusicAgent: Ein KI-Agent für Musikverständnis und -generierung mit großen Sprachmodellen

MusicAgent: An AI Agent for Music Understanding and Generation with Large Language Models

October 18, 2023

Autoren: Dingyao Yu, Kaitao Song, Peiling Lu, Tianyu He, Xu Tan, Wei Ye, Shikun Zhang, Jiang Bian

cs.AI

Zusammenfassung

Die KI-gestützte Musikverarbeitung ist ein vielfältiges Feld, das Dutzende von Aufgaben umfasst, von Generierungsaufgaben (z. B. Timbre-Synthese) bis hin zu Verständnisaufgaben (z. B. Musikklassifizierung). Für Entwickler und Amateure ist es sehr schwierig, alle diese Aufgaben zu erfassen, um ihre Anforderungen in der Musikverarbeitung zu erfüllen, insbesondere angesichts der großen Unterschiede in den Darstellungen von Musikdaten und der Modellanwendbarkeit über Plattformen hinweg bei verschiedenen Aufgaben. Folglich ist es notwendig, ein System zu entwickeln, das diese Aufgaben organisiert und integriert, um Praktikern dabei zu helfen, ihre Anforderungen automatisch zu analysieren und geeignete Werkzeuge als Lösungen aufzurufen, um ihre Anforderungen zu erfüllen. Inspiriert durch den jüngsten Erfolg von großen Sprachmodellen (LLMs) bei der Aufgabenautomatisierung, entwickeln wir ein System namens MusicAgent, das zahlreiche musikbezogene Werkzeuge und einen autonomen Workflow integriert, um Benutzeranforderungen zu adressieren. Genauer gesagt bauen wir 1) ein Werkzeugset, das Werkzeuge aus verschiedenen Quellen sammelt, einschließlich Hugging Face, GitHub und Web-APIs, etc. 2) einen autonomen Workflow, der durch LLMs (z. B. ChatGPT) unterstützt wird, um diese Werkzeuge zu organisieren und Benutzeranfragen automatisch in mehrere Teilaufgaben zu zerlegen und entsprechende Musikwerkzeuge aufzurufen. Das primäre Ziel dieses Systems ist es, Benutzer von den Feinheiten der KI-Musikwerkzeuge zu befreien und ihnen zu ermöglichen, sich auf den kreativen Aspekt zu konzentrieren. Indem den Benutzern die Freiheit gegeben wird, Werkzeuge mühelos zu kombinieren, bietet das System ein nahtloses und bereicherndes Musikerlebnis.

English

AI-empowered music processing is a diverse field that encompasses dozens of tasks, ranging from generation tasks (e.g., timbre synthesis) to comprehension tasks (e.g., music classification). For developers and amateurs, it is very difficult to grasp all of these task to satisfy their requirements in music processing, especially considering the huge differences in the representations of music data and the model applicability across platforms among various tasks. Consequently, it is necessary to build a system to organize and integrate these tasks, and thus help practitioners to automatically analyze their demand and call suitable tools as solutions to fulfill their requirements. Inspired by the recent success of large language models (LLMs) in task automation, we develop a system, named MusicAgent, which integrates numerous music-related tools and an autonomous workflow to address user requirements. More specifically, we build 1) toolset that collects tools from diverse sources, including Hugging Face, GitHub, and Web API, etc. 2) an autonomous workflow empowered by LLMs (e.g., ChatGPT) to organize these tools and automatically decompose user requests into multiple sub-tasks and invoke corresponding music tools. The primary goal of this system is to free users from the intricacies of AI-music tools, enabling them to concentrate on the creative aspect. By granting users the freedom to effortlessly combine tools, the system offers a seamless and enriching music experience.