MusicAgent: Un Agente AI per la Comprensione e la Generazione Musicale con Modelli Linguistici di Grande Scala

MusicAgent: An AI Agent for Music Understanding and Generation with Large Language Models

October 18, 2023

Autori: Dingyao Yu, Kaitao Song, Peiling Lu, Tianyu He, Xu Tan, Wei Ye, Shikun Zhang, Jiang Bian

cs.AI

Abstract

L'elaborazione musicale potenziata dall'IA è un campo diversificato che comprende decine di compiti, che vanno da attività di generazione (ad esempio, sintesi timbrica) a compiti di comprensione (ad esempio, classificazione musicale). Per sviluppatori e appassionati, è molto difficile padroneggiare tutti questi compiti per soddisfare le proprie esigenze nell'elaborazione musicale, soprattutto considerando le enormi differenze nelle rappresentazioni dei dati musicali e nell'applicabilità dei modelli tra piattaforme e vari compiti. Di conseguenza, è necessario costruire un sistema per organizzare e integrare questi compiti, aiutando così i professionisti ad analizzare automaticamente le proprie esigenze e a richiamare gli strumenti adatti come soluzioni per soddisfare i loro requisiti. Ispirati dal recente successo dei grandi modelli linguistici (LLM) nell'automazione dei compiti, abbiamo sviluppato un sistema, chiamato MusicAgent, che integra numerosi strumenti legati alla musica e un flusso di lavoro autonomo per affrontare le esigenze degli utenti. Più specificamente, abbiamo costruito 1) un insieme di strumenti che raccoglie strumenti da fonti diverse, tra cui Hugging Face, GitHub e API web, ecc. 2) un flusso di lavoro autonomo potenziato da LLM (ad esempio, ChatGPT) per organizzare questi strumenti e scomporre automaticamente le richieste degli utenti in più sotto-compiti e richiamare gli strumenti musicali corrispondenti. L'obiettivo principale di questo sistema è liberare gli utenti dalle complessità degli strumenti di IA musicale, consentendo loro di concentrarsi sull'aspetto creativo. Concedendo agli utenti la libertà di combinare gli strumenti senza sforzo, il sistema offre un'esperienza musicale fluida e arricchente.

English

AI-empowered music processing is a diverse field that encompasses dozens of tasks, ranging from generation tasks (e.g., timbre synthesis) to comprehension tasks (e.g., music classification). For developers and amateurs, it is very difficult to grasp all of these task to satisfy their requirements in music processing, especially considering the huge differences in the representations of music data and the model applicability across platforms among various tasks. Consequently, it is necessary to build a system to organize and integrate these tasks, and thus help practitioners to automatically analyze their demand and call suitable tools as solutions to fulfill their requirements. Inspired by the recent success of large language models (LLMs) in task automation, we develop a system, named MusicAgent, which integrates numerous music-related tools and an autonomous workflow to address user requirements. More specifically, we build 1) toolset that collects tools from diverse sources, including Hugging Face, GitHub, and Web API, etc. 2) an autonomous workflow empowered by LLMs (e.g., ChatGPT) to organize these tools and automatically decompose user requests into multiple sub-tasks and invoke corresponding music tools. The primary goal of this system is to free users from the intricacies of AI-music tools, enabling them to concentrate on the creative aspect. By granting users the freedom to effortlessly combine tools, the system offers a seamless and enriching music experience.