MuScriptor : Un modèle ouvert pour la transcription musicale multi-instrument

Résumé

Les méthodes existantes de transcription automatique de la musique sont souvent limitées à des enregistrements mono-instrument ou échouent sur des mixages musicaux complexes et réels. Bien que des travaux antérieurs utilisent des données d'entraînement synthétiques, les modèles qui en résultent généralisent mal, conduisant à des transcriptions largement inutilisables dans des contextes réalistes et multi-instruments. Dans ce travail, nous analysons l'efficacité des données synthétiques pour le pré-entraînement, tout en les combinant avec un réglage fin sur de l'audio musical réel et un post-entraînement par apprentissage par renforcement. Nous introduisons également un conditionnement sur la présence d'instruments pour personnaliser les transcriptions. Enfin, nous publions MuScriptor, un modèle de transcription musicale multi-instruments à poids ouverts, fonctionnant sur des enregistrements musicaux réels issus d'une diversité de genres musicaux.

English

Existing methods for automatic music transcription are often limited to single-instrument recordings or fail on complex, real music mixes. Although previous work utilizes synthetic training data, the resulting models generalize poorly, leading to largely unusable transcription output in realistic, multi-instrument settings. In this work, we analyze the effectiveness of synthetic data for pre-training while combining it with fine-tuning on real music audio and post-training using reinforcement learning. We further introduce conditioning on instrument presence to customize transcriptions. Finally, we release MuScriptor, an open-weight multi-instrument music transcription model that works on real-world music recordings from across a diverse range of musical genres.