R1-Omni: Объяснимая Omni-мультимодальная система распознавания эмоций с использованием обучения с подкреплением
R1-Omni: Explainable Omni-Multimodal Emotion Recognition with Reinforcing Learning
March 7, 2025
Авторы: Jiaxing Zhao, Xihan Wei, Liefeng Bo
cs.AI
Аннотация
В данной работе мы представляем первое применение обучения с подкреплением с верифицируемой наградой (RLVR) к омни-мультимодальной большой языковой модели в контексте распознавания эмоций — задачи, в которой как визуальные, так и аудио модальности играют ключевую роль. Мы используем RLVR для оптимизации омни-модели, значительно улучшая её производительность в трёх ключевых аспектах: способность к рассуждению, точность распознавания эмоций и способность к обобщению. Введение RLVR не только повышает общую производительность модели на данных из распределения, но и демонстрирует превосходную устойчивость при оценке на данных вне распределения. Что ещё более важно, улучшенная способность к рассуждению позволяет чётко анализировать вклад различных модальностей, в частности визуальной и аудио информации, в процесс распознавания эмоций. Это предоставляет ценные инсайты для оптимизации мультимодальных больших языковых моделей.
English
In this work, we present the first application of Reinforcement Learning with
Verifiable Reward (RLVR) to an Omni-multimodal large language model in the
context of emotion recognition, a task where both visual and audio modalities
play crucial roles. We leverage RLVR to optimize the Omni model, significantly
enhancing its performance in three key aspects: reasoning capability, emotion
recognition accuracy, and generalization ability. The introduction of RLVR not
only improves the model's overall performance on in-distribution data but also
demonstrates superior robustness when evaluated on out-of-distribution
datasets. More importantly, the improved reasoning capability enables clear
analysis of the contributions of different modalities, particularly visual and
audio information, in the emotion recognition process. This provides valuable
insights into the optimization of multimodal large language models.