R1-Omni: Erklärbare Omni-Multimodale Emotionserkennung mit Verstärkendem Lernen

R1-Omni: Explainable Omni-Multimodal Emotion Recognition with Reinforcing Learning

March 7, 2025

Autoren: Jiaxing Zhao, Xihan Wei, Liefeng Bo

cs.AI

Zusammenfassung

In dieser Arbeit präsentieren wir die erste Anwendung von Reinforcement Learning mit Verifizierbarer Belohnung (RLVR) auf ein Omni-multimodales großes Sprachmodell im Kontext der Emotionserkennung, einer Aufgabe, bei der sowohl visuelle als auch auditive Modalitäten eine entscheidende Rolle spielen. Wir nutzen RLVR, um das Omni-Modell zu optimieren und seine Leistung in drei Schlüsselbereichen signifikant zu verbessern: die Fähigkeit zum logischen Schlussfolgern, die Genauigkeit der Emotionserkennung und die Generalisierungsfähigkeit. Die Einführung von RLVR verbessert nicht nur die Gesamtleistung des Modells auf In-Distribution-Daten, sondern zeigt auch eine überlegene Robustheit bei der Auswertung auf Out-of-Distribution-Datensätzen. Noch wichtiger ist, dass die verbesserte Fähigkeit zum logischen Schlussfolgern eine klare Analyse der Beiträge verschiedener Modalitäten, insbesondere visueller und auditiver Informationen, im Prozess der Emotionserkennung ermöglicht. Dies liefert wertvolle Einblicke in die Optimierung multimodaler großer Sprachmodelle.

English

In this work, we present the first application of Reinforcement Learning with Verifiable Reward (RLVR) to an Omni-multimodal large language model in the context of emotion recognition, a task where both visual and audio modalities play crucial roles. We leverage RLVR to optimize the Omni model, significantly enhancing its performance in three key aspects: reasoning capability, emotion recognition accuracy, and generalization ability. The introduction of RLVR not only improves the model's overall performance on in-distribution data but also demonstrates superior robustness when evaluated on out-of-distribution datasets. More importantly, the improved reasoning capability enables clear analysis of the contributions of different modalities, particularly visual and audio information, in the emotion recognition process. This provides valuable insights into the optimization of multimodal large language models.