TinyEmo : Réduction de l'inférence émotionnelle via la projection métrique

TinyEmo: Scaling down Emotional Reasoning via Metric Projection

October 9, 2024

Auteurs: Cristian Gutierrez

cs.AI

Résumé

Cet article présente TinyEmo, une famille de petits modèles de langage multimodaux pour le raisonnement et la classification émotionnels. Notre approche se caractérise par : (1) un ensemble de données d'instructions émotionnelles synthétiques pour les étapes de pré-entraînement et de fine-tuning, (2) un projecteur métrique qui délègue la classification du modèle de langage permettant un entraînement et une inférence plus efficaces, (3) un grand modèle de langage multimodal (MM-LLM) pour le raisonnement émotionnel, et (4) un cadre semi-automatisé pour la détection de biais. TinyEmo est capable d'effectuer la classification des émotions et le raisonnement émotionnel, tout en utilisant substantiellement moins de paramètres que des modèles comparables. Cette efficacité nous permet d'incorporer librement des ensembles de données émotionnelles plus diversifiés, permettant des performances solides sur les tâches de classification, notre plus petit modèle (700M paramètres) surpassant des modèles plus grands de pointe basés sur des MM-LLMs polyvalents avec plus de 7 milliards de paramètres. De plus, le projecteur métrique permet l'interprétabilité et la détection indirecte de biais dans les grands modèles sans formation supplémentaire, offrant une approche pour comprendre et améliorer les systèmes d'IA. Nous mettons à disposition le code, les modèles et l'ensemble de données sur https://github.com/ggcr/TinyEmo.

English

This paper introduces TinyEmo, a family of small multi-modal language models for emotional reasoning and classification. Our approach features: (1) a synthetic emotional instruct dataset for both pre-training and fine-tuning stages, (2) a Metric Projector that delegates classification from the language model allowing for more efficient training and inference, (3) a multi-modal large language model (MM-LLM) for emotional reasoning, and (4) a semi-automated framework for bias detection. TinyEmo is able to perform emotion classification and emotional reasoning, all while using substantially fewer parameters than comparable models. This efficiency allows us to freely incorporate more diverse emotional datasets, enabling strong performance on classification tasks, with our smallest model (700M parameters) outperforming larger state-of-the-art models based on general-purpose MM-LLMs with over 7B parameters. Additionally, the Metric Projector allows for interpretability and indirect bias detection in large models without additional training, offering an approach to understand and improve AI systems. We release code, models, and dataset at https://github.com/ggcr/TinyEmo