TinyEmo: Масштабирование эмоционального рассуждения с помощью метрической проекции

TinyEmo: Scaling down Emotional Reasoning via Metric Projection

October 9, 2024

Авторы: Cristian Gutierrez

cs.AI

Аннотация

Этот документ представляет TinyEmo, семейство небольших мультимодальных языковых моделей для эмоционального рассуждения и классификации. Наш подход включает: (1) синтетический набор данных для обучения и донастройки, (2) Метрический Проектор, который делегирует классификацию от языковой модели для более эффективного обучения и вывода, (3) мультимодальную большую языковую модель (MM-LLM) для эмоционального рассуждения и (4) полуавтоматизированную систему обнаружения предвзятости. TinyEmo способен выполнять классификацию эмоций и эмоциональное рассуждение, используя значительно меньше параметров, чем аналогичные модели. Эта эффективность позволяет нам свободно включать более разнообразные эмоциональные наборы данных, обеспечивая высокую производительность при классификации, причем наша самая маленькая модель (700 миллионов параметров) превосходит более крупные передовые модели на основе мультимодальных больших языковых моделей с общим количеством параметров более 7 миллиардов. Кроме того, Метрический Проектор обеспечивает интерпретируемость и косвенное обнаружение предвзятости в больших моделях без дополнительного обучения, предлагая подход к пониманию и улучшению ИИ-систем. Мы публикуем код, модели и набор данных на https://github.com/ggcr/TinyEmo

English

This paper introduces TinyEmo, a family of small multi-modal language models for emotional reasoning and classification. Our approach features: (1) a synthetic emotional instruct dataset for both pre-training and fine-tuning stages, (2) a Metric Projector that delegates classification from the language model allowing for more efficient training and inference, (3) a multi-modal large language model (MM-LLM) for emotional reasoning, and (4) a semi-automated framework for bias detection. TinyEmo is able to perform emotion classification and emotional reasoning, all while using substantially fewer parameters than comparable models. This efficiency allows us to freely incorporate more diverse emotional datasets, enabling strong performance on classification tasks, with our smallest model (700M parameters) outperforming larger state-of-the-art models based on general-purpose MM-LLMs with over 7B parameters. Additionally, the Metric Projector allows for interpretability and indirect bias detection in large models without additional training, offering an approach to understand and improve AI systems. We release code, models, and dataset at https://github.com/ggcr/TinyEmo