Dallah: Um Modelo de Linguagem Grande Multimodal Consciente do Dialeto para o Árabe

Dallah: A Dialect-Aware Multimodal Large Language Model for Arabic

July 25, 2024

Autores: Fakhraddin Alwajih, Gagan Bhatia, Muhammad Abdul-Mageed

cs.AI

Resumo

Avanços recentes têm aprimorado significativamente as capacidades dos Modelos de Linguagem Multimodais de Grande Escala (MLLMs) na geração e compreensão de conteúdo de imagem para texto. Apesar desses sucessos, o progresso é predominantemente limitado ao inglês devido à escassez de recursos multimodais de alta qualidade em outros idiomas. Essa limitação dificulta o desenvolvimento de modelos competitivos em idiomas como o árabe. Para amenizar essa situação, apresentamos um assistente árabe multimodal eficiente, chamado Dallah, que utiliza um modelo de linguagem avançado baseado no LLaMA-2 para facilitar interações multimodais. Dallah demonstra um desempenho de ponta em MLLMs árabes. Através do ajuste fino de seis dialetos árabes, Dallah mostra sua capacidade de lidar com interações dialetais complexas incorporando elementos textuais e visuais. O modelo se destaca em dois testes de referência: um avaliando seu desempenho no Árabe Padrão Moderno (MSA) e outro especificamente projetado para avaliar respostas dialetais. Além de seu desempenho robusto em tarefas de interação multimodal, Dallah tem o potencial de abrir caminho para o desenvolvimento adicional de MLLMs árabes conscientes de dialetos.

English

Recent advancements have significantly enhanced the capabilities of Multimodal Large Language Models (MLLMs) in generating and understanding image-to-text content. Despite these successes, progress is predominantly limited to English due to the scarcity of high quality multimodal resources in other languages. This limitation impedes the development of competitive models in languages such as Arabic. To alleviate this situation, we introduce an efficient Arabic multimodal assistant, dubbed Dallah, that utilizes an advanced language model based on LLaMA-2 to facilitate multimodal interactions. Dallah demonstrates state-of-the-art performance in Arabic MLLMs. Through fine-tuning six Arabic dialects, Dallah showcases its capability to handle complex dialectal interactions incorporating both textual and visual elements. The model excels in two benchmark tests: one evaluating its performance on Modern Standard Arabic (MSA) and another specifically designed to assess dialectal responses. Beyond its robust performance in multimodal interaction tasks, Dallah has the potential to pave the way for further development of dialect-aware Arabic MLLMs.