ATHAR: Un Dataset di Alta Qualità e Diversificato per la Traduzione dall'Arabo Classico all'Inglese

ATHAR: A High-Quality and Diverse Dataset for Classical Arabic to English Translation

July 29, 2024

Autori: Mohammed Khalil, Mohammed Sabry

cs.AI

Abstract

L'arabo classico rappresenta un'epoca significativa, che abbraccia l'età d'oro della cultura, della filosofia e della letteratura scientifica araba. Con un ampio consenso sull'importanza di tradurre queste opere per arricchire la diffusione della conoscenza tra le comunità, l'avvento dei grandi modelli linguistici (LLM) e dei sistemi di traduzione offre strumenti promettenti per facilitare questo obiettivo. Tuttavia, abbiamo identificato una carenza di dataset di traduzione in arabo classico, spesso limitati nell'ambito e nei temi, ostacolando lo sviluppo di sistemi di traduzione di alta qualità. In risposta, presentiamo il dataset ATHAR, composto da 66.000 campioni di traduzione di alta qualità dall'arabo classico all'inglese, che coprono un'ampia gamma di argomenti tra cui scienza, cultura e filosofia. Inoltre, valutiamo le prestazioni degli attuali LLM all'avanguardia in varie configurazioni, concludendo che c'è un bisogno di tali dataset nei sistemi attuali. I nostri risultati evidenziano come i modelli possano trarre vantaggio dalla messa a punto o dall'incorporazione di questo dataset nei loro pipeline di pre-addestramento. Il dataset è pubblicamente disponibile sull'HuggingFace Data Hub all'indirizzo https://huggingface.co/datasets/mohamed-khalil/ATHAR.

English

Classical Arabic represents a significant era, encompassing the golden age of Arab culture, philosophy, and scientific literature. With a broad consensus on the importance of translating these literatures to enrich knowledge dissemination across communities, the advent of large language models (LLMs) and translation systems offers promising tools to facilitate this goal. However, we have identified a scarcity of translation datasets in Classical Arabic, which are often limited in scope and topics, hindering the development of high-quality translation systems. In response, we present the ATHAR dataset, comprising 66,000 high-quality Classical Arabic to English translation samples that cover a wide array of subjects including science, culture, and philosophy. Furthermore, we assess the performance of current state-of-the-art LLMs under various settings, concluding that there is a need for such datasets in current systems. Our findings highlight how models can benefit from fine-tuning or incorporating this dataset into their pretraining pipelines. The dataset is publicly available on the HuggingFace Data Hub at https://huggingface.co/datasets/mohamed-khalil/ATHAR.