ATHAR: Un conjunto de datos de alta calidad y diverso para la traducción de árabe clásico a inglés.

ATHAR: A High-Quality and Diverse Dataset for Classical Arabic to English Translation

July 29, 2024

Autores: Mohammed Khalil, Mohammed Sabry

cs.AI

Resumen

El árabe clásico representa una era significativa, abarcando la época dorada de la cultura árabe, la filosofía y la literatura científica. Con un amplio consenso sobre la importancia de traducir estas literaturas para enriquecer la difusión del conocimiento entre las comunidades, la llegada de grandes modelos de lenguaje (LLMs) y sistemas de traducción ofrece herramientas prometedoras para facilitar este objetivo. Sin embargo, hemos identificado una escasez de conjuntos de datos de traducción en árabe clásico, que a menudo son limitados en alcance y temas, obstaculizando el desarrollo de sistemas de traducción de alta calidad. En respuesta, presentamos el conjunto de datos ATHAR, que consta de 66,000 muestras de traducción de alta calidad de árabe clásico a inglés que abarcan una amplia gama de temas, incluyendo ciencia, cultura y filosofía. Además, evaluamos el rendimiento de los actuales LLMs de última generación bajo diversas configuraciones, concluyendo que existe una necesidad de tales conjuntos de datos en los sistemas actuales. Nuestros hallazgos resaltan cómo los modelos pueden beneficiarse del ajuste fino o la incorporación de este conjunto de datos en sus tuberías de preentrenamiento. El conjunto de datos está disponible públicamente en el HuggingFace Data Hub en https://huggingface.co/datasets/mohamed-khalil/ATHAR.

English

Classical Arabic represents a significant era, encompassing the golden age of Arab culture, philosophy, and scientific literature. With a broad consensus on the importance of translating these literatures to enrich knowledge dissemination across communities, the advent of large language models (LLMs) and translation systems offers promising tools to facilitate this goal. However, we have identified a scarcity of translation datasets in Classical Arabic, which are often limited in scope and topics, hindering the development of high-quality translation systems. In response, we present the ATHAR dataset, comprising 66,000 high-quality Classical Arabic to English translation samples that cover a wide array of subjects including science, culture, and philosophy. Furthermore, we assess the performance of current state-of-the-art LLMs under various settings, concluding that there is a need for such datasets in current systems. Our findings highlight how models can benefit from fine-tuning or incorporating this dataset into their pretraining pipelines. The dataset is publicly available on the HuggingFace Data Hub at https://huggingface.co/datasets/mohamed-khalil/ATHAR.