ATHAR: Высококачественный и разнообразный набор данных для перевода классического арабского языка на английский.

ATHAR: A High-Quality and Diverse Dataset for Classical Arabic to English Translation

July 29, 2024

Авторы: Mohammed Khalil, Mohammed Sabry

cs.AI

Аннотация

Классический арабский язык представляет собой значительную эпоху, охватывающую золотой век арабской культуры, философии и научной литературы. Существует широкое согласие на важности перевода этих текстов для обогащения распространения знаний среди сообществ, и появление больших языковых моделей (LLM) и систем перевода предлагает многообещающие инструменты для достижения этой цели. Однако мы выявили дефицит наборов данных для перевода на классический арабский язык, которые часто ограничены в объеме и тематике, что затрудняет разработку высококачественных систем перевода. В ответ на это мы представляем набор данных ATHAR, включающий 66 000 высококачественных образцов перевода с классического арабского на английский язык, охватывающих широкий спектр тем, включая науку, культуру и философию. Кроме того, мы оцениваем производительность текущих передовых LLM в различных настройках, приходя к выводу о необходимости таких наборов данных в существующих системах. Наши результаты подчеркивают, как модели могут извлечь пользу из настройки или включения этого набора данных в свои предварительные конвейеры. Набор данных общедоступен на платформе HuggingFace Data Hub по адресу https://huggingface.co/datasets/mohamed-khalil/ATHAR.

English

Classical Arabic represents a significant era, encompassing the golden age of Arab culture, philosophy, and scientific literature. With a broad consensus on the importance of translating these literatures to enrich knowledge dissemination across communities, the advent of large language models (LLMs) and translation systems offers promising tools to facilitate this goal. However, we have identified a scarcity of translation datasets in Classical Arabic, which are often limited in scope and topics, hindering the development of high-quality translation systems. In response, we present the ATHAR dataset, comprising 66,000 high-quality Classical Arabic to English translation samples that cover a wide array of subjects including science, culture, and philosophy. Furthermore, we assess the performance of current state-of-the-art LLMs under various settings, concluding that there is a need for such datasets in current systems. Our findings highlight how models can benefit from fine-tuning or incorporating this dataset into their pretraining pipelines. The dataset is publicly available on the HuggingFace Data Hub at https://huggingface.co/datasets/mohamed-khalil/ATHAR.