Het leggen van fundamenten voor natuurlijke taalverwerking van historisch Turks: Bronnen en Modellen

Building Foundations for Natural Language Processing of Historical Turkish: Resources and Models

January 8, 2025

Auteurs: Şaziye Betül Özateş, Tarık Emre Tıraş, Ece Elif Adak, Berat Doğan, Fatih Burak Karagöz, Efe Eren Genç, Esma F. Bilgin Taşdemir

cs.AI

Samenvatting

Deze paper introduceert fundamentele bronnen en modellen voor natuurlijke taalverwerking (NLP) van historisch Turks, een domein dat onderbelicht is gebleven in de computationele taalkunde. We presenteren het eerste genaamde entiteitenherkennings (NER) dataset, HisTR en het eerste Universal Dependencies treebank, OTA-BOUN voor een historische vorm van de Turkse taal samen met op transformer-gebaseerde modellen die zijn getraind met behulp van deze datasets voor genaamde entiteitenherkenning, afhankelijkheidsparsing en woordsoortmarkeringstaken. Daarnaast introduceren we het Ottomaanse Tekstcorpus (OTC), een schoon corpus van getranslitereerde historische Turkse teksten die een breed scala aan historische periodes beslaan. Onze experimentele resultaten tonen significante verbeteringen in de computationele analyse van historisch Turks, waarbij veelbelovende resultaten worden behaald in taken die begrip vereisen van historische taalkundige structuren. Ze benadrukken ook bestaande uitdagingen, zoals domeinaanpassing en taalvariaties over verschillende tijdsperiodes. Alle gepresenteerde bronnen en modellen zijn beschikbaar op https://huggingface.co/bucolin om te dienen als een benchmark voor toekomstige vooruitgang in historische Turkse NLP.

English

This paper introduces foundational resources and models for natural language processing (NLP) of historical Turkish, a domain that has remained underexplored in computational linguistics. We present the first named entity recognition (NER) dataset, HisTR and the first Universal Dependencies treebank, OTA-BOUN for a historical form of the Turkish language along with transformer-based models trained using these datasets for named entity recognition, dependency parsing, and part-of-speech tagging tasks. Additionally, we introduce Ottoman Text Corpus (OTC), a clean corpus of transliterated historical Turkish texts that spans a wide range of historical periods. Our experimental results show significant improvements in the computational analysis of historical Turkish, achieving promising results in tasks that require understanding of historical linguistic structures. They also highlight existing challenges, such as domain adaptation and language variations across time periods. All of the presented resources and models are made available at https://huggingface.co/bucolin to serve as a benchmark for future progress in historical Turkish NLP.