Établir les bases pour le traitement automatique du langage naturel du turc historique : ressources et modèles

Building Foundations for Natural Language Processing of Historical Turkish: Resources and Models

January 8, 2025

Auteurs: Şaziye Betül Özateş, Tarık Emre Tıraş, Ece Elif Adak, Berat Doğan, Fatih Burak Karagöz, Efe Eren Genç, Esma F. Bilgin Taşdemir

cs.AI

Résumé

Cet article présente des ressources et des modèles fondamentaux pour le traitement automatique du langage naturel (TALN) du turc historique, un domaine qui est resté sous-exploré en linguistique informatique. Nous présentons le premier ensemble de données de reconnaissance d'entités nommées (NER) pour le turc historique, HisTR, ainsi que le premier corpus arboré de dépendances universelles, OTA-BOUN, pour une forme historique de la langue turque, accompagnés de modèles basés sur des transformers entraînés à l'aide de ces ensembles de données pour la reconnaissance d'entités nommées, l'analyse syntaxique de dépendances et l'étiquetage morpho-syntaxique. De plus, nous introduisons le Corpus de Textes Ottomans (OTC), un corpus propre de textes turcs historiques translittérés couvrant une large gamme de périodes historiques. Nos résultats expérimentaux montrent des améliorations significatives dans l'analyse informatique du turc historique, atteignant des résultats prometteurs dans des tâches nécessitant la compréhension des structures linguistiques historiques. Ils soulignent également les défis existants, tels que l'adaptation au domaine et les variations linguistiques à travers les périodes. Toutes les ressources et les modèles présentés sont disponibles sur https://huggingface.co/bucolin pour servir de référence pour les progrès futurs dans le TALN du turc historique.

English

This paper introduces foundational resources and models for natural language processing (NLP) of historical Turkish, a domain that has remained underexplored in computational linguistics. We present the first named entity recognition (NER) dataset, HisTR and the first Universal Dependencies treebank, OTA-BOUN for a historical form of the Turkish language along with transformer-based models trained using these datasets for named entity recognition, dependency parsing, and part-of-speech tagging tasks. Additionally, we introduce Ottoman Text Corpus (OTC), a clean corpus of transliterated historical Turkish texts that spans a wide range of historical periods. Our experimental results show significant improvements in the computational analysis of historical Turkish, achieving promising results in tasks that require understanding of historical linguistic structures. They also highlight existing challenges, such as domain adaptation and language variations across time periods. All of the presented resources and models are made available at https://huggingface.co/bucolin to serve as a benchmark for future progress in historical Turkish NLP.