Формирование основ для обработки естественного языка исторического турецкого языка: ресурсы и модели

Building Foundations for Natural Language Processing of Historical Turkish: Resources and Models

January 8, 2025

Авторы: Şaziye Betül Özateş, Tarık Emre Tıraş, Ece Elif Adak, Berat Doğan, Fatih Burak Karagöz, Efe Eren Genç, Esma F. Bilgin Taşdemir

cs.AI

Аннотация

Эта статья представляет основные ресурсы и модели для обработки естественного языка (NLP) исторического турецкого языка, области, которая осталась мало исследованной в вычислительной лингвистике. Мы представляем первый набор данных для распознавания именованных сущностей (NER) - HisTR и первый деревянный банк данных Universal Dependencies, OTA-BOUN для исторической формы турецкого языка, а также модели на основе трансформера, обученные с использованием этих наборов данных для задач распознавания именованных сущностей, синтаксического анализа зависимостей и разметки частей речи. Кроме того, мы представляем Османский текстовый корпус (OTC), чистый корпус транслитерированных исторических турецких текстов, охватывающий широкий диапазон исторических периодов. Наши экспериментальные результаты показывают значительное улучшение вычислительного анализа исторического турецкого языка, достигая многообещающих результатов в задачах, требующих понимания исторических языковых структур. Они также выделяют существующие проблемы, такие как адаптация к области и вариации языка в течение разных исторических периодов. Все представленные ресурсы и модели доступны по адресу https://huggingface.co/bucolin для использования в качестве эталона для будущего прогресса в области NLP исторического турецкого языка.

English

This paper introduces foundational resources and models for natural language processing (NLP) of historical Turkish, a domain that has remained underexplored in computational linguistics. We present the first named entity recognition (NER) dataset, HisTR and the first Universal Dependencies treebank, OTA-BOUN for a historical form of the Turkish language along with transformer-based models trained using these datasets for named entity recognition, dependency parsing, and part-of-speech tagging tasks. Additionally, we introduce Ottoman Text Corpus (OTC), a clean corpus of transliterated historical Turkish texts that spans a wide range of historical periods. Our experimental results show significant improvements in the computational analysis of historical Turkish, achieving promising results in tasks that require understanding of historical linguistic structures. They also highlight existing challenges, such as domain adaptation and language variations across time periods. All of the presented resources and models are made available at https://huggingface.co/bucolin to serve as a benchmark for future progress in historical Turkish NLP.