저자원 언어에서의 텍스트 탈독화를 위한 Tatoxa 시스템: 타타르어의 사례

초록

텍스트 디톡시피케이션(Text detoxification), 즉 공격적이고 유해한 콘텐츠를 자동으로 탐지하고 완화하는 기술은 온라인 커뮤니티의 안전을 보장하고 사용자를 보호하는 데 필수적이다. 그러나 타타르어와 같은 저자원 언어는 연구적 관심을 거의 받지 못했다. 본 논문에서는 타타르어 텍스트 디톡시피케이션을 위한 새로운 최첨단 시스템인 Tatoxa를 제시한다. 비교 실험 결과, 제안된 접근법은 주요 품질 지표에서 기존 오픈소스 및 독점 상용 대규모 언어 모델(LLM)을 능가하는 성능을 보였다. 또한 저자원 환경에서의 미세 조정 및 평가를 위해 설계된 타타르어 텍스트 디톡시피케이션용 신규 데이터셋을 소개한다. 마지막으로, 교차 언어 전이 실험은 문화적으로 가까운 러시아어를 포함한 다른 언어로부터의 전이가 대규모 러시아어 코퍼스가 존재하더라도 타타르어 원천 데이터로 학습한 경우보다 현저히 낮은 성능을 보임을 나타낸다.

English

Text detoxification, the automated detection and mitigation of abusive and harmful content, is essential for ensuring the safety of online communities and protecting users. However, low resource languages such as Tatar have received little research attention. In this paper we present Tatoxa, a novel state-of-the-art system for text detoxification in the Tatar language. Comparative experiments show that the proposed approach outperforms existing open source and proprietary commercial LLMs on key quality metrics. We also introduce a new dataset for text detoxification in Tatar, designed for fine tuning and evaluation in low resource settings. Finally, cross lingual transfer experiments indicate that transfer from other languages, including the culturally close Russian, performs significantly worse than training on native Tatar data even when a large Russian corpus is available.