アラビア語NLPにおける意味的類似性理解の向上：ネスト型埋め込み学習を用いて

Enhancing Semantic Similarity Understanding in Arabic NLP with Nested Embedding Learning

July 30, 2024

著者: Omer Nacar, Anis Koubaa

cs.AI

要旨

本研究では、マトリョーシカ埋め込み学習を活用したアラビア語のネスト型埋め込みモデルの新たなトレーニングフレームワークを提案します。多言語モデル、アラビア語特化モデル、英語ベースモデルを活用し、様々なアラビア語NLP下流タスクにおけるネスト型埋め込みモデルの有効性を明らかにします。革新的な貢献として、複数の文類似性データセットをアラビア語に翻訳し、これらのモデルを多角的に比較する包括的な評価フレームワークを構築しました。アラビア語自然言語推論のトリプレットデータセットを用いて複数のネスト型埋め込みモデルをトレーニングし、コサイン類似度、マンハッタン距離、ユークリッド距離、ドット積類似度におけるピアソン相関とスピアマン相関を含む複数の評価指標を用いてその性能を評価しました。結果は、マトリョーシカ埋め込みモデル、特にアラビア語特有の意味的ニュアンスを捉える点で優れた性能を示し、従来のモデルを最大20-25％上回ることを実証しました。これらの結果は、言語特化型トレーニングの有効性を裏付けるとともに、アラビア語NLPにおける意味的テキスト類似性タスクを強化するマトリョーシカモデルの可能性を強調しています。

English

This work presents a novel framework for training Arabic nested embedding models through Matryoshka Embedding Learning, leveraging multilingual, Arabic-specific, and English-based models, to highlight the power of nested embeddings models in various Arabic NLP downstream tasks. Our innovative contribution includes the translation of various sentence similarity datasets into Arabic, enabling a comprehensive evaluation framework to compare these models across different dimensions. We trained several nested embedding models on the Arabic Natural Language Inference triplet dataset and assessed their performance using multiple evaluation metrics, including Pearson and Spearman correlations for cosine similarity, Manhattan distance, Euclidean distance, and dot product similarity. The results demonstrate the superior performance of the Matryoshka embedding models, particularly in capturing semantic nuances unique to the Arabic language. Results demonstrated that Arabic Matryoshka embedding models have superior performance in capturing semantic nuances unique to the Arabic language, significantly outperforming traditional models by up to 20-25\% across various similarity metrics. These results underscore the effectiveness of language-specific training and highlight the potential of Matryoshka models in enhancing semantic textual similarity tasks for Arabic NLP.