mStyleDistance: Многоязычные стилевые эмбеддинги и их оценка

mStyleDistance: Multilingual Style Embeddings and their Evaluation

February 21, 2025

Авторы: Justin Qiu, Jiacheng Zhu, Ajay Patel, Marianna Apidianaki, Chris Callison-Burch

cs.AI

Аннотация

Стилевые эмбеддинги полезны для стилистического анализа и переноса стиля; однако до сих пор были доступны только стилевые эмбеддинги для английского языка. Мы представляем Multilingual StyleDistance (mStyleDistance) — модель мультиязычных стилевых эмбеддингов, обученную на синтетических данных с использованием контрастивного обучения. Мы обучаем модель на данных из девяти языков и создаем мультиязычный бенчмарк STEL-or-Content (Wegmann et al., 2022), который служит для оценки качества эмбеддингов. Мы также применяем наши эмбеддинги в задаче верификации авторства с использованием различных языков. Наши результаты показывают, что эмбеддинги mStyleDistance превосходят существующие модели на этих мультиязычных стилевых бенчмарках и хорошо обобщаются на неизвестные признаки и языки. Мы делаем нашу модель общедоступной по адресу https://huggingface.co/StyleDistance/mstyledistance.

English

Style embeddings are useful for stylistic analysis and style transfer; however, only English style embeddings have been made available. We introduce Multilingual StyleDistance (mStyleDistance), a multilingual style embedding model trained using synthetic data and contrastive learning. We train the model on data from nine languages and create a multilingual STEL-or-Content benchmark (Wegmann et al., 2022) that serves to assess the embeddings' quality. We also employ our embeddings in an authorship verification task involving different languages. Our results show that mStyleDistance embeddings outperform existing models on these multilingual style benchmarks and generalize well to unseen features and languages. We make our model publicly available at https://huggingface.co/StyleDistance/mstyledistance .