mStyleDistance: Meertalige Stijlinbeddingen en hun Evaluatie

mStyleDistance: Multilingual Style Embeddings and their Evaluation

February 21, 2025

Auteurs: Justin Qiu, Jiacheng Zhu, Ajay Patel, Marianna Apidianaki, Chris Callison-Burch

cs.AI

Samenvatting

Stijlembeddingen zijn nuttig voor stilistische analyse en stijloverdracht; echter, zijn er tot nu toe alleen Engelse stijlembeddingen beschikbaar gemaakt. Wij introduceren Multilingual StyleDistance (mStyleDistance), een meertalig stijlembeddingsmodel dat is getraind met behulp van synthetische data en contrastief leren. We trainen het model op data van negen talen en creëren een meertalige STEL-or-Content benchmark (Wegmann et al., 2022) die dient om de kwaliteit van de embeddingen te beoordelen. We gebruiken onze embeddingen ook in een taak voor auteursverificatie waarbij verschillende talen betrokken zijn. Onze resultaten tonen aan dat mStyleDistance-embeddingen bestaande modellen overtreffen op deze meertalige stijlbenchmarks en goed generaliseren naar onbekende kenmerken en talen. We stellen ons model publiekelijk beschikbaar op https://huggingface.co/StyleDistance/mstyledistance.

English

Style embeddings are useful for stylistic analysis and style transfer; however, only English style embeddings have been made available. We introduce Multilingual StyleDistance (mStyleDistance), a multilingual style embedding model trained using synthetic data and contrastive learning. We train the model on data from nine languages and create a multilingual STEL-or-Content benchmark (Wegmann et al., 2022) that serves to assess the embeddings' quality. We also employ our embeddings in an authorship verification task involving different languages. Our results show that mStyleDistance embeddings outperform existing models on these multilingual style benchmarks and generalize well to unseen features and languages. We make our model publicly available at https://huggingface.co/StyleDistance/mstyledistance .