mStyleDistance : Représentations stylistiques multilingues et leur évaluation

mStyleDistance: Multilingual Style Embeddings and their Evaluation

February 21, 2025

Auteurs: Justin Qiu, Jiacheng Zhu, Ajay Patel, Marianna Apidianaki, Chris Callison-Burch

cs.AI

Résumé

Les embeddings stylistiques sont utiles pour l'analyse stylistique et le transfert de style ; cependant, seuls les embeddings stylistiques en anglais ont été rendus disponibles. Nous présentons Multilingual StyleDistance (mStyleDistance), un modèle d'embedding stylistique multilingue entraîné à l'aide de données synthétiques et d'apprentissage contrastif. Nous entraînons le modèle sur des données provenant de neuf langues et créons un benchmark multilingue STEL-or-Content (Wegmann et al., 2022) qui sert à évaluer la qualité des embeddings. Nous utilisons également nos embeddings dans une tâche de vérification d'auteur impliquant différentes langues. Nos résultats montrent que les embeddings de mStyleDistance surpassent les modèles existants sur ces benchmarks stylistiques multilingues et généralisent bien à des caractéristiques et des langues non vues. Nous rendons notre modèle public à l'adresse suivante : https://huggingface.co/StyleDistance/mstyledistance.

English

Style embeddings are useful for stylistic analysis and style transfer; however, only English style embeddings have been made available. We introduce Multilingual StyleDistance (mStyleDistance), a multilingual style embedding model trained using synthetic data and contrastive learning. We train the model on data from nine languages and create a multilingual STEL-or-Content benchmark (Wegmann et al., 2022) that serves to assess the embeddings' quality. We also employ our embeddings in an authorship verification task involving different languages. Our results show that mStyleDistance embeddings outperform existing models on these multilingual style benchmarks and generalize well to unseen features and languages. We make our model publicly available at https://huggingface.co/StyleDistance/mstyledistance .