mStyleDistance: Embedding di Stile Multilingue e la loro Valutazione

mStyleDistance: Multilingual Style Embeddings and their Evaluation

February 21, 2025

Autori: Justin Qiu, Jiacheng Zhu, Ajay Patel, Marianna Apidianaki, Chris Callison-Burch

cs.AI

Abstract

Gli embedding stilistici sono utili per l'analisi stilistica e il trasferimento di stile; tuttavia, sono stati resi disponibili solo embedding stilistici per l'inglese. Introduciamo Multilingual StyleDistance (mStyleDistance), un modello di embedding stilistico multilingue addestrato utilizzando dati sintetici e apprendimento contrastivo. Addestriamo il modello su dati provenienti da nove lingue e creiamo un benchmark multilingue STEL-or-Content (Wegmann et al., 2022) che serve a valutare la qualità degli embedding. Utilizziamo inoltre i nostri embedding in un task di verifica dell'autorialità che coinvolge diverse lingue. I nostri risultati dimostrano che gli embedding di mStyleDistance superano i modelli esistenti su questi benchmark stilistici multilingue e generalizzano bene a caratteristiche e lingue non viste. Rendiamo disponibile il nostro modello pubblicamente all'indirizzo https://huggingface.co/StyleDistance/mstyledistance.

English

Style embeddings are useful for stylistic analysis and style transfer; however, only English style embeddings have been made available. We introduce Multilingual StyleDistance (mStyleDistance), a multilingual style embedding model trained using synthetic data and contrastive learning. We train the model on data from nine languages and create a multilingual STEL-or-Content benchmark (Wegmann et al., 2022) that serves to assess the embeddings' quality. We also employ our embeddings in an authorship verification task involving different languages. Our results show that mStyleDistance embeddings outperform existing models on these multilingual style benchmarks and generalize well to unseen features and languages. We make our model publicly available at https://huggingface.co/StyleDistance/mstyledistance .