mStyleDistance: Incrustaciones de Estilo Multilingüe y su Evaluación

mStyleDistance: Multilingual Style Embeddings and their Evaluation

February 21, 2025

Autores: Justin Qiu, Jiacheng Zhu, Ajay Patel, Marianna Apidianaki, Chris Callison-Burch

cs.AI

Resumen

Los embeddings de estilo son útiles para el análisis estilístico y la transferencia de estilo; sin embargo, solo se han puesto a disposición embeddings de estilo en inglés. Presentamos Multilingual StyleDistance (mStyleDistance), un modelo de embeddings de estilo multilingüe entrenado utilizando datos sintéticos y aprendizaje contrastivo. Entrenamos el modelo con datos de nueve idiomas y creamos un benchmark multilingüe STEL-or-Content (Wegmann et al., 2022) que sirve para evaluar la calidad de los embeddings. También empleamos nuestros embeddings en una tarea de verificación de autoría que involucra diferentes idiomas. Nuestros resultados muestran que los embeddings de mStyleDistance superan a los modelos existentes en estos benchmarks de estilo multilingüe y generalizan bien a características e idiomas no vistos. Ponemos nuestro modelo a disposición del público en https://huggingface.co/StyleDistance/mstyledistance.

English

Style embeddings are useful for stylistic analysis and style transfer; however, only English style embeddings have been made available. We introduce Multilingual StyleDistance (mStyleDistance), a multilingual style embedding model trained using synthetic data and contrastive learning. We train the model on data from nine languages and create a multilingual STEL-or-Content benchmark (Wegmann et al., 2022) that serves to assess the embeddings' quality. We also employ our embeddings in an authorship verification task involving different languages. Our results show that mStyleDistance embeddings outperform existing models on these multilingual style benchmarks and generalize well to unseen features and languages. We make our model publicly available at https://huggingface.co/StyleDistance/mstyledistance .