mStyleDistance: Incorporação de Estilos Multilíngues e sua Avaliação

mStyleDistance: Multilingual Style Embeddings and their Evaluation

February 21, 2025

Autores: Justin Qiu, Jiacheng Zhu, Ajay Patel, Marianna Apidianaki, Chris Callison-Burch

cs.AI

Resumo

As incrustações de estilo são úteis para análise estilística e transferência de estilo; no entanto, apenas as incrustações de estilo em inglês estão disponíveis. Apresentamos o Multilingual StyleDistance (mStyleDistance), um modelo de incrustação de estilo multilíngue treinado usando dados sintéticos e aprendizado contrastivo. Treinamos o modelo em dados de nove idiomas e criamos um benchmark multilíngue STEL-or-Content (Wegmann et al., 2022) que serve para avaliar a qualidade das incrustações. Também utilizamos nossas incrustações em uma tarefa de verificação de autoria envolvendo diferentes idiomas. Nossos resultados mostram que as incrustações mStyleDistance superam os modelos existentes nessas avaliações de estilo multilíngue e generalizam bem para características e idiomas não vistos anteriormente. Disponibilizamos nosso modelo publicamente em https://huggingface.co/StyleDistance/mstyledistance.

English

Style embeddings are useful for stylistic analysis and style transfer; however, only English style embeddings have been made available. We introduce Multilingual StyleDistance (mStyleDistance), a multilingual style embedding model trained using synthetic data and contrastive learning. We train the model on data from nine languages and create a multilingual STEL-or-Content benchmark (Wegmann et al., 2022) that serves to assess the embeddings' quality. We also employ our embeddings in an authorship verification task involving different languages. Our results show that mStyleDistance embeddings outperform existing models on these multilingual style benchmarks and generalize well to unseen features and languages. We make our model publicly available at https://huggingface.co/StyleDistance/mstyledistance .