Una Sorprendente Cantidad de la Web está Traducida por Máquinas: Perspectivas desde el Paralelismo Multidireccional

A Shocking Amount of the Web is Machine Translated: Insights from Multi-Way Parallelism

January 11, 2024

Autores: Brian Thompson, Mehak Preet Dhaliwal, Peter Frisch, Tobias Domhan, Marcello Federico

cs.AI

Resumen

Demostramos que el contenido en la web a menudo se traduce a muchos idiomas, y la baja calidad de estas traducciones multidireccionales sugiere que probablemente fueron creadas mediante Traducción Automática (TA). El contenido paralelo multidireccional generado automáticamente no solo domina las traducciones en idiomas con menos recursos; también constituye una gran fracción del contenido web total en esos idiomas. También encontramos evidencia de un sesgo de selección en el tipo de contenido que se traduce a muchos idiomas, consistente con la traducción masiva de contenido en inglés de baja calidad a muchos idiomas con menos recursos, a través de TA. Nuestro trabajo plantea serias preocupaciones sobre el entrenamiento de modelos, como los modelos de lenguaje multilingües a gran escala, utilizando datos monolingües y bilingües extraídos de la web.

English

We show that content on the web is often translated into many languages, and the low quality of these multi-way translations indicates they were likely created using Machine Translation (MT). Multi-way parallel, machine generated content not only dominates the translations in lower resource languages; it also constitutes a large fraction of the total web content in those languages. We also find evidence of a selection bias in the type of content which is translated into many languages, consistent with low quality English content being translated en masse into many lower resource languages, via MT. Our work raises serious concerns about training models such as multilingual large language models on both monolingual and bilingual data scraped from the web.