La traducción de textos literarios mediante IA está "bien", pero los lectores siguen prefiriendo las traducciones humanas.

Resumen

La traducción automática de obras literarias es cada vez más común. Aunque el contenido puede transmitirse de forma adecuada, no conocemos lo suficiente sobre cómo los lectores lo experimentan en términos de inmersión y efecto literario, aspectos que las métricas automáticas de traducción automática o la evaluación humana centrada en fluidez y adecuación capturan de manera deficiente. Solicitamos a 15 lectores asiduos que comparen traducciones humanas (TH) publicadas recientemente con traducciones automáticas (TA) generadas mediante un flujo de trabajo basado en un modelo de lenguaje grande (LLM) agente, para 15 novelas recientes en francés, polaco y japonés, traducidas al inglés. Los lectores evaluaron extractos de aproximadamente 8.000 palabras en dos condiciones: lectura inmersiva del extracto completo (30 comparaciones) y lectura detallada de 386 pares de fragmentos TH-TA alineados (772 comparaciones), con dos lectores por libro y en orden de presentación alternado. En general, los lectores consideran las TA "aceptables", pero prefieren las TH (ligeramente a nivel de extracto: 19/30; más claramente a nivel de fragmento: 522/772) por su facilidad, claridad y naturaleza inmersiva. Los destacados de los lectores muestran que la calidad de la TA varía más dentro de un mismo libro que la de la TH. Es crucial que los lectores no pueden distinguir de manera fiable entre ambas (17/30 aciertan) y tienden a preferir la versión que creen humana. Las métricas automáticas, incluidos los enfoques de LLM como juez, no logran recuperar las preferencias de los lectores y favorecen la TA. Publicamos LAIT (Literary AI Translation), un conjunto de datos de evaluación centrado en el lector con 1.000 comentarios de lectores, 2.000 juicios y valoraciones de preferencia, y 7.200 anotaciones a nivel de fragmento, junto con nuestro protocolo de evaluación e interfaz de apoyo.

English

AI translation of literary works is increasingly common. While the content may be rendered adequately, we do not know enough about how readers experience it in terms of immersiveness and literary effect, aspects poorly captured by automatic machine translation metrics or human evaluation targeting fluency and adequacy. We ask 15 avid readers to compare recently published human translations (HT) to machine translations (MT) generated with an agentic large language model (LLM)-based pipeline, for 15 recent novels in French, Polish, and Japanese and translated into English. Readers evaluated approximately 8K-word excerpts in two conditions: immersive reading of the whole excerpt (30 comparisons) and close reading of 386 aligned HT-MT chunk pairs (772 comparisons), with two readers per book and in alternating order of presentation. Overall, readers find MT "fine", but prefer HT (slightly at excerpt-level 19/30, more clearly at chunk-level 522/772) for its ease, clarity, and immersive nature. Readers' highlights show that MT's quality varies more within one book than HT's does. Crucially, readers cannot reliably tell the two apart (17/30 guess correctly) and tend to prefer the version they believe to be human. Automatic metrics, including LLM-as-a-judge approaches, fail to recover reader preferences and favor MT. We release LAIT (Literary AI Translation), a reader-centered evaluation dataset with 1K reader comments, 2K judgments and preference ratings, and 7.2K span-level annotations, along with our evaluation protocol and supporting interface.