A tradução por IA de textos literários é "aceitável", mas os leitores ainda preferem traduções humanas.

Resumo

A tradução automática de obras literárias é cada vez mais comum. Embora o conteúdo possa ser transmitido de forma adequada, não sabemos o suficiente sobre como os leitores a experienciam em termos de imersão e efeito literário, aspetos mal capturados por métricas automáticas de tradução automática ou por avaliação humana focada em fluência e adequação. Pedimos a 15 leitores ávidos que comparassem traduções humanas (TH) publicadas recentemente com traduções automáticas (TA) geradas por um pipeline baseado em um modelo de linguagem de grande escala agêntico (LLM), para 15 romances recentes em francês, polaco e japonês, traduzidos para inglês. Os leitores avaliaram trechos de aproximadamente 8.000 palavras em duas condições: leitura imersiva do trecho completo (30 comparações) e leitura atenta de 386 pares de blocos TH-TA alinhados (772 comparações), com dois leitores por livro e ordem de apresentação alternada. No geral, os leitores consideram a TA "aceitável", mas preferem a TH (ligeiramente no nível do trecho, 19/30; mais claramente no nível do bloco, 522/772) pela sua facilidade, clareza e natureza imersiva. Os destaques dos leitores mostram que a qualidade da TA varia mais dentro de um único livro do que a da TH. Crucialmente, os leitores não conseguem distinguir consistentemente as duas (acertam em 17/30 palpites) e tendem a preferir a versão que acreditam ser humana. Métricas automáticas, incluindo abordagens de LLM como juiz, não recuperam as preferências dos leitores e favorecem a TA. Disponibilizamos LAIT (Literary AI Translation), um conjunto de dados de avaliação centrado no leitor com 1.000 comentários de leitores, 2.000 julgamentos e classificações de preferência, e 7.200 anotações em nível de segmento, juntamente com o nosso protocolo de avaliação e interface de suporte.

English

AI translation of literary works is increasingly common. While the content may be rendered adequately, we do not know enough about how readers experience it in terms of immersiveness and literary effect, aspects poorly captured by automatic machine translation metrics or human evaluation targeting fluency and adequacy. We ask 15 avid readers to compare recently published human translations (HT) to machine translations (MT) generated with an agentic large language model (LLM)-based pipeline, for 15 recent novels in French, Polish, and Japanese and translated into English. Readers evaluated approximately 8K-word excerpts in two conditions: immersive reading of the whole excerpt (30 comparisons) and close reading of 386 aligned HT-MT chunk pairs (772 comparisons), with two readers per book and in alternating order of presentation. Overall, readers find MT "fine", but prefer HT (slightly at excerpt-level 19/30, more clearly at chunk-level 522/772) for its ease, clarity, and immersive nature. Readers' highlights show that MT's quality varies more within one book than HT's does. Crucially, readers cannot reliably tell the two apart (17/30 guess correctly) and tend to prefer the version they believe to be human. Automatic metrics, including LLM-as-a-judge approaches, fail to recover reader preferences and favor MT. We release LAIT (Literary AI Translation), a reader-centered evaluation dataset with 1K reader comments, 2K judgments and preference ratings, and 7.2K span-level annotations, along with our evaluation protocol and supporting interface.