La traduction par IA des textes littéraires est « acceptable », mais les lecteurs préfèrent toujours les traductions humaines.

Résumé

La traduction par IA d'œuvres littéraires est de plus en plus courante. Bien que le contenu puisse être rendu de manière acceptable, nous ne savons pas suffisamment comment les lecteurs l'expérimentent en termes d'immersion et d'effet littéraire, aspects mal capturés par les métriques automatiques de traduction automatique ou par l'évaluation humaine axée sur la fluidité et l'adéquation. Nous demandons à 15 lecteurs assidus de comparer des traductions humaines (TH) récemment publiées à des traductions automatiques (TA) générées par un pipeline basé sur un modèle de langage large agentique, pour 15 romans récents en français, polonais et japonais, traduits vers l'anglais. Les lecteurs ont évalué des extraits d'environ 8 000 mots dans deux conditions : lecture immersive de l'extrait entier (30 comparaisons) et lecture rapprochée de 386 paires de segments TH-TA alignés (772 comparaisons), avec deux lecteurs par livre et un ordre de présentation alterné. Dans l'ensemble, les lecteurs considèrent les TA comme « acceptables », mais préfèrent les TH (légèrement au niveau des extraits, 19/30 ; plus nettement au niveau des segments, 522/772) pour leur aisance, leur clarté et leur nature immersive. Les annotations des lecteurs montrent que la qualité des TA varie davantage au sein d'un même livre que celle des TH. Fait crucial, les lecteurs ne parviennent pas à distinguer les deux de manière fiable (17/30 devinent correctement) et tendent à préférer la version qu'ils croient être humaine. Les métriques automatiques, y compris les approches de type LLM-en-tant-que-juge, ne parviennent pas à reproduire les préférences des lecteurs et favorisent les TA. Nous publions LAIT (Literary AI Translation), un jeu de données d'évaluation centré sur le lecteur comprenant 1 000 commentaires de lecteurs, 2 000 jugements et évaluations de préférence, et 7 200 annotations au niveau des segments, ainsi que notre protocole d'évaluation et l'interface associée.

English

AI translation of literary works is increasingly common. While the content may be rendered adequately, we do not know enough about how readers experience it in terms of immersiveness and literary effect, aspects poorly captured by automatic machine translation metrics or human evaluation targeting fluency and adequacy. We ask 15 avid readers to compare recently published human translations (HT) to machine translations (MT) generated with an agentic large language model (LLM)-based pipeline, for 15 recent novels in French, Polish, and Japanese and translated into English. Readers evaluated approximately 8K-word excerpts in two conditions: immersive reading of the whole excerpt (30 comparisons) and close reading of 386 aligned HT-MT chunk pairs (772 comparisons), with two readers per book and in alternating order of presentation. Overall, readers find MT "fine", but prefer HT (slightly at excerpt-level 19/30, more clearly at chunk-level 522/772) for its ease, clarity, and immersive nature. Readers' highlights show that MT's quality varies more within one book than HT's does. Crucially, readers cannot reliably tell the two apart (17/30 guess correctly) and tend to prefer the version they believe to be human. Automatic metrics, including LLM-as-a-judge approaches, fail to recover reader preferences and favor MT. We release LAIT (Literary AI Translation), a reader-centered evaluation dataset with 1K reader comments, 2K judgments and preference ratings, and 7.2K span-level annotations, along with our evaluation protocol and supporting interface.