Перевод художественных текстов с помощью ИИ — это «нормально», но читатели всё равно предпочитают переводы, выполненные человеком.

Аннотация

AI-перевод литературных произведений становится всё более распространённым. Хотя содержание может передаваться адекватно, мы недостаточно знаем о том, как читатели воспринимают его с точки зрения погружения и литературного эффекта — аспектов, которые плохо улавливаются автоматическими метриками машинного перевода или человеческой оценкой, нацеленной на беглость и адекватность. Мы попросили 15 заядлых читателей сравнить недавно опубликованные человеческие переводы (ЧП) с машинными переводами (МП), полученными с помощью конвейера на основе агентной большой языковой модели (БЯМ), для 15 недавних романов на французском, польском и японском языках, переведённых на английский. Читатели оценивали отрывки объёмом приблизительно 8000 слов в двух условиях: погружающее чтение всего отрывка (30 сравнений) и вдумчивое чтение 386 выровненных пар фрагментов ЧП-МП (772 сравнения), с двумя читателями на книгу и чередующимся порядком предъявления. В целом читатели находят МП «сносным», но предпочитают ЧП (на уровне отрывков — незначительно: 19/30, на уровне фрагментов — более явно: 522/772) за лёгкость, ясность и способность вызвать погружение. Выделенные читателями места показывают, что качество МП варьируется сильнее в пределах одной книги, чем качество ЧП. Важно, что читатели не могут надёжно различить эти два типа переводов (правильно угадывают 17/30) и склонны предпочитать ту версию, которую считают человеческой. Автоматические метрики, включая подходы с БЯМ в роли судьи, не воспроизводят предпочтения читателей и отдают предпочтение МП. Мы публикуем LAIT (Literary AI Translation) — ориентированный на читателя набор данных для оценки, содержащий 1000 комментариев читателей, 2000 оценок и рейтингов предпочтений, а также 7200 аннотаций на уровне сегментов, вместе с нашим протоколом оценки и поддерживающим интерфейсом.

English

AI translation of literary works is increasingly common. While the content may be rendered adequately, we do not know enough about how readers experience it in terms of immersiveness and literary effect, aspects poorly captured by automatic machine translation metrics or human evaluation targeting fluency and adequacy. We ask 15 avid readers to compare recently published human translations (HT) to machine translations (MT) generated with an agentic large language model (LLM)-based pipeline, for 15 recent novels in French, Polish, and Japanese and translated into English. Readers evaluated approximately 8K-word excerpts in two conditions: immersive reading of the whole excerpt (30 comparisons) and close reading of 386 aligned HT-MT chunk pairs (772 comparisons), with two readers per book and in alternating order of presentation. Overall, readers find MT "fine", but prefer HT (slightly at excerpt-level 19/30, more clearly at chunk-level 522/772) for its ease, clarity, and immersive nature. Readers' highlights show that MT's quality varies more within one book than HT's does. Crucially, readers cannot reliably tell the two apart (17/30 guess correctly) and tend to prefer the version they believe to be human. Automatic metrics, including LLM-as-a-judge approaches, fail to recover reader preferences and favor MT. We release LAIT (Literary AI Translation), a reader-centered evaluation dataset with 1K reader comments, 2K judgments and preference ratings, and 7.2K span-level annotations, along with our evaluation protocol and supporting interface.