Технический отчет Hunyuan-MT

Аннотация

В данном отчете мы представляем Hunyuan-MT-7B — нашу первую открытую многоязычную модель перевода, которая поддерживает двусторонний перевод между 33 основными языками, с особым акцентом на перевод между китайским языком (мандарин) и несколькими языками этнических меньшинств, а также диалектами. Кроме того, для обслуживания различных сценариев перевода и повышения производительности модели во время тестирования мы представляем Hunyuan-MT-Chimera-7B — модель перевода, вдохновленную режимом медленного мышления. Эта модель интегрирует множество выходных данных, сгенерированных моделью Hunyuan-MT-7B при различных настройках параметров, достигая таким образом производительности, превосходящей традиционные модели медленного мышления, основанные на цепочке рассуждений (Chain-of-Thought, CoT). Разработка наших моделей следует целостному процессу обучения, специально разработанному для многоязычного перевода, который начинается с общего предварительного обучения и предварительного обучения, ориентированного на машинный перевод, для формирования базовых возможностей, продолжается контролируемой тонкой настройкой (Supervised Fine-Tuning, SFT) для адаптации к конкретным задачам и завершается продвинутым выравниванием с использованием обучения с подкреплением (Reinforcement Learning, RL) и обучения от слабого к сильному (weak-to-strong RL). В ходе всесторонних экспериментов мы демонстрируем, что как Hunyuan-MT-7B, так и Hunyuan-MT-Chimera-7B значительно превосходят все модели перевода сопоставимого размера и большинство современных крупных моделей (SOTA), особенно в задачах перевода между китайским языком и языками меньшинств, а также диалектами. В рамках общей задачи WMT2025 (General Machine Translation) наши модели демонстрируют передовые результаты, занимая первое место в 30 из 31 языковой пары. Этот результат подчеркивает устойчивость наших моделей в широком языковом спектре, включая языки с большим объемом ресурсов, такие как китайский, английский и японский, а также языки с малым объемом ресурсов, такие как чешский, маратхи, эстонский и исландский.

English

In this report, we introduce Hunyuan-MT-7B, our first open-source multilingual translation model, which supports bidirectional translation across 33 major languages and places a special emphasis on translation between Mandarin and several ethnic minority languages as well as dialects. Furthermore, to serve and address diverse translation scenarios and enhance model performance at test time, we introduce Hunyuan-MT-Chimera-7B, a translation model inspired by the slow thinking mode. This model integrates multiple outputs generated by the Hunyuan-MT-7B model under varying parameter settings, thereby achieving performance superior to that of conventional slow-thinking models based on Chain-of-Thought (CoT). The development of our models follows a holistic training process specifically engineered for multilingual translation, which begins with general and MT-oriented pre-training to build foundational capabilities, proceeds to Supervised Fine-Tuning (SFT) for task-specific adaptation, and culminates in advanced alignment through Reinforcement Learning (RL) and weak-to-strong RL. Through comprehensive experimentation, we demonstrate that both Hunyuan-MT-7B and Hunyuan-MT-Chimera-7B significantly outperform all translation-specific models of comparable parameter size and most of the SOTA large models, particularly on the task of translation between Mandarin and minority languages as well as dialects. In the WMT2025 shared task (General Machine Translation), our models demonstrate state-of-the-art performance, ranking first in 30 out of 31 language pairs. This result highlights the robustness of our models across a diverse linguistic spectrum, encompassing high-resource languages such as Chinese, English, and Japanese, as well as low-resource languages including Czech, Marathi, Estonian, and Icelandic.

Технический отчет Hunyuan-MT

Hunyuan-MT Technical Report

Аннотация

Support