대규모 추론 모델을 활용한 현대적 기계 번역의 새로운 트렌드

New Trends for Modern Machine Translation with Large Reasoning Models

March 13, 2025

저자: Sinuo Liu, Chenyang Lyu, Minghao Wu, Longyue Wang, Weihua Luo, Kaifu Zhang

cs.AI

초록

대규모 추론 모델(Large Reasoning Models, LRMs), 특히 사고 연쇄(Chain-of-Thought, CoT) 추론을 활용한 모델의 최근 발전은 기계 번역(Machine Translation, MT)에 대한 완전히 새로운 가능성을 열어주었습니다. 이 포지션 논문은 LRMs가 전통적인 신경망 기반 MT와 대형 언어 모델(LLMs) 기반 MT 패러다임을 크게 변형시켰다고 주장하며, 번역을 맥락적, 문화적, 언어적 이해와 추론이 필요한 동적 추론 작업으로 재구성했다고 설명합니다. 우리는 세 가지 근본적인 변화를 확인했습니다: 1) 맥락적 일관성(contextual coherence), LRMs는 문장 간 및 복잡한 맥락 또는 맥락 부재 상황에서 명시적 추론을 통해 모호성을 해결하고 담화 구조를 보존합니다; 2) 문화적 의도성(cultural intentionality), 모델이 화자의 의도, 청중의 기대, 사회언어학적 규범을 추론하여 출력을 조정할 수 있게 합니다; 3) 자기 반영(self-reflection), LRMs는 추론 시간 동안 자기 반영을 수행하여 특히 매우 노이즈가 많은 경우의 번역 오류를 수정할 수 있으며, 단순한 X->Y 매핑 번역에 비해 더 나은 견고성을 보여줍니다. 우리는 스타일화된 번역, 문서 수준 번역, 다중모달 번역을 포함한 다양한 번역 시나리오를 탐구하며 LRMs의 우수성을 입증하는 실증적 예시를 제시합니다. 또한, 자동 피벗 번역(auto-pivot translation)과 같은 LRMs의 흥미로운 현상과 번역에서의 과도한 지역화(over-localisation) 및 추론 효율성과 같은 중요한 도전 과제를 식별합니다. 결론적으로, 우리는 LRMs가 번역 시스템을 단순한 텍스트 변환기가 아닌 텍스트를 넘어 의미를 추론할 수 있는 다국어 인지 에이전트로 재정의한다고 생각합니다. 이 패러다임 전환은 LRMs를 통해 전통적인 번역 시나리오를 넘어 더 넓은 맥락에서 번역 문제를 생각하고, 이를 기반으로 무엇을 달성할 수 있는지 고민하도록 상기시킵니다.

English

Recent advances in Large Reasoning Models (LRMs), particularly those leveraging Chain-of-Thought reasoning (CoT), have opened brand new possibility for Machine Translation (MT). This position paper argues that LRMs substantially transformed traditional neural MT as well as LLMs-based MT paradigms by reframing translation as a dynamic reasoning task that requires contextual, cultural, and linguistic understanding and reasoning. We identify three foundational shifts: 1) contextual coherence, where LRMs resolve ambiguities and preserve discourse structure through explicit reasoning over cross-sentence and complex context or even lack of context; 2) cultural intentionality, enabling models to adapt outputs by inferring speaker intent, audience expectations, and socio-linguistic norms; 3) self-reflection, LRMs can perform self-reflection during the inference time to correct the potential errors in translation especially extremely noisy cases, showing better robustness compared to simply mapping X->Y translation. We explore various scenarios in translation including stylized translation, document-level translation and multimodal translation by showcasing empirical examples that demonstrate the superiority of LRMs in translation. We also identify several interesting phenomenons for LRMs for MT including auto-pivot translation as well as the critical challenges such as over-localisation in translation and inference efficiency. In conclusion, we think that LRMs redefine translation systems not merely as text converters but as multilingual cognitive agents capable of reasoning about meaning beyond the text. This paradigm shift reminds us to think of problems in translation beyond traditional translation scenarios in a much broader context with LRMs - what we can achieve on top of it.