Nieuwe Trends voor Moderne Machinevertaling met Grote Redeneermodellen

New Trends for Modern Machine Translation with Large Reasoning Models

March 13, 2025

Auteurs: Sinuo Liu, Chenyang Lyu, Minghao Wu, Longyue Wang, Weihua Luo, Kaifu Zhang

cs.AI

Samenvatting

Recente ontwikkelingen in Large Reasoning Models (LRMs), met name die gebruikmaken van Chain-of-Thought reasoning (CoT), hebben geheel nieuwe mogelijkheden geopend voor Machine Translation (MT). Dit position paper betoogt dat LRMs traditionele neurale MT evenals LLM-gebaseerde MT-paradigma's ingrijpend hebben getransformeerd door vertaling te herdefiniëren als een dynamische redeneertaak die contextueel, cultureel en linguïstisch begrip en redeneren vereist. We identificeren drie fundamentele verschuivingen: 1) contextuele samenhang, waarbij LRMs ambiguïteiten oplossen en discoursstructuur behouden door expliciet te redeneren over zinsoverschrijdende en complexe context of zelfs het ontbreken daarvan; 2) culturele intentionaliteit, waardoor modellen uitvoer kunnen aanpassen door sprekersintentie, publieksverwachtingen en socio-linguïstische normen af te leiden; 3) zelfreflectie, waarbij LRMs tijdens de inferentietijd zelfreflectie kunnen uitvoeren om potentiële fouten in vertalingen, vooral in extreem rumoerige gevallen, te corrigeren, wat betere robuustheid laat zien vergeleken met simpele X->Y-vertaling. We verkennen verschillende scenario's in vertaling, waaronder gestileerde vertaling, documentniveauvertaling en multimodale vertaling, door empirische voorbeelden te tonen die de superioriteit van LRMs in vertaling aantonen. We identificeren ook verschillende interessante fenomenen voor LRMs in MT, zoals auto-pivotvertaling, evenals kritieke uitdagingen zoals over-localisatie in vertaling en inferentie-efficiëntie. Tot slot concluderen we dat LRMs vertaalsystemen niet louter als tekstomzetters herdefiniëren, maar als meertalige cognitieve agenten die in staat zijn om betekenis te redeneren die verder gaat dan de tekst. Deze paradigmaverschuiving herinnert ons eraan om problemen in vertaling te bezien in een veel bredere context met LRMs – wat we daarmee kunnen bereiken.

English

Recent advances in Large Reasoning Models (LRMs), particularly those leveraging Chain-of-Thought reasoning (CoT), have opened brand new possibility for Machine Translation (MT). This position paper argues that LRMs substantially transformed traditional neural MT as well as LLMs-based MT paradigms by reframing translation as a dynamic reasoning task that requires contextual, cultural, and linguistic understanding and reasoning. We identify three foundational shifts: 1) contextual coherence, where LRMs resolve ambiguities and preserve discourse structure through explicit reasoning over cross-sentence and complex context or even lack of context; 2) cultural intentionality, enabling models to adapt outputs by inferring speaker intent, audience expectations, and socio-linguistic norms; 3) self-reflection, LRMs can perform self-reflection during the inference time to correct the potential errors in translation especially extremely noisy cases, showing better robustness compared to simply mapping X->Y translation. We explore various scenarios in translation including stylized translation, document-level translation and multimodal translation by showcasing empirical examples that demonstrate the superiority of LRMs in translation. We also identify several interesting phenomenons for LRMs for MT including auto-pivot translation as well as the critical challenges such as over-localisation in translation and inference efficiency. In conclusion, we think that LRMs redefine translation systems not merely as text converters but as multilingual cognitive agents capable of reasoning about meaning beyond the text. This paradigm shift reminds us to think of problems in translation beyond traditional translation scenarios in a much broader context with LRMs - what we can achieve on top of it.