Razonamiento Translingüístico mediante Escalado en Tiempo de Prueba

Crosslingual Reasoning through Test-Time Scaling

May 8, 2025

Autores: Zheng-Xin Yong, M. Farid Adilazuarda, Jonibek Mansurov, Ruochen Zhang, Niklas Muennighoff, Carsten Eickhoff, Genta Indra Winata, Julia Kreutzer, Stephen H. Bach, Alham Fikri Aji

cs.AI

Resumen

Las capacidades de razonamiento de los modelos de lenguaje grandes se estudian principalmente en inglés, incluso cuando los modelos preentrenados son multilingües. En este trabajo, investigamos hasta qué punto el ajuste fino de razonamiento en inglés con cadenas largas de pensamiento (CoTs, por sus siglas en inglés) puede generalizarse a través de idiomas. Primero, encontramos que escalar el cómputo de inferencia para modelos de lenguaje de razonamiento (RLMs) centrados en inglés mejora el razonamiento matemático multilingüe en muchos idiomas, incluidos los de bajos recursos, hasta el punto de superar a modelos del doble de su tamaño. Segundo, revelamos que, aunque las CoTs de los RLMs centrados en inglés son predominantemente en inglés, siguen consistentemente un patrón de "citar y pensar" para razonar sobre entradas no inglesas citadas. Tercero, descubrimos una estrategia efectiva para controlar el idioma del razonamiento con CoTs largas, y observamos que los modelos razonan mejor y de manera más eficiente en idiomas de altos recursos. Finalmente, observamos una generalización deficiente del razonamiento fuera del dominio, en particular desde STEM hacia el conocimiento cultural de sentido común, incluso para el inglés. En general, demostramos los potenciales, estudiamos los mecanismos y delineamos las limitaciones de la generalización translingüística del escalado en tiempo de prueba del razonamiento en inglés. Concluimos que los profesionales deberían permitir que los RLMs centrados en inglés razonen en idiomas de altos recursos, mientras que se necesita más trabajo para mejorar el razonamiento en idiomas de bajos recursos y en contextos fuera del dominio.

English

Reasoning capabilities of large language models are primarily studied for English, even when pretrained models are multilingual. In this work, we investigate to what extent English reasoning finetuning with long chain-of-thoughts (CoTs) can generalize across languages. First, we find that scaling up inference compute for English-centric reasoning language models (RLMs) improves multilingual mathematical reasoning across many languages including low-resource languages, to an extent where they outperform models twice their size. Second, we reveal that while English-centric RLM's CoTs are naturally predominantly English, they consistently follow a quote-and-think pattern to reason about quoted non-English inputs. Third, we discover an effective strategy to control the language of long CoT reasoning, and we observe that models reason better and more efficiently in high-resource languages. Finally, we observe poor out-of-domain reasoning generalization, in particular from STEM to cultural commonsense knowledge, even for English. Overall, we demonstrate the potentials, study the mechanisms and outline the limitations of crosslingual generalization of English reasoning test-time scaling. We conclude that practitioners should let English-centric RLMs reason in high-resource languages, while further work is needed to improve reasoning in low-resource languages and out-of-domain contexts.