Raciocínio Translinguístico por meio de Escalonamento em Tempo de Teste

Crosslingual Reasoning through Test-Time Scaling

May 8, 2025

Autores: Zheng-Xin Yong, M. Farid Adilazuarda, Jonibek Mansurov, Ruochen Zhang, Niklas Muennighoff, Carsten Eickhoff, Genta Indra Winata, Julia Kreutzer, Stephen H. Bach, Alham Fikri Aji

cs.AI

Resumo

As capacidades de raciocínio de grandes modelos de linguagem são principalmente estudadas para o inglês, mesmo quando os modelos pré-treinados são multilíngues. Neste trabalho, investigamos até que ponto o ajuste fino de raciocínio em inglês com longas cadeias de pensamento (CoTs, do inglês "chain-of-thoughts") pode generalizar entre idiomas. Primeiro, descobrimos que aumentar a capacidade de inferência para modelos de linguagem de raciocínio centrados no inglês (RLMs, do inglês "reasoning language models") melhora o raciocínio matemático multilíngue em muitos idiomas, incluindo idiomas de baixos recursos, a ponto de superarem modelos com o dobro do tamanho. Segundo, revelamos que, embora as CoTs dos RLMs centrados no inglês sejam naturalmente predominantemente em inglês, elas seguem consistentemente um padrão de "citar e pensar" para raciocinar sobre entradas não inglesas citadas. Terceiro, descobrimos uma estratégia eficaz para controlar o idioma do raciocínio de CoTs longas e observamos que os modelos raciocinam melhor e de forma mais eficiente em idiomas de altos recursos. Por fim, observamos uma generalização ruim do raciocínio fora do domínio, em particular de STEM para conhecimento cultural de senso comum, mesmo para o inglês. No geral, demonstramos os potenciais, estudamos os mecanismos e delineamos as limitações da generalização translinguística do escalonamento de raciocínio em inglês no momento do teste. Concluímos que os profissionais devem permitir que os RLMs centrados no inglês raciocinem em idiomas de altos recursos, enquanto mais trabalho é necessário para melhorar o raciocínio em idiomas de baixos recursos e contextos fora do domínio.

English

Reasoning capabilities of large language models are primarily studied for English, even when pretrained models are multilingual. In this work, we investigate to what extent English reasoning finetuning with long chain-of-thoughts (CoTs) can generalize across languages. First, we find that scaling up inference compute for English-centric reasoning language models (RLMs) improves multilingual mathematical reasoning across many languages including low-resource languages, to an extent where they outperform models twice their size. Second, we reveal that while English-centric RLM's CoTs are naturally predominantly English, they consistently follow a quote-and-think pattern to reason about quoted non-English inputs. Third, we discover an effective strategy to control the language of long CoT reasoning, and we observe that models reason better and more efficiently in high-resource languages. Finally, we observe poor out-of-domain reasoning generalization, in particular from STEM to cultural commonsense knowledge, even for English. Overall, we demonstrate the potentials, study the mechanisms and outline the limitations of crosslingual generalization of English reasoning test-time scaling. We conclude that practitioners should let English-centric RLMs reason in high-resource languages, while further work is needed to improve reasoning in low-resource languages and out-of-domain contexts.