Межъязыковое рассуждение через масштабирование во время тестирования

Crosslingual Reasoning through Test-Time Scaling

May 8, 2025

Авторы: Zheng-Xin Yong, M. Farid Adilazuarda, Jonibek Mansurov, Ruochen Zhang, Niklas Muennighoff, Carsten Eickhoff, Genta Indra Winata, Julia Kreutzer, Stephen H. Bach, Alham Fikri Aji

cs.AI

Аннотация

Способности к рассуждению крупных языковых моделей в основном изучаются для английского языка, даже когда предобученные модели являются многоязычными. В данной работе мы исследуем, в какой степени тонкая настройка на рассуждения с длинными цепочками мыслей (CoTs) для английского языка может обобщаться на другие языки. Во-первых, мы обнаруживаем, что увеличение вычислительных ресурсов для вывода в моделях, ориентированных на рассуждения на английском языке (RLMs), улучшает математические рассуждения на многих языках, включая языки с ограниченными ресурсами, до такой степени, что они превосходят модели вдвое большего размера. Во-вторых, мы показываем, что, хотя цепочки мыслей в моделях, ориентированных на английский язык, преимущественно на английском, они последовательно следуют шаблону "цитирование и размышление" для рассуждений о цитируемых вводах на других языках. В-третьих, мы открываем эффективную стратегию для управления языком длинных цепочек рассуждений и наблюдаем, что модели рассуждают лучше и эффективнее на языках с большими ресурсами. Наконец, мы отмечаем слабое обобщение рассуждений за пределами домена, особенно от STEM к культурным общеизвестным знаниям, даже для английского языка. В целом, мы демонстрируем потенциал, изучаем механизмы и обозначаем ограничения кросс-лингвистического обобщения масштабирования рассуждений на этапе тестирования для английского языка. Мы заключаем, что практикам следует позволять моделям, ориентированным на английский язык, рассуждать на языках с большими ресурсами, в то время как необходимы дальнейшие исследования для улучшения рассуждений на языках с ограниченными ресурсами и в контекстах за пределами домена.

English

Reasoning capabilities of large language models are primarily studied for English, even when pretrained models are multilingual. In this work, we investigate to what extent English reasoning finetuning with long chain-of-thoughts (CoTs) can generalize across languages. First, we find that scaling up inference compute for English-centric reasoning language models (RLMs) improves multilingual mathematical reasoning across many languages including low-resource languages, to an extent where they outperform models twice their size. Second, we reveal that while English-centric RLM's CoTs are naturally predominantly English, they consistently follow a quote-and-think pattern to reason about quoted non-English inputs. Third, we discover an effective strategy to control the language of long CoT reasoning, and we observe that models reason better and more efficiently in high-resource languages. Finally, we observe poor out-of-domain reasoning generalization, in particular from STEM to cultural commonsense knowledge, even for English. Overall, we demonstrate the potentials, study the mechanisms and outline the limitations of crosslingual generalization of English reasoning test-time scaling. We conclude that practitioners should let English-centric RLMs reason in high-resource languages, while further work is needed to improve reasoning in low-resource languages and out-of-domain contexts.