ChatPaper.aiChatPaper

Raisonnement translinguistique par mise à l'échelle au moment du test

Crosslingual Reasoning through Test-Time Scaling

May 8, 2025
Auteurs: Zheng-Xin Yong, M. Farid Adilazuarda, Jonibek Mansurov, Ruochen Zhang, Niklas Muennighoff, Carsten Eickhoff, Genta Indra Winata, Julia Kreutzer, Stephen H. Bach, Alham Fikri Aji
cs.AI

Résumé

Les capacités de raisonnement des grands modèles de langage sont principalement étudiées pour l'anglais, même lorsque les modèles pré-entraînés sont multilingues. Dans ce travail, nous examinons dans quelle mesure le fine-tuning du raisonnement en anglais avec de longues chaînes de pensée (CoTs) peut se généraliser à travers les langues. Premièrement, nous constatons que l'augmentation des ressources de calcul pour l'inférence des modèles de raisonnement linguistique (RLMs) centrés sur l'anglais améliore le raisonnement mathématique multilingue dans de nombreuses langues, y compris les langues à faibles ressources, à un point où ils surpassent des modèles deux fois plus grands. Deuxièmement, nous révélons que bien que les CoTs des RLMs centrés sur l'anglais soient naturellement majoritairement en anglais, ils suivent systématiquement un modèle de citation et de réflexion pour raisonner sur des entrées non anglaises citées. Troisièmement, nous découvrons une stratégie efficace pour contrôler la langue des longues chaînes de pensée, et nous observons que les modèles raisonnent mieux et plus efficacement dans les langues à ressources élevées. Enfin, nous observons une faible généralisation du raisonnement hors domaine, en particulier des STEM aux connaissances de bon sens culturel, même pour l'anglais. Globalement, nous démontrons les potentiels, étudions les mécanismes et décrivons les limites de la généralisation translinguale du scaling au moment du test de raisonnement en anglais. Nous concluons que les praticiens devraient laisser les RLMs centrés sur l'anglais raisonner dans les langues à ressources élevées, tout en nécessitant des travaux supplémentaires pour améliorer le raisonnement dans les langues à faibles ressources et les contextes hors domaine.
English
Reasoning capabilities of large language models are primarily studied for English, even when pretrained models are multilingual. In this work, we investigate to what extent English reasoning finetuning with long chain-of-thoughts (CoTs) can generalize across languages. First, we find that scaling up inference compute for English-centric reasoning language models (RLMs) improves multilingual mathematical reasoning across many languages including low-resource languages, to an extent where they outperform models twice their size. Second, we reveal that while English-centric RLM's CoTs are naturally predominantly English, they consistently follow a quote-and-think pattern to reason about quoted non-English inputs. Third, we discover an effective strategy to control the language of long CoT reasoning, and we observe that models reason better and more efficiently in high-resource languages. Finally, we observe poor out-of-domain reasoning generalization, in particular from STEM to cultural commonsense knowledge, even for English. Overall, we demonstrate the potentials, study the mechanisms and outline the limitations of crosslingual generalization of English reasoning test-time scaling. We conclude that practitioners should let English-centric RLMs reason in high-resource languages, while further work is needed to improve reasoning in low-resource languages and out-of-domain contexts.
PDF82May 9, 2025