Ragionamento Crosslinguale attraverso il Ridimensionamento al Momento del Test

Crosslingual Reasoning through Test-Time Scaling

May 8, 2025

Autori: Zheng-Xin Yong, M. Farid Adilazuarda, Jonibek Mansurov, Ruochen Zhang, Niklas Muennighoff, Carsten Eickhoff, Genta Indra Winata, Julia Kreutzer, Stephen H. Bach, Alham Fikri Aji

cs.AI

Abstract

Le capacità di ragionamento dei modelli linguistici di grandi dimensioni sono principalmente studiate per l'inglese, anche quando i modelli pre-addestrati sono multilingue. In questo lavoro, indaghiamo fino a che punto il fine-tuning del ragionamento in inglese con lunghe catene di pensiero (CoT) possa generalizzarsi attraverso le lingue. In primo luogo, scopriamo che aumentare la potenza di calcolo per l'inferenza nei modelli linguistici di ragionamento (RLM) centrati sull'inglese migliora il ragionamento matematico multilingue in molte lingue, comprese quelle a bassa risorsa, fino al punto in cui superano modelli di dimensioni doppie. In secondo luogo, riveliamo che, sebbene le CoT degli RLM centrati sull'inglese siano naturalmente prevalentemente in inglese, seguono costantemente uno schema "cita-e-pensa" per ragionare su input non in inglese citati. In terzo luogo, scopriamo una strategia efficace per controllare la lingua delle lunghe CoT di ragionamento e osserviamo che i modelli ragionano meglio e in modo più efficiente nelle lingue ad alta risorsa. Infine, osserviamo una scarsa generalizzazione del ragionamento fuori dominio, in particolare dalle discipline STEM alla conoscenza culturale di senso comune, anche per l'inglese. Nel complesso, dimostriamo i potenziali, studiamo i meccanismi e delineiamo i limiti della generalizzazione cross-linguistica del ridimensionamento al momento del test del ragionamento in inglese. Concludiamo che i professionisti dovrebbero far ragionare gli RLM centrati sull'inglese in lingue ad alta risorsa, mentre è necessario ulteriore lavoro per migliorare il ragionamento nelle lingue a bassa risorsa e in contesti fuori dominio.

English

Reasoning capabilities of large language models are primarily studied for English, even when pretrained models are multilingual. In this work, we investigate to what extent English reasoning finetuning with long chain-of-thoughts (CoTs) can generalize across languages. First, we find that scaling up inference compute for English-centric reasoning language models (RLMs) improves multilingual mathematical reasoning across many languages including low-resource languages, to an extent where they outperform models twice their size. Second, we reveal that while English-centric RLM's CoTs are naturally predominantly English, they consistently follow a quote-and-think pattern to reason about quoted non-English inputs. Third, we discover an effective strategy to control the language of long CoT reasoning, and we observe that models reason better and more efficiently in high-resource languages. Finally, we observe poor out-of-domain reasoning generalization, in particular from STEM to cultural commonsense knowledge, even for English. Overall, we demonstrate the potentials, study the mechanisms and outline the limitations of crosslingual generalization of English reasoning test-time scaling. We conclude that practitioners should let English-centric RLMs reason in high-resource languages, while further work is needed to improve reasoning in low-resource languages and out-of-domain contexts.