Nemotron-Cascata 2: Post-Addestramento di LLM con RL a Cascata e Distillazione On-Policy Multi-Dominio
Nemotron-Cascade 2: Post-Training LLMs with Cascade RL and Multi-Domain On-Policy Distillation
March 19, 2026
Autori: Zhuolin Yang, Zihan Liu, Yang Chen, Wenliang Dai, Boxin Wang, Sheng-Chieh Lin, Chankyu Lee, Yangyi Chen, Dongfu Jiang, Jiafan He, Renjie Pi, Grace Lam, Nayeon Lee, Alexander Bukharin, Mohammad Shoeybi, Bryan Catanzaro, Wei Ping
cs.AI
Abstract
Presentiamo Nemotron-Cascade 2, un modello aperto da 30B MoE con 3B parametri attivati che offre capacità di ragionamento di prim'ordine e solide capacità agentiche. Nonostante le sue dimensioni compatte, le sue prestazioni nel ragionamento matematico e nella programmazione si avvicinano a quelle dei modelli aperti all'avanguardia. È il secondo LLM open-weight, dopo DeepSeekV3.2-Speciale-671B-A37B, a raggiungere prestazioni di livello Medaglia d'Oro nelle Olimpiadi Internazionali della Matematica (IMO) 2025, nelle Olimpiadi Internazionali di Informatica (IOI) e nelle finali mondiali dell'ICPC, dimostrando una densità di intelligenza straordinariamente elevata con 20 volte meno parametri. A differenza di Nemotron-Cascade 1, i progressi tecnici chiave sono i seguenti. Dopo il SFT su un dataset meticolosamente curato, espandiamo sostanzialmente il Cascade RL per coprire uno spettro molto più ampio di domini di ragionamento e agentici. Inoltre, introduciamo una distillazione on-policy multi-dominio dai modelli insegnanti intermedi più forti per ogni dominio durante l'intero processo di Cascade RL, consentendoci di recuperare efficientemente le regressioni nei benchmark e mantenere solidi guadagni prestazionali lungo il percorso. Rilasciamo la collezione dei checkpoint del modello e dei dati di addestramento.
English
We introduce Nemotron-Cascade 2, an open 30B MoE model with 3B activated parameters that delivers best-in-class reasoning and strong agentic capabilities. Despite its compact size, its mathematical and coding reasoning performance approaches that of frontier open models. It is the second open-weight LLM, after DeepSeekV3.2-Speciale-671B-A37B, to achieve Gold Medal-level performance in the 2025 International Mathematical Olympiad (IMO), the International Olympiad in Informatics (IOI), and the ICPC World Finals, demonstrating remarkably high intelligence density with 20x fewer parameters. In contrast to Nemotron-Cascade 1, the key technical advancements are as follows. After SFT on a meticulously curated dataset, we substantially expand Cascade RL to cover a much broader spectrum of reasoning and agentic domains. Furthermore, we introduce multi-domain on-policy distillation from the strongest intermediate teacher models for each domain throughout the Cascade RL process, allowing us to efficiently recover benchmark regressions and sustain strong performance gains along the way. We release the collection of model checkpoint and training data.