Confucius3-Math: Een Lichtgewicht Hoogpresterend Redeneer-LLM voor Chinees Wiskundeonderwijs op K-12 Niveau

Confucius3-Math: A Lightweight High-Performance Reasoning LLM for Chinese K-12 Mathematics Learning

June 23, 2025

Auteurs: Lixin Wu, Na Cai, Qiao Cheng, Jiachen Wang, Yitao Duan

cs.AI

Samenvatting

We introduceren Confucius3-Math, een open-source groot taalmodel met 14B parameters dat (1) efficiënt draait op een enkele consumenten-GPU; (2) state-of-the-art prestaties behaalt op een reeks wiskundige redeneertaken, waarbij het veel modellen met aanzienlijk grotere omvang overtreft. Als onderdeel van onze missie om onderwijs en kennisverspreiding met AI te verbeteren, is Confucius3-Math specifiek gericht op wiskundeonderwijs voor Chinese K-12 studenten en docenten. Gebouwd via post-training met grootschalige reinforcement learning (RL), sluit Confucius3-Math aan bij het nationale curriculum en blinkt uit in het oplossen van gangbare Chinese K-12 wiskundige problemen tegen lage kosten. In dit rapport delen we ons ontwikkelingsrecept, de uitdagingen die we tegenkomen en de technieken die we ontwikkelen om deze te overwinnen. In het bijzonder introduceren we drie technische innovaties: Gerichte Entropie Regularisatie, Recente Sample Herstel en Beleidsspecifieke Moeilijkheidsweging. Deze innovaties omvatten een nieuwe entropie regularisatie, een nieuw dataschedulingbeleid en een verbeterde groep-relatieve voordeelschatter. Gezamenlijk stabiliseren ze de RL-training aanzienlijk, verbeteren ze de data-efficiëntie en verhogen ze de prestaties. Ons werk toont de haalbaarheid aan van het bouwen van sterke redeneermodellen in een specifiek domein tegen lage kosten. We maken ons model en code openbaar op https://github.com/netease-youdao/Confucius3-Math.

English

We introduce Confucius3-Math, an open-source large language model with 14B parameters that (1) runs efficiently on a single consumer-grade GPU; (2) achieves SOTA performances on a range of mathematical reasoning tasks, outperforming many models with significantly larger sizes. In particular, as part of our mission to enhancing education and knowledge dissemination with AI, Confucius3-Math is specifically committed to mathematics learning for Chinese K-12 students and educators. Built via post-training with large-scale reinforcement learning (RL), Confucius3-Math aligns with national curriculum and excels at solving main-stream Chinese K-12 mathematical problems with low cost. In this report we share our development recipe, the challenges we encounter and the techniques we develop to overcome them. In particular, we introduce three technical innovations: Targeted Entropy Regularization, Recent Sample Recovery and Policy-Specific Hardness Weighting. These innovations encompass a new entropy regularization, a novel data scheduling policy, and an improved group-relative advantage estimator. Collectively, they significantly stabilize the RL training, improve data efficiency, and boost performance. Our work demonstrates the feasibility of building strong reasoning models in a particular domain at low cost. We open-source our model and code at https://github.com/netease-youdao/Confucius3-Math.