Filteren, dan herwegen: Heroverweging van optimalisatiegranulariteit in on-policy distillatie

Samenvatting

On-Policy distillatie (OPD) in grote taalmodellen verschuift van volledige-traject KL-supervisie naar meer selectieve trainingsparadigma's. Recente OPD-methoden richten zich steeds meer op het selecteren van welke trajecten om van te leren, welke tokens het meest informatief zijn, en welke supervisiesignalen het meest betrouwbaar zijn. Gemotiveerd door deze trend heroverwegen we de optimalisatiegranulariteit van OPD en stellen we \fireicon\ FiRe-OPD (Filter, then Reweight) voor, dat gezamenlijk supervisiesignalen aanpast op zowel traject- als tokenniveau. In detail filtert FiRe-OPD eerst trajecten om laagwaardige roll-out samples te verwijderen, en past vervolgens een zachte herweging toe binnen de behouden trajecten om informatieve tokens te benadrukken. Vergeleken met harde tokenselectie maakt FiRe-OPD gebruik van een zachtwegingsmechanisme om informatieverlies effectief te beperken en optimalisatiestabiliteit te verbeteren, waardoor een fijnmazigere OPD-optimalisatie wordt bereikt. We valideren de effectiviteit van FiRe-OPD in sterke-naar-zwakke, enkele-leraar en meerdere-leraar settings, en tonen de superioriteit aan over recente token-niveau OPD-methoden (bijv. +6,25 op AIME 2024 in sterke-naar-zwakke, +18,81 op Miner in meerdere-leraar). Onze code is beschikbaar op https://github.com/YuYingLi0/FiRe-OPD.

English

On-Policy distillation (OPD) in large language models is shifting from full-trace KL supervision toward more selective training paradigms. Recent OPD methods increasingly focus on selecting which trajectories to learn from, which tokens are most informative, and which supervision signals are most reliable. Motivated by this trend, we rethink optimization granularity of OPD and propose \fireicon\ FiRe-OPD (Filter, then Reweight), which jointly adjusts supervision signals at both trajectory and token levels. In details, FiRe-OPD first filters trajectories to remove low-quality rollout samples, and then applies soft reweighting within the retained trajectories to emphasize informative tokens. Compared with hard token selection, FiRe-OPD leverages a soft-weighting mechanism to effectively mitigate information loss and enhance optimization stability, thereby achieving finer-grained OPD optimization. We validate the effectiveness of FiRe-OPD across strong-to-weak, single-teacher, and multi-teacher settings, and demonstrate its superiority over recent token-level OPD methods ( (e.g., +6.25 on AIME 2024 in strong-to-weak, +18.81 on Miner in multi-teacher). Our code is available at https://github.com/YuYingLi0/FiRe-OPD.