Filtrar, Depois Reponderar: Repensando a Granularidade de Otimização na Destilação On-Policy

Resumo

A destilação on-policy (OPD) em grandes modelos de linguagem está se deslocando da supervisão KL de rastro completo para paradigmas de treinamento mais seletivos. Métodos recentes de OPD focam cada vez mais em selecionar quais trajetórias aprender, quais tokens são mais informativos e quais sinais de supervisão são mais confiáveis. Motivados por essa tendência, repensamos a granularidade de otimização da OPD e propomos \fireicon\ FiRe-OPD (Filter, then Reweight), que ajusta conjuntamente os sinais de supervisão nos níveis de trajetória e token. Em detalhes, o FiRe-OPD primeiro filtra as trajetórias para remover amostras de rollout de baixa qualidade e, em seguida, aplica reponderação suave dentro das trajetórias retidas para enfatizar tokens informativos. Comparado à seleção dura de tokens, o FiRe-OPD utiliza um mecanismo de ponderação suave para mitigar efetivamente a perda de informação e melhorar a estabilidade da otimização, alcançando assim uma otimização OPD de granularidade mais fina. Validamos a eficácia do FiRe-OPD em configurações forte-para-fraco, professor único e múltiplos professores, e demonstramos sua superioridade em relação a métodos recentes de OPD em nível de token (e.g., +6.25 no AIME 2024 em forte-para-fraco, +18.81 no Miner em múltiplos professores). Nosso código está disponível em https://github.com/YuYingLi0/FiRe-OPD.

English

On-Policy distillation (OPD) in large language models is shifting from full-trace KL supervision toward more selective training paradigms. Recent OPD methods increasingly focus on selecting which trajectories to learn from, which tokens are most informative, and which supervision signals are most reliable. Motivated by this trend, we rethink optimization granularity of OPD and propose \fireicon\ FiRe-OPD (Filter, then Reweight), which jointly adjusts supervision signals at both trajectory and token levels. In details, FiRe-OPD first filters trajectories to remove low-quality rollout samples, and then applies soft reweighting within the retained trajectories to emphasize informative tokens. Compared with hard token selection, FiRe-OPD leverages a soft-weighting mechanism to effectively mitigate information loss and enhance optimization stability, thereby achieving finer-grained OPD optimization. We validate the effectiveness of FiRe-OPD across strong-to-weak, single-teacher, and multi-teacher settings, and demonstrate its superiority over recent token-level OPD methods ( (e.g., +6.25 on AIME 2024 in strong-to-weak, +18.81 on Miner in multi-teacher). Our code is available at https://github.com/YuYingLi0/FiRe-OPD.