オン方策デルタ蒸留

要旨

オンポリシー蒸留は、強化学習における代替のポストトレーニング手法であり、教師モデルからのトークンレベルの指導を提供することで報酬モデルによって課される制約を緩和する。オンポリシー蒸留はさまざまな設定で研究・応用されてきたが、その基本的な設計はまだ十分に探求されていない。本論文では、教師の出力分布を直接模倣する代わりに、デルタ信号と呼ばれる新たな蒸留報酬を導入する。デルタ信号は、推論能力のための指示チューニング前の教師モデルとそのベースモデルとの差分として定義される。したがって、これは推論チューニングによって生じた変化を捉え、推論能力を転移するためのより直接的な信号を提供する。広範な実証的証拠を用いて、デルタ信号がオンポリシー蒸留を大幅に改善することを示し、この新しい蒸留法をオンポリシーデルタ蒸留（OPD^2）と呼ぶ。数学、科学、コード推論のベンチマークにわたる実験は、OPD^2が従来のオンポリシー蒸留を一貫して上回り、推論LLMが短期間のポストトレーニングで強力な性能を達成することを可能にすることを示している。コードはhttps://github.com/naver-ai/opd2で公開される予定である。

English

On-policy distillation is an alternative post-training method in reinforcement learning that alleviates the constraints imposed by reward models by providing token-level supervision from a teacher model. Although on-policy distillation has been studied and applied across various settings, its fundamental design remains underexplored. In this paper, we introduce a new distillation reward, termed the delta signal, instead of directly imitating the teacher's output distribution. The delta signal is defined as the difference between the teacher model and its base model prior to instruction tuning for reasoning capability. It therefore captures the changes induced by reasoning tuning and provides a more direct signal for transferring reasoning capabilities. Using extensive empirical evidence, we show that the delta signal substantially improves on-policy distillation and refer to the new distillation method as On-Policy Delta Distillation (OPD^2). Experiments across mathematics, science, and code-reasoning benchmarks demonstrate that OPD^2 consistently outperforms conventional on-policy distillation, enabling reasoning LLMs to achieve strong performance with only a short post-training period. Code will be available at https://github.com/naver-ai/opd2