온-정책 델타 증류

초록

온-정책 증류(on-policy distillation)는 강화 학습에서 사용되는 대안적인 사후 학습 방법으로, 교사 모델로부터 토큰 수준의 감독을 제공함으로써 보상 모델이 부과하는 제약을 완화합니다. 온-정책 증류는 다양한 환경에서 연구되고 적용되어 왔지만, 그 근본적인 설계는 아직 충분히 탐구되지 않았습니다. 본 논문에서는 교사 모델의 출력 분포를 직접 모방하는 대신, 델타 신호(delta signal)라고 부르는 새로운 증류 보상을 도입합니다. 델타 신호는 교사 모델과 추론 능력을 위한 명령 튜닝 이전의 기본 모델 간의 차이로 정의됩니다. 따라서 델타 신호는 추론 튜닝에 의해 유도된 변화를 포착하며, 추론 능력을 전이하기 위한 더 직접적인 신호를 제공합니다. 광범위한 실험적 증거를 통해 델타 신호가 온-정책 증류를 크게 개선함을 보여주며, 이 새로운 증류 방법을 온-정책 델타 증류(On-Policy Delta Distillation, OPD²)라고 명명합니다. 수학, 과학, 코드 추론 벤치마크에 걸친 실험은 OPD²가 기존의 온-정책 증류를 일관되게 능가하며, 추론용 LLM이 짧은 사후 학습 기간만으로도 강력한 성능을 달성할 수 있게 함을 입증합니다. 코드는 https://github.com/naver-ai/opd2 에서 제공될 예정입니다.

English

On-policy distillation is an alternative post-training method in reinforcement learning that alleviates the constraints imposed by reward models by providing token-level supervision from a teacher model. Although on-policy distillation has been studied and applied across various settings, its fundamental design remains underexplored. In this paper, we introduce a new distillation reward, termed the delta signal, instead of directly imitating the teacher's output distribution. The delta signal is defined as the difference between the teacher model and its base model prior to instruction tuning for reasoning capability. It therefore captures the changes induced by reasoning tuning and provides a more direct signal for transferring reasoning capabilities. Using extensive empirical evidence, we show that the delta signal substantially improves on-policy distillation and refer to the new distillation method as On-Policy Delta Distillation (OPD^2). Experiments across mathematics, science, and code-reasoning benchmarks demonstrate that OPD^2 consistently outperforms conventional on-policy distillation, enabling reasoning LLMs to achieve strong performance with only a short post-training period. Code will be available at https://github.com/naver-ai/opd2