Eine Gradientenperspektive auf die RLVR-Stabilität und die Winner-Advantage-Policy-Optimierung

Zusammenfassung

Bestärkendes Lernen mit überprüfbaren Belohnungen (Reinforcement Learning with Verifiable Rewards, RLVR) verbessert das Denken von Sprachmodellen, jedoch neigt die GRPO-artige Optimierung weiterhin zum Kollaps. Wir analysieren diese Instabilität anhand von Token-Level-Gradientendynamiken und leiten eine Taxonomie ab, die vorhersagt, wie Aktualisierungen die Wahrscheinlichkeiten des nächsten Tokens und die Entropie beeinflussen. Die Taxonomie zeigt, dass die Stabilität sowohl vom Vorzeichen des Vorteils (Advantage) als auch von der Tokenverteilung unter der aktuellen Politik abhängt. Motiviert durch diese Erkenntnis schlagen wir Winner Advantage Policy Optimization (WAPO) vor, ein einfaches Online-geclipptes Policy-Gradient-Ziel, das nur auf Vervollständigungen mit positivem Vorteil aktualisiert. Auf Benchmarks für mathematisches Denken und Multi-Hop-QA verbessert WAPO die Trainingsstabilität und entspricht Baselines oder übertrifft sie über mehrere Modellfamilien hinweg. Der vollständige Code ist verfügbar unter https://github.com/layer6ai-labs/wapo.

English

Reinforcement learning with verifiable rewards (RLVR) improves language-model reasoning, but GRPO-style optimization remains prone to collapse. We analyse this instability through token-level gradient dynamics, deriving a taxonomy that predicts how updates affect next-token probabilities and entropy. The taxonomy shows that stability depends jointly on the advantage sign and token distribution under the current policy. Motivated by this finding, we propose Winner Advantage Policy Optimization (WAPO), a simple online clipped policy-gradient objective that updates only on positive-advantage completions. Across mathematical reasoning and multi-hop QA benchmarks, WAPO improves training stability and matches or outperforms baselines across multiple model families. Full code can be found at https://github.com/layer6ai-labs/wapo.