Spark: Strategisches politikbewusstes Erkunden durch dynamische Verzweigung für agentenbasiertes Lernen mit langem Planungshorizont

Spark: Strategic Policy-Aware Exploration via Dynamic Branching for Long-Horizon Agentic Learning

January 28, 2026

papers.authors: Jinyang Wu, Shuo Yang, Changpeng Yang, Yuhao Shen, Shuai Zhang, Zhengqi Wen, Jianhua Tao

cs.AI

papers.abstract

Reinforcement Learning hat große Sprachmodelle dazu befähigt, als intelligente Agenten zu agieren, doch die Ausbildung für langfristige Aufgaben bleibt aufgrund der Knappheit hochwertiger Trajektorien eine Herausforderung, insbesondere bei begrenzten Ressourcen. Bestehende Methoden skalieren typischerweise die Anzahl der Rollouts und verteilen Rechenressourcen undifferenziert auf Zwischenschritte. Solche Ansätze verschwenden inhärent erhebliche Rechenbudgets für triviale Schritte, während sie die Probenqualität nicht garantieren können. Um dies zu adressieren, schlagen wir Spark (Strategic Policy-Aware exploRation via Key-state dynamic branching) vor, einen neuartigen Rahmen, der selektiv an kritischen Entscheidungszuständen verzweigt, um ressourceneffiziente Exploration zu ermöglichen. Unsere zentrale Erkenntnis ist, adaptive Verzweigungsexploration an kritischen Entscheidungspunkten zu aktivieren, um vielversprechende Trajektorien zu erkunden und so eine präzise Ressourcenallokation zu erreichen, die Probenqualität über blinde Abdeckung priorisiert. Dieses Design nutzt die intrinsischen Entscheidungssignale des Agenten, um die Abhängigkeit von menschlichen Priors zu verringern, und ermöglicht es dem Agenten, die Exploration autonom zu erweitern und eine stärkere Generalisierung zu erreichen. Experimente in verschiedenen Aufgaben (z.B. embodied Planning) zeigen, dass Spark überlegene Erfolgsquoten mit deutlich weniger Trainingsdaten erreicht und auch in ungesehenen Szenarien eine robuste Generalisierung aufweist.

English

Reinforcement learning has empowered large language models to act as intelligent agents, yet training them for long-horizon tasks remains challenging due to the scarcity of high-quality trajectories, especially under limited resources. Existing methods typically scale up rollout sizes and indiscriminately allocate computational resources among intermediate steps. Such attempts inherently waste substantial computation budget on trivial steps while failing to guarantee sample quality. To address this, we propose Spark (Strategic Policy-Aware exploRation via Key-state dynamic branching), a novel framework that selectively branches at critical decision states for resource-efficient exploration. Our key insight is to activate adaptive branching exploration at critical decision points to probe promising trajectories, thereby achieving precise resource allocation that prioritizes sampling quality over blind coverage. This design leverages the agent's intrinsic decision-making signals to reduce dependence on human priors, enabling the agent to autonomously expand exploration and achieve stronger generalization. Experiments across diverse tasks (e.g., embodied planning), demonstrate that Spark achieves superior success rates with significantly fewer training samples, exhibiting robust generalization even in unseen scenarios.