Spark: Exploración Estratégica Consciente de Políticas mediante Ramificación Dinámica para el Aprendizaje Agéntico de Largo Horizonte

Spark: Strategic Policy-Aware Exploration via Dynamic Branching for Long-Horizon Agentic Learning

January 28, 2026

Autores: Jinyang Wu, Shuo Yang, Changpeng Yang, Yuhao Shen, Shuai Zhang, Zhengqi Wen, Jianhua Tao

cs.AI

Resumen

El aprendizaje por refuerzo ha permitido que los modelos de lenguaje grandes actúen como agentes inteligentes, pero entrenarlos para tareas de horizonte largo sigue siendo un desafío debido a la escasez de trayectorias de alta calidad, especialmente con recursos limitados. Los métodos existentes suelen aumentar masivamente el número de simulaciones y asignan recursos computacionales de manera indiscriminada entre los pasos intermedios. Estos intentos desperdician inherentemente un presupuesto computacional sustancial en pasos triviales, sin garantizar la calidad de las muestras. Para abordar esto, proponemos Spark (Exploración Estratégica Consciente de la Política mediante Ramificación Dinámica en Estados Clave), un marco novedoso que ramifica selectivamente en estados de decisión críticos para una exploración eficiente de recursos. Nuestra idea clave es activar una exploración de ramificación adaptativa en puntos de decisión críticos para sondear trayectorias prometedoras, logrando así una asignación precisa de recursos que prioriza la calidad del muestreo sobre la cobertura ciega. Este diseño aprovecha las señales intrínsecas de toma de decisiones del agente para reducir la dependencia de previos humanos, permitiendo que el agente expanda autónomamente la exploración y logre una generalización más sólida. Experimentos en diversas tareas (por ejemplo, planificación embodada) demuestran que Spark alcanza tasas de éxito superiores con significativamente menos muestras de entrenamiento, exhibiendo una generalización robusta incluso en escenarios no vistos.

English

Reinforcement learning has empowered large language models to act as intelligent agents, yet training them for long-horizon tasks remains challenging due to the scarcity of high-quality trajectories, especially under limited resources. Existing methods typically scale up rollout sizes and indiscriminately allocate computational resources among intermediate steps. Such attempts inherently waste substantial computation budget on trivial steps while failing to guarantee sample quality. To address this, we propose Spark (Strategic Policy-Aware exploRation via Key-state dynamic branching), a novel framework that selectively branches at critical decision states for resource-efficient exploration. Our key insight is to activate adaptive branching exploration at critical decision points to probe promising trajectories, thereby achieving precise resource allocation that prioritizes sampling quality over blind coverage. This design leverages the agent's intrinsic decision-making signals to reduce dependence on human priors, enabling the agent to autonomously expand exploration and achieve stronger generalization. Experiments across diverse tasks (e.g., embodied planning), demonstrate that Spark achieves superior success rates with significantly fewer training samples, exhibiting robust generalization even in unseen scenarios.