Spark: Exploração Estratégica Consciente de Políticas via Ramificação Dinâmica para Aprendizado Agente de Longo Horizonte

Spark: Strategic Policy-Aware Exploration via Dynamic Branching for Long-Horizon Agentic Learning

January 28, 2026

Autores: Jinyang Wu, Shuo Yang, Changpeng Yang, Yuhao Shen, Shuai Zhang, Zhengqi Wen, Jianhua Tao

cs.AI

Resumo

O aprendizado por reforço capacitou grandes modelos de linguagem para atuarem como agentes inteligentes, mas treiná-los para tarefas de longo horizonte permanece um desafio devido à escassez de trajetórias de alta qualidade, especialmente sob recursos limitados. Os métodos existentes normalmente ampliam a quantidade de *rollouts* e alocam recursos computacionais de forma indiscriminada entre as etapas intermediárias. Tais tentativas inerentemente desperdiçam um orçamento computacional substancial em etapas triviais, falhando em garantir a qualidade das amostras. Para resolver isso, propomos o Spark (*Strategic Policy-Aware exploRation via Key-state dynamic branching*), uma nova estrutura que ramifica seletivamente em estados de decisão críticos para uma exploração eficiente em recursos. Nossa principal percepção é ativar uma exploração de ramificação adaptativa em pontos de decisão críticos para sondar trajetórias promissoras, alcançando assim uma alocação precisa de recursos que prioriza a qualidade da amostragem em detrimento de uma cobertura cega. Este projeto aproveita os sinais intrínsecos de tomada de decisão do agente para reduzir a dependência de *priors* humanos, permitindo que o agente expanda autonomamente a exploração e alcance uma generalização mais robusta. Experimentos em diversas tarefas (por exemplo, planejamento corporificado) demonstram que o Spark alcança taxas de sucesso superiores com significativamente menos amostras de treinamento, exibindo generalização robusta mesmo em cenários não vistos.

English

Reinforcement learning has empowered large language models to act as intelligent agents, yet training them for long-horizon tasks remains challenging due to the scarcity of high-quality trajectories, especially under limited resources. Existing methods typically scale up rollout sizes and indiscriminately allocate computational resources among intermediate steps. Such attempts inherently waste substantial computation budget on trivial steps while failing to guarantee sample quality. To address this, we propose Spark (Strategic Policy-Aware exploRation via Key-state dynamic branching), a novel framework that selectively branches at critical decision states for resource-efficient exploration. Our key insight is to activate adaptive branching exploration at critical decision points to probe promising trajectories, thereby achieving precise resource allocation that prioritizes sampling quality over blind coverage. This design leverages the agent's intrinsic decision-making signals to reduce dependence on human priors, enabling the agent to autonomously expand exploration and achieve stronger generalization. Experiments across diverse tasks (e.g., embodied planning), demonstrate that Spark achieves superior success rates with significantly fewer training samples, exhibiting robust generalization even in unseen scenarios.