TIDE: Avaliação Diagnóstica Baseada em Trajetória para Melhoria em Tempo de Teste em Agentes de LLM
TIDE: Trajectory-based Diagnostic Evaluation of Test-Time Improvement in LLM Agents
February 2, 2026
Autores: Hang Yan, Xinyu Che, Fangzhi Xu, Qiushi Sun, Zichen Ding, Kanzhi Cheng, Jian Zhang, Tao Qin, Jun Liu, Qika Lin
cs.AI
Resumo
Os recentes avanços em agentes de LLM autónomos demonstram a sua capacidade de melhorar o desempenho através da interação iterativa com o ambiente. Definimos este paradigma como Melhoria em Tempo de Teste (TTI, do inglês *Test-Time Improvement*). No entanto, os mecanismos subjacentes ao sucesso ou fracasso da TTI permanecem pouco compreendidos, e as métricas de avaliação existentes não conseguem captar a sua eficiência na otimização de tarefas, a adaptação do comportamento após ações erróneas e a utilidade específica da memória de trabalho para a conclusão de tarefas. Para colmatar estas lacunas, propomos a Avaliação de Diagnóstico de Melhoria em Tempo de Teste (TIDE, do inglês *Test-time Improvement Diagnostic Evaluation*), uma estrutura agnóstica de agente e de ambiente que decompõe a TTI em três dimensões abrangentes e interligadas. A estrutura mede (1) a dinâmica temporal global da conclusão de tarefas e (2) identifica se o desempenho está primariamente limitado por comportamentos de ciclo recursivo ou (3) por uma memória acumulada onerosa. Através de experiências extensas em diversos agentes e ambientes, a TIDE evidencia que melhorar o desempenho do agente exige mais do que escalar o raciocínio interno, apelando à otimização explícita das dinâmicas de interação entre o agente e o ambiente.
English
Recent advances in autonomous LLM agents demonstrate their ability to improve performance through iterative interaction with the environment. We define this paradigm as Test-Time Improvement (TTI). However, the mechanisms under how and why TTI succeed or fail remain poorly understood, and existing evaluation metrics fail to capture their task optimization efficiency, behavior adaptation after erroneous actions, and the specific utility of working memory for task completion. To address these gaps, we propose Test-time Improvement Diagnostic Evaluation (TIDE), an agent-agnostic and environment-agnostic framework that decomposes TTI into three comprehensive and interconnected dimensions. The framework measures (1) the overall temporal dynamics of task completion and (2) identifies whether performance is primarily constrained by recursive looping behaviors or (3) by burdensome accumulated memory. Through extensive experiments across diverse agents and environments, TIDE highlights that improving agent performance requires more than scaling internal reasoning, calling for explicitly optimizing the interaction dynamics between the agent and the environment.