ChatPaper.aiChatPaper

TIDE: Valutazione Diagnostica Basata su Traiettorie del Miglioramento a Tempo di Test negli Agenti LLM

TIDE: Trajectory-based Diagnostic Evaluation of Test-Time Improvement in LLM Agents

February 2, 2026
Autori: Hang Yan, Xinyu Che, Fangzhi Xu, Qiushi Sun, Zichen Ding, Kanzhi Cheng, Jian Zhang, Tao Qin, Jun Liu, Qika Lin
cs.AI

Abstract

I recenti progressi negli agenti LLM autonomi dimostrano la loro capacità di migliorare le prestazioni attraverso l'interazione iterativa con l'ambiente. Definiamo questo paradigma come Miglioramento al Momento del Test (TTI). Tuttavia, i meccanismi alla base del successo o fallimento del TTI rimangono poco compresi, e le metriche di valutazione esistenti non riescono a catturarne l'efficienza nell'ottimizzazione del compito, l'adattamento comportamentale dopo azioni errate e l'utilità specifica della memoria di lavoro per il completamento del compito. Per colmare queste lacune, proponiamo la Valutazione Diagnostica del Miglioramento al Momento del Test (TIDE), un framework indipendente dall'agente e dall'ambiente che scompone il TTI in tre dimensioni complete e interconnesse. Il framework misura (1) le dinamiche temporali complessive del completamento del compito e (2) identifica se le prestazioni sono principalmente limitate da comportamenti di loop ricorsivi o (3) da una memoria accumulata onerosa. Attraverso esperimenti estesi su vari agenti e ambienti, TIDE evidenzia che il miglioramento delle prestazioni degli agenti richiede più che il semplice potenziamento del ragionamento interno, richiedendo l'ottimizzazione esplicita delle dinamiche di interazione tra l'agente e l'ambiente.
English
Recent advances in autonomous LLM agents demonstrate their ability to improve performance through iterative interaction with the environment. We define this paradigm as Test-Time Improvement (TTI). However, the mechanisms under how and why TTI succeed or fail remain poorly understood, and existing evaluation metrics fail to capture their task optimization efficiency, behavior adaptation after erroneous actions, and the specific utility of working memory for task completion. To address these gaps, we propose Test-time Improvement Diagnostic Evaluation (TIDE), an agent-agnostic and environment-agnostic framework that decomposes TTI into three comprehensive and interconnected dimensions. The framework measures (1) the overall temporal dynamics of task completion and (2) identifies whether performance is primarily constrained by recursive looping behaviors or (3) by burdensome accumulated memory. Through extensive experiments across diverse agents and environments, TIDE highlights that improving agent performance requires more than scaling internal reasoning, calling for explicitly optimizing the interaction dynamics between the agent and the environment.
PDF291February 6, 2026