MemReread : Amélioration du raisonnement agentif sur de longs contextes par relecture guidée par la mémoire

Résumé

Pour aborder les tâches de raisonnement à long contexte sans la complexité quadratique des mécanismes d'attention standards, des approches basées sur la mémoire d'agent ont émergé, qui maintiennent généralement une mémoire mise à jour dynamiquement lors du traitement linéaire de segments de documents. Pour atténuer la perte potentielle de preuves latentes dans ce paradigme de mémorisation en cours de lecture, des travaux récents ont intégré des modules de récupération qui permettent aux agents de rappeler des informations précédemment écartées lors de l'écrasement de mémoire. Cependant, le rappel basé sur la récupération souffre à la fois d'une perte de preuves lors de la formation de la mémoire et d'interférences induites par des requêtes invalides. Pour surmonter ces limitations, nous proposons MemReread. Basé sur la lecture en flux continu, MemReread contourne la récupération intermédiaire. Il déclenche la décomposition des questions et la relecture lorsque la mémoire finale est insuffisante, permettant ainsi la récupération de faits indirects qui ont été prématurément écartés. Cette conception prend en charge le raisonnement non linéaire tout en préservant le flux logique inhérent à la compréhension du document. Pour améliorer encore la praticité, nous introduisons un cadre d'apprentissage par renforcement qui améliore la capacité d'extrapolation de longueur tout en déterminant dynamiquement le nombre de passes de relecture en fonction de la complexité de la tâche, contrôlant ainsi de manière flexible la surcharge de calcul. Des expériences approfondies montrent que MemReread surpasse systématiquement les cadres de référence sur les tâches de raisonnement à long contexte, tout en maintenant une complexité temporelle linéaire par rapport à la longueur du contexte.

English

To tackle long-context reasoning tasks without the quadratic complexity of standard attention mechanisms, approaches based on agent memory have emerged, which typically maintain a dynamically updated memory when linearly processing document chunks. To mitigate the potential loss of latent evidence in this memorize-while-reading paradigm, recent works have integrated retrieval modules that allow agents to recall information previously discarded during memory overwriting. However, retrieval-based recall suffers from both evidence loss during memory formation and interference induced by invalid queries. To overcome these limitations, we propose MemReread. Built upon streaming reading, MemReread circumvents intermediate retrieval. It triggers question decomposition and rereading when the final memory is insufficient, enabling the recovery of indirect facts that were prematurely discarded. This design supports non-linear reasoning while preserving the inherent logical flow of document comprehension. To further enhance practicality, we introduce a reinforcement learning framework that enhances length extrapolation capability while dynamically determining the number of rereading passes based on task complexity, thereby flexibly controlling computational overhead. Extensive experiments demonstrate that MemReread consistently outperforms baseline frameworks on long-context reasoning tasks, while maintaining linear time complexity with respect to context length.