エージェントメモリ蒸留：階層的教師メモリによる小規模LLMエージェントの能力強化

要旨

メモリシステムはエージェントの性能向上に有望性を示しているが、その可能性は、単独では十分な成功軌跡を生成することが困難な小型言語モデルに対しては、ほとんど探索されていない。本稿では、Agent Memory Distillation (AMD) を提案する。これは、大規模な教師エージェントから小規模な生徒エージェントへ、階層的メモリを通じて構造化された知識を転移する、学習不要のフレームワークである。AMDは、教師エージェントの成功軌跡から、3つの相補的なメモリタイプを構築する。すなわち、ワークフローメモリはタスクレベルの戦略を符号化し、サブタスクメモリは中間の粒度で具体的な行動例を提供し、ファンクションメモリは関数ごとの呼び出し規約と一般的な落とし穴を捕捉する。ワークフローメモリとサブタスクメモリは各タスクの開始時にプロアクティブに注入され、一方、ファンクションメモリはツール呼び出しエラー発生時にリアクティブに検索される。我々は、GPT-5-miniを教師として、4つの生徒モデル（4B〜8Bパラメータ）を用いて3つのツール使用ベンチマークでAMDを評価し、AppWorld、BFCL V3、ToolSandboxにおいて平均精度でそれぞれ27.2ポイント、11.2ポイント、3.4ポイントの向上を達成し、既存のメモリベースのベースラインを一貫して上回った。さらなる分析により、サブタスクメモリが最も大きな改善に寄与すること、教師の有効性は教師の能力と生徒との互換性の両方に依存すること、そして4B規模の生徒モデルがAMDから最も大きな恩恵を受けることが示された。

English

Memory systems have shown promise for improving agent performance, but their potential remains largely unexplored for small language models, which struggle to generate sufficient successful trajectories on their own. We propose Agent Memory Distillation (AMD), a training-free framework that transfers structured knowledge from a large teacher agent to a small student agent through hierarchical memory. AMD constructs three complementary memory types from successful teacher trajectories: Workflow memory encodes task-level strategies, Subtask memory provides concrete behavioral examples at an intermediate granularity, and Function memory captures per-function calling conventions and common pitfalls. Workflow and Subtask memories are injected proactively at the start of each task, while Function memory is retrieved reactively upon tool-calling errors. We evaluate AMD on three tool-use benchmarks using four student models (4B-8B parameters) with GPT-5-mini as the teacher, achieving average accuracy gains of 27.2%p, 11.2%p, and 3.4%p on AppWorld, BFCL V3, and ToolSandbox, while consistently outperforming existing memory-based baselines. Further analysis shows that Subtask memory contributes the largest gains, teacher effectiveness depends on both teacher capability and student compatibility, and 4B-sized students benefit most from AMD.