DuoMem：デュアルスペース蒸留による高性能オンデバイスメモリエージェントを目指して

要旨

大規模言語モデル（LLM）に基づくエージェントは、複数ターンにわたる環境との相互作用を通じて複雑な手続き的タスクを解決できるが、この能力は通常、大規模モデル、長いコンテキスト、および繰り返しの推論呼び出しに依存する。そのため、高度なメモリ拡張エージェントをリソース制約のあるデバイスに展開することは困難である。本稿では、二重空間蒸留フレームワークDuoMemを導入し、大規模教師モデルからコンパクトな生徒モデルへ手続き的問題解決能力を転移する。DuoMemは、以下の2つの相補的な空間で蒸留を行う：(1)コンテキスト空間蒸留。これは、生徒が生成したメモリを、教師が生成した高品質な手続き的メモリで置き換え、それを生徒の入力に前置するものである。(2)パラメータ空間蒸留。これは、教師の成功軌跡に基づいて軽量なLoRAアダプターを微調整するものである。身体化意思決定ベンチマークであるALFWorldにおいて評価した結果、DuoMemは40億パラメータのモデルのタスク成功率を4.3%から77.9%に向上させ、720億パラメータの教師モデル（87.1%）との差をほぼ埋めた。その際、追加する学習可能パラメータは1000万未満、事前計算された教師メモリはわずか数メガバイトである。さらに、DuoMemで強化された40億モデルは、実時間で720億の教師モデルよりも3倍以上速くタスクを完了し、リアルタイムエッジ展開が困難な教師モデルに対し、実用的な選択肢となる。20億から720億パラメータにわたる8つのモデルを用いた広範なアブレーション実験により、両方の蒸留軸が相補的に寄与することが明らかになった。

English

Large Language Model (LLM)-based agents can solve complex procedural tasks by interacting with environments over multiple turns, but this ability typically depends on large models, long contexts, and repeated inference calls. This makes advanced memory-augmented agents difficult to deploy on resource-constrained devices. We introduce DuoMem, a dual-space distillation framework that transfers procedural problem-solving ability from a large teacher model to compact student models. DuoMem distils in two complementary spaces: (1)context-space distillation, which replaces student-generated memories with higher-quality teacher-generated procedural memories prepended to the student's input, and (2)parameter-space distillation, which fine-tunes lightweight LoRA adapters on successful teacher trajectories. Evaluated on ALFWorld, a challenging embodied decision-making benchmark, DuoMem boosts a 4B-parameter model from 4.3% to 77.9% task success rate, closing most of the gap to a 72B teacher model (87.1%), while adding fewer than 10M trainable parameters and only a few megabytes of pre-computed teacher memories. Moreover, the DuoMem-enhanced 4B model completes tasks over 3x faster than the 72B teacher in wall-clock time, making it viable for real-time edge deployment, which would be challenging for the teacher.Extensive ablations across eight models spanning 2B-72B parameters reveal that both distillation axes contribute complementary