ループ型言語モデルは合成的ツール呼び出しを向上させる

要旨

ループ型言語モデルは推論ベンチマークにおいて有望な結果を示しているが、エージェント的なツール使用におけるその可能性は依然としてほとんど未開拓である。我々は、モデルが複数のAPI呼び出しを調整し、中間状態を維持し、ツール相互作用間の依存関係を保持しなければならない合成的ツール呼び出し設定においてこの問題を調査する。API-Bank、BFCL、NESTfulを用いて、ネイティブおよび後付けのループ型言語モデルを評価し、整合した教師ありファインチューニング手法の下で訓練されたループ型モデルと非ループ型モデルを、推論時の反復深度を変動させて比較する。制御実験では、反復計算は一般に合成的かつ依存関係を考慮したツール使用に利益をもたらす一方、単独のAPI呼び出しではより小さくモデル依存の改善しかもたらさない。多段階ツール使用の精度は一般に反復深度とともに増加するが、適応的推論は必要な場合にのみ追加の計算を割り当てることで、より好ましい計算性能トレードオフを達成する。本研究の結果は、ループ型言語モデルが、合成的ツール使用ワークフローの信頼性の高い計画、調整、および実行を必要とするエージェントシステムにとって有望なアーキテクチャであることを示唆している。

English

Looped language models have shown promising results on reasoning benchmarks, yet their potential for agentic tool use remains largely unexplored. We study this question in compositional tool-calling settings, where models must coordinate multiple API calls, maintain intermediate state, and preserve dependencies across tool interactions. We evaluate native and retrofitted looped language models on API-Bank, BFCL, and NESTful, comparing looped and non-looped models trained under matched supervised fine-tuning recipes and varying recurrent depth at inference time. In controlled experiments, recurrent computation generally benefits compositional and dependency-aware tool use, while providing smaller and more model-dependent gains on isolated API invocation. Accuracy on multi-step tool use generally increases with recurrent depth; adaptive inference, however, achieves a more favorable compute-performance trade-off by allocating additional computation only when needed. Our results suggest that looped language models are a promising architecture for agentic systems that require reliable planning, coordination, and execution of compositional tool use workflows.