LoopArena: モデルをループエンジニアリングのランタイムコントローラーとしてベンチマーキングする

LoopArena: Benchmarking Models as Runtime Controllers for Loop Engineering

August 28, 2026

著者: Yi Wang, Haopeng Zhang, Chengxiang Huang, Rui Dai, Kaikui Liu, Piotr Koniusz, Xiangxiang Chu

cs.AI

要旨

ループエンジニアリングは、コーディングエージェントを中心に開発作業を整理する実践として登場しつつある。実践者はプロンプトを一つずつ手書きする代わりに、進捗を監視し、作業を割り当て、チェックを実行し、エージェントが次に何をすべきかを決定するループを設計する。有能なコーディングエージェントであっても、ループは古くなった進捗メモを信頼したり、必要な検証を省略したり、予算を誤った方向に費やしたり、タスクを安全に提出できる前に停止したりすることがある。しかし、一度のエンドツーエンド実行の最終結果だけでは、成功や失敗がループの指示によるものなのか、コーディングエージェントのタスク実行能力によるものなのかを判断することはできない。 我々は、あるモデルが別のコーディングエージェントを長期にわたるタスクでどの程度うまく導けるかを評価するためのベンチマークであるLoopArenaを紹介する。評価対象のモデルはコントローラーである。各コーディングラウンドの後、コントローラーは実行の構造化要約を受け取り、固定された別のコーディングエージェントであるワーカーに対して、次に何を行うべきか、あるいは何を検証すべきかを指示するか、または停止するかを決定する。 LoopArenaは、実行範囲とコストが異なる3つの相補的な設定でこの能力を評価する。タイプIは、評価時にワーカーを実行することなく、実行検証済みの質問を通じて次ステップのループ契約の選択を評価する。タイプIIは、完全なタスクの選択されたスライスに対して反復的な制御を実行するのに対し、タイプIIIは、対応する完全なタスクを初期状態から評価する。完全なタスクでは、観測された最良の厳格成功率は24.69%であり、長期的なループ制御には大きな改善の余地が残されている。コントローラー間のペア比較では、推定推論コストの削減率は平均64.4%であり、タイプIIは主要なコア基準の下で同様の順序付けを生み出す（スピアマンのρ = 0.9747）。ベンチマークデータと評価コードはhttps://github.com/AMAP-ML/LoopArena で公開している。

English

Loop Engineering is emerging as a practice for organizing development work around coding agents. Instead of writing each prompt by hand, practitioners design loops that monitor progress, assign work, run checks, and decide what the agent should do next. Even with a capable coding agent, a loop may trust a stale progress note, skip needed verification, spend its budget in the wrong direction, or stop before the task is safe to submit. Yet the final outcome of one end-to-end run cannot tell whether success or failure reflects the loop's guidance or the coding agent's ability to carry out the task. We introduce LoopArena, a benchmark for evaluating how well one model can guide a separate coding agent through a long-running task. The model under evaluation is the Controller: after each coding round, it receives a structured summary of the run and instructs a separate, fixed coding agent, the Worker, on what to do or verify next, or decides whether to stop. LoopArena evaluates this ability in three complementary settings that differ in execution scope and cost. Type I scores next-step Loop Contract selection through execution-validated questions without running the Worker at evaluation time. Type II executes repeated control over a selected slice of a full task, while Type III evaluates the paired full task from its original state. On full tasks, the best observed Strict Success Rate is 24.69\%, leaving substantial room for improvement in long-horizon loop control. Across Controllers, the paired reduction in estimated inference cost averages 64.4\%, and Type II produces a similar ordering under the main Core criterion (Spearman's \(ρ=0.9747\)). We release the benchmark data and evaluation code at https://github.com/AMAP-ML/LoopArena .