OpenForgeRL: 任意の環境でハーネスネイティブエージェントを訓練する

要旨

現代のAIエージェントは、Claude Code、Codex、OpenClawといった精巧な推論ハーネスに依存して、マルチターン推論、ツール使用、外部システムへのアクセスを実現している。これらの複雑なハーネスは強力である一方、エージェントをオープンインフラストラクチャでエンドツーエンドに訓練することを困難にしており、標準の教師ありファインチューニング(SFT)・強化学習(RL)スタックでは、ステートフルかつマルチプロセスなハーネス推論をネイティブに表現できない。この課題に対処するため、本稿では多様な環境でハーネスベースのエージェントをエンドツーエンドに訓練するためのオープンソースフレームワーク「OpenForgeRL」を提案する。OpenForgeRLは、ハーネスのモデル呼び出しを中継しつつ、標準的なRLコードベース（例：veRL）向けの訓練データとして記録する軽量プロキシと、各ロールアウトを独立したリモートコンテナで実行するKubernetesオーケストレーターにより、あらゆるハーネス・環境での大規模訓練を可能にする。訓練と推論を分離することで、研究者は実際の運用環境とハーネスにおいてエージェントを直接、容易に訓練・研究・改善できる。本フレームワークは、ツール・クローベースエージェントからマルチモーダルGUIブラウザ・コンピュータ使用エージェントに至るまで、多様かつ複雑なハーネス・環境で検証された。数百から数千タスクのみを用いて、OpenForgeClawはClawEvalでpass@3 31.7、pass@3 55.9、QwenClawBenchで33.7を達成した。OpenForgeGUIはOSWorld-Verifiedで37.7、Online-Mind2Webで63.0、WebVoyagerで72.3を達成した。両者はほぼ全てのベンチマークで同規模のオープンベースラインを上回り、GUI設定では数倍規模のモデルに匹敵または凌駕する。ベンチマークを超え、ハーネスの選択（例：ZeroClaw、OpenClaw、Codex）とRLがエージェントの振る舞いをどう形作るかも分析した。一部のハーネスは他より学習が著しく困難であり、RLは自己検証、ツールカバレッジ、マルチステップ計画の完了といったエージェントの信頼性を向上させるが、エラー回復のような重要な能力は依然として脆弱であることを発見した。

English

Modern AI agents rely on elaborate inference harnesses such as Claude Code, Codex, and OpenClaw to drive multi-turn reasoning, tool use, and access to external systems. While powerful, these complex harnesses also make agents hard to train end-to-end with open infrastructure, whose SFT/RL stacks cannot natively express stateful, multi-process harness inference. To address this, we present OpenForgeRL, an open-source framework for training harness-based agents end-to-end in diverse environments. OpenForgeRL achieves this with a lightweight proxy that serves the harness's model calls while recording them as training data for a standard RL codebase (e.g., veRL), and a Kubernetes orchestrator that runs each rollout in its own remote container, together enabling training on any harness in any environment at scale. By decoupling training and inference, OpenForgeRL allows researchers to easily train, study, and improve agents directly in the real harnesses and environments they are deployed with. We validate our framework across diverse, complex harnesses and environments, spanning tool/claw-based agents and multimodal GUI browser- and computer-use agents. Using only hundreds to a few thousand tasks, OpenForgeClaw reaches 31.7 pass^3 and 55.9 pass@3 on ClawEval and 33.7 on QwenClawBench. OpenForgeGUI reaches 37.7 on OSWorld-Verified, 63.0 on Online-Mind2Web, and 72.3 on WebVoyager. Both outperform open baselines of similar size on nearly all benchmarks, and in the GUI setting match or surpass models several times larger. Beyond benchmarks, we analyze how harness choice (e.g., ZeroClaw, OpenClaw, Codex) and RL shape agent behavior. We find that some harnesses are substantially harder to learn than others, and that RL improves agentic reliability, such as self-verification, tool coverage, and completing multi-step plans, though critical abilities such as error recovery remain weak.