Molt: スケーラブルなPyTorchネイティブエージェント型強化学習訓練フレームワーク

要旨

エージェント強化学習の研究では、アルゴリズムの修正、新しい推定器、新たなパイプライン段階、新しいロールアウト方式が絶えず行われており、主流のフレームワークでは、各変更がトレーナー、分散バックエンド、ロールアウトのグルーコードにわたって浸透するため、そのコストは研究者に毎反復かかる。Moltは、このコストを小さく保つために設計されたPyTorchネイティブの訓練フレームワークである。コードベースはコンパクトでクリーンであり、研究者が頭の中に保持でき、AIコーディングアシスタントが全体を読んで理解できるため、アルゴリズムの流れをエンドツーエンドで追跡および変更できる。エージェントは通常のプログラムであり、1つの非同期ループがマルチモーダルおよび混合専門家ポリシーを訓練しつつ、自身が生成したトークンに対してのみ学習を行い、トークン、ポリシーバージョン、モデルセマンティクスにおいて一貫性を保つ。軽量さは性能を犠牲にしない。完全に非同期のプロトコルを一致させた条件下で、Moltは最先端のMegatronベースのスタックと統計的に同等である。Moltはオープンソースであり、レシピとコンテナをhttps://github.com/NVIDIA-NeMo/labs-moltで提供している。

English

Agentic reinforcement learning research is constant algorithm modification, new estimators, new pipeline stages, new rollout schemes, and in mainstream frameworks each change threads through layers of trainer, distributed backend, and rollout glue: the cost lands on the researcher at every iteration. Molt is a PyTorch-native training framework built to keep that cost small: a codebase compact and clean enough for a researcher to hold in their head, and for an AI coding assistant to read and reason about in its entirety, so the algorithm flow can be traced and changed end to end. The agent is an ordinary program, and one asynchronous loop trains multimodal and mixture-of-experts policies while never training on a token it did not generate, consistent in tokens, policy versions, and model semantics. Leanness does not cost performance: under a matched, fully asynchronous protocol, Molt is statistically comparable to a state-of-the-art Megatron-based stack. Molt is open source and provides recipes and containers at https://github.com/NVIDIA-NeMo/labs-molt.