Miles v0.1: 実運用レベルのポストトレーニング

要旨

我々は、フロンティア・ポストトレーニングのためのフルスタックで実運用可能なシステムであるMiles v0.1を提示する。slimeのクリーンな設計を基盤として、Milesは強化学習（RL）訓練ループの各段階を、コンポーネントは検証済みで、クリーンで、カスタマイズ可能であるべきという単一の原則に沿って設計している。正確性、効率性、信頼性、スケーラビリティを第一級の目標とし、Milesはフロンティア規模のRLを研究者と企業の双方にとって利用可能にすることを目指す。本報告では、システムをエンドツーエンドで概観する。すなわち、SGLang上に構築されたロールアウトエンジン、2つのバックエンド（NVIDIA Megatron-LMおよびPyTorch FSDP）を選択できるトレーナー、異なるデプロイトポロジー向けの3つの重み同期トランスポートである。全パラメータRLに加え、MilesはLoRA RL、オンポリシー蒸留、教師ありファインチューニング、真のオンポリシー・ロールアウト訓練アラインメントもサポートし、同じアーキテクチャを拡散モデルへ拡張する。最後にエンドツーエンドのケーススタディを示す。GLM-5.2 744B-A40Bモデルにおけるターミナル利用コーディングタスク上の完全非同期エージェント型RLであり、64台のNVIDIA GB300 GPU上で実行され、最初の30測定ステップでステップ時間の中央値が263秒であった。Milesはhttps://github.com/radixark/milesでオープンソース化されており、プロジェクトウェブサイトはhttps://miles.radixark.comである。

English

We present Miles v0.1, a full-stack, production-ready system for frontier post-training. Building upon the clean design of slime, Miles designs each stage of the reinforcement-learning (RL) training loop around a single principle: components should be verified, clean, and customizable. With accuracy, efficiency, reliability, and scalability as first-class goals, Miles aims to make frontier-scale RL accessible to researchers and enterprises alike. This report walks through the system end to end: rollout engines built on SGLang, a trainer with a choice of two backends (NVIDIA Megatron-LM and PyTorch FSDP), and three weight-synchronization transports for different deployment topologies. Beyond full-parameter RL, Miles also supports LoRA RL, on-policy distillation, supervised fine-tuning, and true-on-policy rollout-training alignment, and extends the same architecture to diffusion models. We close with an end-to-end case study: fully asynchronous agentic RL on a GLM-5.2 744B-A40B model over terminal-use coding tasks, running on 64 NVIDIA GB300 GPUs with a median step time of 263 seconds over the first 30 measured steps. Miles is open-sourced at https://github.com/radixark/miles, with the project website at https://miles.radixark.com.