JoyNexus：VLAモデルのためのサービス指向マルチテナントポストトレーニング

要旨

ビジョン・ランゲージ・アクション（VLA）モデルのポストトレーニングは、シミュレータやロボットの構成、タスク目標の多様性から不可欠です。既存のコンピューティングサービスは、アクセラレータの直接レンタルやバッチワークロードの投入として提供される場合、通常、単一テナントに対して排他的なGPUおよびCPUリソースのセットを割り当てます。このパラダイムはクライアントの柔軟性を最大化する一方で、インフラ適応の負荷をユーザーに課し、固定のカード時間課金モデルにより、短時間またはバースト的なワークロードはテナントにとって高コストとなり、サービスプロバイダーにとっても非効率的です。これらの課題に対処するため、我々はJoyNexusを提案します。これは、マルチテナントVLAの教師ありファインチューニング、強化学習、評価のための統合サービスです。JoyNexusは、トレーニングモデルサービス、推論モデルサービス、環境サービスを分離し、それぞれAPIを通じてアクセス可能で、常駐する共有ベースモデルとテナント固有のスロットによって支えられています。テナントは、トレーニング、ロールアウト、評価のための高レベルな意味APIを直接呼び出すか、より低レベルのAPIと割り当てられたエンドポイントを用いてカスタムアルゴリズムを構成できます。複数のテナントが同時にワークロードを投入し、そのアクションモジュール、オプティマイザ、ロールアウトレコード、ポリシーバージョンは分離されており、サービスはグローバルなトレーニングキューと推論キューによってスケジューリングされます。さらに、マルチテナントトレーニングの効率を向上させるため、JoyNexusは互換性のあるモデル向けプレフィックスを共有する異種VLAデータスキーマに対してグループバッチを導入し、グループ化されたサンプルに対して単一の共有バックボーンフォワードパスを可能にします。最後に、現実的な具現化シナリオにおけるワークロードシミュレーションとグループバッチパイプラインを通じてJoyNexusを評価します。結果は、孤立したシングルテナント実行と比較して、JoyNexusが共有リソース上のクロステナントスケジューリングによりGPU時間の総量を削減し、サービス利用効率を向上させることを示しています。

English

The post-training of Vision-Language-Action (VLA) models is essential due to the diversity of simulators, robot embodiments, and task objectives. Existing compute services, whether offered as direct accelerator rental or batch-workload submission, typically allocate an exclusive set of GPU and CPU resources to a single tenant. While this paradigm maximizes client flexibility, it burdens users with infrastructure adaptation, and the fixed card-hour accounting model renders short or bursty workloads both expensive for tenants and inefficient for the service provider. To address these challenges, we present JoyNexus, a unified service for multi-tenant VLA supervised fine-tuning, reinforcement learning, and evaluation. JoyNexus decouples the Training Model Service, Inference Model Service, and Environment Service, each accessed through APIs and backed by resident shared base models with tenant-specific slots. Tenants can directly invoke high-level semantic APIs for training, rollout, and evaluation, or compose custom algorithms using lower-level APIs and their assigned endpoints. Multiple tenants submit workloads concurrently; their action modules, optimizers, rollout records, and policy versions remain isolated, and the service is scheduled by the global Training Queue and Inference Queue. To further improve multi-tenant training efficiency, JoyNexus introduces group batching for heterogeneous VLA data schemas that share a compatible model-facing prefix, enabling a single shared backbone forward pass over grouped samples. Finally, we evaluate JoyNexus through workload simulation and a group-batching pipeline in a realistic embodied scenario. Results show that, compared with isolated single-tenant execution, JoyNexus reduces aggregate GPU time and improves service utilization via cross-tenant scheduling on shared resources.