一つの未来、すべてのロボット：分散型JEPAによるラベル効率的な集団状態予測

要旨

群れ内のすべてのロボットは、局所的な観測と帯域制限されたメッセージのみから、同じ将来の集合状態を予測できるだろうか？我々はこれを分散型共有状態予測として定式化し、各ロボットの出力が一つの共通の未来トークン場を表す再帰型共同埋め込み予測アーキテクチャであるCollective-State JEPA（CS-JEPA）を導入する。展開時に、各ロボットは16フレームの局所履歴と、有向エッジごとに1つの64次元浮動小数点再帰メッセージを使用する。グローバルプーリング、ターゲットエンコーダ、エピソードクロック、記録された将来行動は存在しない。下流の集合ラベルなしで事前学習した後、凍結された表現は、6、12、または24のグローバルラベル付きエピソードに適合させたリッジプローブを用いて評価される。同じ受信機アンカーと展開時容量を持ちながら、9,607個の追加の訓練時専用パラメータを持つ生の未来再構成と比較して、事前登録された5シードの追試では、最大108台のロボットからなる分布内、リング、相互kNN、未見サイズの各ファミリーにおいて、予測誤差とロボット間一致度のラベル予算AUCが改善された。すべての効果は5/5の外部シードでCS-JEPAを支持する。別の密封された8シードの追試では、同等の行動条件付き予測器が、受信機ローカルな予測表現を生成する前に各候補の4ステップ計画を受け取る。CS-JEPAは分岐価値のMSEを45.5%削減し、コンテキスト内の候補スコアのピアソン相関を0.1291改善する。これらの効果は両方とも、未見のN=32を含む8/8シードで良好である。これらの結果は、トポロジーと規模のシフト下での分散型スウォーム予測におけるラベル効率的な基本要素としての共通未来JEPAターゲットを支持し、計画関連の価値推定に関する追加の証拠を提供する。

English

Can every robot in a swarm predict the same future collective state from only local observations and bandwidth-limited messages? We formulate this as decentralized shared-state prediction and introduce Collective-State JEPA (CS-JEPA), a recurrent joint-embedding predictive architecture whose output at every robot represents one common future token field. At deployment, each robot uses a 16-frame local history and one 64-float recurrent message per directed edge; there is no global pooling, target encoder, episode clock, or recorded future action. After pretraining without downstream collective labels, frozen representations are evaluated with ridge probes fitted on 6, 12, or 24 globally labeled episodes. Against raw-future reconstruction with the same receiver anchor and deployment capacity but 9,607 additional training-only parameters, a prospectively registered five-seed follow-up improves prediction-error and inter-robot-agreement label-budget AUC on in-distribution, ring, mutual-kNN, and unseen-size families up to 108 robots. Every effect favors CS-JEPA in 5/5 outer seeds. In a separate sealed eight-seed follow-up, matched action-conditioned predictors receive each candidate four-step plan before producing receiver-local predictive representations. CS-JEPA reduces branch-value MSE by 45.5% and improves within-context candidate-score Pearson correlation by 0.1291, with both effects favorable in 8/8 seeds, including at unseen N=32. These results support common-future JEPA targets as a label-efficient primitive for decentralized swarm prediction under topology and size shift, with additional evidence of planning-relevant value estimation.