VLA初期化のためのVLM表現の再考

要旨

Vision-Language-Action（VLA）モデルは、事前学習済みのVision-Language Model（VLM）をポリシーバックボーンとして広く採用しているが、どのような種類の事前学習済みVLM表現がVLA初期化として有用であるかは、依然として不明である。本論文では、VLA初期化を、能力レベルの具現化VQA（視覚質問応答）監督、パラメータ更新戦略、ロボットデータ事前学習の三軸に沿った制御された表現設計問題として研究する。実験により、元の事前学習済みVLM表現が行動性能の重要な源泉であることが示された。しかし、具現化VQA適応は一律の利得をもたらすわけではなく、その利点は下流のボトルネックに依存し、異なる能力ドメインからの利得は単純に加算的ではない。更新戦略に関しては、LoRAが完全微調整よりも信頼性の高い初期化を提供し、事前学習済み表現を過度に変形するとVLA初期化を弱める可能性があることが示された。ロボットデータ事前学習はVLA初期化をさらに向上させ、最も強力な変種は段階的なLoRAベースの訓練によって得られる。これらの知見は、効果的なVLMからVLAへの適応には、行動学習に有用な事前学習済みVLM表現を保持しつつ、行動に関連する具現化信号およびロボット軌道信号を注入すべきであることを示唆している。

English

Vision-Language-Action (VLA) models widely adopt pretrained Vision-Language Models (VLMs) as policy backbones, yet it remains unclear what kind of pretrained VLM representation is useful as a VLA initialization. In this paper, we study VLA initialization as a controlled representation-design problem along three axes: capability-level embodied VQA supervision, parameter-update strategy, and robot-data pretraining. Our experiments show that the original pretrained VLM representation is a key source of action performance. However, embodied VQA adaptation does not yield uniform gains: its benefit depends on downstream bottlenecks, and gains from different capability domains are not simply additive. For update strategy, LoRA provides a more reliable initialization than Full Finetune, indicating that overly reshaping the pretrained representation can weaken VLA initialization. Robot-data pretraining further improves VLA initialization, with the strongest variant obtained by staged LoRA-based training. Together, these findings suggest that effective VLM-to-VLA adaptation should inject action-relevant embodied and robot-trajectory signals while preserving the pretrained VLM representation that remains useful for action learning.