의도적으로 행동하기: 비전-언어-행동 모델을 위한 행동 의도 증류

초록

비전-언어-행동(Vision-Language-Action, VLA) 모델은 다중 모달 맥락을 로봇 행동으로 변환할 수 있지만, 이들의 행동 디코더(action decoder)는 여전히 대부분 행동 복제(behavior cloning) 방식으로 훈련된다. 이는 어떤 모터 명령이 시연되었는지를 지도할 뿐, 지시 하에 행동이 추구하는 국소적 목적은 암시적으로 남겨둔다. 미래 기반 지도(future-based supervision)는 프레임, 잠재 관측, 궤적, 또는 운동 표현으로 행동 학습을 강화하지만, 이러한 신호들은 다가올 행동의 공유된 의미적 목적보다는 발생 가능한 특정 실현들을 포착한다. 우리는 행동 수준의 의도를 행동 디코더로 증류하는 의도 증류(Intention Distillation, INDI)를 제안한다. 훈련 중에 동결된 교사 VLM은 현재 관측, 지시, 개괄적 행동 요약, 그리고 해당 실행 비디오로부터 시연된 세그먼트를 해석한다. 배포된 VLA는 표준 입력으로부터 결과적인 다중 모달 의도 표현을 중간 디코더 계층에서 복구하고, 이를 행동이 어떻게 전개되는지와 무엇을 달성하는지에 대한 표현들과 함께 행동 예측을 조직화하는 데 사용한다. SimplerEnv-Bridge에서 INDI는 GR00T-N1.7을 64.3%에서 84.7%로 개선하며, RoboCasa Kitchen에서는 통제된 GR00T-N1.7 기준 모델을 64.1%에서 70.3%로 개선하고, 두 벤치마크 모두에서 π_{0.5}에 대한 일관된 향상을 보인다. 실제 세계 작업에서 INDI는 평균 성공률을 62.0%에서 68.7%로 개선하며, 더 긴 지평의 작업에서는 최대 12.0% 포인트의 향상을 달성한다. 추가 분석은 복구된 잠재 표현이 디코더에 의해 사용되며, 행동 목적과 실행 진행을 포착하고, 목적에 의존적인 방식으로 후속 예측을 조직화함을 보여준다. 이러한 결과는 행동 디코더가 자신이 생성하는 행동의 의미적 목적을 명시적으로 모델링함으로써 이득을 얻는다는 것을 보여준다.

English

Vision-Language-Action (VLA) models can turn multimodal context into robot actions, but their action decoders are still trained largely by behavior cloning. This supervises which motor command was demonstrated while leaving implicit the local objective served by the behavior under the instruction. Future-based supervision enriches action learning with frames, latent observations, trajectories, or motion representations, but these signals capture particular realizations of what may happen rather than the shared semantic objective of the forthcoming behavior. We propose Intention Distillation (INDI), which distills behavior-level intent into the action decoder. During training, a frozen teacher VLM interprets a demonstrated segment from the current observation, instruction, coarse action summary, and corresponding execution video. From its standard inputs, the deployed VLA recovers the resulting multimodal intent representation at an intermediate decoder layer and uses it to organize action prediction together with representations of how the behavior unfolds and what it achieves. On SimplerEnv-Bridge, INDI improves GR00T-N1.7 from 64.3% to 84.7%, and on RoboCasa Kitchen it improves the controlled GR00T-N1.7 baseline from 64.1% to 70.3%, with consistent gains on π_{0.5} across both benchmarks. In real-world tasks, INDI improves average success from 62.0% to 68.7%, with gains of up to 12.0 pp on longer-horizon tasks. Further analyses show that the recovered latent is used by the decoder, captures behavior objective and execution progress, and organizes downstream predictions in an objective-dependent manner. These results show that action decoders benefit from explicitly modeling the semantic objective of the behavior they generate.