MOSS-VL 기술 보고서

초록

우리는 MOSS-VL을 소개한다. 이는 실시간 상호작용, 즉 말하면서 지각하는 것을 일급 기능으로 취급하는 오픈 비전-언어 모델 제품군이다. 이 모델은 스택 전반에 걸쳐 공동 설계되었다. 언어 디코더는 게이트 교차 어텐션을 통해서만 비전에 주의를 기울이므로, 모델은 생성 중에도 들어오는 프레임을 자연스럽게 볼 수 있다. 합성 상호작용 말뭉치는 언제 말하고, 언제 침묵하며, 언제 수정할지를 지도한다. 또한 단계적 커리큘럼은 실시간 특화 훈련을 강력한 오프라인 기반 위의 단 하나의 가벼운 최종 단계에 집중시킨다. 오프라인에서 MOSS-VL-Instruct는 비슷한 규모에서 경쟁력을 가지며 시간적 추론 비디오 데이터셋에서 선두를 차지한다. 네 개의 스트리밍 벤치마크에서 MOSS-VL-Realtime은 오픈소스 스트리밍 모델 중 세 개에서 최고 평균 성능을 기록했고(네 번째에서는 두 번째), 능동적 행동을 직접적으로 시험하는 세 개의 하위 집합을 휩쓸었다(OmniMMI Proactive Alerting에서 최고 기준선 대비 66.0 대 37.5). 113억 개의 매개변수를 가지면서도 시각 토큰이 디코딩 시퀀스 외부에 있기 때문에, MOSS-VL은 동일 백본인 Qwen3-VL-8B 대비 첫 토큰 생성 시간(time-to-first-token) 이점을 시각적 맥락이 커짐에 따라 2.8배에서 5.1배로 확대한다. 우리는 다섯 개의 체크포인트, 훈련 커리큘럼, 실시간 추론 코드를 https://github.com/OpenMOSS/MOSS-VL에 공개한다.

English

We present MOSS-VL, an open vision-language model family that treats real-time interaction -- perceiving while it speaks -- as a first-class capability. It is co-designed across the stack: the language decoder attends to vision only through gated cross-attention, so the model can naturally see incoming frames while generating; a synthesized interaction corpus supervises when to speak, when to stay silent, and when to revise; and a staged curriculum concentrates all real-time-specific training in one light final stage over a strong offline foundation. Offline, MOSS-VL-Instruct is competitive at comparable scale and leads temporal-reasoning video sets. Across four streaming benchmarks, MOSS-VL-Realtime posts the best average on three (second on the fourth) among open-source streaming models, sweeping the three subsets that squarely test proactive behavior -- 66.0 vs. 37.5 for the best baseline on OmniMMI Proactive Alerting. With 11.3B parameters but visual tokens outside the decoded sequence, MOSS-VL widens its time-to-first-token advantage over same-backbone Qwen3-VL-8B from 2.8x to 5.1x as visual context grows. We release all five checkpoints, the training curriculum, and the real-time inference code at https://github.com/OpenMOSS/MOSS-VL.