自己教師あり視覚オン方策蒸留

要旨

視覚的オン方策蒸留は、より大規模で強力な教師モデルや、参照解答や関心領域の正解ラベルなどの特権的教師信号を通じた、有益な教師-生徒間の非対称性に大きく依存している。ここから、特権的な情報が一切利用できない場合、有益な非対称性はどこから得られるのかという根本的な問いが生じる。我々は、非対称性の由来を逆転させることでこの問いに答える。教師に特権情報を追加する代わりに、生徒から情報を差し引くのである。この非対称性は、正解アノテーションや報酬、あるいは別のより強力な教師モデルを必要とせずに、生徒が利用できない情報にアクセスできる教師と同じ効果的な学習信号を、追加コストなしで生み出す。この原理に基づき、我々は自己教師あり視覚的オン方策蒸留（S^2VOPD）を導入する。これは、非対称な拡張ビューからオン方策学習信号を構築する、単純かつ効果的な手法である。S^2VOPDは、元の画像を条件とした教師の分布を、同じ画像の強く拡張されたビューを条件とした生徒の分布へと、オン方策で蒸留する。我々は、視覚的拡張の広大な設計空間を体系的に探求し、以下のことを明らかにした：(1) 非対称性が重要である。4つの拡張ファミリーすべてが性能を向上させる一方、対称的な自己蒸留は性能を低下させる。(2) 強度が重要である。性能は中程度の強度でピークに達する。(3) ギャップはタスクと整合的でなければならない。質問に関連する根拠を完全に除去する拡張は、大きいが情報量のない不一致を誘発し得る。6つの細粒度知覚ベンチマークにおいて、S^2VOPDはQwen3.5-4Bを70.7%から77.4%へと改善し、比較対象としたすべてのオープンソースモデル（最大のQwen3-VL、235Bを含む）を上回り、GPT-5.4をも凌駕する。トレーニングデータを同一に保ったまま、特権情報を用いる手法によって達成される改善の96%を回復する。ウェブサイトは https://williamium3000.github.io/s2vopd にある。

English

Visual on-policy distillation relies heavily on an informative teacher-student asymmetry, through either a larger, stronger teacher or privileged supervision, such as reference answers or ground-truth regions of interest. This raises a fundamental question: where can informative asymmetry come from when nothing privileged is available? We answer this by inverting where the asymmetry comes from. Rather than adding privileged information to the teacher, we subtract information from the student. This asymmetry creates the same effective learning signal for free as a teacher with access to information unavailable to the student, without ground-truth annotations, rewards, or a separate stronger teacher model. Building on this principle, we introduce Self-Supervised Visual On-Policy Distillation (S^2VOPD), a simple yet effective method that constructs on-policy learning signals from asymmetric augmented views. S^2VOPD distills the teacher's distribution conditioned on the original image on-policy into the student distribution conditioned on a strongly augmented view of the same image. We systematically explore a broad design space of visual augmentations and uncover that (1) asymmetry matters: all four augmentation families improve performance, while symmetric self-distillation degrades it; (2) strength matters: performance peaks at a moderate strength; and (3) the gap must remain task-consistent: augmentations that completely remove the question-relevant evidence can induce large but uninformative discrepancies. Across six fine-grained perception benchmarks, S^2VOPD improves Qwen3.5-4B from 70.7% to 77.4%, above all open-source models compared, up to Qwen3-VL at 235B, and surpasses GPT-5.4. While holding training data the same, it recovers 96% of the improvement achieved by methods with privileged information. Website is at https://williamium3000.github.io/s2vopd