DeCLIP: Entkoppeltes Lernen für dichte Wahrnehmung mit offenem Vokabular

DeCLIP: Decoupled Learning for Open-Vocabulary Dense Perception

May 7, 2025

Autoren: Junjie Wang, Bin Chen, Yulin Li, Bin Kang, Yichi Chen, Zhuotao Tian

cs.AI

Zusammenfassung

Dichte visuelle Vorhersageaufgaben waren bisher durch ihre Abhängigkeit von vordefinierten Kategorien eingeschränkt, was ihre Anwendbarkeit in realen Szenarien, in denen visuelle Konzepte unbegrenzt sind, limitierte. Während Vision-Language-Modelle (VLMs) wie CLIP vielversprechende Ergebnisse bei Open-Vocabulary-Aufgaben gezeigt haben, führt ihre direkte Anwendung auf dichte Vorhersagen oft zu suboptimaler Leistung aufgrund von Einschränkungen in der lokalen Merkmalsdarstellung. In dieser Arbeit präsentieren wir unsere Beobachtung, dass die Bild-Tokens von CLIP Schwierigkeiten haben, effektiv Informationen aus räumlich oder semantisch verwandten Regionen zu aggregieren, was zu Merkmalen führt, denen lokale Unterscheidbarkeit und räumliche Konsistenz fehlen. Um dieses Problem zu lösen, schlagen wir DeCLIP vor, ein neuartiges Framework, das CLIP verbessert, indem es das Self-Attention-Modul entkoppelt, um jeweils „Inhalts“- und „Kontext“-Merkmale zu erhalten. Die „Inhalts“-Merkmale werden mit Bildausschnitt-Darstellungen abgeglichen, um die lokale Unterscheidbarkeit zu verbessern, während die „Kontext“-Merkmale lernen, die räumlichen Korrelationen unter der Anleitung von Vision-Foundation-Modellen wie DINO beizubehalten. Umfangreiche Experimente zeigen, dass DeCLIP bestehende Methoden bei mehreren Open-Vocabulary-dichten Vorhersageaufgaben, einschließlich Objekterkennung und semantischer Segmentierung, deutlich übertrifft. Der Code ist verfügbar unter magenta{https://github.com/xiaomoguhz/DeCLIP}.

English

Dense visual prediction tasks have been constrained by their reliance on predefined categories, limiting their applicability in real-world scenarios where visual concepts are unbounded. While Vision-Language Models (VLMs) like CLIP have shown promise in open-vocabulary tasks, their direct application to dense prediction often leads to suboptimal performance due to limitations in local feature representation. In this work, we present our observation that CLIP's image tokens struggle to effectively aggregate information from spatially or semantically related regions, resulting in features that lack local discriminability and spatial consistency. To address this issue, we propose DeCLIP, a novel framework that enhances CLIP by decoupling the self-attention module to obtain ``content'' and ``context'' features respectively. The ``content'' features are aligned with image crop representations to improve local discriminability, while ``context'' features learn to retain the spatial correlations under the guidance of vision foundation models, such as DINO. Extensive experiments demonstrate that DeCLIP significantly outperforms existing methods across multiple open-vocabulary dense prediction tasks, including object detection and semantic segmentation. Code is available at magenta{https://github.com/xiaomoguhz/DeCLIP}.