Wie nehmen große Vision-Sprach-Modelle Text in Bildern wahr? Die besondere Rolle von OCR-Köpfen enthüllt

How Do Large Vision-Language Models See Text in Image? Unveiling the Distinctive Role of OCR Heads

May 21, 2025

Autoren: Ingeol Baek, Hwan Chang, Sunghyun Ryu, Hwanhee Lee

cs.AI

Zusammenfassung

Trotz bedeutender Fortschritte bei großen visuell-sprachlichen Modellen (Large Vision Language Models, LVLMs) besteht weiterhin eine Lücke, insbesondere in Bezug auf ihre Interpretierbarkeit und wie sie Textinformationen in Bildern lokalisieren und interpretieren. In diesem Artikel untersuchen wir verschiedene LVLMs, um die spezifischen Köpfe zu identifizieren, die für die Erkennung von Text in Bildern verantwortlich sind, die wir als Optical Character Recognition Head (OCR Head) bezeichnen. Unsere Erkenntnisse zu diesen Köpfen sind wie folgt: (1) Weniger spärlich: Im Gegensatz zu früheren Retrieval-Köpfen wird eine große Anzahl von Köpfen aktiviert, um Textinformationen aus Bildern zu extrahieren. (2) Qualitativ unterschiedlich: OCR-Köpfe besitzen Eigenschaften, die sich deutlich von allgemeinen Retrieval-Köpfen unterscheiden und eine geringe Ähnlichkeit in ihren Merkmalen aufweisen. (3) Statisch aktiviert: Die Aktivierungshäufigkeit dieser Köpfe stimmt eng mit ihren OCR-Werten überein. Wir validieren unsere Erkenntnisse in nachgelagerten Aufgaben, indem wir Chain-of-Thought (CoT) sowohl auf OCR- als auch auf konventionelle Retrieval-Köpfe anwenden und diese Köpfe maskieren. Wir zeigen auch, dass die Umverteilung von Sink-Token-Werten innerhalb der OCR-Köpfe die Leistung verbessert. Diese Einblicke ermöglichen ein tieferes Verständnis der internen Mechanismen, die LVLMs bei der Verarbeitung eingebetteter Textinformationen in Bildern verwenden.

English

Despite significant advancements in Large Vision Language Models (LVLMs), a gap remains, particularly regarding their interpretability and how they locate and interpret textual information within images. In this paper, we explore various LVLMs to identify the specific heads responsible for recognizing text from images, which we term the Optical Character Recognition Head (OCR Head). Our findings regarding these heads are as follows: (1) Less Sparse: Unlike previous retrieval heads, a large number of heads are activated to extract textual information from images. (2) Qualitatively Distinct: OCR heads possess properties that differ significantly from general retrieval heads, exhibiting low similarity in their characteristics. (3) Statically Activated: The frequency of activation for these heads closely aligns with their OCR scores. We validate our findings in downstream tasks by applying Chain-of-Thought (CoT) to both OCR and conventional retrieval heads and by masking these heads. We also demonstrate that redistributing sink-token values within the OCR heads improves performance. These insights provide a deeper understanding of the internal mechanisms LVLMs employ in processing embedded textual information in images.