Как крупные визуально-языковые модели воспринимают текст на изображениях? Раскрытие уникальной роли OCR-модулей

How Do Large Vision-Language Models See Text in Image? Unveiling the Distinctive Role of OCR Heads

May 21, 2025

Авторы: Ingeol Baek, Hwan Chang, Sunghyun Ryu, Hwanhee Lee

cs.AI

Аннотация

Несмотря на значительные достижения в области крупномасштабных визуально-языковых моделей (LVLMs), сохраняется пробел, особенно в отношении их интерпретируемости и того, как они обнаруживают и интерпретируют текстовую информацию в изображениях. В данной статье мы исследуем различные LVLMs, чтобы определить конкретные головы, ответственные за распознавание текста из изображений, которые мы называем головой оптического распознавания символов (OCR Head). Наши выводы относительно этих голов следующие: (1) Меньшая разреженность: в отличие от предыдущих голов поиска, для извлечения текстовой информации из изображений активируется большое количество голов. (2) Качественное отличие: OCR головы обладают свойствами, которые значительно отличаются от общих голов поиска, демонстрируя низкое сходство в их характеристиках. (3) Статическая активация: частота активации этих голов тесно коррелирует с их OCR показателями. Мы подтверждаем наши выводы в последующих задачах, применяя цепочку рассуждений (Chain-of-Thought, CoT) как к OCR, так и к традиционным головам поиска, а также маскируя эти головы. Мы также показываем, что перераспределение значений sink-токенов внутри OCR голов улучшает производительность. Эти инсайты обеспечивают более глубокое понимание внутренних механизмов, которые LVLMs используют для обработки встроенной текстовой информации в изображениях.

English

Despite significant advancements in Large Vision Language Models (LVLMs), a gap remains, particularly regarding their interpretability and how they locate and interpret textual information within images. In this paper, we explore various LVLMs to identify the specific heads responsible for recognizing text from images, which we term the Optical Character Recognition Head (OCR Head). Our findings regarding these heads are as follows: (1) Less Sparse: Unlike previous retrieval heads, a large number of heads are activated to extract textual information from images. (2) Qualitatively Distinct: OCR heads possess properties that differ significantly from general retrieval heads, exhibiting low similarity in their characteristics. (3) Statically Activated: The frequency of activation for these heads closely aligns with their OCR scores. We validate our findings in downstream tasks by applying Chain-of-Thought (CoT) to both OCR and conventional retrieval heads and by masking these heads. We also demonstrate that redistributing sink-token values within the OCR heads improves performance. These insights provide a deeper understanding of the internal mechanisms LVLMs employ in processing embedded textual information in images.