¿Cómo perciben los modelos grandes de visión y lenguaje el texto en las imágenes? Revelando el papel distintivo de los cabezales OCR.

How Do Large Vision-Language Models See Text in Image? Unveiling the Distinctive Role of OCR Heads

May 21, 2025

Autores: Ingeol Baek, Hwan Chang, Sunghyun Ryu, Hwanhee Lee

cs.AI

Resumen

A pesar de los avances significativos en los Modelos de Lenguaje y Visión a Gran Escala (LVLMs, por sus siglas en inglés), persiste una brecha, particularmente en cuanto a su interpretabilidad y cómo localizan e interpretan la información textual dentro de las imágenes. En este artículo, exploramos varios LVLMs para identificar las cabezas específicas responsables de reconocer texto en imágenes, a las que denominamos Cabezas de Reconocimiento Óptico de Caracteres (OCR Heads). Nuestros hallazgos sobre estas cabezas son los siguientes: (1) Menos dispersas: A diferencia de las cabezas de recuperación anteriores, se activa un gran número de cabezas para extraer información textual de las imágenes. (2) Cualitativamente distintas: Las cabezas OCR poseen propiedades que difieren significativamente de las cabezas de recuperación generales, mostrando una baja similitud en sus características. (3) Estáticamente activadas: La frecuencia de activación de estas cabezas se alinea estrechamente con sus puntuaciones OCR. Validamos nuestros hallazgos en tareas posteriores aplicando el enfoque de Cadena de Pensamiento (Chain-of-Thought, CoT) tanto a las cabezas OCR como a las cabezas de recuperación convencionales, y enmascarando estas cabezas. También demostramos que la redistribución de los valores de los tokens sumidero dentro de las cabezas OCR mejora el rendimiento. Estas ideas proporcionan una comprensión más profunda de los mecanismos internos que emplean los LVLMs para procesar la información textual incrustada en las imágenes.

English

Despite significant advancements in Large Vision Language Models (LVLMs), a gap remains, particularly regarding their interpretability and how they locate and interpret textual information within images. In this paper, we explore various LVLMs to identify the specific heads responsible for recognizing text from images, which we term the Optical Character Recognition Head (OCR Head). Our findings regarding these heads are as follows: (1) Less Sparse: Unlike previous retrieval heads, a large number of heads are activated to extract textual information from images. (2) Qualitatively Distinct: OCR heads possess properties that differ significantly from general retrieval heads, exhibiting low similarity in their characteristics. (3) Statically Activated: The frequency of activation for these heads closely aligns with their OCR scores. We validate our findings in downstream tasks by applying Chain-of-Thought (CoT) to both OCR and conventional retrieval heads and by masking these heads. We also demonstrate that redistributing sink-token values within the OCR heads improves performance. These insights provide a deeper understanding of the internal mechanisms LVLMs employ in processing embedded textual information in images.