Como os Grandes Modelos Visão-Linguagem Veem o Texto em Imagens? Revelando o Papel Distinto dos Cabeçalhos OCR

How Do Large Vision-Language Models See Text in Image? Unveiling the Distinctive Role of OCR Heads

May 21, 2025

Autores: Ingeol Baek, Hwan Chang, Sunghyun Ryu, Hwanhee Lee

cs.AI

Resumo

Apesar dos avanços significativos nos Grandes Modelos de Linguagem Visual (LVLMs, na sigla em inglês), ainda existe uma lacuna, especialmente em relação à sua interpretabilidade e à forma como localizam e interpretam informações textuais em imagens. Neste artigo, exploramos diversos LVLMs para identificar as cabeças específicas responsáveis pelo reconhecimento de texto em imagens, que denominamos Cabeça de Reconhecimento Óptico de Caracteres (OCR Head, em inglês). Nossas descobertas sobre essas cabeças são as seguintes: (1) Menos Esparsas: Diferente das cabeças de recuperação anteriores, um grande número de cabeças é ativado para extrair informações textuais de imagens. (2) Qualitativamente Distintas: As cabeças OCR possuem propriedades que diferem significativamente das cabeças de recuperação gerais, exibindo baixa similaridade em suas características. (3) Estaticamente Ativadas: A frequência de ativação dessas cabeças está alinhada com suas pontuações OCR. Validamos nossas descobertas em tarefas subsequentes aplicando o Chain-of-Thought (CoT) tanto às cabeças OCR quanto às cabeças de recuperação convencionais e mascarando essas cabeças. Também demonstramos que a redistribuição dos valores dos tokens de sumidouro (sink-tokens) dentro das cabeças OCR melhora o desempenho. Esses insights fornecem uma compreensão mais profunda dos mecanismos internos que os LVLMs empregam no processamento de informações textuais embutidas em imagens.

English

Despite significant advancements in Large Vision Language Models (LVLMs), a gap remains, particularly regarding their interpretability and how they locate and interpret textual information within images. In this paper, we explore various LVLMs to identify the specific heads responsible for recognizing text from images, which we term the Optical Character Recognition Head (OCR Head). Our findings regarding these heads are as follows: (1) Less Sparse: Unlike previous retrieval heads, a large number of heads are activated to extract textual information from images. (2) Qualitatively Distinct: OCR heads possess properties that differ significantly from general retrieval heads, exhibiting low similarity in their characteristics. (3) Statically Activated: The frequency of activation for these heads closely aligns with their OCR scores. We validate our findings in downstream tasks by applying Chain-of-Thought (CoT) to both OCR and conventional retrieval heads and by masking these heads. We also demonstrate that redistributing sink-token values within the OCR heads improves performance. These insights provide a deeper understanding of the internal mechanisms LVLMs employ in processing embedded textual information in images.