Come i grandi modelli visione-linguaggio percepiscono il testo nelle immagini? Svelando il ruolo distintivo delle testate OCR

How Do Large Vision-Language Models See Text in Image? Unveiling the Distinctive Role of OCR Heads

May 21, 2025

Autori: Ingeol Baek, Hwan Chang, Sunghyun Ryu, Hwanhee Lee

cs.AI

Abstract

Nonostante i significativi progressi nei Modelli Linguistico-Visuali di Grande Scala (LVLM), persiste un divario, in particolare per quanto riguarda la loro interpretabilità e il modo in cui individuano e interpretano le informazioni testuali all'interno delle immagini. In questo articolo, esploriamo vari LVLM per identificare le specifiche "teste" responsabili del riconoscimento del testo dalle immagini, che definiamo come "Testa OCR" (Optical Character Recognition Head). Le nostre scoperte riguardo a queste teste sono le seguenti: (1) Meno Sparsi: a differenza delle precedenti teste di recupero, un gran numero di teste viene attivato per estrarre informazioni testuali dalle immagini. (2) Qualitativamente Distinte: le teste OCR possiedono proprietà che differiscono significativamente dalle teste di recupero generali, mostrando una bassa somiglianza nelle loro caratteristiche. (3) Staticamente Attivate: la frequenza di attivazione di queste teste è strettamente allineata con i loro punteggi OCR. Convalidiamo le nostre scoperte in compiti a valle applicando il Chain-of-Thought (CoT) sia alle teste OCR che a quelle di recupero convenzionali e mascherando queste teste. Dimostriamo inoltre che la ridistribuzione dei valori dei token sink all'interno delle teste OCR migliora le prestazioni. Queste intuizioni forniscono una comprensione più profonda dei meccanismi interni che i LVLM impiegano per elaborare le informazioni testuali incorporate nelle immagini.

English

Despite significant advancements in Large Vision Language Models (LVLMs), a gap remains, particularly regarding their interpretability and how they locate and interpret textual information within images. In this paper, we explore various LVLMs to identify the specific heads responsible for recognizing text from images, which we term the Optical Character Recognition Head (OCR Head). Our findings regarding these heads are as follows: (1) Less Sparse: Unlike previous retrieval heads, a large number of heads are activated to extract textual information from images. (2) Qualitatively Distinct: OCR heads possess properties that differ significantly from general retrieval heads, exhibiting low similarity in their characteristics. (3) Statically Activated: The frequency of activation for these heads closely aligns with their OCR scores. We validate our findings in downstream tasks by applying Chain-of-Thought (CoT) to both OCR and conventional retrieval heads and by masking these heads. We also demonstrate that redistributing sink-token values within the OCR heads improves performance. These insights provide a deeper understanding of the internal mechanisms LVLMs employ in processing embedded textual information in images.