大規模視覚言語モデルは画像内のテキストをどのように認識するのか？OCRヘッドの特異的な役割を解明する

How Do Large Vision-Language Models See Text in Image? Unveiling the Distinctive Role of OCR Heads

May 21, 2025

著者: Ingeol Baek, Hwan Chang, Sunghyun Ryu, Hwanhee Lee

cs.AI

要旨

大規模視覚言語モデル（LVLM）における重要な進展にもかかわらず、特にその解釈可能性と、画像内のテキスト情報をどのように特定し解釈するかに関して、未だにギャップが存在します。本論文では、画像からテキストを認識する特定のヘッド（我々が「光学文字認識ヘッド（OCRヘッド）」と呼ぶもの）を特定するために、さまざまなLVLMを探索します。これらのヘッドに関する我々の発見は以下の通りです：(1) スパース性が低い：従来の検索ヘッドとは異なり、テキスト情報を抽出するために多数のヘッドが活性化されます。(2) 質的に異なる：OCRヘッドは、一般的な検索ヘッドとは大きく異なる特性を持ち、その特徴の類似性が低いことが示されています。(3) 静的に活性化される：これらのヘッドの活性化頻度は、そのOCRスコアと密接に一致します。我々は、OCRヘッドと従来の検索ヘッドにChain-of-Thought（CoT）を適用し、これらのヘッドをマスキングすることで、下流タスクにおける我々の発見を検証します。また、OCRヘッド内のシンクトークン値を再分配することで性能が向上することを示します。これらの洞察は、LVLMが画像に埋め込まれたテキスト情報を処理する際の内部メカニズムに対する深い理解を提供します。

English

Despite significant advancements in Large Vision Language Models (LVLMs), a gap remains, particularly regarding their interpretability and how they locate and interpret textual information within images. In this paper, we explore various LVLMs to identify the specific heads responsible for recognizing text from images, which we term the Optical Character Recognition Head (OCR Head). Our findings regarding these heads are as follows: (1) Less Sparse: Unlike previous retrieval heads, a large number of heads are activated to extract textual information from images. (2) Qualitatively Distinct: OCR heads possess properties that differ significantly from general retrieval heads, exhibiting low similarity in their characteristics. (3) Statically Activated: The frequency of activation for these heads closely aligns with their OCR scores. We validate our findings in downstream tasks by applying Chain-of-Thought (CoT) to both OCR and conventional retrieval heads and by masking these heads. We also demonstrate that redistributing sink-token values within the OCR heads improves performance. These insights provide a deeper understanding of the internal mechanisms LVLMs employ in processing embedded textual information in images.