Propriétés Intrigantes des Grands Modèles de Langage et de Vision

Résumé

Récemment, les grands modèles de langage et de vision (LLVM) ont reçu une attention significative et des efforts de développement en raison de leurs performances de généralisation remarquables sur une large gamme de tâches nécessitant des capacités de perception et cognitives. Un facteur clé derrière leur succès est leur architecture simple, qui se compose d'un encodeur de vision, d'un projecteur et d'un grand modèle de langage (LLM). Malgré leurs réalisations dans des tâches avancées de raisonnement, leurs performances sur des tâches fondamentales liées à la perception (par exemple, MMVP) restent étonnamment faibles. Cette disparité soulève la question de la manière dont les LLVM perçoivent réellement les images et exploitent les avantages de l'encodeur de vision. Pour aborder cette question, nous investiguons systématiquement cette question concernant plusieurs aspects : l'invariance par permutation, la robustesse, le raisonnement mathématique, la préservation et l'importance de l'alignement, en évaluant les familles de LLVM les plus courantes (c'est-à-dire, LLaVA) à travers 10 benchmarks d'évaluation. Nos expériences approfondies révèlent plusieurs propriétés intrigantes des LLVM actuels : (1) ils traitent internement l'image de manière globale, même lorsque l'ordre des séquences de patchs visuels est permuté de manière aléatoire ; (2) ils sont parfois capables de résoudre des problèmes mathématiques sans percevoir entièrement les informations numériques détaillées ; (3) l'alignement croisé modal est surajusté aux tâches de raisonnement complexes, ce qui les amène à perdre certaines des capacités perceptuelles originales de leur encodeur de vision ; (4) l'espace de représentation dans les couches inférieures (<25%) joue un rôle crucial dans la détermination des performances et l'amélioration de la compréhension visuelle. Enfin, sur la base des observations ci-dessus, nous suggérons des orientations futures potentielles pour la construction de meilleurs LLVM et la création de benchmarks d'évaluation plus stimulants.

English

Recently, large language and vision models (LLVMs) have received significant attention and development efforts due to their remarkable generalization performance across a wide range of tasks requiring perception and cognitive abilities. A key factor behind their success is their simple architecture, which consists of a vision encoder, a projector, and a large language model (LLM). Despite their achievements in advanced reasoning tasks, their performance on fundamental perception-related tasks (e.g., MMVP) remains surprisingly low. This discrepancy raises the question of how LLVMs truly perceive images and exploit the advantages of the vision encoder. To address this, we systematically investigate this question regarding several aspects: permutation invariance, robustness, math reasoning, alignment preserving and importance, by evaluating the most common LLVM's families (i.e., LLaVA) across 10 evaluation benchmarks. Our extensive experiments reveal several intriguing properties of current LLVMs: (1) they internally process the image in a global manner, even when the order of visual patch sequences is randomly permuted; (2) they are sometimes able to solve math problems without fully perceiving detailed numerical information; (3) the cross-modal alignment is overfitted to complex reasoning tasks, thereby, causing them to lose some of the original perceptual capabilities of their vision encoder; (4) the representation space in the lower layers (<25%) plays a crucial role in determining performance and enhancing visual understanding. Lastly, based on the above observations, we suggest potential future directions for building better LLVMs and constructing more challenging evaluation benchmarks.

Propriétés Intrigantes des Grands Modèles de Langage et de Vision

Intriguing Properties of Large Language and Vision Models

Résumé

Support