Perception Lente : Percevons les Figures Géométriques Pas à Pas

Slow Perception: Let's Perceive Geometric Figures Step-by-step

December 30, 2024

Auteurs: Haoran Wei, Youyang Yin, Yumeng Li, Jia Wang, Liang Zhao, Jianjian Sun, Zheng Ge, Xiangyu Zhang

cs.AI

Résumé

Récemment, "visual o1" a commencé à entrer dans le champ de vision des gens, avec l'espoir que cette conception de pensée lente puisse résoudre des tâches de raisonnement visuel, en particulier des problèmes de mathématiques géométriques. Cependant, la réalité est que les LVLM actuels (Large Vision Language Models) ont du mal à reproduire avec précision une figure géométrique, sans même parler de comprendre véritablement la logique complexe inhérente et les relations spatiales au sein des formes géométriques. Nous pensons que la reproduction précise (perception forte) est la première étape de visual o1. En conséquence, nous introduisons le concept de "perception lente" (SP), qui guide le modèle pour percevoir progressivement les combinaisons de points-lignes de base, tout comme nos humains reconstruisent progressivement des structures géométriques complexes. Il y a deux étapes dans SP : a) décomposition de la perception. La perception n'est pas instantanée. À cette étape, les figures géométriques complexes sont décomposées en unités simples de base pour uniformiser la représentation géométrique. b) flux de perception, qui reconnaît que retracer précisément une ligne n'est pas une tâche facile. Cette étape vise à éviter les "longs sauts visuels" en régressant les segments de ligne en utilisant une "règle perceptuelle" proposée pour tracer chaque ligne trait par trait. De manière surprenante, une telle manière de perception semblable à celle des humains bénéficie d'une loi d'échelle du temps d'inférence - plus c'est lent, mieux c'est. Les chercheurs ont cherché à accélérer la perception du modèle par le passé, mais nous la ralentissons à nouveau, permettant ainsi au modèle de lire l'image étape par étape et avec soin.

English

Recently, "visual o1" began to enter people's vision, with expectations that this slow-thinking design can solve visual reasoning tasks, especially geometric math problems. However, the reality is that current LVLMs (Large Vision Language Models) can hardly even accurately copy a geometric figure, let alone truly understand the complex inherent logic and spatial relationships within geometric shapes. We believe accurate copying (strong perception) is the first step to visual o1. Accordingly, we introduce the concept of "slow perception" (SP), which guides the model to gradually perceive basic point-line combinations, as our humans, reconstruct complex geometric structures progressively. There are two-fold stages in SP: a) perception decomposition. Perception is not instantaneous. In this stage, complex geometric figures are broken down into basic simple units to unify geometry representation. b) perception flow, which acknowledges that accurately tracing a line is not an easy task. This stage aims to avoid "long visual jumps" in regressing line segments by using a proposed "perceptual ruler" to trace each line stroke-by-stroke. Surprisingly, such a human-like perception manner enjoys an inference time scaling law -- the slower, the better. Researchers strive to speed up the model's perception in the past, but we slow it down again, allowing the model to read the image step-by-step and carefully.