Медленное восприятие: давайте воспринимать геометрические фигуры пошагово

Slow Perception: Let's Perceive Geometric Figures Step-by-step

December 30, 2024

Авторы: Haoran Wei, Youyang Yin, Yumeng Li, Jia Wang, Liang Zhao, Jianjian Sun, Zheng Ge, Xiangyu Zhang

cs.AI

Аннотация

Недавно "визуальный o1" начал появляться в поле зрения людей с ожиданиями, что этот медленный дизайн мышления может решить задачи визуального рассуждения, особенно геометрические математические задачи. Однако реальность заключается в том, что текущие LVLM (Большие Визуально-Языковые Модели) едва ли могут точно скопировать геометрическую фигуру, не говоря уже о том, чтобы по-настоящему понять сложную внутреннюю логику и пространственные отношения внутри геометрических форм. Мы считаем, что точное копирование (сильное восприятие) - это первый шаг к визуальному o1. Следовательно, мы представляем концепцию "медленного восприятия" (SP), которая направляет модель постепенно воспринимать базовые комбинации точек и линий, как это делают наши люди, постепенно восстанавливая сложные геометрические структуры. В SP есть два этапа: а) декомпозиция восприятия. Восприятие не мгновенно. На этом этапе сложные геометрические фигуры разбиваются на базовые простые единицы для унификации представления геометрии. б) поток восприятия, который признает, что точное прослеживание линии - не легкая задача. Этот этап направлен на избегание "длинных визуальных скачков" при регрессии линейных сегментов путем использования предложенного "воспринимающего линейку" для прослеживания каждого линейного штриха пошагово. Удивительно, что такой человекоподобный способ восприятия наслаждается законом масштабирования времени вывода - чем медленнее, тем лучше. Исследователи стремились ускорить восприятие модели в прошлом, но мы снова замедляем его, позволяя модели внимательно читать изображение пошагово и внимательно.

English

Recently, "visual o1" began to enter people's vision, with expectations that this slow-thinking design can solve visual reasoning tasks, especially geometric math problems. However, the reality is that current LVLMs (Large Vision Language Models) can hardly even accurately copy a geometric figure, let alone truly understand the complex inherent logic and spatial relationships within geometric shapes. We believe accurate copying (strong perception) is the first step to visual o1. Accordingly, we introduce the concept of "slow perception" (SP), which guides the model to gradually perceive basic point-line combinations, as our humans, reconstruct complex geometric structures progressively. There are two-fold stages in SP: a) perception decomposition. Perception is not instantaneous. In this stage, complex geometric figures are broken down into basic simple units to unify geometry representation. b) perception flow, which acknowledges that accurately tracing a line is not an easy task. This stage aims to avoid "long visual jumps" in regressing line segments by using a proposed "perceptual ruler" to trace each line stroke-by-stroke. Surprisingly, such a human-like perception manner enjoys an inference time scaling law -- the slower, the better. Researchers strive to speed up the model's perception in the past, but we slow it down again, allowing the model to read the image step-by-step and carefully.