Woodpecker: Коррекция галлюцинаций в мультимодальных больших языковых моделях

Woodpecker: Hallucination Correction for Multimodal Large Language Models

October 24, 2023

Авторы: Shukang Yin, Chaoyou Fu, Sirui Zhao, Tong Xu, Hao Wang, Dianbo Sui, Yunhang Shen, Ke Li, Xing Sun, Enhong Chen

cs.AI

Аннотация

Галлюцинации представляют собой серьезную проблему, нависающую над быстро развивающимися мультимодальными большими языковыми моделями (MLLMs), и относятся к явлению, когда сгенерированный текст не соответствует содержанию изображения. Для смягчения галлюцинаций существующие исследования в основном прибегают к подходу настройки с помощью инструкций, который требует переобучения моделей на специфических данных. В данной статье мы предлагаем иной путь, представляя метод без необходимости обучения, названный Woodpecker. Подобно тому, как дятел лечит деревья, он выявляет и исправляет галлюцинации в сгенерированном тексте. Конкретно, Woodpecker состоит из пяти этапов: извлечение ключевых концепций, формулирование вопросов, проверка визуальных знаний, генерация визуальных утверждений и исправление галлюцинаций. Реализованный в виде постобработки, Woodpecker может легко применяться к различным MLLMs, оставаясь интерпретируемым благодаря доступу к промежуточным результатам на каждом из пяти этапов. Мы оцениваем Woodpecker как количественно, так и качественно, демонстрируя огромный потенциал этой новой парадигмы. На бенчмарке POPE наш метод показывает улучшение точности на 30,66%/24,33% по сравнению с базовыми моделями MiniGPT-4/mPLUG-Owl. Исходный код доступен по адресу https://github.com/BradyFU/Woodpecker.

English

Hallucination is a big shadow hanging over the rapidly evolving Multimodal Large Language Models (MLLMs), referring to the phenomenon that the generated text is inconsistent with the image content. In order to mitigate hallucinations, existing studies mainly resort to an instruction-tuning manner that requires retraining the models with specific data. In this paper, we pave a different way, introducing a training-free method named Woodpecker. Like a woodpecker heals trees, it picks out and corrects hallucinations from the generated text. Concretely, Woodpecker consists of five stages: key concept extraction, question formulation, visual knowledge validation, visual claim generation, and hallucination correction. Implemented in a post-remedy manner, Woodpecker can easily serve different MLLMs, while being interpretable by accessing intermediate outputs of the five stages. We evaluate Woodpecker both quantitatively and qualitatively and show the huge potential of this new paradigm. On the POPE benchmark, our method obtains a 30.66%/24.33% improvement in accuracy over the baseline MiniGPT-4/mPLUG-Owl. The source code is released at https://github.com/BradyFU/Woodpecker.