Est-ce que MLLM peut voir ? Correction dynamique du décodage pour atténuer l'hallucination

MLLM can see? Dynamic Correction Decoding for Hallucination Mitigation

October 15, 2024

Auteurs: Chenxi Wang, Xiang Chen, Ningyu Zhang, Bozhong Tian, Haoming Xu, Shumin Deng, Huajun Chen

cs.AI

Résumé

Les Modèles de Langage Multimodaux de Grande Taille (MLMT) présentent fréquemment des phénomènes d'hallucination, mais les raisons sous-jacentes restent mal comprises. Dans cet article, nous présentons une analyse empirique et constatons que, bien que les MLMT génèrent incorrectement les objets dans la sortie finale, ils sont en mesure de reconnaître effectivement les objets visuels dans les couches précédentes. Nous spéculons que cela pourrait être dû aux forts a priori de connaissance du modèle de langage qui suppriment l'information visuelle, entraînant des hallucinations. Motivés par cela, nous proposons une nouvelle méthode de décodage de correction dynamique pour les MLMT (DeCo), qui sélectionne de manière adaptative les couches précédentes appropriées et intègre de manière proportionnelle la connaissance dans la couche finale pour ajuster les logits de sortie. Il convient de noter que DeCo est indépendant du modèle et peut être incorporé de manière transparente avec diverses stratégies de décodage classiques et appliqué à différents MLMT. Nous évaluons DeCo sur des benchmarks largement utilisés, démontrant qu'il peut réduire de manière significative les taux d'hallucination par rapport aux bases, soulignant son potentiel à atténuer les hallucinations. Le code est disponible sur https://github.com/zjunlp/DeCo.

English

Multimodal Large Language Models (MLLMs) frequently exhibit hallucination phenomena, but the underlying reasons remain poorly understood. In this paper, we present an empirical analysis and find that, although MLLMs incorrectly generate the objects in the final output, they are actually able to recognize visual objects in the preceding layers. We speculate that this may be due to the strong knowledge priors of the language model suppressing the visual information, leading to hallucinations. Motivated by this, we propose a novel dynamic correction decoding method for MLLMs (DeCo), which adaptively selects the appropriate preceding layers and proportionally integrates knowledge into the final layer to adjust the output logits. Note that DeCo is model agnostic and can be seamlessly incorporated with various classic decoding strategies and applied to different MLLMs. We evaluate DeCo on widely-used benchmarks, demonstrating that it can reduce hallucination rates by a large margin compared to baselines, highlighting its potential to mitigate hallucinations. Code is available at https://github.com/zjunlp/DeCo.