Interpreteerbare en betrouwbare detectie van AI-gegenereerde afbeeldingen via gegronde redenering in MLLM's

Interpretable and Reliable Detection of AI-Generated Images via Grounded Reasoning in MLLMs

June 8, 2025

Auteurs: Yikun Ji, Hong Yan, Jun Lan, Huijia Zhu, Weiqiang Wang, Qi Fan, Liqing Zhang, Jianfu Zhang

cs.AI

Samenvatting

De snelle vooruitgang van beeldgeneratietechnologieën verhoogt de vraag naar interpreteerbare en robuuste detectiemethoden. Hoewel bestaande benaderingen vaak een hoge nauwkeurigheid bereiken, functioneren ze meestal als black boxes zonder menselijk begrijpelijke rechtvaardigingen te bieden. Multi-modale Large Language Models (MLLMs), hoewel oorspronkelijk niet bedoeld voor vervalsingsdetectie, vertonen sterke analytische en redeneervaardigheden. Wanneer ze goed worden afgestemd, kunnen ze effectief AI-gegenereerde beelden identificeren en zinvolle verklaringen bieden. Bestaande MLLMs worstelen echter nog steeds met hallucinatie en slagen er vaak niet in hun visuele interpretaties af te stemmen op de werkelijke beeldinhoud en menselijk redeneren. Om deze kloof te overbruggen, construeren we een dataset van AI-gegenereerde beelden die zijn geannoteerd met begrenzingsvakken en beschrijvende bijschriften die synthese-artefacten benadrukken, waardoor een basis wordt gelegd voor menselijk-afgestemd visueel-tekstueel onderbouwd redeneren. Vervolgens stellen we MLLMs af via een meerfasige optimalisatiestrategie die de doelstellingen van nauwkeurige detectie, visuele lokalisatie en coherente tekstuele uitleg geleidelijk in balans brengt. Het resulterende model behaalt superieure prestaties in zowel het detecteren van AI-gegenereerde beelden als het lokaliseren van visuele gebreken, en overtreft baseline-methoden aanzienlijk.

English

The rapid advancement of image generation technologies intensifies the demand for interpretable and robust detection methods. Although existing approaches often attain high accuracy, they typically operate as black boxes without providing human-understandable justifications. Multi-modal Large Language Models (MLLMs), while not originally intended for forgery detection, exhibit strong analytical and reasoning capabilities. When properly fine-tuned, they can effectively identify AI-generated images and offer meaningful explanations. However, existing MLLMs still struggle with hallucination and often fail to align their visual interpretations with actual image content and human reasoning. To bridge this gap, we construct a dataset of AI-generated images annotated with bounding boxes and descriptive captions that highlight synthesis artifacts, establishing a foundation for human-aligned visual-textual grounded reasoning. We then finetune MLLMs through a multi-stage optimization strategy that progressively balances the objectives of accurate detection, visual localization, and coherent textual explanation. The resulting model achieves superior performance in both detecting AI-generated images and localizing visual flaws, significantly outperforming baseline methods.