Detecção Interpretável e Confiável de Imagens Geradas por IA via Raciocínio Fundamentado em MLLMs

Interpretable and Reliable Detection of AI-Generated Images via Grounded Reasoning in MLLMs

June 8, 2025

Autores: Yikun Ji, Hong Yan, Jun Lan, Huijia Zhu, Weiqiang Wang, Qi Fan, Liqing Zhang, Jianfu Zhang

cs.AI

Resumo

O rápido avanço das tecnologias de geração de imagens intensifica a demanda por métodos de detecção interpretáveis e robustos. Embora as abordagens existentes frequentemente atinjam alta precisão, elas geralmente operam como caixas pretas sem fornecer justificativas compreensíveis para humanos. Os Modelos de Linguagem Multimodais de Grande Escala (MLLMs), embora não tenham sido originalmente projetados para detecção de falsificações, exibem fortes capacidades analíticas e de raciocínio. Quando devidamente ajustados, eles podem identificar efetivamente imagens geradas por IA e oferecer explicações significativas. No entanto, os MLLMs existentes ainda lutam com alucinações e frequentemente falham em alinhar suas interpretações visuais com o conteúdo real da imagem e o raciocínio humano. Para preencher essa lacuna, construímos um conjunto de dados de imagens geradas por IA anotadas com caixas delimitadoras e legendas descritivas que destacam artefatos de síntese, estabelecendo uma base para o raciocínio visual-textual alinhado com o humano. Em seguida, ajustamos os MLLMs por meio de uma estratégia de otimização em múltiplos estágios que equilibra progressivamente os objetivos de detecção precisa, localização visual e explicação textual coerente. O modelo resultante alcança desempenho superior tanto na detecção de imagens geradas por IA quanto na localização de falhas visuais, superando significativamente os métodos de linha de base.

English

The rapid advancement of image generation technologies intensifies the demand for interpretable and robust detection methods. Although existing approaches often attain high accuracy, they typically operate as black boxes without providing human-understandable justifications. Multi-modal Large Language Models (MLLMs), while not originally intended for forgery detection, exhibit strong analytical and reasoning capabilities. When properly fine-tuned, they can effectively identify AI-generated images and offer meaningful explanations. However, existing MLLMs still struggle with hallucination and often fail to align their visual interpretations with actual image content and human reasoning. To bridge this gap, we construct a dataset of AI-generated images annotated with bounding boxes and descriptive captions that highlight synthesis artifacts, establishing a foundation for human-aligned visual-textual grounded reasoning. We then finetune MLLMs through a multi-stage optimization strategy that progressively balances the objectives of accurate detection, visual localization, and coherent textual explanation. The resulting model achieves superior performance in both detecting AI-generated images and localizing visual flaws, significantly outperforming baseline methods.