Detección Interpretable y Confiable de Imágenes Generadas por IA mediante Razonamiento Fundamentado en MLLMs

Interpretable and Reliable Detection of AI-Generated Images via Grounded Reasoning in MLLMs

June 8, 2025

Autores: Yikun Ji, Hong Yan, Jun Lan, Huijia Zhu, Weiqiang Wang, Qi Fan, Liqing Zhang, Jianfu Zhang

cs.AI

Resumen

El rápido avance de las tecnologías de generación de imágenes intensifica la demanda de métodos de detección interpretables y robustos. Aunque los enfoques existentes suelen alcanzar una alta precisión, generalmente operan como cajas negras sin proporcionar justificaciones comprensibles para los humanos. Los Modelos de Lenguaje Multimodales de Gran Escala (MLLMs), aunque no fueron concebidos originalmente para la detección de falsificaciones, exhiben fuertes capacidades analíticas y de razonamiento. Cuando se ajustan adecuadamente, pueden identificar eficazmente imágenes generadas por IA y ofrecer explicaciones significativas. Sin embargo, los MLLMs existentes aún luchan con la alucinación y a menudo no logran alinear sus interpretaciones visuales con el contenido real de la imagen y el razonamiento humano. Para cerrar esta brecha, construimos un conjunto de datos de imágenes generadas por IA anotadas con cuadros delimitadores y descripciones que resaltan los artefactos de síntesis, estableciendo una base para un razonamiento visual-textual fundamentado y alineado con los humanos. Luego, ajustamos los MLLMs mediante una estrategia de optimización en múltiples etapas que equilibra progresivamente los objetivos de detección precisa, localización visual y explicación textual coherente. El modelo resultante logra un rendimiento superior tanto en la detección de imágenes generadas por IA como en la localización de defectos visuales, superando significativamente a los métodos de referencia.

English

The rapid advancement of image generation technologies intensifies the demand for interpretable and robust detection methods. Although existing approaches often attain high accuracy, they typically operate as black boxes without providing human-understandable justifications. Multi-modal Large Language Models (MLLMs), while not originally intended for forgery detection, exhibit strong analytical and reasoning capabilities. When properly fine-tuned, they can effectively identify AI-generated images and offer meaningful explanations. However, existing MLLMs still struggle with hallucination and often fail to align their visual interpretations with actual image content and human reasoning. To bridge this gap, we construct a dataset of AI-generated images annotated with bounding boxes and descriptive captions that highlight synthesis artifacts, establishing a foundation for human-aligned visual-textual grounded reasoning. We then finetune MLLMs through a multi-stage optimization strategy that progressively balances the objectives of accurate detection, visual localization, and coherent textual explanation. The resulting model achieves superior performance in both detecting AI-generated images and localizing visual flaws, significantly outperforming baseline methods.