Detección de Problemas Irresolubles: Evaluación de la Confiabilidad en Modelos de Lenguaje Visual

Unsolvable Problem Detection: Evaluating Trustworthiness of Vision Language Models

March 29, 2024

Autores: Atsuyuki Miyai, Jingkang Yang, Jingyang Zhang, Yifei Ming, Qing Yu, Go Irie, Yixuan Li, Hai Li, Ziwei Liu, Kiyoharu Aizawa

cs.AI

Resumen

Este artículo presenta un desafío novedoso y significativo para los Modelos de Lenguaje Visual (VLMs, por sus siglas en inglés), denominado Detección de Problemas Irresolubles (UPD, por sus siglas en inglés). El UPD examina la capacidad de los VLMs para abstenerse de proporcionar respuestas cuando se enfrentan a problemas irresolubles en el contexto de tareas de Respuesta Visual a Preguntas (VQA, por sus siglas en inglés). El UPD abarca tres escenarios distintos: Detección de Respuesta Ausente (AAD, por sus siglas en inglés), Detección de Conjunto de Respuestas Incompatibles (IASD, por sus siglas en inglés) y Detección de Preguntas Visuales Incompatibles (IVQD, por sus siglas en inglés). Para investigar en profundidad el problema del UPD, extensos experimentos indican que la mayoría de los VLMs, incluyendo GPT-4V y LLaVA-Next-34B, enfrentan dificultades en nuestros puntos de referencia en diversos grados, lo que resalta un margen significativo para mejoras. Para abordar el UPD, exploramos tanto soluciones sin entrenamiento como basadas en entrenamiento, ofreciendo nuevas perspectivas sobre su efectividad y limitaciones. Esperamos que nuestras ideas, junto con esfuerzos futuros dentro de los escenarios propuestos para el UPD, contribuyan a una comprensión más amplia y al desarrollo de VLMs más prácticos y confiables.

English

This paper introduces a novel and significant challenge for Vision Language Models (VLMs), termed Unsolvable Problem Detection (UPD). UPD examines the VLM's ability to withhold answers when faced with unsolvable problems in the context of Visual Question Answering (VQA) tasks. UPD encompasses three distinct settings: Absent Answer Detection (AAD), Incompatible Answer Set Detection (IASD), and Incompatible Visual Question Detection (IVQD). To deeply investigate the UPD problem, extensive experiments indicate that most VLMs, including GPT-4V and LLaVA-Next-34B, struggle with our benchmarks to varying extents, highlighting significant room for the improvements. To address UPD, we explore both training-free and training-based solutions, offering new insights into their effectiveness and limitations. We hope our insights, together with future efforts within the proposed UPD settings, will enhance the broader understanding and development of more practical and reliable VLMs.