解決不能問題の検出：視覚言語モデルの信頼性評価

Unsolvable Problem Detection: Evaluating Trustworthiness of Vision Language Models

March 29, 2024

著者: Atsuyuki Miyai, Jingkang Yang, Jingyang Zhang, Yifei Ming, Qing Yu, Go Irie, Yixuan Li, Hai Li, Ziwei Liu, Kiyoharu Aizawa

cs.AI

要旨

本論文は、Vision Language Models（VLMs）に対する新たで重要な課題として、Unsolvable Problem Detection（UPD）を提案する。UPDは、Visual Question Answering（VQA）タスクにおいて、解決不可能な問題に直面した際に回答を控えるVLMの能力を検証するものである。UPDは、Absent Answer Detection（AAD）、Incompatible Answer Set Detection（IASD）、Incompatible Visual Question Detection（IVQD）という3つの異なる設定を含む。UPD問題を深く調査するため、広範な実験を行った結果、GPT-4VやLLaVA-Next-34Bを含むほとんどのVLMが、我々のベンチマークに対して様々な程度で苦戦することが明らかとなり、改善の余地が大きいことが示された。UPDに対処するため、トレーニング不要のソリューションとトレーニングベースのソリューションの両方を探り、それらの有効性と限界について新たな洞察を提供する。我々の洞察が、提案されたUPD設定における今後の取り組みと共に、より実用的で信頼性の高いVLMの理解と開発を促進することを期待する。

English

This paper introduces a novel and significant challenge for Vision Language Models (VLMs), termed Unsolvable Problem Detection (UPD). UPD examines the VLM's ability to withhold answers when faced with unsolvable problems in the context of Visual Question Answering (VQA) tasks. UPD encompasses three distinct settings: Absent Answer Detection (AAD), Incompatible Answer Set Detection (IASD), and Incompatible Visual Question Detection (IVQD). To deeply investigate the UPD problem, extensive experiments indicate that most VLMs, including GPT-4V and LLaVA-Next-34B, struggle with our benchmarks to varying extents, highlighting significant room for the improvements. To address UPD, we explore both training-free and training-based solutions, offering new insights into their effectiveness and limitations. We hope our insights, together with future efforts within the proposed UPD settings, will enhance the broader understanding and development of more practical and reliable VLMs.