MMOOC: 다중모달 대규모 언어 모델의 맥락 외 평가를 위한 포괄적 벤치마크

초록

멀티모달 대규모 언어 모델(MLLM)은 다양한 비전-언어 작업에서 뛰어난 성능을 달성했지만, 불완전하거나 변환된 맥락에서는 종종 실패한다. 신뢰할 수 있는 MLLM은 주제 수준의 맥락 변환을 포함하는 진정한 맥락 밖(OOC) 질문은 거부하면서도, 비주제 맥락 변환을 포함하는 변환된 맥락 내(Shifted IC) 질문에는 계속 답변해야 한다. 기존 벤치마크는 주로 OOC 또는 시각적으로 답변 불가능한 질문을 대상으로 하지만, 답변 가능한 Shifted IC 사례를 간과하고 제한된 OOC 변환만을 다룬다. 이러한 격차를 해소하기 위해, 우리는 MLLM의 거부 및 강건한 답변 능력을 평가하기 위한 대규모 벤치마크인 MMOOC를 제시한다. MMOOC는 답변 가능한 Shifted IC 사례와 답변 불가능한 OOC 사례를 포함하여 41,000개 이상의 이미지-질문 쌍을 포함하며, 세 가지 질문 형식, 여덟 가지 변환 유형, 여섯 가지 시각적 시나리오에 걸쳐 있으며, MLLM 기반 필터링과 인간 검증을 통해 데이터 품질을 보장한다. 우리는 정확도와 거부율을 사용하여 모델 응답을 평가하고, 모델 추론의 정확성을 평가하기 위한 LLM-as-a-Judge 지표를 추가로 도입한다. 다양한 MLLM에 대한 실험은 현재 모델들이 변환된 맥락에서 답변 가능성과 거부 사이의 균형을 맞추는 데 여전히 어려움을 겪고 있음을 보여준다. 우리는 또한 주요 실패 패턴을 분석하고 사후 학습이 강건성을 개선할 수 있음을 보여준다. MMOOC는 공개적으로 제공될 예정이다.

English

Multimodal Large Language Models (MLLMs) have achieved strong performance on a wide range of vision-language tasks, but often fail under imperfect or shifted contexts. A reliable MLLM should refuse truly out-of-context (OOC) questions with subject-level context shifts while still answering shifted in-context (Shifted IC) questions with non-subject context shifts. Existing benchmarks mainly target OOC or visually unanswerable questions, but overlook answerable Shifted IC cases and cover limited OOC shifts. To fill this gap, we present MMOOC, a large-scale benchmark for evaluating refusal and robust answering abilities of MLLMs. MMOOC contains over 41K image-question pairs, including answerable Shifted IC cases and unanswerable OOC cases, spanning three question formats, eight shift types and six visual scenarios, with data quality ensured through MLLM-based filtering and human verification. We evaluate model responses using Accuracy and Refusal Rate, and further introduce an LLM-as-a-Judge metric to assess the correctness of model reasoning. Experiments on diverse MLLMs show that current models still struggle to balance answer-ability and refusal under shifted contexts. We further analyze key failure patterns and show that post-training can improve robustness. MMOOC will be made publicly available.