ClinHallu: Een benchmark voor het diagnosticeren van stapsgewijze hallucinaties in medisch MLLM-redeneren

Samenvatting

Het bouwen van betrouwbare medische multimodale grote taalmodellen (MMGT's) is van cruciaal belang voor betrouwbare klinische beslissingsondersteuning. Bestaande medische hallucinatiebenchmarks richten zich voornamelijk op gegevensverzameling, maar negeren vaak waar hallucinaties binnen het redeneerproces ontstaan. We constateren dat hallucinatiebronnen variëren per steekproef: fouten kunnen voortkomen uit visuele miskenning, onjuiste medische kennisherinnering of gebrekkige redeneerintegratie. Om diagnose op bronniveau mogelijk te maken, introduceren we ClinHallu, een benchmark voor stapsgewijze hallucinatiediagnose in medische MMGT-redenering. ClinHallu bevat 7.031 gevalideerde instanties, waarbij elke instantie is uitgebreid met een gestructureerd redeneertraject, opgesplitst in Visuele Herkenning, Kennis Recall en Redeneringsintegratie. We gebruiken ook fasevervangingsinterventies om te meten hoe het corrigeren van specifieke fasen het uiteindelijke antwoord beïnvloedt. Naast evaluatie tonen we aan dat trace-gesuperviseerde fijnafstemming stapsgewijze hallucinaties vermindert. ClinHallu biedt een gedetailleerd hallucinatie-testbed voor het diagnosticeren en mitigeren van redeneerfouten in medische MMGT's. De benchmark is openbaar beschikbaar op https://github.com/alibaba-damo-academy/ClinHallu.

English

Building trustworthy medical multimodal large language models (MLLMs) is critical for reliable clinical decision support. Existing medical hallucination benchmarks mainly focus on data collection, but often ignore where hallucinations originate within the reasoning process. We find that hallucination sources vary across samples: errors may arise from visual misrecognition, incorrect medical knowledge recall, or flawed reasoning integration. To enable source-level hallucination diagnosis, we introduce ClinHallu, a benchmark for stage-wise hallucination diagnosis in medical MLLM reasoning. ClinHallu contains 7,031 validated instances, where each instance is augmented with a structured reasoning trace decomposed into Visual Recognition, Knowledge Recall, and Reasoning Integration. We also use stage-replacement interventions to measure how correcting specific stages affects the final answer. Beyond evaluation, we show that trace-supervised fine-tuning reduces stage-wise hallucinations. ClinHallu provides a fine-grained hallucination testbed for diagnosing and mitigating reasoning failures in medical MLLMs. The benchmark is publicly available at https://github.com/alibaba-damo-academy/ClinHallu.