Herziening van visuele attributie voor redeneren over thoraxfoto's in grote visuele-taalmodellen

Samenvatting

Grote Visuele Taalmodellen (GVTMs) tonen veelbelovend in medische toepassingen, maar hun onvermogen om antwoorden getrouw te gronden in visueel bewijs roept ernstige zorgen op over klinische betrouwbaarheid. Hoewel visuele attributiemethoden veel worden gebruikt om GVT-voorspellingen te verklaren, is het grotendeels ongetoetst of deze verklaringen daadwerkelijk het visuele bewijs weerspiegelen dat ten grondslag ligt aan de beslissing van het model, aangezien grondwaarheidsannotaties voor interne modelredenering doorgaans niet beschikbaar zijn. Wij pakken deze vraag aan voor thoraxfoto (CXR)-redenering door een causaal evaluatiekader te ontwikkelen dat alleen die CXR-VQA-steekproeven behoudt waarvoor het door de expert geannoteerde gebied, via contrafeitelijke bewerking, is geverifieerd causaal verantwoordelijk te zijn voor de voorspelling van het model. Met behulp van dit kader over 11 attributiemethoden, zes open-source GVTMs, en twee uitvoermodi (direct antwoord en stapsgewijze redenering) constateren wij dat bestaande attributiemethoden vaak het door de GVTMs gebruikte bewijs niet identificeren. Om dit falen aan te pakken stellen wij MedFocus voor, een conceptgebaseerde attributiemethode die via onevenwichtig optimaal transport klinisch betekenisvolle anatomische gebieden lokaliseert en hun causale effect op modeluitvoeren meet door middel van gerichte interventies. MedFocus produceert ruimtelijke, conceptniveau- en token-niveau-attributies en presteert aanzienlijk beter dan eerdere methoden, waarmee een stap wordt gezet naar betrouwbaardere attributie voor medische GVTMs. Onze gegevens en code zijn beschikbaar op https://github.com/gzxiong/medfocus/.

English

Large Vision Language Models (LVLMs) show promise in medical applications, but their inability to faithfully ground responses in visual evidence raises serious concerns about clinical trustworthiness. While visual attribution methods are widely used to explain LVLM predictions, whether these explanations actually reflect the visual evidence underlying the model's decision is largely unverified, since ground-truth annotations for internal model reasoning are typically unavailable. We address this question for chest X-ray (CXR) reasoning by developing a causal evaluation framework that retains only CXR-VQA samples for which the expert-annotated region is verified, via counterfactual editing, to be causally responsible for the model's prediction. Using this framework across 11 attribution methods, six open-source LVLMs, and two output modes (direct answer and step-by-step reasoning), we find that existing attribution methods often fail to identify the evidence used by LVLMs. To address this failure, we propose MedFocus, a concept-based attribution method that localizes clinically meaningful anatomical regions via unbalanced optimal transport and measures their causal effect on model outputs through targeted interventions. MedFocus produces spatial, concept-level, and token-level attributions and substantially outperforms prior methods, taking a step toward more trustworthy attribution for medical LVLMs. Our data and code are available at https://github.com/gzxiong/medfocus/.