Переосмысление визуальной атрибуции для рассуждения на основе рентгенограмм грудной клетки в больших визуально-языковых моделях

Аннотация

Крупные языковые модели с визуальным восприятием (Large Vision Language Models, LVLMs) демонстрируют перспективность в медицинских приложениях, однако их неспособность достоверно обосновывать ответы на основе визуальных доказательств вызывает серьёзные опасения относительно клинической надёжности. Хотя методы визуальной атрибуции широко используются для объяснения предсказаний LVLM, остаётся в значительной степени непроверенным, отражают ли эти объяснения фактические визуальные свидетельства, лежащие в основе решения модели, поскольку эталонные аннотации внутреннего процесса рассуждения модели обычно недоступны. Мы рассматриваем этот вопрос в контексте анализа рентгенограмм грудной клетки (CXR), разрабатывая каузальную оценочную структуру, в которой сохраняются только те образцы CXR-VQA (вопросно-ответная система по рентгенограммам грудной клетки), для которых область, аннотированная экспертом, с помощью контрфактического редактирования подтверждается как каузально ответственная за предсказание модели. Используя эту структуру для 11 методов атрибуции, шести открытых LVLM и двух режимов вывода (прямой ответ и пошаговое рассуждение), мы обнаруживаем, что существующие методы атрибуции часто не могут выявить доказательства, используемые LVLM. Для преодоления этой неудачи мы предлагаем MedFocus — метод атрибуции на основе концепций, который локализует клинически значимые анатомические области с помощью несбалансированного оптимального транспорта и измеряет их каузальное влияние на выходы модели через целевые вмешательства. MedFocus обеспечивает пространственную, концептуальную и токеновую атрибуцию, значительно превосходя предыдущие методы, что является шагом в направлении более надёжной атрибуции для медицинских LVLM. Наши данные и код доступны по адресу https://github.com/gzxiong/medfocus/.

English

Large Vision Language Models (LVLMs) show promise in medical applications, but their inability to faithfully ground responses in visual evidence raises serious concerns about clinical trustworthiness. While visual attribution methods are widely used to explain LVLM predictions, whether these explanations actually reflect the visual evidence underlying the model's decision is largely unverified, since ground-truth annotations for internal model reasoning are typically unavailable. We address this question for chest X-ray (CXR) reasoning by developing a causal evaluation framework that retains only CXR-VQA samples for which the expert-annotated region is verified, via counterfactual editing, to be causally responsible for the model's prediction. Using this framework across 11 attribution methods, six open-source LVLMs, and two output modes (direct answer and step-by-step reasoning), we find that existing attribution methods often fail to identify the evidence used by LVLMs. To address this failure, we propose MedFocus, a concept-based attribution method that localizes clinically meaningful anatomical regions via unbalanced optimal transport and measures their causal effect on model outputs through targeted interventions. MedFocus produces spatial, concept-level, and token-level attributions and substantially outperforms prior methods, taking a step toward more trustworthy attribution for medical LVLMs. Our data and code are available at https://github.com/gzxiong/medfocus/.