И текст, и изображения утекли! Систематический анализ мультимодального LLM: загрязнение данных

Both Text and Images Leaked! A Systematic Analysis of Multimodal LLM Data Contamination

November 6, 2024

Авторы: Dingjie Song, Sicheng Lai, Shunian Chen, Lichao Sun, Benyou Wang

cs.AI

Аннотация

Быстрое развитие мультимодальных моделей больших языков (MLLM) продемонстрировало превосходную производительность на различных мультимодальных бенчмарках. Однако проблема загрязнения данных во время обучения создает вызовы при оценке производительности и сравнении. Хотя существует множество методов для обнаружения загрязнения набора данных в больших языковых моделях (LLM), они менее эффективны для MLLM из-за их различных модальностей и нескольких этапов обучения. В данном исследовании мы представляем мультимодальную систему обнаружения загрязнения данных, MM-Detect, разработанную для MLLM. Наши экспериментальные результаты показывают, что MM-Detect чувствителен к различным степеням загрязнения и способен выявлять значительные улучшения производительности из-за утечки обучающего набора мультимодальных бенчмарков. Кроме того, мы также исследуем возможность загрязнения, исходящего из этапа предварительного обучения LLM, используемого MLLM, и этапа донастройки MLLM, предлагая новые идеи о том, на каких этапах может быть внесено загрязнение.

English

The rapid progression of multimodal large language models (MLLMs) has demonstrated superior performance on various multimodal benchmarks. However, the issue of data contamination during training creates challenges in performance evaluation and comparison. While numerous methods exist for detecting dataset contamination in large language models (LLMs), they are less effective for MLLMs due to their various modalities and multiple training phases. In this study, we introduce a multimodal data contamination detection framework, MM-Detect, designed for MLLMs. Our experimental results indicate that MM-Detect is sensitive to varying degrees of contamination and can highlight significant performance improvements due to leakage of the training set of multimodal benchmarks. Furthermore, We also explore the possibility of contamination originating from the pre-training phase of LLMs used by MLLMs and the fine-tuning phase of MLLMs, offering new insights into the stages at which contamination may be introduced.