LOKI: un ampio benchmark per la rilevazione di dati sintetici utilizzando grandi modelli multimodali

LOKI: A Comprehensive Synthetic Data Detection Benchmark using Large Multimodal Models

October 13, 2024

Autori: Junyan Ye, Baichuan Zhou, Zilong Huang, Junan Zhang, Tianyi Bai, Hengrui Kang, Jun He, Honglin Lin, Zihao Wang, Tong Wu, Zhizheng Wu, Yiping Chen, Dahua Lin, Conghui He, Weijia Li

cs.AI

Abstract

Con lo sviluppo rapido di contenuti generati da intelligenza artificiale, il futuro internet potrebbe essere sommerso da dati sintetici, rendendo sempre più difficile discriminare dati multimodali autentici e credibili. La rilevazione dei dati sintetici ha quindi attirato molta attenzione, e le prestazioni dei grandi modelli multimodali (LMM) in questo compito hanno suscitato un interesse significativo. I LMM possono fornire spiegazioni in linguaggio naturale per i loro giudizi di autenticità, migliorando la comprensibilità della rilevazione dei contenuti sintetici. Allo stesso tempo, il compito di distinguere tra dati reali e sintetici mette alla prova efficacemente le capacità di percezione, conoscenza e ragionamento dei LMM. In risposta, presentiamo LOKI, un nuovo benchmark progettato per valutare l'abilità dei LMM nel rilevare dati sintetici attraverso molteplici modalità. LOKI comprende modalità video, immagine, 3D, testo e audio, con 18.000 domande accuratamente selezionate distribuite in 26 sottocategorie con chiari livelli di difficoltà. Il benchmark include giudizi a grana grossa e domande a scelta multipla, nonché selezione di anomalie a grana fine e compiti di spiegazione, consentendo un'analisi completa dei LMM. Abbiamo valutato 22 LMM open-source e 6 modelli closed-source su LOKI, evidenziando il loro potenziale come rilevatori di dati sintetici e rivelando anche alcune limitazioni nello sviluppo delle capacità dei LMM. Ulteriori informazioni su LOKI sono disponibili su https://opendatalab.github.io/LOKI/

English

With the rapid development of AI-generated content, the future internet may be inundated with synthetic data, making the discrimination of authentic and credible multimodal data increasingly challenging. Synthetic data detection has thus garnered widespread attention, and the performance of large multimodal models (LMMs) in this task has attracted significant interest. LMMs can provide natural language explanations for their authenticity judgments, enhancing the explainability of synthetic content detection. Simultaneously, the task of distinguishing between real and synthetic data effectively tests the perception, knowledge, and reasoning capabilities of LMMs. In response, we introduce LOKI, a novel benchmark designed to evaluate the ability of LMMs to detect synthetic data across multiple modalities. LOKI encompasses video, image, 3D, text, and audio modalities, comprising 18K carefully curated questions across 26 subcategories with clear difficulty levels. The benchmark includes coarse-grained judgment and multiple-choice questions, as well as fine-grained anomaly selection and explanation tasks, allowing for a comprehensive analysis of LMMs. We evaluated 22 open-source LMMs and 6 closed-source models on LOKI, highlighting their potential as synthetic data detectors and also revealing some limitations in the development of LMM capabilities. More information about LOKI can be found at https://opendatalab.github.io/LOKI/