BigDocs: Ein offenes und großzügig lizenziertes Datenset zur Schulung multimodaler Modelle für Dokumenten- und Code-Aufgaben.

BigDocs: An Open and Permissively-Licensed Dataset for Training Multimodal Models on Document and Code Tasks

December 5, 2024

Autoren: Juan Rodriguez, Xiangru Jian, Siba Smarak Panigrahi, Tianyu Zhang, Aarash Feizi, Abhay Puri, Akshay Kalkunte, François Savard, Ahmed Masry, Shravan Nayak, Rabiul Awal, Mahsa Massoud, Amirhossein Abaskohi, Zichao Li, Suyuchen Wang, Pierre-André Noël, Mats Leon Richter, Saverio Vadacchino, Shubbam Agarwal, Sanket Biswas, Sara Shanian, Ying Zhang, Noah Bolger, Kurt MacDonald, Simon Fauvel, Sathwik Tejaswi, Srinivas Sunkara, Joao Monteiro, Krishnamurthy DJ Dvijotham, Torsten Scholak, Nicolas Chapados, Sepideh Kharagani, Sean Hughes, M. Özsu, Siva Reddy, Marco Pedersoli, Yoshua Bengio, Christopher Pal, Issam Laradji, Spandanna Gella, Perouz Taslakian, David Vazquez, Sai Rajeswar

cs.AI

Zusammenfassung

Multimodale KI hat das Potenzial, dokumentenbezogene Aufgaben signifikant zu verbessern, wie z.B. die Verarbeitung von Quittungen, das Verstehen von Workflows, die Extraktion von Daten aus Dokumenten und das Zusammenfassen von Berichten. Auch Codegenerierungsaufgaben, die lange strukturierte Ausgaben erfordern, können durch Multimodalität verbessert werden. Trotzdem ist ihr Einsatz in kommerziellen Anwendungen oft aufgrund begrenzten Zugangs zu Trainingsdaten und restriktiver Lizenzen eingeschränkt, was den offenen Zugang behindert. Um diese Einschränkungen zu überwinden, stellen wir BigDocs-7.5M vor, einen hochwertigen, frei zugänglichen Datensatz mit 7,5 Millionen multimodalen Dokumenten für 30 Aufgaben. Wir verwenden einen effizienten Datenkuratierungsprozess, um sicherzustellen, dass unsere Daten von hoher Qualität sind und lizenzfreundlich. Unser Prozess betont Rechenschaftspflicht, Verantwortung und Transparenz durch Filterregeln, nachverfolgbare Metadaten und sorgfältige Inhaltsanalyse. Zusätzlich führen wir BigDocs-Bench ein, eine Benchmark-Suite mit 10 neuen Aufgaben, bei denen wir Datensätze erstellen, die realen Anwendungsfällen mit Schlussfolgerungen über grafische Benutzeroberflächen (GUI) und Codegenerierung aus Bildern entsprechen. Unsere Experimente zeigen, dass das Training mit BigDocs-Bench die durchschnittliche Leistung um bis zu 25,8% gegenüber dem Closed-Source GPT-4o bei Dokumentenschlussfolgerungen und strukturierten Ausgabenaufgaben wie Screenshot2HTML oder Image2Latex-Generierung verbessert. Schließlich zeigten menschliche Bewertungen eine Präferenz für Ausgaben von Modellen, die mit BigDocs trainiert wurden, gegenüber GPT-4o. Dies legt nahe, dass BigDocs sowohl Wissenschaftlern als auch der Open-Source-Community helfen kann, KI-Tools zu nutzen und zu verbessern, um multimodale Fähigkeiten und Dokumentschlussfolgerungen zu verbessern. Das Projekt ist unter https://bigdocs.github.io gehostet.

English

Multimodal AI has the potential to significantly enhance document-understanding tasks, such as processing receipts, understanding workflows, extracting data from documents, and summarizing reports. Code generation tasks that require long-structured outputs can also be enhanced by multimodality. Despite this, their use in commercial applications is often limited due to limited access to training data and restrictive licensing, which hinders open access. To address these limitations, we introduce BigDocs-7.5M, a high-quality, open-access dataset comprising 7.5 million multimodal documents across 30 tasks. We use an efficient data curation process to ensure our data is high-quality and license-permissive. Our process emphasizes accountability, responsibility, and transparency through filtering rules, traceable metadata, and careful content analysis. Additionally, we introduce BigDocs-Bench, a benchmark suite with 10 novel tasks where we create datasets that reflect real-world use cases involving reasoning over Graphical User Interfaces (GUI) and code generation from images. Our experiments show that training with BigDocs-Bench improves average performance up to 25.8% over closed-source GPT-4o in document reasoning and structured output tasks such as Screenshot2HTML or Image2Latex generation. Finally, human evaluations showed a preference for outputs from models trained on BigDocs over GPT-4o. This suggests that BigDocs can help both academics and the open-source community utilize and improve AI tools to enhance multimodal capabilities and document reasoning. The project is hosted at https://bigdocs.github.io .