Innovateur-VL : Un modèle de langage multimodal pour la découverte scientifique

papers.abstract

Nous présentons Innovator-VL, un modèle linguistique multimodal scientifique conçu pour faire progresser la compréhension et le raisonnement dans divers domaines scientifiques tout en maintenant d'excellentes performances sur les tâches visuelles générales. Contrairement à la tendance qui consiste à s'appuyer sur un pré-entraînement massif spécifique à un domaine et des pipelines opaques, notre travail démontre qu'une conception d'entraînement rigoureuse et une méthodologie transparente peuvent produire une forte intelligence scientifique avec des besoins en données considérablement réduits. (i) Premièrement, nous fournissons un pipeline d'entraînement entièrement transparent et reproductible de bout en bout, couvrant la collecte, le nettoyage et le prétraitement des données, le réglage fin supervisé, l'apprentissage par renforcement et l'évaluation, ainsi que des procédures d'optimisation détaillées. Cela facilite une extension systématique par la communauté. (ii) Deuxièmement, Innovator-VL présente une remarquable efficacité des données, atteignant des performances compétitives sur diverses tâches scientifiques en utilisant moins de cinq millions d'échantillons triés, sans pré-entraînement à grande échelle. Ces résultats soulignent qu'un raisonnement efficace peut être obtenu par une sélection rigoureuse des données plutôt que par un scaling indistinct. (iii) Troisièmement, Innovator-VL démontre une forte généralisation, obtenant des performances compétitives sur des benchmarks de vision générale, de raisonnement multimodal et scientifiques. Cela indique que l'alignement scientifique peut être intégré dans un modèle unifié sans compromettre les capacités généralistes. Nos pratiques suggèrent que des modèles multimodaux scientifiques efficaces, reproductibles et performants peuvent être construits même sans données à grande échelle, fournissant une base pratique pour les recherches futures.

English

We present Innovator-VL, a scientific multimodal large language model designed to advance understanding and reasoning across diverse scientific domains while maintaining excellent performance on general vision tasks. Contrary to the trend of relying on massive domain-specific pretraining and opaque pipelines, our work demonstrates that principled training design and transparent methodology can yield strong scientific intelligence with substantially reduced data requirements. (i) First, we provide a fully transparent, end-to-end reproducible training pipeline, covering data collection, cleaning, preprocessing, supervised fine-tuning, reinforcement learning, and evaluation, along with detailed optimization recipes. This facilitates systematic extension by the community. (ii) Second, Innovator-VL exhibits remarkable data efficiency, achieving competitive performance on various scientific tasks using fewer than five million curated samples without large-scale pretraining. These results highlight that effective reasoning can be achieved through principled data selection rather than indiscriminate scaling. (iii) Third, Innovator-VL demonstrates strong generalization, achieving competitive performance on general vision, multimodal reasoning, and scientific benchmarks. This indicates that scientific alignment can be integrated into a unified model without compromising general-purpose capabilities. Our practices suggest that efficient, reproducible, and high-performing scientific multimodal models can be built even without large-scale data, providing a practical foundation for future research.

Innovateur-VL : Un modèle de langage multimodal pour la découverte scientifique

Innovator-VL: A Multimodal Large Language Model for Scientific Discovery

papers.abstract

Support