PaLI-X : Sur la mise à l'échelle d'un modèle multilingue de vision et de langage
PaLI-X: On Scaling up a Multilingual Vision and Language Model
May 29, 2023
Auteurs: Xi Chen, Josip Djolonga, Piotr Padlewski, Basil Mustafa, Soravit Changpinyo, Jialin Wu, Carlos Riquelme Ruiz, Sebastian Goodman, Xiao Wang, Yi Tay, Siamak Shakeri, Mostafa Dehghani, Daniel Salz, Mario Lucic, Michael Tschannen, Arsha Nagrani, Hexiang Hu, Mandar Joshi, Bo Pang, Ceslee Montgomery, Paulina Pietrzyk, Marvin Ritter, AJ Piergiovanni, Matthias Minderer, Filip Pavetic, Austin Waters, Gang Li, Ibrahim Alabdulmohsin, Lucas Beyer, Julien Amelot, Kenton Lee, Andreas Peter Steiner, Yang Li, Daniel Keysers, Anurag Arnab, Yuanzhong Xu, Keran Rong, Alexander Kolesnikov, Mojtaba Seyedhosseini, Anelia Angelova, Xiaohua Zhai, Neil Houlsby, Radu Soricut
cs.AI
Résumé
Nous présentons la méthode d'entraînement et les résultats de l'extension de PaLI-X, un modèle multilingue de vision et langage, à la fois en termes de taille des composants et de diversité des tâches d'entraînement. Notre modèle atteint de nouveaux niveaux de performance sur un large éventail de tâches variées et complexes, incluant plusieurs tâches de légendage et de question-réponse basées sur l'image, la compréhension de documents visuels et l'apprentissage en contexte (few-shot), ainsi que la détection d'objets, la réponse à des questions sur des vidéos et le légendage vidéo. PaLI-X repousse l'état de l'art sur la plupart des benchmarks de vision et langage considérés (plus de 25). Enfin, nous observons l'émergence de capacités telles que le comptage complexe et la détection d'objets multilingue, des tâches qui ne font pas explicitement partie du mélange d'entraînement.
English
We present the training recipe and results of scaling up PaLI-X, a
multilingual vision and language model, both in terms of size of the components
and the breadth of its training task mixture. Our model achieves new levels of
performance on a wide-range of varied and complex tasks, including multiple
image-based captioning and question-answering tasks, image-based document
understanding and few-shot (in-context) learning, as well as object detection,
video question answering, and video captioning. PaLI-X advances the
state-of-the-art on most vision-and-language benchmarks considered (25+ of
them). Finally, we observe emerging capabilities, such as complex counting and
multilingual object detection, tasks that are not explicitly in the training
mix.