Il Ruolo delle Risorse Computazionali nella Pubblicazione della Ricerca sui Modelli di Base
The Role of Computing Resources in Publishing Foundation Model Research
October 15, 2025
Autori: Yuexing Hao, Yue Huang, Haoran Zhang, Chenyang Zhao, Zhenwen Liang, Paul Pu Liang, Yue Zhao, Lichao Sun, Saleh Kalantari, Xiangliang Zhang, Marzyeh Ghassemi
cs.AI
Abstract
La ricerca all'avanguardia nell'Intelligenza Artificiale (IA) richiede risorse considerevoli, tra cui unità di elaborazione grafica (GPU), dati e risorse umane. In questo articolo, valutiamo la relazione tra queste risorse e il progresso scientifico dei modelli di base (Foundation Models, FM). Abbiamo esaminato 6517 articoli sui FM pubblicati tra il 2022 e il 2024 e abbiamo intervistato 229 primi autori sull'impatto delle risorse computazionali sulla produzione scientifica. Scopriamo che l'aumento delle risorse computazionali è correlato con gli stanziamenti di fondi nazionali e con il numero di citazioni, ma i nostri risultati non mostrano forti correlazioni con l'ambiente di ricerca (accademico o industriale), il dominio o la metodologia di studio. Suggeriamo che individui e istituzioni si concentrino sulla creazione di opportunità computazionali condivise e accessibili per abbassare la barriera di ingresso per i ricercatori con risorse limitate. Questi passaggi possono aiutare a espandere la partecipazione alla ricerca sui FM, favorire la diversità di idee e contributori e sostenere l'innovazione e il progresso nell'IA. I dati saranno disponibili al seguente indirizzo: https://mit-calc.csail.mit.edu/
English
Cutting-edge research in Artificial Intelligence (AI) requires considerable
resources, including Graphics Processing Units (GPUs), data, and human
resources. In this paper, we evaluate of the relationship between these
resources and the scientific advancement of foundation models (FM). We reviewed
6517 FM papers published between 2022 to 2024, and surveyed 229 first-authors
to the impact of computing resources on scientific output. We find that
increased computing is correlated with national funding allocations and
citations, but our findings don't observe the strong correlations with research
environment (academic or industrial), domain, or study methodology. We advise
that individuals and institutions focus on creating shared and affordable
computing opportunities to lower the entry barrier for under-resourced
researchers. These steps can help expand participation in FM research, foster
diversity of ideas and contributors, and sustain innovation and progress in AI.
The data will be available at: https://mit-calc.csail.mit.edu/