El papel de los recursos computacionales en la publicación de investigaciones sobre modelos fundacionales
The Role of Computing Resources in Publishing Foundation Model Research
October 15, 2025
Autores: Yuexing Hao, Yue Huang, Haoran Zhang, Chenyang Zhao, Zhenwen Liang, Paul Pu Liang, Yue Zhao, Lichao Sun, Saleh Kalantari, Xiangliang Zhang, Marzyeh Ghassemi
cs.AI
Resumen
La investigación de vanguardia en Inteligencia Artificial (IA) requiere recursos considerables, incluyendo Unidades de Procesamiento Gráfico (GPUs), datos y recursos humanos. En este artículo, evaluamos la relación entre estos recursos y el avance científico de los modelos fundamentales (FM, por sus siglas en inglés). Revisamos 6517 artículos sobre FM publicados entre 2022 y 2024, y encuestamos a 229 primeros autores sobre el impacto de los recursos computacionales en la producción científica. Encontramos que el aumento en la capacidad de cómputo está correlacionado con las asignaciones de financiamiento nacional y las citaciones, pero nuestros hallazgos no observan correlaciones fuertes con el entorno de investigación (académico o industrial), el dominio o la metodología de estudio. Recomendamos que individuos e instituciones se enfoquen en crear oportunidades de cómputo compartidas y asequibles para reducir las barreras de entrada para investigadores con recursos limitados. Estas medidas pueden ayudar a ampliar la participación en la investigación de FM, fomentar la diversidad de ideas y contribuyentes, y sostener la innovación y el progreso en IA. Los datos estarán disponibles en: https://mit-calc.csail.mit.edu/
English
Cutting-edge research in Artificial Intelligence (AI) requires considerable
resources, including Graphics Processing Units (GPUs), data, and human
resources. In this paper, we evaluate of the relationship between these
resources and the scientific advancement of foundation models (FM). We reviewed
6517 FM papers published between 2022 to 2024, and surveyed 229 first-authors
to the impact of computing resources on scientific output. We find that
increased computing is correlated with national funding allocations and
citations, but our findings don't observe the strong correlations with research
environment (academic or industrial), domain, or study methodology. We advise
that individuals and institutions focus on creating shared and affordable
computing opportunities to lower the entry barrier for under-resourced
researchers. These steps can help expand participation in FM research, foster
diversity of ideas and contributors, and sustain innovation and progress in AI.
The data will be available at: https://mit-calc.csail.mit.edu/