O Papel dos Recursos Computacionais na Publicação de Pesquisas sobre Modelos de Base
The Role of Computing Resources in Publishing Foundation Model Research
October 15, 2025
Autores: Yuexing Hao, Yue Huang, Haoran Zhang, Chenyang Zhao, Zhenwen Liang, Paul Pu Liang, Yue Zhao, Lichao Sun, Saleh Kalantari, Xiangliang Zhang, Marzyeh Ghassemi
cs.AI
Resumo
A pesquisa de ponta em Inteligência Artificial (IA) requer recursos consideráveis, incluindo Unidades de Processamento Gráfico (GPUs), dados e recursos humanos. Neste artigo, avaliamos a relação entre esses recursos e o avanço científico dos modelos de base (Foundation Models - FM). Revisamos 6517 artigos sobre FM publicados entre 2022 e 2024 e entrevistamos 229 primeiros autores sobre o impacto dos recursos computacionais na produção científica. Descobrimos que o aumento no poder de computação está correlacionado com as alocações de financiamento nacional e citações, mas nossos achados não observam correlações fortes com o ambiente de pesquisa (acadêmico ou industrial), domínio ou metodologia de estudo. Recomendamos que indivíduos e instituições foquem em criar oportunidades de computação compartilhadas e acessíveis para reduzir a barreira de entrada para pesquisadores com recursos limitados. Essas medidas podem ajudar a expandir a participação na pesquisa de FM, promover a diversidade de ideias e contribuidores, e sustentar a inovação e o progresso na IA. Os dados estarão disponíveis em: https://mit-calc.csail.mit.edu/
English
Cutting-edge research in Artificial Intelligence (AI) requires considerable
resources, including Graphics Processing Units (GPUs), data, and human
resources. In this paper, we evaluate of the relationship between these
resources and the scientific advancement of foundation models (FM). We reviewed
6517 FM papers published between 2022 to 2024, and surveyed 229 first-authors
to the impact of computing resources on scientific output. We find that
increased computing is correlated with national funding allocations and
citations, but our findings don't observe the strong correlations with research
environment (academic or industrial), domain, or study methodology. We advise
that individuals and institutions focus on creating shared and affordable
computing opportunities to lower the entry barrier for under-resourced
researchers. These steps can help expand participation in FM research, foster
diversity of ideas and contributors, and sustain innovation and progress in AI.
The data will be available at: https://mit-calc.csail.mit.edu/