Die Rolle von Rechenressourcen bei der Veröffentlichung von Forschung zu Foundation-Modellen

papers.abstract

Spitzenforschung im Bereich der Künstlichen Intelligenz (KI) erfordert erhebliche Ressourcen, darunter Grafikprozessoren (GPUs), Daten und personelle Kapazitäten. In dieser Arbeit untersuchen wir den Zusammenhang zwischen diesen Ressourcen und dem wissenschaftlichen Fortschritt bei Foundation-Modellen (FM). Wir analysierten 6517 FM-Publikationen, die zwischen 2022 und 2024 veröffentlicht wurden, und befragten 229 Erstautoren zu den Auswirkungen von Rechenressourcen auf die wissenschaftliche Produktivität. Unsere Ergebnisse zeigen, dass ein erhöhter Rechenaufwand mit nationalen Fördermitteln und Zitationen korreliert, jedoch keine starken Zusammenhänge mit dem Forschungsumfeld (akademisch oder industriell), dem Fachgebiet oder der Studienmethodik festgestellt werden konnten. Wir empfehlen Einzelpersonen und Institutionen, sich auf die Schaffung gemeinsamer und erschwinglicher Rechenmöglichkeiten zu konzentrieren, um die Einstiegshürden für unterfinanzierte Forscher zu senken. Diese Maßnahmen können die Beteiligung an der FM-Forschung erweitern, die Vielfalt der Ideen und Mitwirkenden fördern sowie Innovation und Fortschritt in der KI nachhaltig unterstützen. Die Daten sind verfügbar unter: https://mit-calc.csail.mit.edu/

English

Cutting-edge research in Artificial Intelligence (AI) requires considerable resources, including Graphics Processing Units (GPUs), data, and human resources. In this paper, we evaluate of the relationship between these resources and the scientific advancement of foundation models (FM). We reviewed 6517 FM papers published between 2022 to 2024, and surveyed 229 first-authors to the impact of computing resources on scientific output. We find that increased computing is correlated with national funding allocations and citations, but our findings don't observe the strong correlations with research environment (academic or industrial), domain, or study methodology. We advise that individuals and institutions focus on creating shared and affordable computing opportunities to lower the entry barrier for under-resourced researchers. These steps can help expand participation in FM research, foster diversity of ideas and contributors, and sustain innovation and progress in AI. The data will be available at: https://mit-calc.csail.mit.edu/

Die Rolle von Rechenressourcen bei der Veröffentlichung von Forschung zu Foundation-Modellen

The Role of Computing Resources in Publishing Foundation Model Research

papers.abstract

Support