De rol van rekenbronnen bij het publiceren van onderzoek naar fundamentele modellen

Samenvatting

Baanbrekend onderzoek in Kunstmatige Intelligentie (AI) vereist aanzienlijke middelen, waaronder Grafische Verwerkingseenheden (GPU's), data en menselijke bronnen. In dit artikel evalueren we de relatie tussen deze middelen en de wetenschappelijke vooruitgang van foundation models (FM). We hebben 6517 FM-artikelen die tussen 2022 en 2024 zijn gepubliceerd beoordeeld en 229 eerste auteurs ondervraagd over de impact van rekenbronnen op wetenschappelijke output. We constateren dat een toename van rekenkracht gecorreleerd is met nationale financieringstoewijzingen en citaties, maar onze bevindingen tonen geen sterke correlaties met de onderzoeksomgeving (academisch of industrieel), domein of onderzoeksmethodologie. Wij adviseren individuen en instellingen om zich te richten op het creëren van gedeelde en betaalbare rekenmogelijkheden om de drempel voor onderzoekers met beperkte middelen te verlagen. Deze stappen kunnen helpen om deelname aan FM-onderzoek uit te breiden, diversiteit van ideeën en bijdragers te bevorderen, en innovatie en vooruitgang in AI te ondersteunen. De data zal beschikbaar zijn op: https://mit-calc.csail.mit.edu/

English

Cutting-edge research in Artificial Intelligence (AI) requires considerable resources, including Graphics Processing Units (GPUs), data, and human resources. In this paper, we evaluate of the relationship between these resources and the scientific advancement of foundation models (FM). We reviewed 6517 FM papers published between 2022 to 2024, and surveyed 229 first-authors to the impact of computing resources on scientific output. We find that increased computing is correlated with national funding allocations and citations, but our findings don't observe the strong correlations with research environment (academic or industrial), domain, or study methodology. We advise that individuals and institutions focus on creating shared and affordable computing opportunities to lower the entry barrier for under-resourced researchers. These steps can help expand participation in FM research, foster diversity of ideas and contributors, and sustain innovation and progress in AI. The data will be available at: https://mit-calc.csail.mit.edu/

De rol van rekenbronnen bij het publiceren van onderzoek naar fundamentele modellen

The Role of Computing Resources in Publishing Foundation Model Research

Samenvatting

Support