Können LLMs neue Forschungsideen generieren? Eine groß angelegte Studie mit über 100 NLP-Forschern.

Can LLMs Generate Novel Research Ideas? A Large-Scale Human Study with 100+ NLP Researchers

September 6, 2024

Autoren: Chenglei Si, Diyi Yang, Tatsunori Hashimoto

cs.AI

Zusammenfassung

Die jüngsten Fortschritte bei großen Sprachmodellen (LLMs) haben Optimismus hinsichtlich ihres Potenzials geweckt, wissenschaftliche Entdeckungen zu beschleunigen, wobei eine wachsende Anzahl von Arbeiten Forschungsagenten vorschlägt, die autonom neue Ideen generieren und validieren. Trotzdem hat bisher keine Bewertung gezeigt, dass LLM-Systeme den allerersten Schritt machen können, um neuartige, auf Expertenniveau befindliche Ideen zu produzieren, geschweige denn den gesamten Forschungsprozess durchzuführen. Diesem Thema nähern wir uns, indem wir ein experimentelles Design etablieren, das die Generierung von Forschungsideen bewertet, während es Störfaktoren kontrolliert und den ersten direkten Vergleich zwischen Experten für NLP und einem LLM-Ideenagenten durchführt. Durch die Rekrutierung von über 100 NLP-Forschern zur Erstellung von neuen Ideen und zur Blindbewertung sowohl von LLM- als auch von menschlichen Ideen erhalten wir die erste statistisch signifikante Schlussfolgerung über die aktuellen Fähigkeiten von LLMs für die Ideenfindung in der Forschung: Wir stellen fest, dass LLM-generierte Ideen als neuartiger bewertet werden (p < 0,05) als menschliche Expertenideen, während sie etwas schwächer in Bezug auf die Machbarkeit beurteilt werden. Durch die genaue Untersuchung unserer Agenten-Baselines identifizieren wir offene Probleme beim Aufbau und der Bewertung von Forschungsagenten, einschließlich der Versäumnisse bei der Selbstbewertung von LLMs und deren Mangel an Vielfalt bei der Generierung. Abschließend erkennen wir an, dass die menschliche Bewertung von Neuheit selbst für Experten schwierig sein kann, und schlagen ein End-to-End-Studienkonzept vor, bei dem Forscher beauftragt werden, diese Ideen in vollständige Projekte umzusetzen. Dies ermöglicht es uns zu untersuchen, ob diese Bewertungen der Neuheit und Machbarkeit zu bedeutenden Unterschieden im Forschungsergebnis führen.

English

Recent advancements in large language models (LLMs) have sparked optimism about their potential to accelerate scientific discovery, with a growing number of works proposing research agents that autonomously generate and validate new ideas. Despite this, no evaluations have shown that LLM systems can take the very first step of producing novel, expert-level ideas, let alone perform the entire research process. We address this by establishing an experimental design that evaluates research idea generation while controlling for confounders and performs the first head-to-head comparison between expert NLP researchers and an LLM ideation agent. By recruiting over 100 NLP researchers to write novel ideas and blind reviews of both LLM and human ideas, we obtain the first statistically significant conclusion on current LLM capabilities for research ideation: we find LLM-generated ideas are judged as more novel (p < 0.05) than human expert ideas while being judged slightly weaker on feasibility. Studying our agent baselines closely, we identify open problems in building and evaluating research agents, including failures of LLM self-evaluation and their lack of diversity in generation. Finally, we acknowledge that human judgements of novelty can be difficult, even by experts, and propose an end-to-end study design which recruits researchers to execute these ideas into full projects, enabling us to study whether these novelty and feasibility judgements result in meaningful differences in research outcome.