Graph-Native Reinforcement Learning maakt traceerbare wetenschappelijke hypothesegeneratie mogelijk door conceptuele recombinatie
Graph-Native Reinforcement Learning Enables Traceable Scientific Hypothesis Generation through Conceptual Recombination
July 1, 2026
Auteurs: Subhadeep Pal, Shashwat Sourav, Tirthankar Ghosal, Markus J. Buehler
cs.AI
Samenvatting
Het versnellen van materiaalontdekking vereist AI-systemen die wetenschappelijk valide hypothesen kunnen genereren via meerstaps redeneren op basis van domeinkennis. Standaard grote taalmodellen produceren vaak vloeiende maar zwak traceerbare antwoorden op open-einde materiaalontwerpproblemen, waardoor het moeilijk is te bepalen of eindantwoorden worden ondersteund door coherent tussenredeneren. We ontwikkelen Graph-PRefLexOR, een familie van grafiek-native redeneermodellen die zijn fijngestemd met Group Relative Policy Optimization (GRPO) om redeneren te organiseren in expliciete fasen voor mechanisme-verkenning, graafconstructie, patroonextractie en hypothesessynthese. Dit ontwerp koppelt neurale taalgeneratie aan symbolische relationele structuur, waardoor causale verbanden kunnen worden geconstrueerd, geïnspecteerd en hergebruikt. Op 100 open-einde vragen uit de materiaalkunde- en mechanicaliteratuur behaalt Graph-PRefLexOR 40-65% verbeteringen ten opzichte van overeenkomstige basismodellen, met de grootste winst in traceerbaarheid van redeneringen. Embedding-analyses tonen bredere semantische verkenning en ongeveer 2-3 keer grotere semantische diversiteit dan baselines. Semantische backtracking en laagsgewijze verborgen-toestandsanalyses tonen verder een sterkere afstemming tussen gestructureerd redeneren en eindantwoorden. Ten slotte toont testtijd graafuitbreiding aan dat extra rekenkracht voornamelijk de conceptuele recombinatie over lange afstand binnen een begrensde semantische ruimte vergroot, in plaats van eenvoudigweg de semantische dekking uit te breiden. Deze resultaten vestigen grafiek-native reinforcement learning als een pad naar interpreteerbare AI-systemen voor wetenschappelijke hypothesegeneratie in materiaalontwerp en andere wetenschappelijke toepassingen.
English
Accelerating materials discovery requires AI systems that can generate scientifically valid hypotheses through multi-step, domain-grounded reasoning. Standard large language models often produce fluent but weakly traceable responses to open-ended materials design problems, making it difficult to determine whether final answers are supported by coherent intermediate reasoning. We develop Graph-PRefLexOR, a family of graph-native reasoning models fine-tuned with Group Relative Policy Optimization (GRPO) to organize reasoning into explicit phases for mechanism exploration, graph construction, pattern extraction, and hypothesis synthesis. This design links neural language generation with symbolic relational structure, enabling causal connections to be constructed, inspected, and reused. On 100 open-ended questions from materials science and mechanics literature, Graph-PRefLexOR achieves 40-65% improvements over corresponding base models, with the largest gains in reasoning traceability. Embedding analyses show broader semantic exploration and approximately 2-3 times greater semantic diversity than baselines. Semantic backtracking and layer-wise hidden-state analyses further show stronger alignment between structured reasoning and final answers. Finally, test-time graph expansion reveals that additional compute primarily increases long-range conceptual recombination within a bounded semantic space, rather than simply expanding semantic coverage. These results establish graph-native reinforcement learning as a pathway toward interpretable AI systems for scientific hypothesis generation in materials design and other scientific applications.