ChatPaper.aiChatPaper

Graph-natives bestärkendes Lernen ermöglicht nachvollziehbare wissenschaftliche Hypothesengenerierung durch konzeptuelle Rekombination

Graph-Native Reinforcement Learning Enables Traceable Scientific Hypothesis Generation through Conceptual Recombination

July 1, 2026
Autoren: Subhadeep Pal, Shashwat Sourav, Tirthankar Ghosal, Markus J. Buehler
cs.AI

Zusammenfassung

Die Beschleunigung der Materialentdeckung erfordert KI-Systeme, die wissenschaftlich valide Hypothesen durch mehrstufige, domänengebundene Argumentation generieren können. Standardmäßige große Sprachmodelle produzieren oft flüssige, aber schwach nachvollziehbare Antworten auf offene Materialdesignprobleme, was es erschwert zu bestimmen, ob finale Antworten durch kohärente Zwischenschlüsse gestützt werden. Wir entwickeln Graph-PRefLexOR, eine Familie von graphengerechten Argumentationsmodellen, die mit Group Relative Policy Optimization (GRPO) verfeinert wurden, um die Argumentation in explizite Phasen für Mechanismusexploration, Graphenkonstruktion, Musterextraktion und Hypothesensynthese zu organisieren. Dieses Design verbindet neuronale Sprachgenerierung mit symbolischer relationaler Struktur und ermöglicht es, kausale Verbindungen zu konstruieren, zu inspizieren und wiederzuverwenden. Bei 100 offenen Fragen aus der Materialwissenschafts- und Mechanikliteratur erzielt Graph-PRefLexOR 40–65% Verbesserungen gegenüber entsprechenden Basismodellen, wobei die größten Zugewinne in der Nachvollziehbarkeit der Argumentation liegen. Einbettungsanalysen zeigen eine breitere semantische Exploration und eine etwa 2- bis 3-mal größere semantische Vielfalt als Basislinien. Semantische Rückverfolgung und schichtweise Analysen versteckter Zustände zeigen zudem eine stärkere Übereinstimmung zwischen strukturierter Argumentation und endgültigen Antworten. Schließlich offenbart die testzeitliche Graphenerweiterung, dass zusätzliche Rechenleistung hauptsächlich die weitreichende konzeptuelle Rekombination innerhalb eines begrenzten semantischen Raums erhöht, anstatt lediglich die semantische Abdeckung zu erweitern. Diese Ergebnisse etablieren graphengerechtes Reinforcement Learning als Weg zu interpretierbaren KI-Systemen für die wissenschaftliche Hypothesengenerierung im Materialdesign und anderen wissenschaftlichen Anwendungen.
English
Accelerating materials discovery requires AI systems that can generate scientifically valid hypotheses through multi-step, domain-grounded reasoning. Standard large language models often produce fluent but weakly traceable responses to open-ended materials design problems, making it difficult to determine whether final answers are supported by coherent intermediate reasoning. We develop Graph-PRefLexOR, a family of graph-native reasoning models fine-tuned with Group Relative Policy Optimization (GRPO) to organize reasoning into explicit phases for mechanism exploration, graph construction, pattern extraction, and hypothesis synthesis. This design links neural language generation with symbolic relational structure, enabling causal connections to be constructed, inspected, and reused. On 100 open-ended questions from materials science and mechanics literature, Graph-PRefLexOR achieves 40-65% improvements over corresponding base models, with the largest gains in reasoning traceability. Embedding analyses show broader semantic exploration and approximately 2-3 times greater semantic diversity than baselines. Semantic backtracking and layer-wise hidden-state analyses further show stronger alignment between structured reasoning and final answers. Finally, test-time graph expansion reveals that additional compute primarily increases long-range conceptual recombination within a bounded semantic space, rather than simply expanding semantic coverage. These results establish graph-native reinforcement learning as a pathway toward interpretable AI systems for scientific hypothesis generation in materials design and other scientific applications.