In-situ grafisch redeneren en kennisuitbreiding met behulp van Graph-PReFLexOR.

In-situ graph reasoning and knowledge expansion using Graph-PReFLexOR

January 14, 2025

Auteurs: Markus J. Buehler

cs.AI

Samenvatting

De zoektocht naar geautomatiseerde wetenschappelijke ontdekkingen heeft vooruitgang gestimuleerd van symbolische logica tot moderne AI, waarbij nieuwe fronten worden verkend in redenering en patroonherkenning. Transformers fungeren als potentiële systemen, waarbij elke mogelijke relatie latent potentieel blijft totdat taken beperkingen opleggen, vergelijkbaar met meting. Toch vereist het verfijnen van hun bemonstering meer dan probabilistische selectie: oplossingen moeten voldoen aan specifieke structuren of regels, zodat consistentie en het aanroepen van algemene principes worden gewaarborgd. Wij presenteren Graph-PReFLexOR (Grafisch Gebaseerd Voorkeursgebaseerd Recursief Taalmodel voor Verkennende Optimalisatie van Redenering), een raamwerk dat grafisch redeneren combineert met symbolische abstractie om domeinkennis dynamisch uit te breiden. Geïnspireerd door reinforcement learning, definieert Graph-PReFLexOR redenering als een gestructureerde mapping, waarbij taken kennisgrafieken, abstracte patronen en uiteindelijk definitieve antwoorden opleveren. Geïnspireerd door categorietheorie, codeert het concepten als knooppunten en hun relaties als randen, waardoor hiërarchische inferentie en adaptief leren mogelijk zijn via isomorfe representaties. Demonstraties omvatten hypothesevorming, materiaalontwerp en creatief redeneren, zoals het ontdekken van relaties tussen mythologische concepten zoals 'dunne plaatsen' met materiaalkunde. We stellen een 'kennisgroei in de tuin' strategie voor die inzichten over domeinen integreert en interdisciplinaire verbindingen bevordert. Resultaten met een Graph-PReFLexOR model van 3 miljard parameters tonen superieure redeneerdiepte en aanpasbaarheid, waarbij het potentieel voor transparante, multidisciplinaire door AI aangestuurde ontdekkingen wordt benadrukt. Het legt de basis voor algemene autonome redeneeroplossingen.

English

The pursuit of automated scientific discovery has fueled progress from symbolic logic to modern AI, forging new frontiers in reasoning and pattern recognition. Transformers function as potential systems, where every possible relationship remains latent potentiality until tasks impose constraints, akin to measurement. Yet, refining their sampling requires more than probabilistic selection: solutions must conform to specific structures or rules, ensuring consistency and the invocation of general principles. We present Graph-PReFLexOR (Graph-based Preference-based Recursive Language Modeling for Exploratory Optimization of Reasoning), a framework that combines graph reasoning with symbolic abstraction to dynamically expand domain knowledge. Inspired by reinforcement learning, Graph-PReFLexOR defines reasoning as a structured mapping, where tasks yield knowledge graphs, abstract patterns, and ultimately, final answers. Inspired by category theory, it encodes concepts as nodes and their relationships as edges, supporting hierarchical inference and adaptive learning through isomorphic representations. Demonstrations include hypothesis generation, materials design, and creative reasoning, such as discovering relationships between mythological concepts like 'thin places' with materials science. We propose a 'knowledge garden growth' strategy that integrates insights across domains, promoting interdisciplinary connections. Results with a 3-billion-parameter Graph-PReFLexOR model show superior reasoning depth and adaptability, underscoring the potential for transparent, multidisciplinary AI-driven discovery. It lays the groundwork for general autonomous reasoning solutions.