Raisonnement graphique in situ et expansion des connaissances en utilisant Graph-PReFLexOR

In-situ graph reasoning and knowledge expansion using Graph-PReFLexOR

January 14, 2025

Auteurs: Markus J. Buehler

cs.AI

Résumé

La poursuite de la découverte scientifique automatisée a alimenté le progrès de la logique symbolique à l'IA moderne, ouvrant de nouvelles frontières dans le raisonnement et la reconnaissance de motifs. Les transformateurs fonctionnent comme des systèmes potentiels, où chaque relation possible reste une potentialité latente jusqu'à ce que les tâches imposent des contraintes, semblables à une mesure. Cependant, affiner leur échantillonnage nécessite plus qu'une sélection probabiliste : les solutions doivent se conformer à des structures ou des règles spécifiques, garantissant la cohérence et l'invocation de principes généraux. Nous présentons Graph-PReFLexOR (Modélisation linguistique récursive basée sur les préférences pour l'optimisation exploratoire du raisonnement), un cadre qui associe le raisonnement graphique à l'abstraction symbolique pour étendre dynamiquement les connaissances du domaine. Inspiré par l'apprentissage par renforcement, Graph-PReFLexOR définit le raisonnement comme une cartographie structurée, où les tâches produisent des graphes de connaissances, des motifs abstraits et finalement, des réponses finales. Inspiré par la théorie des catégories, il code les concepts en tant que nœuds et leurs relations en tant qu'arêtes, soutenant l'inférence hiérarchique et l'apprentissage adaptatif à travers des représentations isomorphes. Les démonstrations incluent la génération d'hypothèses, la conception de matériaux et le raisonnement créatif, comme la découverte de relations entre des concepts mythologiques tels que les "lieux minces" avec la science des matériaux. Nous proposons une stratégie de "croissance du jardin de connaissances" qui intègre des idées à travers les domaines, favorisant les connexions interdisciplinaires. Les résultats avec un modèle Graph-PReFLexOR de 3 milliards de paramètres montrent une profondeur de raisonnement et une adaptabilité supérieures, soulignant le potentiel de découverte transparente et multidisciplinaire pilotée par l'IA. Cela pose les bases pour des solutions de raisonnement autonome général.

English

The pursuit of automated scientific discovery has fueled progress from symbolic logic to modern AI, forging new frontiers in reasoning and pattern recognition. Transformers function as potential systems, where every possible relationship remains latent potentiality until tasks impose constraints, akin to measurement. Yet, refining their sampling requires more than probabilistic selection: solutions must conform to specific structures or rules, ensuring consistency and the invocation of general principles. We present Graph-PReFLexOR (Graph-based Preference-based Recursive Language Modeling for Exploratory Optimization of Reasoning), a framework that combines graph reasoning with symbolic abstraction to dynamically expand domain knowledge. Inspired by reinforcement learning, Graph-PReFLexOR defines reasoning as a structured mapping, where tasks yield knowledge graphs, abstract patterns, and ultimately, final answers. Inspired by category theory, it encodes concepts as nodes and their relationships as edges, supporting hierarchical inference and adaptive learning through isomorphic representations. Demonstrations include hypothesis generation, materials design, and creative reasoning, such as discovering relationships between mythological concepts like 'thin places' with materials science. We propose a 'knowledge garden growth' strategy that integrates insights across domains, promoting interdisciplinary connections. Results with a 3-billion-parameter Graph-PReFLexOR model show superior reasoning depth and adaptability, underscoring the potential for transparent, multidisciplinary AI-driven discovery. It lays the groundwork for general autonomous reasoning solutions.