Razonamiento de grafo in-situ y expansión de conocimiento utilizando Graph-PReFLexOR.

In-situ graph reasoning and knowledge expansion using Graph-PReFLexOR

January 14, 2025

Autores: Markus J. Buehler

cs.AI

Resumen

La búsqueda del descubrimiento científico automatizado ha impulsado el progreso desde la lógica simbólica hasta la IA moderna, abriendo nuevos horizontes en el razonamiento y el reconocimiento de patrones. Los transformadores funcionan como sistemas potenciales, donde cada relación posible permanece como una potencialidad latente hasta que las tareas imponen restricciones, similares a una medición. Sin embargo, refinar su muestreo requiere más que una selección probabilística: las soluciones deben cumplir con estructuras o reglas específicas, garantizando la consistencia y la invocación de principios generales. Presentamos Graph-PReFLexOR (Modelado de Lenguaje Recursivo Basado en Preferencias en Grafos para la Optimización Exploratoria del Razonamiento), un marco que combina el razonamiento en grafos con la abstracción simbólica para expandir dinámicamente el conocimiento del dominio. Inspirado en el aprendizaje por refuerzo, Graph-PReFLexOR define el razonamiento como un mapeo estructurado, donde las tareas generan grafos de conocimiento, patrones abstractos y, en última instancia, respuestas finales. Inspirado en la teoría de categorías, codifica conceptos como nodos y sus relaciones como aristas, respaldando la inferencia jerárquica y el aprendizaje adaptativo a través de representaciones isomórficas. Las demostraciones incluyen la generación de hipótesis, el diseño de materiales y el razonamiento creativo, como descubrir relaciones entre conceptos mitológicos como 'lugares finos' con la ciencia de materiales. Proponemos una estrategia de 'crecimiento de jardín de conocimiento' que integra ideas en distintos dominios, promoviendo conexiones interdisciplinarias. Los resultados con un modelo Graph-PReFLexOR de 3 mil millones de parámetros muestran una profundidad y adaptabilidad de razonamiento superiores, subrayando el potencial para un descubrimiento transparente y multidisciplinario impulsado por la IA. Sienta las bases para soluciones generales de razonamiento autónomo.

English

The pursuit of automated scientific discovery has fueled progress from symbolic logic to modern AI, forging new frontiers in reasoning and pattern recognition. Transformers function as potential systems, where every possible relationship remains latent potentiality until tasks impose constraints, akin to measurement. Yet, refining their sampling requires more than probabilistic selection: solutions must conform to specific structures or rules, ensuring consistency and the invocation of general principles. We present Graph-PReFLexOR (Graph-based Preference-based Recursive Language Modeling for Exploratory Optimization of Reasoning), a framework that combines graph reasoning with symbolic abstraction to dynamically expand domain knowledge. Inspired by reinforcement learning, Graph-PReFLexOR defines reasoning as a structured mapping, where tasks yield knowledge graphs, abstract patterns, and ultimately, final answers. Inspired by category theory, it encodes concepts as nodes and their relationships as edges, supporting hierarchical inference and adaptive learning through isomorphic representations. Demonstrations include hypothesis generation, materials design, and creative reasoning, such as discovering relationships between mythological concepts like 'thin places' with materials science. We propose a 'knowledge garden growth' strategy that integrates insights across domains, promoting interdisciplinary connections. Results with a 3-billion-parameter Graph-PReFLexOR model show superior reasoning depth and adaptability, underscoring the potential for transparent, multidisciplinary AI-driven discovery. It lays the groundwork for general autonomous reasoning solutions.