Aprendizaje de Predictores Universales

Learning Universal Predictors

January 26, 2024

Autores: Jordi Grau-Moya, Tim Genewein, Marcus Hutter, Laurent Orseau, Grégoire Delétang, Elliot Catt, Anian Ruoss, Li Kevin Wenliang, Christopher Mattern, Matthew Aitchison, Joel Veness

cs.AI

Resumen

El meta-aprendizaje ha surgido como un enfoque poderoso para entrenar redes neuronales a aprender nuevas tareas rápidamente a partir de datos limitados. La exposición amplia a diferentes tareas conduce a representaciones versátiles que permiten la resolución general de problemas. Pero, ¿cuáles son los límites del meta-aprendizaje? En este trabajo, exploramos el potencial de amortizar el predictor universal más poderoso, es decir, la Inducción de Solomonoff (SI), en redes neuronales mediante el aprovechamiento del meta-aprendizaje hasta sus límites. Utilizamos Máquinas de Turing Universales (MTUs) para generar datos de entrenamiento que exponen a las redes a una amplia gama de patrones. Proporcionamos un análisis teórico de los procesos de generación de datos de MTU y los protocolos de meta-entrenamiento. Realizamos experimentos exhaustivos con arquitecturas neuronales (por ejemplo, LSTMs, Transformers) y generadores de datos algorítmicos de complejidad y universalidad variables. Nuestros resultados sugieren que los datos de MTU son un recurso valioso para el meta-aprendizaje y que pueden usarse para entrenar redes neuronales capaces de aprender estrategias de predicción universales.

English

Meta-learning has emerged as a powerful approach to train neural networks to learn new tasks quickly from limited data. Broad exposure to different tasks leads to versatile representations enabling general problem solving. But, what are the limits of meta-learning? In this work, we explore the potential of amortizing the most powerful universal predictor, namely Solomonoff Induction (SI), into neural networks via leveraging meta-learning to its limits. We use Universal Turing Machines (UTMs) to generate training data used to expose networks to a broad range of patterns. We provide theoretical analysis of the UTM data generation processes and meta-training protocols. We conduct comprehensive experiments with neural architectures (e.g. LSTMs, Transformers) and algorithmic data generators of varying complexity and universality. Our results suggest that UTM data is a valuable resource for meta-learning, and that it can be used to train neural networks capable of learning universal prediction strategies.