Нулевые мировые модели являются эффективными обучающимися в процессе развития

Аннотация

Маленькие дети демонстрируют ранние способности к пониманию своего физического мира: они оценивают глубину, движение, целостность объектов, их взаимодействие и многие другие аспекты восприятия физических сцен. Дети представляют собой высокоэффективные и гибкие когнитивные системы, формирующие компетенцию, несмотря на крайне ограниченный объем обучающих данных, и одновременно обобщающие полученные знания для решения множества непредвиденных задач — что является серьезной проблемой даже для современных передовых систем искусственного интеллекта. В данной статье мы представляем новую вычислительную гипотезу, объясняющую эти способности, — Модель Визуального Мира с Нулевым Обучением (ZWM). Модель ZWM основана на трех принципах: разреженный факторизованный во времени предиктор, разделяющий внешний вид и динамику; оценка с нулевым обучением посредством приближенного причинного вывода; и композиция выводов для формирования более сложных способностей. Мы показываем, что модель ZWM может быть обучена на основе опыта от первого лица одного ребенка и быстро демонстрирует высокую эффективность в решении множества тестов на физическое понимание. Она также в целом воспроизводит поведенческие паттерны детского развития и формирует внутренние репрезентации, подобные мозговым. Наша работа предлагает план для эффективного и гибкого обучения на данных, сопоставимых по объему с человеческим опытом, продвигая как вычислительное объяснение раннего физического понимания у детей, так и путь к созданию систем ИИ, эффективно использующих данные.

English

Young children demonstrate early abilities to understand their physical world, estimating depth, motion, object coherence, interactions, and many other aspects of physical scene understanding. Children are both data-efficient and flexible cognitive systems, creating competence despite extremely limited training data, while generalizing to myriad untrained tasks -- a major challenge even for today's best AI systems. Here we introduce a novel computational hypothesis for these abilities, the Zero-shot Visual World Model (ZWM). ZWM is based on three principles: a sparse temporally-factored predictor that decouples appearance from dynamics; zero-shot estimation through approximate causal inference; and composition of inferences to build more complex abilities. We show that ZWM can be learned from the first-person experience of a single child, rapidly generating competence across multiple physical understanding benchmarks. It also broadly recapitulates behavioral signatures of child development and builds brain-like internal representations. Our work presents a blueprint for efficient and flexible learning from human-scale data, advancing both a computational account for children's early physical understanding and a path toward data-efficient AI systems.

Нулевые мировые модели являются эффективными обучающимися в процессе развития

Zero-shot World Models Are Developmentally Efficient Learners

Аннотация

Support