월드 모델에 대한 비판

초록

생물학적 에이전트가 경험하고 상호작용하는 실제 세계 환경의 알고리즘적 대리자로 여겨지는 월드 모델(World Model)은 최근 인공(일반) 지능을 갖춘 가상 에이전트 개발에 대한 수요가 증가하면서 주목받는 주제가 되었습니다. 월드 모델이 무엇인지, 어떻게 구축할지, 어떻게 사용할지, 그리고 어떻게 평가할지에 대해 많은 논의가 있어 왔습니다. 본 에세이에서는 유명한 SF 클래식 <듄>에서의 상상력을 출발점으로 삼고, 심리학 문헌에서의 "가설적 사고" 개념에서 영감을 얻어 월드 모델링에 대한 여러 학파의 견해를 비판적으로 검토하며, 월드 모델의 주요 목표는 목적 지향적 추론과 행동을 위해 실제 세계의 모든 실행 가능한 가능성을 시뮬레이션하는 것이라고 주장합니다. 이러한 비판을 바탕으로, 우리는 계층적, 다단계, 연속/이산 혼합 표현과 생성적 자기 지도 학습 프레임워크를 기반으로 한 범용 월드 모델의 새로운 아키텍처를 제안하며, 이러한 모델로 가능해지는 물리적, 행위적, 중첩적(PAN) AGI 시스템에 대한 전망을 제시합니다.

English

World Model, the supposed algorithmic surrogate of the real-world environment which biological agents experience with and act upon, has been an emerging topic in recent years because of the rising needs to develop virtual agents with artificial (general) intelligence. There has been much debate on what a world model really is, how to build it, how to use it, and how to evaluate it. In this essay, starting from the imagination in the famed Sci-Fi classic Dune, and drawing inspiration from the concept of "hypothetical thinking" in psychology literature, we offer critiques of several schools of thoughts on world modeling, and argue the primary goal of a world model to be simulating all actionable possibilities of the real world for purposeful reasoning and acting. Building on the critiques, we propose a new architecture for a general-purpose world model, based on hierarchical, multi-level, and mixed continuous/discrete representations, and a generative and self-supervision learning framework, with an outlook of a Physical, Agentic, and Nested (PAN) AGI system enabled by such a model.

월드 모델에 대한 비판

Critiques of World Models

초록

Support