Экономики виртуальных агентов
Virtual Agent Economies
September 12, 2025
Авторы: Nenad Tomasev, Matija Franklin, Joel Z. Leibo, Julian Jacobs, William A. Cunningham, Iason Gabriel, Simon Osindero
cs.AI
Аннотация
Быстрое внедрение автономных ИИ-агентов порождает новый экономический слой, в котором агенты взаимодействуют и координируются на масштабах и скоростях, выходящих за пределы прямого человеческого контроля. Мы предлагаем концепцию "песочной экономики" как аналитическую основу для изучения этой возникающей системы, характеризуя её по двум ключевым измерениям: её происхождению (спонтанное vs. целенаправленное) и степени отделённости от существующей человеческой экономики (проницаемая vs. непроницаемая). Текущая траектория указывает на спонтанное возникновение обширной и высокопроницаемой экономики ИИ-агентов, открывая возможности для беспрецедентной степени координации, а также значительные вызовы, включая системные экономические риски и усугубление неравенства. Здесь мы обсуждаем ряд возможных проектных решений, которые могут способствовать созданию управляемых рынков ИИ-агентов. В частности, мы рассматриваем аукционные механизмы для справедливого распределения ресурсов и разрешения предпочтений, проектирование "миссионерских экономик" ИИ для координации в достижении коллективных целей, а также социотехническую инфраструктуру, необходимую для обеспечения доверия, безопасности и подотчётности. Таким образом, мы выступаем за активное проектирование управляемых рынков агентов, чтобы гарантировать, что предстоящий технологический сдвиг будет способствовать долгосрочному коллективному процветанию человечества.
English
The rapid adoption of autonomous AI agents is giving rise to a new economic
layer where agents transact and coordinate at scales and speeds beyond direct
human oversight. We propose the "sandbox economy" as a framework for analyzing
this emergent system, characterizing it along two key dimensions: its origins
(emergent vs. intentional) and its degree of separateness from the established
human economy (permeable vs. impermeable). Our current trajectory points toward
a spontaneous emergence of a vast and highly permeable AI agent economy,
presenting us with opportunities for an unprecedented degree of coordination as
well as significant challenges, including systemic economic risk and
exacerbated inequality. Here we discuss a number of possible design choices
that may lead to safely steerable AI agent markets. In particular, we consider
auction mechanisms for fair resource allocation and preference resolution, the
design of AI "mission economies" to coordinate around achieving collective
goals, and socio-technical infrastructure needed to ensure trust, safety, and
accountability. By doing this, we argue for the proactive design of steerable
agent markets to ensure the coming technological shift aligns with humanity's
long-term collective flourishing.