Economias de Agentes Virtuais
Virtual Agent Economies
September 12, 2025
Autores: Nenad Tomasev, Matija Franklin, Joel Z. Leibo, Julian Jacobs, William A. Cunningham, Iason Gabriel, Simon Osindero
cs.AI
Resumo
A rápida adoção de agentes de IA autônomos está dando origem a uma nova camada econômica, na qual os agentes transacionam e se coordenam em escalas e velocidades que vão além da supervisão humana direta. Propomos a "economia sandbox" como um framework para analisar esse sistema emergente, caracterizando-o ao longo de duas dimensões principais: suas origens (emergente vs. intencional) e seu grau de separação da economia humana estabelecida (permeável vs. impermeável). Nossa trajetória atual aponta para o surgimento espontâneo de uma vasta e altamente permeável economia de agentes de IA, apresentando-nos oportunidades para um grau de coordenação sem precedentes, bem como desafios significativos, incluindo riscos econômicos sistêmicos e a exacerbação da desigualdade. Aqui, discutimos uma série de escolhas de design possíveis que podem levar a mercados de agentes de IA seguros e direcionáveis. Em particular, consideramos mecanismos de leilão para alocação justa de recursos e resolução de preferências, o design de "economias de missão" de IA para coordenar o alcance de objetivos coletivos, e a infraestrutura sociotécnica necessária para garantir confiança, segurança e responsabilidade. Ao fazer isso, defendemos o design proativo de mercados de agentes direcionáveis para garantir que a próxima mudança tecnológica esteja alinhada com o florescimento coletivo de longo prazo da humanidade.
English
The rapid adoption of autonomous AI agents is giving rise to a new economic
layer where agents transact and coordinate at scales and speeds beyond direct
human oversight. We propose the "sandbox economy" as a framework for analyzing
this emergent system, characterizing it along two key dimensions: its origins
(emergent vs. intentional) and its degree of separateness from the established
human economy (permeable vs. impermeable). Our current trajectory points toward
a spontaneous emergence of a vast and highly permeable AI agent economy,
presenting us with opportunities for an unprecedented degree of coordination as
well as significant challenges, including systemic economic risk and
exacerbated inequality. Here we discuss a number of possible design choices
that may lead to safely steerable AI agent markets. In particular, we consider
auction mechanisms for fair resource allocation and preference resolution, the
design of AI "mission economies" to coordinate around achieving collective
goals, and socio-technical infrastructure needed to ensure trust, safety, and
accountability. By doing this, we argue for the proactive design of steerable
agent markets to ensure the coming technological shift aligns with humanity's
long-term collective flourishing.