Economías de Agentes Virtuales

Virtual Agent Economies

September 12, 2025

Autores: Nenad Tomasev, Matija Franklin, Joel Z. Leibo, Julian Jacobs, William A. Cunningham, Iason Gabriel, Simon Osindero

cs.AI

Resumen

La rápida adopción de agentes de IA autónomos está dando lugar a una nueva capa económica en la que los agentes transaccionan y se coordinan a escalas y velocidades que superan la supervisión humana directa. Proponemos la "economía de entorno controlado" como un marco para analizar este sistema emergente, caracterizándolo en dos dimensiones clave: sus orígenes (emergente vs. intencional) y su grado de separación de la economía humana establecida (permeable vs. impermeable). Nuestra trayectoria actual apunta hacia la emergencia espontánea de una economía de agentes de IA vasta y altamente permeable, presentándonos oportunidades para un grado de coordinación sin precedentes, así como desafíos significativos, incluidos riesgos económicos sistémicos y una desigualdad exacerbada. Aquí discutimos una serie de posibles decisiones de diseño que podrían conducir a mercados de agentes de IA seguros y manejables. En particular, consideramos mecanismos de subasta para la asignación justa de recursos y la resolución de preferencias, el diseño de "economías de misión" de IA para coordinar el logro de objetivos colectivos, y la infraestructura socio-técnica necesaria para garantizar confianza, seguridad y rendición de cuentas. Al hacerlo, abogamos por el diseño proactivo de mercados de agentes manejables para asegurar que el próximo cambio tecnológico se alinee con el florecimiento colectivo a largo plazo de la humanidad.

English

The rapid adoption of autonomous AI agents is giving rise to a new economic layer where agents transact and coordinate at scales and speeds beyond direct human oversight. We propose the "sandbox economy" as a framework for analyzing this emergent system, characterizing it along two key dimensions: its origins (emergent vs. intentional) and its degree of separateness from the established human economy (permeable vs. impermeable). Our current trajectory points toward a spontaneous emergence of a vast and highly permeable AI agent economy, presenting us with opportunities for an unprecedented degree of coordination as well as significant challenges, including systemic economic risk and exacerbated inequality. Here we discuss a number of possible design choices that may lead to safely steerable AI agent markets. In particular, we consider auction mechanisms for fair resource allocation and preference resolution, the design of AI "mission economies" to coordinate around achieving collective goals, and socio-technical infrastructure needed to ensure trust, safety, and accountability. By doing this, we argue for the proactive design of steerable agent markets to ensure the coming technological shift aligns with humanity's long-term collective flourishing.