Virtuele Agent Economieën

Virtual Agent Economies

September 12, 2025

Auteurs: Nenad Tomasev, Matija Franklin, Joel Z. Leibo, Julian Jacobs, William A. Cunningham, Iason Gabriel, Simon Osindero

cs.AI

Samenvatting

De snelle adoptie van autonome AI-agenten leidt tot een nieuwe economische laag waarin agenten transacties uitvoeren en coördineren op schaal en snelheden die verder gaan dan direct menselijk toezicht. Wij stellen de "sandboxeconomie" voor als een raamwerk voor het analyseren van dit opkomende systeem, waarbij we het karakteriseren langs twee belangrijke dimensies: zijn oorsprong (spontaan vs. intentioneel) en zijn mate van afgescheidenheid van de gevestigde menselijke economie (doorlaatbaar vs. ondoorlaatbaar). Onze huidige trajectorie wijst op een spontane opkomst van een uitgebreide en sterk doorlaatbare economie van AI-agenten, wat ons kansen biedt voor een ongekende mate van coördinatie, maar ook aanzienlijke uitdagingen met zich meebrengt, waaronder systemisch economisch risico en verergerde ongelijkheid. Hier bespreken we een aantal mogelijke ontwerpkeuzes die kunnen leiden tot veilig bestuurbare markten voor AI-agenten. In het bijzonder beschouwen we veilingmechanismen voor eerlijke toewijzing van middelen en het oplossen van voorkeuren, het ontwerp van AI-"missie-economieën" om collectieve doelen te bereiken, en de sociaal-technische infrastructuur die nodig is om vertrouwen, veiligheid en verantwoordelijkheid te waarborgen. Hiermee pleiten we voor het proactief ontwerpen van bestuurbare agentmarkten om ervoor te zorgen dat de komende technologische verschuiving aansluit bij het langetermijncollectieve welzijn van de mensheid.

English

The rapid adoption of autonomous AI agents is giving rise to a new economic layer where agents transact and coordinate at scales and speeds beyond direct human oversight. We propose the "sandbox economy" as a framework for analyzing this emergent system, characterizing it along two key dimensions: its origins (emergent vs. intentional) and its degree of separateness from the established human economy (permeable vs. impermeable). Our current trajectory points toward a spontaneous emergence of a vast and highly permeable AI agent economy, presenting us with opportunities for an unprecedented degree of coordination as well as significant challenges, including systemic economic risk and exacerbated inequality. Here we discuss a number of possible design choices that may lead to safely steerable AI agent markets. In particular, we consider auction mechanisms for fair resource allocation and preference resolution, the design of AI "mission economies" to coordinate around achieving collective goals, and socio-technical infrastructure needed to ensure trust, safety, and accountability. By doing this, we argue for the proactive design of steerable agent markets to ensure the coming technological shift aligns with humanity's long-term collective flourishing.