Économies d'agents virtuels

papers.abstract

L'adoption rapide des agents autonomes d'IA donne naissance à une nouvelle couche économique où les agents interagissent et se coordonnent à des échelles et des vitesses dépassant le contrôle humain direct. Nous proposons le concept d'"économie en bac à sable" comme cadre d'analyse de ce système émergent, en le caractérisant selon deux dimensions clés : ses origines (émergentes vs intentionnelles) et son degré de séparation par rapport à l'économie humaine établie (perméable vs imperméable). Notre trajectoire actuelle pointe vers l'émergence spontanée d'une vaste économie d'agents d'IA hautement perméable, nous offrant des opportunités de coordination sans précédent ainsi que des défis significatifs, incluant des risques économiques systémiques et une exacerbation des inégalités. Nous explorons ici plusieurs choix de conception possibles pour orienter de manière sûre les marchés d'agents d'IA. En particulier, nous examinons les mécanismes d'enchères pour une allocation équitable des ressources et la résolution des préférences, la conception d'"économies de mission" d'IA pour coordonner la réalisation d'objectifs collectifs, ainsi que l'infrastructure socio-technique nécessaire pour garantir la confiance, la sécurité et la responsabilité. Ce faisant, nous plaidons pour une conception proactive de marchés d'agents orientables afin que ce changement technologique à venir s'aligne sur l'épanouissement collectif à long terme de l'humanité.

English

The rapid adoption of autonomous AI agents is giving rise to a new economic layer where agents transact and coordinate at scales and speeds beyond direct human oversight. We propose the "sandbox economy" as a framework for analyzing this emergent system, characterizing it along two key dimensions: its origins (emergent vs. intentional) and its degree of separateness from the established human economy (permeable vs. impermeable). Our current trajectory points toward a spontaneous emergence of a vast and highly permeable AI agent economy, presenting us with opportunities for an unprecedented degree of coordination as well as significant challenges, including systemic economic risk and exacerbated inequality. Here we discuss a number of possible design choices that may lead to safely steerable AI agent markets. In particular, we consider auction mechanisms for fair resource allocation and preference resolution, the design of AI "mission economies" to coordinate around achieving collective goals, and socio-technical infrastructure needed to ensure trust, safety, and accountability. By doing this, we argue for the proactive design of steerable agent markets to ensure the coming technological shift aligns with humanity's long-term collective flourishing.

Économies d'agents virtuels

Virtual Agent Economies

papers.abstract

Support