仮想エージェント経済

要旨

自律型AIエージェントの急速な普及は、人間の直接的な監視を超えた規模と速度でエージェントが取引や調整を行う新たな経済層を生み出しつつある。本論文では、この新たに出現するシステムを分析するための枠組みとして「サンドボックス経済」を提案し、その起源（自然発生型 vs. 意図的設計）と既存の人間経済からの分離度（透過的 vs. 非透過的）という2つの主要な次元に沿って特徴づける。現在の軌跡は、広大で高度に透過的なAIエージェント経済が自然発生的に出現する方向を示しており、前例のないレベルの調整を可能にする機会とともに、システミックな経済リスクや不平等の悪化といった重大な課題も提示している。本論文では、安全に制御可能なAIエージェント市場を実現するためのいくつかの設計選択肢について議論する。特に、公平な資源配分と選好解決のためのオークションメカニズム、集団目標の達成に向けた調整を行うAI「ミッション経済」の設計、信頼性、安全性、説明責任を確保するために必要な社会技術的インフラを考察する。これを通じて、今後の技術的変化が人類の長期的な集団的繁栄と調和するよう、制御可能なエージェント市場を積極的に設計する必要性を主張する。

English

The rapid adoption of autonomous AI agents is giving rise to a new economic layer where agents transact and coordinate at scales and speeds beyond direct human oversight. We propose the "sandbox economy" as a framework for analyzing this emergent system, characterizing it along two key dimensions: its origins (emergent vs. intentional) and its degree of separateness from the established human economy (permeable vs. impermeable). Our current trajectory points toward a spontaneous emergence of a vast and highly permeable AI agent economy, presenting us with opportunities for an unprecedented degree of coordination as well as significant challenges, including systemic economic risk and exacerbated inequality. Here we discuss a number of possible design choices that may lead to safely steerable AI agent markets. In particular, we consider auction mechanisms for fair resource allocation and preference resolution, the design of AI "mission economies" to coordinate around achieving collective goals, and socio-technical infrastructure needed to ensure trust, safety, and accountability. By doing this, we argue for the proactive design of steerable agent markets to ensure the coming technological shift aligns with humanity's long-term collective flourishing.

仮想エージェント経済

Virtual Agent Economies

要旨

Support