독극물 사과 효과: AI 에이전트 기술 확장을 통한 중개 시장의 전략적 조작

초록

인공지능 에이전트의 경제 시장 통합은 전략적 상호작용의 지형을 근본적으로 변화시킨다. 본 연구는 세 가지 대표적인 게임 이론적 설정(협상: 자원 분할, 교섭: 비대칭 정보 거래, 설득: 전략적 정보 전달)에서 이용 가능한 기술 집합의 확장이 가져오는 경제적 함의를 분석한다. 단순히 AI 대리인의 선택지를 늘리는 것만으로도 균형 보상과 규제 결과가 극적으로 변화하며, 이는 종종 규제 기관이 적극적으로 기술을 개발하고 공개하도록 유인하는 것으로 나타났다. 반대로 '독이 든 사과' 효과라 명명된 전략적 현상을 확인했다: 특정 에이전트가 자신이나 상대방 모두 최종적으로 사용하지 않을 신기술을 공개함으로써 규제 기관의 시장 설계 선택을 자신에게 유리하게 조종하는 경우이다. 이러한 전략적 공개는 상대방과 규제 기관의 공정성 목표를 희생시키면서 공개자의 후생을 증진시킨다. 우리의 연구 결과는 정적 규제 체계가 기술 확장을 통한 조작에 취약함을 보여주며, 진화하는 AI 역량 지형에 적응하는 동적 시장 설계의 필요성을 시사한다.

English

The integration of AI agents into economic markets fundamentally alters the landscape of strategic interaction. We investigate the economic implications of expanding the set of available technologies in three canonical game-theoretic settings: bargaining (resource division), negotiation (asymmetric information trade), and persuasion (strategic information transmission). We find that simply increasing the choice of AI delegates can drastically shift equilibrium payoffs and regulatory outcomes, often creating incentives for regulators to proactively develop and release technologies. Conversely, we identify a strategic phenomenon termed the "Poisoned Apple" effect: an agent may release a new technology, which neither they nor their opponent ultimately uses, solely to manipulate the regulator's choice of market design in their favor. This strategic release improves the releaser's welfare at the expense of their opponent and the regulator's fairness objectives. Our findings demonstrate that static regulatory frameworks are vulnerable to manipulation via technology expansion, necessitating dynamic market designs that adapt to the evolving landscape of AI capabilities.

독극물 사과 효과: AI 에이전트 기술 확장을 통한 중개 시장의 전략적 조작

The Poisoned Apple Effect: Strategic Manipulation of Mediated Markets via Technology Expansion of AI Agents

초록

Support