자동화되었지만 위험한 게임: 소비자 시장에서 에이전트 간 협상 및 거래 모델링

초록

AI 에이전트는 제품 검색, 협상, 거래 실행과 같은 작업을 지원하기 위해 소비자 대상 애플리케이션에서 점점 더 많이 사용되고 있습니다. 본 논문에서는 소비자와 판매자 모두가 AI 에이전트에게 협상과 거래를 완전히 자동화할 수 있는 권한을 부여하는 미래 시나리오를 탐구합니다. 우리는 두 가지 핵심 질문에 답하고자 합니다: (1) 서로 다른 LLM 에이전트가 사용자에게 유리한 거래를 확보하는 능력에 차이가 있는가? (2) 소비자 시장에서 AI 에이전트를 통해 거래를 완전히 자동화할 때 발생하는 위험은 무엇인가? 이러한 질문을 해결하기 위해, 우리는 다양한 LLM 에이전트의 성능을 실제 협상 및 거래 환경에서 평가하는 실험 프레임워크를 개발했습니다. 연구 결과에 따르면, AI가 중재하는 거래는 본질적으로 불균형적인 게임이며, 서로 다른 에이전트가 사용자에게 상당히 다른 결과를 가져다줄 수 있음이 밝혀졌습니다. 더욱이, LLM의 행동적 이상 현상은 소비자와 판매자 모두에게 과소비 또는 불합리한 거래 수락과 같은 금전적 손실을 초래할 수 있습니다. 이러한 결과는 자동화가 효율성을 개선할 수 있지만 동시에 상당한 위험을 초래할 수 있음을 강조합니다. 사용자는 비즈니스 결정을 AI 에이전트에 위임할 때 주의를 기울여야 합니다.

English

AI agents are increasingly used in consumer-facing applications to assist with tasks such as product search, negotiation, and transaction execution. In this paper, we explore a future scenario where both consumers and merchants authorize AI agents to fully automate negotiations and transactions. We aim to answer two key questions: (1) Do different LLM agents vary in their ability to secure favorable deals for users? (2) What risks arise from fully automating deal-making with AI agents in consumer markets? To address these questions, we develop an experimental framework that evaluates the performance of various LLM agents in real-world negotiation and transaction settings. Our findings reveal that AI-mediated deal-making is an inherently imbalanced game -- different agents achieve significantly different outcomes for their users. Moreover, behavioral anomalies in LLMs can result in financial losses for both consumers and merchants, such as overspending or accepting unreasonable deals. These results underscore that while automation can improve efficiency, it also introduces substantial risks. Users should exercise caution when delegating business decisions to AI agents.

자동화되었지만 위험한 게임: 소비자 시장에서 에이전트 간 협상 및 거래 모델링

The Automated but Risky Game: Modeling Agent-to-Agent Negotiations and Transactions in Consumer Markets

초록

Support