自動化されたがリスクのあるゲーム：消費者市場におけるエージェント間交渉と取引のモデリング

要旨

AIエージェントは、製品検索、交渉、取引実行などのタスクを支援するために、消費者向けアプリケーションでますます使用されています。本論文では、消費者と販売者の両方がAIエージェントに交渉と取引を完全に自動化することを許可する未来のシナリオを探ります。私たちは2つの重要な質問に答えることを目指しています：(1) 異なるLLMエージェントは、ユーザーにとって有利な取引を確保する能力に違いがあるか？(2) 消費者市場での取引をAIエージェントに完全に自動化することから生じるリスクは何か？これらの質問に答えるために、現実世界の交渉と取引の設定でさまざまなLLMエージェントのパフォーマンスを評価する実験フレームワークを開発します。私たちの調査結果は、AIを介した取引は本質的に不均衡なゲームであることを明らかにしています——異なるエージェントは、ユーザーに対して大きく異なる結果を達成します。さらに、LLMの行動異常は、過剰支出や不合理な取引の受け入れなど、消費者と販売者の両方に財務的損失をもたらす可能性があります。これらの結果は、自動化が効率を向上させる一方で、大きなリスクも導入することを強調しています。ユーザーは、ビジネス上の意思決定をAIエージェントに委任する際に注意を払うべきです。

English

AI agents are increasingly used in consumer-facing applications to assist with tasks such as product search, negotiation, and transaction execution. In this paper, we explore a future scenario where both consumers and merchants authorize AI agents to fully automate negotiations and transactions. We aim to answer two key questions: (1) Do different LLM agents vary in their ability to secure favorable deals for users? (2) What risks arise from fully automating deal-making with AI agents in consumer markets? To address these questions, we develop an experimental framework that evaluates the performance of various LLM agents in real-world negotiation and transaction settings. Our findings reveal that AI-mediated deal-making is an inherently imbalanced game -- different agents achieve significantly different outcomes for their users. Moreover, behavioral anomalies in LLMs can result in financial losses for both consumers and merchants, such as overspending or accepting unreasonable deals. These results underscore that while automation can improve efficiency, it also introduces substantial risks. Users should exercise caution when delegating business decisions to AI agents.

自動化されたがリスクのあるゲーム：消費者市場におけるエージェント間交渉と取引のモデリング

The Automated but Risky Game: Modeling Agent-to-Agent Negotiations and Transactions in Consumer Markets

要旨

Support