Автоматизированная, но рискованная игра: моделирование переговоров и сделок между агентами на потребительских рынках

The Automated but Risky Game: Modeling Agent-to-Agent Negotiations and Transactions in Consumer Markets

May 29, 2025

Авторы: Shenzhe Zhu, Jiao Sun, Yi Nian, Tobin South, Alex Pentland, Jiaxin Pei

cs.AI

Аннотация

Искусственные интеллектуальные агенты всё чаще используются в приложениях, ориентированных на потребителей, для помощи в таких задачах, как поиск товаров, переговоры и выполнение транзакций. В данной статье мы исследуем сценарий будущего, в котором как потребители, так и продавцы делегируют ИИ-агентам полную автоматизацию переговоров и сделок. Мы стремимся ответить на два ключевых вопроса: (1) Различаются ли различные агенты на основе больших языковых моделей (LLM) в своей способности обеспечивать выгодные условия для пользователей? (2) Какие риски возникают при полной автоматизации заключения сделок с использованием ИИ-агентов на потребительских рынках? Чтобы ответить на эти вопросы, мы разработали экспериментальную платформу, которая оценивает производительность различных LLM-агентов в реальных условиях переговоров и транзакций. Наши результаты показывают, что заключение сделок с участием ИИ является изначально несбалансированной игрой — разные агенты достигают значительно отличающихся результатов для своих пользователей. Более того, поведенческие аномалии в LLM могут приводить к финансовым потерям как для потребителей, так и для продавцов, например, к чрезмерным тратам или принятию неразумных условий сделок. Эти результаты подчеркивают, что, хотя автоматизация может повысить эффективность, она также вносит существенные риски. Пользователям следует проявлять осторожность при делегировании бизнес-решений ИИ-агентам.

English

AI agents are increasingly used in consumer-facing applications to assist with tasks such as product search, negotiation, and transaction execution. In this paper, we explore a future scenario where both consumers and merchants authorize AI agents to fully automate negotiations and transactions. We aim to answer two key questions: (1) Do different LLM agents vary in their ability to secure favorable deals for users? (2) What risks arise from fully automating deal-making with AI agents in consumer markets? To address these questions, we develop an experimental framework that evaluates the performance of various LLM agents in real-world negotiation and transaction settings. Our findings reveal that AI-mediated deal-making is an inherently imbalanced game -- different agents achieve significantly different outcomes for their users. Moreover, behavioral anomalies in LLMs can result in financial losses for both consumers and merchants, such as overspending or accepting unreasonable deals. These results underscore that while automation can improve efficiency, it also introduces substantial risks. Users should exercise caution when delegating business decisions to AI agents.