El Juego Automatizado pero Arriesgado: Modelando Negociaciones y Transacciones entre Agentes en Mercados de Consumo

The Automated but Risky Game: Modeling Agent-to-Agent Negotiations and Transactions in Consumer Markets

May 29, 2025

Autores: Shenzhe Zhu, Jiao Sun, Yi Nian, Tobin South, Alex Pentland, Jiaxin Pei

cs.AI

Resumen

Los agentes de IA se utilizan cada vez más en aplicaciones orientadas al consumidor para ayudar en tareas como la búsqueda de productos, la negociación y la ejecución de transacciones. En este artículo, exploramos un escenario futuro en el que tanto los consumidores como los comerciantes autorizan a los agentes de IA para automatizar completamente las negociaciones y las transacciones. Nuestro objetivo es responder dos preguntas clave: (1) ¿Varían los diferentes agentes de LLM en su capacidad para obtener acuerdos favorables para los usuarios? (2) ¿Qué riesgos surgen al automatizar completamente la realización de acuerdos con agentes de IA en los mercados de consumo? Para abordar estas preguntas, desarrollamos un marco experimental que evalúa el rendimiento de varios agentes de LLM en entornos de negociación y transacción del mundo real. Nuestros hallazgos revelan que la realización de acuerdos mediada por IA es un juego inherentemente desequilibrado: diferentes agentes logran resultados significativamente distintos para sus usuarios. Además, las anomalías conductuales en los LLM pueden resultar en pérdidas financieras tanto para consumidores como para comerciantes, como gastos excesivos o la aceptación de acuerdos irrazonables. Estos resultados subrayan que, si bien la automatización puede mejorar la eficiencia, también introduce riesgos sustanciales. Los usuarios deben ejercer precaución al delegar decisiones comerciales a agentes de IA.

English

AI agents are increasingly used in consumer-facing applications to assist with tasks such as product search, negotiation, and transaction execution. In this paper, we explore a future scenario where both consumers and merchants authorize AI agents to fully automate negotiations and transactions. We aim to answer two key questions: (1) Do different LLM agents vary in their ability to secure favorable deals for users? (2) What risks arise from fully automating deal-making with AI agents in consumer markets? To address these questions, we develop an experimental framework that evaluates the performance of various LLM agents in real-world negotiation and transaction settings. Our findings reveal that AI-mediated deal-making is an inherently imbalanced game -- different agents achieve significantly different outcomes for their users. Moreover, behavioral anomalies in LLMs can result in financial losses for both consumers and merchants, such as overspending or accepting unreasonable deals. These results underscore that while automation can improve efficiency, it also introduces substantial risks. Users should exercise caution when delegating business decisions to AI agents.