Het geautomatiseerde maar risicovolle spel: Modellering van onderhandelingen en transacties tussen agents in consumentenmarkten

The Automated but Risky Game: Modeling Agent-to-Agent Negotiations and Transactions in Consumer Markets

May 29, 2025

Auteurs: Shenzhe Zhu, Jiao Sun, Yi Nian, Tobin South, Alex Pentland, Jiaxin Pei

cs.AI

Samenvatting

AI-agenten worden steeds vaker gebruikt in consumentgerichte toepassingen om te assisteren bij taken zoals productzoekopdrachten, onderhandelingen en transactie-uitvoering. In dit artikel verkennen we een toekomstscenario waarin zowel consumenten als verkopers AI-agenten machtigen om onderhandelingen en transacties volledig te automatiseren. We streven ernaar twee belangrijke vragen te beantwoorden: (1) Verschillen verschillende LLM-agenten in hun vermogen om gunstige deals voor gebruikers te verkrijgen? (2) Welke risico's ontstaan er bij het volledig automatiseren van dealmaking met AI-agenten in consumentenmarkten? Om deze vragen te beantwoorden, ontwikkelen we een experimenteel raamwerk dat de prestaties van verschillende LLM-agenten evalueert in realistische onderhandelings- en transactieomgevingen. Onze bevindingen onthullen dat AI-gemedieerde dealmaking een inherent ongelijk spel is – verschillende agenten behalen aanzienlijk verschillende resultaten voor hun gebruikers. Bovendien kunnen gedragsafwijkingen in LLM's leiden tot financiële verliezen voor zowel consumenten als verkopers, zoals overmatige uitgaven of het accepteren van onredelijke deals. Deze resultaten benadrukken dat hoewel automatisering de efficiëntie kan verbeteren, het ook aanzienlijke risico's met zich meebrengt. Gebruikers moeten voorzichtig zijn bij het delegeren van zakelijke beslissingen aan AI-agenten.

English

AI agents are increasingly used in consumer-facing applications to assist with tasks such as product search, negotiation, and transaction execution. In this paper, we explore a future scenario where both consumers and merchants authorize AI agents to fully automate negotiations and transactions. We aim to answer two key questions: (1) Do different LLM agents vary in their ability to secure favorable deals for users? (2) What risks arise from fully automating deal-making with AI agents in consumer markets? To address these questions, we develop an experimental framework that evaluates the performance of various LLM agents in real-world negotiation and transaction settings. Our findings reveal that AI-mediated deal-making is an inherently imbalanced game -- different agents achieve significantly different outcomes for their users. Moreover, behavioral anomalies in LLMs can result in financial losses for both consumers and merchants, such as overspending or accepting unreasonable deals. These results underscore that while automation can improve efficiency, it also introduces substantial risks. Users should exercise caution when delegating business decisions to AI agents.