Das automatisierte, aber riskante Spiel: Modellierung von Agent-zu-Agent-Verhandlungen und Transaktionen in Konsumentenmärkten

The Automated but Risky Game: Modeling Agent-to-Agent Negotiations and Transactions in Consumer Markets

May 29, 2025

Autoren: Shenzhe Zhu, Jiao Sun, Yi Nian, Tobin South, Alex Pentland, Jiaxin Pei

cs.AI

Zusammenfassung

KI-Agenten werden zunehmend in kundenorientierten Anwendungen eingesetzt, um bei Aufgaben wie Produktsuche, Verhandlung und Transaktionsabwicklung zu unterstützen. In diesem Artikel untersuchen wir ein Zukunftsszenario, in dem sowohl Verbraucher als auch Händler KI-Agenten autorisieren, Verhandlungen und Transaktionen vollständig zu automatisieren. Wir möchten zwei zentrale Fragen beantworten: (1) Unterscheiden sich verschiedene LLM-Agenten in ihrer Fähigkeit, vorteilhafte Geschäfte für Nutzer zu erzielen? (2) Welche Risiken entstehen durch die vollständige Automatisierung von Geschäftsabschlüssen mit KI-Agenten in Verbrauchermärkten? Um diese Fragen zu beantworten, entwickeln wir ein experimentelles Framework, das die Leistung verschiedener LLM-Agenten in realen Verhandlungs- und Transaktionsszenarien bewertet. Unsere Ergebnisse zeigen, dass KI-vermittelte Geschäftsabschlüsse ein inhärent unausgewogenes Spiel sind – verschiedene Agenten erzielen deutlich unterschiedliche Ergebnisse für ihre Nutzer. Darüber hinaus können Verhaltensanomalien in LLMs zu finanziellen Verlusten sowohl für Verbraucher als auch für Händler führen, wie beispielsweise übermäßige Ausgaben oder die Annahme unangemessener Angebote. Diese Ergebnisse unterstreichen, dass Automatisierung zwar die Effizienz steigern kann, aber auch erhebliche Risiken mit sich bringt. Nutzer sollten Vorsicht walten lassen, wenn sie Geschäftsentscheidungen an KI-Agenten delegieren.

English

AI agents are increasingly used in consumer-facing applications to assist with tasks such as product search, negotiation, and transaction execution. In this paper, we explore a future scenario where both consumers and merchants authorize AI agents to fully automate negotiations and transactions. We aim to answer two key questions: (1) Do different LLM agents vary in their ability to secure favorable deals for users? (2) What risks arise from fully automating deal-making with AI agents in consumer markets? To address these questions, we develop an experimental framework that evaluates the performance of various LLM agents in real-world negotiation and transaction settings. Our findings reveal that AI-mediated deal-making is an inherently imbalanced game -- different agents achieve significantly different outcomes for their users. Moreover, behavioral anomalies in LLMs can result in financial losses for both consumers and merchants, such as overspending or accepting unreasonable deals. These results underscore that while automation can improve efficiency, it also introduces substantial risks. Users should exercise caution when delegating business decisions to AI agents.