ChatPaper.aiChatPaper

Sistemas de IA Agentes Devem Ser Projetados como Alocadores Marginais de Tokens

Agentic AI Systems Should Be Designed as Marginal Token Allocators

May 2, 2026
Autores: Siqi Zhu
cs.AI

Resumo

Este artigo de posição defende que os sistemas de IA agentivos devem ser concebidos e avaliados como economias de alocação marginal de *tokens*, e não como geradores de texto precificados por unidade. Acompanhamos um único pedido – um programador a solicitar a um agente de código que corrija um teste com falha – através de quatro camadas económicas que hoje são projetadas isoladamente: um *router* que decide qual modelo responde, um agente que decide se deve planear, agir, verificar ou delegar, uma *stack* de serviço que decide como produzir cada *token*, e um *pipeline* de treino que decide se o rasto vale a pena ser aprendido. Mostramos que todas as quatro camadas estão a resolver a mesma condição de primeira ordem – benefício marginal igual a custo marginal mais custo de latência mais custo de risco – com diferentes conjuntos de índices e diferentes preços. A estrutura é deliberadamente mínima: não propomos uma teoria completa da economia da IA. Mas adotar a alocação marginal de *tokens* como o objeto contabilístico partilhado explica porque é que os sistemas que minimizam localmente os *tokens* os mal alocam globalmente, prevê um pequeno conjunto de modos de falha recorrentes (*over-routing*, *over-delegation*, *under-verification*, congestionamento no serviço, *rollouts* desatualizados, uso incorreto da *cache*), e aponta para uma agenda de investigação concreta em avaliação consciente de *tokens*, precificação da autonomia, serviço com preços de congestionamento e orçamentação de RL ajustada ao risco.
English
This position paper argues that agentic AI systems should be designed and evaluated as marginal token allocation economies rather than as text generators priced by the unit. We follow a single request -- a developer asking a coding agent to fix a failing test -- through four economic layers that today are designed in isolation: a router that decides which model answers, an agent that decides whether to plan, act, verify, or defer, a serving stack that decides how to produce each token, and a training pipeline that decides whether the trace is worth learning from. We show that all four layers are solving the same first-order condition -- marginal benefit equals marginal cost plus latency cost plus risk cost -- with different index sets and different prices. The framing is deliberately minimal: we do not propose a complete theory of AI economics. But adopting marginal token allocation as the shared accounting object explains why systems that locally minimize tokens globally misallocate them, predicts a small set of recurring failure modes (over-routing, over-delegation, under-verification, serving congestion, stale rollouts, cache misuse), and points to a concrete research agenda in token-aware evaluation, autonomy pricing, congestion-priced serving, and risk-adjusted RL budgeting.