Agent-ValueBench: Um Benchmark Abrangente para Avaliar Valores de Agentes

Resumo

Agentes autônomos amadureceram rapidamente como executores de tarefas e têm sido amplamente implantados por meio de plataformas como OpenClaw. Preocupações com segurança têm, com razão, atraído crescente atenção da pesquisa, e por trás delas estão os valores que silenciosamente orientam o comportamento dos agentes. No entanto, os benchmarks de valores existentes permanecem restritos a LLMs, deixando os valores dos agentes em grande parte inexplorados. De pontos de vista intuitivos, empíricos e teóricos, mostramos que os valores de um agente divergem dos de seu LLM subjacente, e a modalidade agêntica introduz adicionalmente desafios em nível de conjunto de dados, avaliação e sistema, ausentes em protocolos exclusivamente textuais. Para preencher essa lacuna, apresentamos o Agent-ValueBench, o primeiro benchmark dedicado a valores de agentes. Ele conta com 394 ambientes executáveis em 16 domínios, oferecendo 4.335 tarefas de conflito de valores que abrangem 28 sistemas de valores e 332 dimensões. Cada instância é co-sintetizada por meio de nosso pipeline de ponta a ponta desenvolvido para esse fim e curada por instância por psicólogos profissionais. Cada tarefa vem com duas trajetórias douradas alinhadas aos polos, cujos pontos de verificação ancoram um juiz baseado em rubrica em nível de trajetória. Ao avaliar 14 modelos de fronteira, proprietários e de pesos abertos, em 4 plataformas principais, descobrimos três resultados convergentes. Os valores dos agentes manifestam-se primeiro como uma Maré de Valores de homogeneidade entre modelos, abaixo de contracorrentes interpretáveis. Essa maré se curva de forma não aditiva sob a atração da plataforma, e ainda mais decisivamente sob direcionamento deliberado por meio de habilidades incorporadas. Em conjunto, esses resultados sinalizam que a alavanca de alinhamento do agente está se deslocando do alinhamento clássico de modelos e do direcionamento por prompt para o alinhamento de plataforma e o direcionamento por habilidades.

English

Autonomous agents have rapidly matured as task executors and seen widespread deployment via harnesses such as OpenClaw. Safety concerns have rightly drawn growing research attention, and beneath them lie the values silently steering agent behavior. Existing value benchmarks, however, remain confined to LLMs, leaving agent values largely uncharted. From intuitive, empirical, and theoretical vantage points, we show that an agent's values diverge from those of its underlying LLM, and the agentic modality further introduces dataset-, evaluation-, and system-level challenges absent from text-only protocols. We close this gap with Agent-ValueBench, the first benchmark dedicated to agent values. It features 394 executable environments across 16 domains, offering 4,335 value-conflict tasks that cover 28 value systems and 332 dimensions. Every instance is co-synthesized through our purpose-built end-to-end pipeline and curated per-instance by professional psychologists. Each task ships with two pole-aligned golden trajectories whose checkpoints anchor a trajectory-level rubric-based judge. Benchmarking 14 frontier proprietary and open-weights models across 4 mainstream harnesses, we uncover three concerted findings. Agent values first manifest as a Value Tide of cross-model homogeneity beneath interpretable counter-currents. This tide bends non-additively under harness pull, and yet more decisively under deliberate steering via embedded skills. Together these results signal that the agent-alignment lever is shifting from classical model alignment and prompt steering toward harness alignment and skill steering.