DynaSaur: Agentes de Linguagem Avançados Além de Ações Predefinidas

DynaSaur: Large Language Agents Beyond Predefined Actions

November 4, 2024

Autores: Dang Nguyen, Viet Dac Lai, Seunghyun Yoon, Ryan A. Rossi, Handong Zhao, Ruiyi Zhang, Puneet Mathur, Nedim Lipka, Yu Wang, Trung Bui, Franck Dernoncourt, Tianyi Zhou

cs.AI

Resumo

Os sistemas de agentes LLM existentes geralmente selecionam ações de um conjunto fixo e predefinido a cada passo. Embora essa abordagem seja eficaz em ambientes fechados e de escopo restrito, argumentamos que ela apresenta dois desafios principais ao implantar agentes LLM em cenários do mundo real: (1) a seleção de um conjunto fixo de ações restringe significativamente as capacidades de planejamento e atuação dos agentes LLM, e (2) essa abordagem requer um esforço humano substancial para enumerar e implementar todas as ações possíveis, o que se torna impraticável em ambientes complexos com um vasto número de ações potenciais. Neste trabalho, propomos um framework de agente LLM que permite a criação dinâmica e composição de ações de forma online. Neste framework, o agente interage com o ambiente gerando e executando programas escritos em uma linguagem de programação de propósito geral a cada passo. Além disso, as ações geradas são acumuladas ao longo do tempo para uso futuro. Nossos experimentos extensivos no benchmark GAIA demonstram que este framework oferece uma flexibilidade significativamente maior e supera os métodos anteriores. Notavelmente, ele permite que um agente LLM se recupere em cenários onde nenhuma ação relevante existe no conjunto predefinido ou quando as ações existentes falham devido a casos não previstos. No momento da escrita, ocupamos a primeira posição no ranking público do GAIA. Nosso código pode ser encontrado em https://github.com/adobe-research/dynasaur.

English

Existing LLM agent systems typically select actions from a fixed and predefined set at every step. While this approach is effective in closed, narrowly-scoped environments, we argue that it presents two major challenges when deploying LLM agents in real-world scenarios: (1) selecting from a fixed set of actions significantly restricts the planning and acting capabilities of LLM agents, and (2) this approach requires substantial human effort to enumerate and implement all possible actions, which becomes impractical in complex environments with a vast number of potential actions. In this work, we propose an LLM agent framework that enables the dynamic creation and composition of actions in an online manner. In this framework, the agent interacts with the environment by generating and executing programs written in a general-purpose programming language at each step. Furthermore, generated actions are accumulated over time for future reuse. Our extensive experiments on the GAIA benchmark demonstrate that this framework offers significantly greater flexibility and outperforms previous methods. Notably, it allows an LLM agent to recover in scenarios where no relevant action exists in the predefined set or when existing actions fail due to unforeseen edge cases. At the time of writing, we hold the top position on the GAIA public leaderboard. Our code can be found in https://github.com/adobe-research/dynasaur{https://github.com/adobe-research/dynasaur}.