WebShaper: Síntese de Dados Agêntica por meio de Formalização de Busca de Informação

WebShaper: Agentically Data Synthesizing via Information-Seeking Formalization

July 20, 2025

Autores: Zhengwei Tao, Jialong Wu, Wenbiao Yin, Junkai Zhang, Baixuan Li, Haiyang Shen, Kuan Li, Liwen Zhang, Xinyu Wang, Yong Jiang, Pengjun Xie, Fei Huang, Jingren Zhou

cs.AI

Resumo

O advento de agentes alimentados por Modelos de Linguagem de Grande Escala (LLMs) revolucionou a inteligência artificial ao permitir soluções para tarefas complexas e abertas por meio de capacidades de busca de informações (IS) baseadas na web. A escassez de dados de treinamento de alta qualidade tem limitado o desenvolvimento de agentes de IS. As abordagens existentes geralmente adotam um paradigma orientado por informações que primeiro coleta dados da web e, em seguida, gera perguntas com base na recuperação. No entanto, isso pode levar a inconsistências entre a estrutura da informação e a estrutura de raciocínio, pergunta e resposta. Para mitigar isso, propomos um framework de síntese de dados de IS orientado por formalização, chamado WebShaper, para construir um conjunto de dados. O WebShaper formaliza sistematicamente tarefas de IS por meio da teoria dos conjuntos. Central para essa formalização é o conceito de Projeções de Conhecimento (KP), que permite um controle preciso sobre a estrutura de raciocínio por meio de composições de operações de KP. Durante a síntese, começamos criando tarefas iniciais e, em seguida, usamos um processo de expansão em várias etapas. Em cada etapa, um Expansor agentivo expande a pergunta formal atual para torná-la mais complexa com ferramentas de recuperação e validação baseadas em nossa formalização. Treinamos nosso modelo no conjunto de dados sintetizado. Os resultados dos experimentos demonstram que o WebShaper alcança desempenho de ponta entre os agentes de IS de código aberto nos benchmarks GAIA e WebWalkerQA.

English

The advent of Large Language Model (LLM)-powered agents has revolutionized artificial intelligence by enabling solutions to complex, open-ended tasks through web-based information-seeking (IS) capabilities. The scarcity of high-quality training data has limited the development of IS agents. Existing approaches typically adopt an information-driven paradigm that first collects web data and then generates questions based on the retrieval. However, this may lead to inconsistency between information structure and reasoning structure, question and answer. To mitigate, we propose a formalization-driven IS data synthesis framework WebShaper to construct a dataset. WebShaper systematically formalizes IS tasks through set theory. Central to the formalization is the concept of Knowledge Projections (KP), which enables precise control over reasoning structure by KP operation compositions. During synthesis, we begin by creating seed tasks, then use a multi-step expansion process. At each step, an agentic Expander expands the current formal question more complex with retrieval and validation tools based on our formalization. We train our model on the synthesized dataset. Experiment results demonstrate that WebShaper achieves state-of-the-art performance among open-sourced IS agents on GAIA and WebWalkerQA benchmarks.