PDE-Controller: LLMs para Autoformalização e Raciocínio de EDPs

PDE-Controller: LLMs for Autoformalization and Reasoning of PDEs

February 3, 2025

Autores: Mauricio Soroco, Jialin Song, Mengzhou Xia, Kye Emond, Weiran Sun, Wuyang Chen

cs.AI

Resumo

Embora os avanços recentes em IA para matemática tenham progredido na matemática pura, áreas da matemática aplicada, particularmente equações diferenciais parciais (EDPs), permanecem pouco exploradas, apesar de suas significativas aplicações no mundo real. Apresentamos o PDE-Controller, uma estrutura que permite que modelos de linguagem de grande escala (LLMs) controlem sistemas regidos por equações diferenciais parciais (EDPs). Nossa abordagem capacita os LLMs a transformar instruções informais em linguagem natural em especificações formais e, em seguida, executar etapas de raciocínio e planejamento para melhorar a utilidade do controle de EDPs. Construímos uma solução holística que inclui conjuntos de dados (tanto casos escritos por humanos quanto 2 milhões de amostras sintéticas), modelos de raciocínio matemático e métricas de avaliação inovadoras, todos os quais demandam esforço significativo. Nosso PDE-Controller supera significativamente a ativação dos mais recentes modelos de código aberto e GPT em raciocínio, autoformalização e síntese de programas, alcançando uma melhoria de até 62% no ganho de utilidade para o controle de EDPs. Ao preencher a lacuna entre a geração de linguagem e sistemas de EDPs, demonstramos o potencial dos LLMs em abordar desafios científicos e de engenharia complexos. Disponibilizaremos todos os dados, pontos de verificação do modelo e código em https://pde-controller.github.io/.

English

While recent AI-for-math has made strides in pure mathematics, areas of applied mathematics, particularly PDEs, remain underexplored despite their significant real-world applications. We present PDE-Controller, a framework that enables large language models (LLMs) to control systems governed by partial differential equations (PDEs). Our approach enables LLMs to transform informal natural language instructions into formal specifications, and then execute reasoning and planning steps to improve the utility of PDE control. We build a holistic solution comprising datasets (both human-written cases and 2 million synthetic samples), math-reasoning models, and novel evaluation metrics, all of which require significant effort. Our PDE-Controller significantly outperforms prompting the latest open-source and GPT models in reasoning, autoformalization, and program synthesis, achieving up to a 62% improvement in utility gain for PDE control. By bridging the gap between language generation and PDE systems, we demonstrate the potential of LLMs in addressing complex scientific and engineering challenges. We will release all data, model checkpoints, and code at https://pde-controller.github.io/.