PDE-Controller: LLM's voor Autoformalisering en Redenering van PDE's

PDE-Controller: LLMs for Autoformalization and Reasoning of PDEs

February 3, 2025

Auteurs: Mauricio Soroco, Jialin Song, Mengzhou Xia, Kye Emond, Weiran Sun, Wuyang Chen

cs.AI

Samenvatting

Hoewel recente AI-voor-wiskunde vooruitgang heeft geboekt in de zuivere wiskunde, blijven gebieden van toegepaste wiskunde, met name partiële differentiaalvergelijkingen (PDE's), onderbelicht ondanks hun aanzienlijke real-world toepassingen. We presenteren PDE-Controller, een raamwerk dat grote taalmodellen (LLM's) in staat stelt om systemen te besturen die worden beheerst door partiële differentiaalvergelijkingen (PDE's). Onze aanpak stelt LLM's in staat om informele natuurlijke taalinstructies om te zetten in formele specificaties, en vervolgens redenerings- en planningsstappen uit te voeren om de bruikbaarheid van PDE-besturing te verbeteren. We bouwen een allesomvattende oplossing bestaande uit datasets (zowel door mensen geschreven gevallen als 2 miljoen synthetische voorbeelden), wiskundige redeneringsmodellen en nieuwe evaluatiemetrics, die allemaal aanzienlijke inspanningen vereisen. Onze PDE-Controller presteert aanzienlijk beter dan het aansturen van de nieuwste open-source en GPT-modellen in redenering, autoformalisatie en programma synthese, met een verbetering van maximaal 62% in bruikbaarheidswinst voor PDE-besturing. Door de kloof tussen taalgeneratie en PDE-systemen te overbruggen, tonen we het potentieel van LLM's aan in het aanpakken van complexe wetenschappelijke en technische uitdagingen. We zullen alle gegevens, modelcontrolepunten en code vrijgeven op https://pde-controller.github.io/.

English

While recent AI-for-math has made strides in pure mathematics, areas of applied mathematics, particularly PDEs, remain underexplored despite their significant real-world applications. We present PDE-Controller, a framework that enables large language models (LLMs) to control systems governed by partial differential equations (PDEs). Our approach enables LLMs to transform informal natural language instructions into formal specifications, and then execute reasoning and planning steps to improve the utility of PDE control. We build a holistic solution comprising datasets (both human-written cases and 2 million synthetic samples), math-reasoning models, and novel evaluation metrics, all of which require significant effort. Our PDE-Controller significantly outperforms prompting the latest open-source and GPT models in reasoning, autoformalization, and program synthesis, achieving up to a 62% improvement in utility gain for PDE control. By bridging the gap between language generation and PDE systems, we demonstrate the potential of LLMs in addressing complex scientific and engineering challenges. We will release all data, model checkpoints, and code at https://pde-controller.github.io/.