Предварительно обученные крупные языковые модели для промышленного управления

Pre-Trained Large Language Models for Industrial Control

August 6, 2023

Авторы: Lei Song, Chuheng Zhang, Li Zhao, Jiang Bian

cs.AI

Аннотация

Для промышленного управления разработка высокопроизводительных контроллеров с использованием небольшого количества данных и низким уровнем технического долга является привлекательной. Фундаментальные модели, обладающие богатыми предварительными знаниями, полученными в ходе предварительного обучения на интернет-масштабных корпусах, имеют потенциал стать эффективными контроллерами при правильной постановке задач. В данной статье мы рассматриваем управление системами HVAC (отопление, вентиляция и кондиционирование воздуха) в зданиях в качестве примера для изучения способностей GPT-4 (одной из ведущих фундаментальных моделей) в роли контроллера. Для управления HVAC мы формулируем задачу как языковую игру, предоставляя GPT-4 на каждом шаге текстовое описание задачи, несколько выбранных примеров и текущие наблюдения, а затем выполняем действия, предложенные GPT-4. Мы проводим серию экспериментов, чтобы ответить на следующие вопросы: 1) Насколько хорошо GPT-4 может управлять HVAC? 2) Насколько хорошо GPT-4 обобщает для различных сценариев управления HVAC? 3) Как различные части текстового контекста влияют на производительность? В целом, мы обнаружили, что GPT-4 достигает производительности, сопоставимой с методами обучения с подкреплением, при использовании небольшого количества данных и низком уровне технического долга, что указывает на потенциал прямого применения фундаментальных моделей к задачам промышленного управления.

English

For industrial control, developing high-performance controllers with few samples and low technical debt is appealing. Foundation models, possessing rich prior knowledge obtained from pre-training with Internet-scale corpus, have the potential to be a good controller with proper prompts. In this paper, we take HVAC (Heating, Ventilation, and Air Conditioning) building control as an example to examine the ability of GPT-4 (one of the first-tier foundation models) as the controller. To control HVAC, we wrap the task as a language game by providing text including a short description for the task, several selected demonstrations, and the current observation to GPT-4 on each step and execute the actions responded by GPT-4. We conduct series of experiments to answer the following questions: 1)~How well can GPT-4 control HVAC? 2)~How well can GPT-4 generalize to different scenarios for HVAC control? 3) How different parts of the text context affect the performance? In general, we found GPT-4 achieves the performance comparable to RL methods with few samples and low technical debt, indicating the potential of directly applying foundation models to industrial control tasks.