CRITIC: Крупные языковые модели могут самостоятельно корректироваться с помощью инструмента интерактивной критики
CRITIC: Large Language Models Can Self-Correct with Tool-Interactive Critiquing
May 19, 2023
Авторы: Zhibin Gou, Zhihong Shao, Yeyun Gong, Yelong Shen, Yujiu Yang, Nan Duan, Weizhu Chen
cs.AI
Аннотация
Последние достижения в области больших языковых моделей (LLM) впечатляют. Однако эти модели иногда демонстрируют несоответствия и проблемное поведение, например, выдумывают факты, генерируют ошибочный код или создают оскорбительный и токсичный контент. В отличие от таких моделей, люди обычно используют внешние инструменты для проверки и уточнения своего первоначального контента, например, поисковые системы для проверки фактов или интерпретаторы кода для отладки. Вдохновленные этим наблюдением, мы представляем фреймворк под названием CRITIC, который позволяет LLM, по сути являющимся "черными ящиками", проверять и постепенно улучшать свои выходные данные, подобно тому, как люди взаимодействуют с инструментами. Более конкретно, начиная с первоначального результата, CRITIC взаимодействует с подходящими инструментами для оценки определенных аспектов текста, а затем корректирует выходные данные на основе обратной связи, полученной в процессе проверки. Комплексные оценки, включающие свободные ответы на вопросы, синтез математических программ и снижение токсичности, демонстрируют, что CRITIC последовательно улучшает производительность LLM. В то же время наше исследование подчеркивает ключевую важность внешней обратной связи для стимулирования постоянного самоулучшения LLM.
English
Recent developments in large language models (LLMs) have been impressive.
However, these models sometimes show inconsistencies and problematic behavior,
such as hallucinating facts, generating flawed code, or creating offensive and
toxic content. Unlike these models, humans typically utilize external tools to
cross-check and refine their initial content, like using a search engine for
fact-checking, or a code interpreter for debugging. Inspired by this
observation, we introduce a framework called CRITIC that allows LLMs, which are
essentially "black boxes" to validate and progressively amend their own outputs
in a manner similar to human interaction with tools. More specifically,
starting with an initial output, CRITIC interacts with appropriate tools to
evaluate certain aspects of the text, and then revises the output based on the
feedback obtained during this validation process. Comprehensive evaluations
involving free-form question answering, mathematical program synthesis, and
toxicity reduction demonstrate that CRITIC consistently enhances the
performance of LLMs. Meanwhile, our research highlights the crucial importance
of external feedback in promoting the ongoing self-improvement of LLMs.