Самоуравновешенная цепочка мыслей

Self-Harmonized Chain of Thought

September 6, 2024

Авторы: Ziqi Jin, Wei Lu

cs.AI

Аннотация

Промптинг "Цепочка Мыслей" (CoT) показывает, что большие языковые модели способны выполнять сложное рассуждение через промежуточные шаги. Промптинг CoT в основном разделяется на три подхода. Первый подход использует простые подсказки, такие как "Давайте думать пошагово", чтобы сгенерировать последовательный процесс мышления перед получением ответа. Второй подход использует созданные человеком, пошаговые демонстрации для направления процесса рассуждения модели. Третий автоматизирует генерацию обоснованных демонстраций с помощью "Давайте думать пошагово". Этот подход иногда приводит к ошибкам в рассуждениях, подчеркивая необходимость разнообразных демонстраций для смягчения его вводящего в заблуждение воздействия. Однако разнообразные демонстрации представляют вызовы для эффективного представления. В данной работе мы предлагаем ECHO, метод самоуравновешивающегося промптинга "Цепочка Мыслей". Он объединяет разнообразные пути решения в единый и эффективный шаблон решения. ECHO демонстрирует лучшую общую производительность в трех областях рассуждения.

English

Chain-of-Thought (CoT) prompting reveals that large language models are capable of performing complex reasoning via intermediate steps. CoT prompting is primarily categorized into three approaches. The first approach utilizes straightforward prompts like ``Let's think step by step'' to generate a sequential thought process before yielding an answer. The second approach makes use of human-crafted, step-by-step demonstrations to guide the model's reasoning process. The third automates the generation of reasoned demonstrations with the 'Let's think step by step'.This approach sometimes leads to reasoning errors, highlighting the need to diversify demonstrations to mitigate its misleading effects. However, diverse demonstrations pose challenges for effective representations. In this work, we propose ECHO, a self-harmonized chain-of-thought prompting method. It consolidates diverse solution paths into a uniform and effective solution pattern.ECHO demonstrates the best overall performance across three reasoning domains.