Более мощные модели НЕ являются более сильными учителями для настройки инструкций.Stronger Models are NOT Stronger Teachers for Instruction Tuning
Настройка инструкций широко применяется для обеспечения эффективного следования крупными языковыми моделями (LLM) инструкциям пользователей. Результативные способности следования инструкциям LLM в значительной степени зависят от наборов данных инструкций, используемых для настройки. Недавно синтетические наборы данных инструкций стали экономически целесообразным решением для обеспечения LLM разнообразными и качественными инструкциями. Однако существующие подходы обычно предполагают, что более крупные или более мощные модели являются более сильными учителями для настройки инструкций и, следовательно, просто принимают эти модели в качестве генераторов ответов на синтетические инструкции. В данной статье мы оспариваем это широко принятое предположение. Наши обширные эксперименты среди пяти базовых моделей и двадцати генераторов ответов показывают, что более крупные и мощные модели не обязательно являются более сильными учителями для более маленьких моделей. Мы называем этот феномен Парадоксом Более Крупных Моделей. Мы замечаем, что существующие метрики не могут точно предсказать эффективность генераторов ответов, поскольку они игнорируют совместимость между учителями и базовыми моделями, подлежащими доводке. Мы разрабатываем новую метрику, названную Совместимостно-Корректируемая Награда (CAR), для измерения эффективности генераторов ответов. Наши эксперименты среди пяти базовых моделей показывают, что CAR превосходит практически все базовые значения.