Параллельное декодирование с контекстом экспертов для поискового расширенного генеративного моделирования

Parallel Context-of-Experts Decoding for Retrieval Augmented Generation

January 13, 2026

Авторы: Giulio Corallo, Paolo Papotti

cs.AI

Аннотация

Технология генерации с расширением выборкой данных сталкивается с компромиссом: объединение документов в длинный промпт позволяет осуществлять междокументные рассуждения, но создает узкие места на этапе предварительного заполнения, тогда как раздельное кэширование ключей и значений документов обеспечивает скорость, но нарушает междокументное взаимодействие. Мы предлагаем декодирование с параллельным контекстом экспертов (Pced) — не требующую дообучения архитектуру, которая переносит агрегацию свидетельств из механизма внимания на этап декодирования. Pced рассматривает retrieved-документы как изолированных «экспертов», синхронизируя их предсказания с помощью нового правила контрастного декодирования с учетом выборки, которое взвешивает логиты экспертов относительно априорного распределения модели. Данный подход восстанавливает возможности междокументных рассуждений без построения общего механизма внимания между документами.

English

Retrieval Augmented Generation faces a trade-off: concatenating documents in a long prompt enables multi-document reasoning but creates prefill bottlenecks, while encoding document KV caches separately offers speed but breaks cross-document interaction. We propose Parallel Context-of-Experts Decoding (Pced), a training-free framework that shifts evidence aggregation from the attention mechanism to the decoding. Pced treats retrieved documents as isolated "experts", synchronizing their predictions via a novel retrieval-aware contrastive decoding rule that weighs expert logits against the model prior. This approach recovers cross-document reasoning capabilities without constructing a shared attention across documents.