Ваш контекст не является массивом: раскрывая ограничения случайного доступа в трансформерах

Your Context Is Not an Array: Unveiling Random Access Limitations in Transformers

August 10, 2024

Авторы: MohammadReza Ebrahimi, Sunny Panchal, Roland Memisevic

cs.AI

Аннотация

Несмотря на свои недавние успехи, модели языка на основе трансформеров показывают удивительные режимы сбоя. Хорошо известным примером таких режимов сбоя является их неспособность к обобщению по длине: решение примеров проблем во время вывода, которые длиннее тех, что были увидены во время обучения. В данной работе мы дополнительно исследуем коренную причину этого сбоя, выполнив подробный анализ поведения модели на простой задаче четности. Наш анализ предполагает, что неудачи в обобщении по длине тесно связаны с неспособностью модели выполнять случайные обращения к памяти в пределах своего окна контекста. Мы представляем подтверждающие доказательства этой гипотезы, продемонстрировав эффективность методологий, которые обходят необходимость индексации или позволяют косвенный случайный доступ к токенам через адресацию на основе содержания. Мы также показываем, где и как неспособность выполнять случайный доступ к памяти проявляется через визуализацию карт внимания.

English

Despite their recent successes, Transformer-based large language models show surprising failure modes. A well-known example of such failure modes is their inability to length-generalize: solving problem instances at inference time that are longer than those seen during training. In this work, we further explore the root cause of this failure by performing a detailed analysis of model behaviors on the simple parity task. Our analysis suggests that length generalization failures are intricately related to a model's inability to perform random memory accesses within its context window. We present supporting evidence for this hypothesis by demonstrating the effectiveness of methodologies that circumvent the need for indexing or that enable random token access indirectly, through content-based addressing. We further show where and how the failure to perform random memory access manifests through attention map visualizations.