Формализация латентных мыслей: четыре аксиомы представления мыслей в LLM

Аннотация

Мы представляем аксиоматическую систему оценки латентных представлений мыслей в больших языковых моделях (LLM), включающую метрики, не зависящие от эталонных показателей downstream-задач и выявляющие репрезентационные сбои, которые маскируются точностью на бенчмарках. Существующие методы оценивания смешивают качество представления с ёмкостью модели, поэтому сбои невозможно отнести на счёт самого представления, а не обрабатывающей его модели. Мы формализуем четыре функциональные аксиомы (причинность, минимальность, разделимость и устойчивость) и определяем для каждой количественную меру, вычисляемую непосредственно на представлении, независимо от downstream-точности. Мы проводим аудит моделей LLM с открытыми весами на 23 задачах рассуждения (например, пространственное мышление, фактологический вопрос-ответ). Мы обнаруживаем, что ни один кандидат не удовлетворяет всем четырём аксиомам одновременно, что представления надёжно различают тип задачи, но не способны различать два вопроса внутри одной задачи, а также что эти представления кодируют мало информации сверх той, что уже присутствует во входном эмбеддинге. Данный сбой устойчиво проявляется в семействах плотных моделей, дистиллированных на рассуждение и обученных с подкреплением, что указывает на структурный характер разрыва, а не на его зависимость от размера модели или процедуры обучения.

English

We introduce an axiomatic evaluation framework for latent thought representations in LLMs, comprising metrics that are independent of downstream benchmark scores and reveal representational failures that benchmark accuracy masks. Existing evaluations conflate representation quality with model capacity. Therefore, failures cannot be attributed to the representation rather than to the model that processes it. We formalize four functional axioms (Causality, Minimality, Separability, and Stability) and define a quantitative measure for each, computed directly on the representation independently of downstream accuracy. We audit open-weight LLMs across 23 reasoning tasks (e.g., Spatial Reasoning, Factual QA). We find that no candidate satisfies all four axioms simultaneously, that the representations distinguish task type reliably but cannot distinguish between two questions within the same task, and that the representations encode little information beyond what is already present in the input embedding. The failure is consistent across dense, reasoning-distilled, and RL-trained model families, indicating that the gap is structural rather than a property of model size or training procedure.