Formalisierung latenter Gedanken: Vier Axiome der Gedankenrepräsentation in LLMs

Zusammenfassung

Wir stellen ein axiomatisches Evaluierungsframework für latente Gedankenrepräsentationen in großen Sprachmodellen (LLMs) vor, das Metriken umfasst, die unabhängig von nachgelagerten Benchmark-Werten sind und Repräsentationsfehler aufdecken, die durch die Benchmark-Genauigkeit maskiert werden. Bestehende Evaluierungen vermischen die Repräsentationsqualität mit der Modellkapazität. Daher können Fehler nicht der Repräsentation zugeschrieben werden, sondern dem Modell, das sie verarbeitet. Wir formalisieren vier funktionale Axiome (Kausalität, Minimalität, Separierbarkeit und Stabilität) und definieren für jedes ein quantitatives Maß, das direkt an der Repräsentation berechnet wird, unabhängig von der nachgelagerten Genauigkeit. Wir prüfen Open-Weight-LLMs anhand von 23 Reasoning-Aufgaben (z. B. räumliches Denken, faktenbasierte Frage-Antwort-Aufgaben). Wir stellen fest, dass kein Kandidat alle vier Axiome gleichzeitig erfüllt, dass die Repräsentationen die Aufgabentypen zuverlässig unterscheiden, aber nicht zwischen zwei Fragen innerhalb derselben Aufgabe unterscheiden können, und dass die Repräsentationen nur wenig Information über das hinaus kodieren, was bereits in der Eingabeeinbettung vorhanden ist. Der Fehler tritt konsistent über dichte, reasoning-destillierte und mittels Reinforcement Learning trainierte Modellfamilien auf, was darauf hindeutet, dass die Lücke strukturell ist und keine Eigenschaft der Modellgröße oder des Trainingsverfahrens darstellt.

English

We introduce an axiomatic evaluation framework for latent thought representations in LLMs, comprising metrics that are independent of downstream benchmark scores and reveal representational failures that benchmark accuracy masks. Existing evaluations conflate representation quality with model capacity. Therefore, failures cannot be attributed to the representation rather than to the model that processes it. We formalize four functional axioms (Causality, Minimality, Separability, and Stability) and define a quantitative measure for each, computed directly on the representation independently of downstream accuracy. We audit open-weight LLMs across 23 reasoning tasks (e.g., Spatial Reasoning, Factual QA). We find that no candidate satisfies all four axioms simultaneously, that the representations distinguish task type reliably but cannot distinguish between two questions within the same task, and that the representations encode little information beyond what is already present in the input embedding. The failure is consistent across dense, reasoning-distilled, and RL-trained model families, indicating that the gap is structural rather than a property of model size or training procedure.