Vorhersage zukünftigen Verhaltens als Lernaufgabe

Zusammenfassung

Das Vertrauen in ein KI-System wird oft durch Erklärungen seiner Funktionsweise verankert, die man dann nutzt, um sein Verhalten bei neuen Eingaben vorherzusagen. Bei großen Reasoning-Modellen (Large Reasoning Models, LRMs) ist dieser konventionelle Weg besonders schwer zu beschreiten: Erklärungsmethoden für einzelne Token-Generierungen lassen sich nicht ohne Weiteres auf lange Trajektorien verallgemeinern, und die Trajektorien selbst sind bei einer Interpretation als natürliche Sprache oft nicht treu. Wir schlagen eine Alternative vor, die den Erklärungsschritt umgeht: Die Verhaltensvorhersage als lernbare Aufgabe zu behandeln und Verhaltensvorhersager (Behavior Forecasters) zu trainieren, die auf einer einzigen Reasoning-Trajektorie operieren, um dieselben Vorhersagen zu treffen, die man typischerweise von einer Erklärung erwartet. Die Trainingsdaten des Vorhersagers werden durch Abfragen des LRM ohne menschliche Annotation gewonnen, und seine Inferenz erfolgt in einem einzigen Vorwärtsdurchlauf. Wir setzen diesen Ansatz für zwei Aufgaben um: wie wahrscheinlich das LRM seine Antwort bei wiederholten Durchläufen wiederholt, und wie sich die Entfernung von Teilen der Eingabe auf seine Antwort auswirkt. Wir evaluieren diesen Ansatz für beide Aufgaben über drei verschiedene Reasoning-Datensätze hinweg und stellen fest, dass trainierte Verhaltensvorhersager genauer sind als GPT-5.4 und Claude Opus-4.6, wenn diese dieselben Trajektorien als naive Leser interpretieren – und das zu einem Bruchteil deren Inferenzkosten. Wir zeigen, dass das End-to-End-Feintuning des Backbones und seine Initialisierung vom Ziel-LRM jeweils für eine starke Leistung notwendig sind. Diese Ergebnisse belegen, dass die Reasoning-Trajektorie Informationen über das zukünftige Verhalten des LRM enthält, die über das hinausgehen, was eine naive Lektüre vermittelt.

English

Trust in an AI system is often anchored by explanations of how it works, which one then uses to forecast its behavior on new inputs. For large reasoning models (LRMs), this conventional route is particularly difficult to follow: explanation methods for single token generations do not naturally generalize to long trajectories, and the trajectories themselves are often not faithful when read as natural language. We propose an alternative that bypasses the explanation step: treat behavior forecasting as a learnable task and train Behavior Forecasters that operates on a single reasoning trajectory to make the same forecasts one would typically seek from an explanation. The forecaster's training data is obtained by querying the LRM with no human annotation, and its inference is done in a single forward pass. We instantiate this approach on two tasks: how likely the LRM is to repeat its answer on re-runs, and how removing parts of the input changes its answer. We evaluate this approach on both tasks across three diverse reasoning datasets and find that trained Behavior Forecasters are more accurate than GPT-5.4 and Claude Opus-4.6 reading the same trajectories as naive readers, at a small fraction of their inference cost. We find that fine-tuning the backbone end-to-end and initializing it from the target LRM are each necessary for strong performance. These results show that the reasoning trajectory carries information about the LRM's future behavior that goes beyond what naive reading conveys.