Prédiction du comportement futur en tant que tâche d'apprentissage

Résumé

La confiance en un système d'IA est souvent ancrée par des explications sur son fonctionnement, que l'on utilise ensuite pour prévoir son comportement sur de nouvelles entrées. Pour les grands modèles de raisonnement (LRM), cette voie conventionnelle est particulièrement difficile à suivre : les méthodes d'explication pour les générations de tokens uniques ne se généralisent pas naturellement aux longues trajectoires, et ces trajectoires elles-mêmes sont souvent peu fidèles lorsqu'elles sont lues comme un langage naturel. Nous proposons une alternative qui contourne l'étape d'explication : traiter la prévision de comportement comme une tâche apprenable et entraîner des Prédicteurs de comportement qui, à partir d'une seule trajectoire de raisonnement, effectuent les mêmes prévisions que celles que l'on chercherait habituellement via une explication. Les données d'entraînement du prédicteur sont obtenues en interrogeant le LRM sans aucune annotation humaine, et son inférence s'effectue en un seul passage avant. Nous instancions cette approche sur deux tâches : la probabilité que le LRM répète sa réponse lors de relances, et comment la suppression de parties de l'entrée modifie sa réponse. Nous évaluons cette approche sur ces deux tâches à travers trois ensembles de données de raisonnement diversifiés et constatons que les Prédicteurs de comportement entraînés sont plus précis que GPT-5.4 et Claude Opus-4.6 lisant les mêmes trajectoires en tant que lecteurs naïfs, pour une fraction de leur coût d'inférence. Nous constatons que l'ajustement fin du backbone de bout en bout et son initialisation à partir du LRM cible sont tous deux nécessaires pour obtenir des performances solides. Ces résultats montrent que la trajectoire de raisonnement transporte des informations sur le comportement futur du LRM qui vont au-delà de ce qu'une lecture naïve transmet.

English

Trust in an AI system is often anchored by explanations of how it works, which one then uses to forecast its behavior on new inputs. For large reasoning models (LRMs), this conventional route is particularly difficult to follow: explanation methods for single token generations do not naturally generalize to long trajectories, and the trajectories themselves are often not faithful when read as natural language. We propose an alternative that bypasses the explanation step: treat behavior forecasting as a learnable task and train Behavior Forecasters that operates on a single reasoning trajectory to make the same forecasts one would typically seek from an explanation. The forecaster's training data is obtained by querying the LRM with no human annotation, and its inference is done in a single forward pass. We instantiate this approach on two tasks: how likely the LRM is to repeat its answer on re-runs, and how removing parts of the input changes its answer. We evaluate this approach on both tasks across three diverse reasoning datasets and find that trained Behavior Forecasters are more accurate than GPT-5.4 and Claude Opus-4.6 reading the same trajectories as naive readers, at a small fraction of their inference cost. We find that fine-tuning the backbone end-to-end and initializing it from the target LRM are each necessary for strong performance. These results show that the reasoning trajectory carries information about the LRM's future behavior that goes beyond what naive reading conveys.