Predicción del comportamiento futuro como tarea de aprendizaje

Resumen

La confianza en un sistema de IA suele estar fundamentada en explicaciones sobre su funcionamiento, las cuales se utilizan para predecir su comportamiento ante nuevas entradas. En el caso de los modelos de razonamiento a gran escala (LRMs, por sus siglas en inglés), esta ruta convencional es especialmente difícil de seguir: los métodos de explicación para generaciones de tokens individuales no se generalizan de forma natural a trayectorias largas, y dichas trayectorias, cuando se interpretan como lenguaje natural, a menudo carecen de fidelidad. Proponemos una alternativa que evita el paso de la explicación: tratar la predicción del comportamiento como una tarea aprendible y entrenar Predictores de Comportamiento que operan sobre una única trayectoria de razonamiento para realizar las mismas predicciones que típicamente se buscarían en una explicación. Los datos de entrenamiento del predictor se obtienen consultando al LRM sin anotación humana, y su inferencia se realiza en una sola pasada hacia adelante. Implementamos este enfoque en dos tareas: la probabilidad de que el LRM repita su respuesta en ejecuciones repetidas y cómo la eliminación de partes de la entrada modifica su respuesta. Evaluamos este enfoque en ambas tareas a través de tres conjuntos de datos de razonamiento diversos y encontramos que los Predictores de Comportamiento entrenados son más precisos que GPT-5.4 y Claude Opus-4.6 al leer las mismas trayectorias como lectores ingenuos, con una fracción de su costo de inferencia. Observamos que ajustar finamente la red troncal de extremo a extremo e inicializarla desde el LRM objetivo son ambos necesarios para un rendimiento sólido. Estos resultados muestran que la trayectoria de razonamiento contiene información sobre el comportamiento futuro del LRM que va más allá de lo que transmite una lectura ingenua.

English

Trust in an AI system is often anchored by explanations of how it works, which one then uses to forecast its behavior on new inputs. For large reasoning models (LRMs), this conventional route is particularly difficult to follow: explanation methods for single token generations do not naturally generalize to long trajectories, and the trajectories themselves are often not faithful when read as natural language. We propose an alternative that bypasses the explanation step: treat behavior forecasting as a learnable task and train Behavior Forecasters that operates on a single reasoning trajectory to make the same forecasts one would typically seek from an explanation. The forecaster's training data is obtained by querying the LRM with no human annotation, and its inference is done in a single forward pass. We instantiate this approach on two tasks: how likely the LRM is to repeat its answer on re-runs, and how removing parts of the input changes its answer. We evaluate this approach on both tasks across three diverse reasoning datasets and find that trained Behavior Forecasters are more accurate than GPT-5.4 and Claude Opus-4.6 reading the same trajectories as naive readers, at a small fraction of their inference cost. We find that fine-tuning the backbone end-to-end and initializing it from the target LRM are each necessary for strong performance. These results show that the reasoning trajectory carries information about the LRM's future behavior that goes beyond what naive reading conveys.