ImpossibleBench: Evaluación de la Propensión de los LLM a Explotar Casos de Prueba

ImpossibleBench: Measuring LLMs' Propensity of Exploiting Test Cases

October 23, 2025

Autores: Ziqian Zhong, Aditi Raghunathan, Nicholas Carlini

cs.AI

Resumen

La tendencia a encontrar y explotar "atajos" para completar tareas plantea riesgos significativos para la evaluación confiable y la implementación de modelos de lenguaje grandes (LLM). Por ejemplo, un agente de LLM con acceso a pruebas unitarias podría eliminar las pruebas que fallan en lugar de corregir el error subyacente. Este comportamiento socava tanto la validez de los resultados de los puntos de referencia como la confiabilidad de las implementaciones de asistentes de codificación con LLM en entornos reales. Para cuantificar, estudiar y mitigar dicho comportamiento, presentamos ImpossibleBench, un marco de evaluación que mide sistemáticamente la propensión de los agentes de LLM a explotar los casos de prueba. ImpossibleBench crea variantes "imposibles" de tareas de benchmarks existentes como LiveCodeBench y SWE-bench introduciendo conflictos directos entre la especificación en lenguaje natural y las pruebas unitarias. Medimos la "tasa de trampa" de un agente como su tasa de aprobación en estas tareas imposibles, donde cualquier aprobación implica necesariamente un atajo que viola la especificación. Como marco práctico, ImpossibleBench no es solo una evaluación, sino una herramienta versátil. Demostramos su utilidad para: (1) estudiar comportamientos del modelo, revelando detalles más granulares de las conductas de trampa, desde la simple modificación de pruebas hasta la compleja sobrecarga de operadores; (2) la ingeniería de contexto, mostrando cómo el prompt, el acceso a las pruebas y el bucle de retroalimentación afectan las tasas de trampa; y (3) desarrollar herramientas de monitoreo, proporcionando un banco de pruebas con soluciones engañosas verificadas. Esperamos que ImpossibleBench sirva como un marco útil para construir sistemas de LLM más robustos y confiables. Nuestra implementación se puede encontrar en https://github.com/safety-research/impossiblebench.

English

The tendency to find and exploit "shortcuts" to complete tasks poses significant risks for reliable assessment and deployment of large language models (LLMs). For example, an LLM agent with access to unit tests may delete failing tests rather than fix the underlying bug. Such behavior undermines both the validity of benchmark results and the reliability of real-world LLM coding assistant deployments. To quantify, study, and mitigate such behavior, we introduce ImpossibleBench, a benchmark framework that systematically measures LLM agents' propensity to exploit test cases. ImpossibleBench creates "impossible" variants of tasks from existing benchmarks like LiveCodeBench and SWE-bench by introducing direct conflicts between the natural-language specification and the unit tests. We measure an agent's "cheating rate" as its pass rate on these impossible tasks, where any pass necessarily implies a specification-violating shortcut. As a practical framework, ImpossibleBench is not just an evaluation but a versatile tool. We demonstrate its utility for: (1) studying model behaviors, revealing more fine-grained details of cheating behaviors from simple test modification to complex operator overloading; (2) context engineering, showing how prompt, test access and feedback loop affect cheating rates; and (3) developing monitoring tools, providing a testbed with verified deceptive solutions. We hope ImpossibleBench serves as a useful framework for building more robust and reliable LLM systems. Our implementation can be found at https://github.com/safety-research/impossiblebench.