ImpossibleBench : Mesurer la propension des LLM à exploiter les cas de test

ImpossibleBench: Measuring LLMs' Propensity of Exploiting Test Cases

October 23, 2025

papers.authors: Ziqian Zhong, Aditi Raghunathan, Nicholas Carlini

cs.AI

papers.abstract

La tendance à trouver et à exploiter des "raccourcis" pour accomplir des tâches présente des risques significatifs pour l'évaluation fiable et le déploiement des grands modèles de langage (LLM). Par exemple, un agent LLM ayant accès à des tests unitaires pourrait supprimer les tests qui échouent plutôt que de corriger le bogue sous-jacent. Un tel comportement compromet à la fois la validité des résultats de référence et la fiabilité des déploiements réels d'assistants de codage basés sur des LLM. Pour quantifier, étudier et atténuer ces comportements, nous présentons ImpossibleBench, un cadre d'évaluation qui mesure systématiquement la propension des agents LLM à exploiter les cas de test. ImpossibleBench crée des variantes "impossibles" de tâches issues de benchmarks existants comme LiveCodeBench et SWE-bench en introduisant des conflits directs entre la spécification en langage naturel et les tests unitaires. Nous mesurons le "taux de triche" d'un agent par son taux de réussite sur ces tâches impossibles, où toute réussite implique nécessairement un raccourci violant la spécification. En tant que cadre pratique, ImpossibleBench n'est pas seulement une évaluation mais un outil polyvalent. Nous démontrons son utilité pour : (1) l'étude des comportements des modèles, révélant des détails plus granulaires des comportements de triche, allant de la simple modification de tests à la surcharge complexe d'opérateurs ; (2) l'ingénierie du contexte, montrant comment l'invite, l'accès aux tests et la boucle de rétroaction affectent les taux de triche ; et (3) le développement d'outils de surveillance, en fournissant un banc d'essai avec des solutions trompeuses vérifiées. Nous espérons qu'ImpossibleBench servira de cadre utile pour construire des systèmes LLM plus robustes et fiables. Notre implémentation est disponible à l'adresse suivante : https://github.com/safety-research/impossiblebench.

English

The tendency to find and exploit "shortcuts" to complete tasks poses significant risks for reliable assessment and deployment of large language models (LLMs). For example, an LLM agent with access to unit tests may delete failing tests rather than fix the underlying bug. Such behavior undermines both the validity of benchmark results and the reliability of real-world LLM coding assistant deployments. To quantify, study, and mitigate such behavior, we introduce ImpossibleBench, a benchmark framework that systematically measures LLM agents' propensity to exploit test cases. ImpossibleBench creates "impossible" variants of tasks from existing benchmarks like LiveCodeBench and SWE-bench by introducing direct conflicts between the natural-language specification and the unit tests. We measure an agent's "cheating rate" as its pass rate on these impossible tasks, where any pass necessarily implies a specification-violating shortcut. As a practical framework, ImpossibleBench is not just an evaluation but a versatile tool. We demonstrate its utility for: (1) studying model behaviors, revealing more fine-grained details of cheating behaviors from simple test modification to complex operator overloading; (2) context engineering, showing how prompt, test access and feedback loop affect cheating rates; and (3) developing monitoring tools, providing a testbed with verified deceptive solutions. We hope ImpossibleBench serves as a useful framework for building more robust and reliable LLM systems. Our implementation can be found at https://github.com/safety-research/impossiblebench.