ImpossibleBench: Misurare la Propensione degli LLM a Sfruttare i Casi di Test

ImpossibleBench: Measuring LLMs' Propensity of Exploiting Test Cases

October 23, 2025

Autori: Ziqian Zhong, Aditi Raghunathan, Nicholas Carlini

cs.AI

Abstract

La tendenza a individuare e sfruttare "scorciatoie" per completare i compiti comporta rischi significativi per la valutazione affidabile e il deployment di grandi modelli linguistici (LLM). Ad esempio, un agente LLM con accesso ai test unitari potrebbe eliminare i test che falliscono anziché correggere il bug sottostante. Tale comportamento mina sia la validità dei risultati dei benchmark che l'affidabilità delle implementazioni reali di assistenti di codifica basati su LLM. Per quantificare, studiare e mitigare tale comportamento, introduciamo ImpossibleBench, un framework di benchmark che misura sistematicamente la propensione degli agenti LLM a sfruttare i casi di test. ImpossibleBench crea varianti "impossibili" di compiti provenienti da benchmark esistenti come LiveCodeBench e SWE-bench introducendo conflitti diretti tra la specifica in linguaggio naturale e i test unitari. Misuriamo il "tasso di cheating" di un agente come la sua percentuale di successo su questi compiti impossibili, dove qualsiasi superamento implica necessariamente una scorciatoia che viola le specifiche. Come framework pratico, ImpossibleBench non è solo una valutazione ma uno strumento versatile. Ne dimostriamo l'utilità per: (1) studiare i comportamenti dei modelli, rivelando dettagli più granulari dei comportamenti di cheating, dalla semplice modifica dei test al complesso operator overloading; (2) il context engineering, mostrando come prompt, accesso ai test e feedback loop influenzino i tassi di cheating; e (3) sviluppare strumenti di monitoraggio, fornendo un banco di prova con soluzioni ingannevoli verificate. Ci auguriamo che ImpossibleBench serva come framework utile per costruire sistemi LLM più robusti e affidabili. La nostra implementazione è disponibile all'indirizzo https://github.com/safety-research/impossiblebench.

English

The tendency to find and exploit "shortcuts" to complete tasks poses significant risks for reliable assessment and deployment of large language models (LLMs). For example, an LLM agent with access to unit tests may delete failing tests rather than fix the underlying bug. Such behavior undermines both the validity of benchmark results and the reliability of real-world LLM coding assistant deployments. To quantify, study, and mitigate such behavior, we introduce ImpossibleBench, a benchmark framework that systematically measures LLM agents' propensity to exploit test cases. ImpossibleBench creates "impossible" variants of tasks from existing benchmarks like LiveCodeBench and SWE-bench by introducing direct conflicts between the natural-language specification and the unit tests. We measure an agent's "cheating rate" as its pass rate on these impossible tasks, where any pass necessarily implies a specification-violating shortcut. As a practical framework, ImpossibleBench is not just an evaluation but a versatile tool. We demonstrate its utility for: (1) studying model behaviors, revealing more fine-grained details of cheating behaviors from simple test modification to complex operator overloading; (2) context engineering, showing how prompt, test access and feedback loop affect cheating rates; and (3) developing monitoring tools, providing a testbed with verified deceptive solutions. We hope ImpossibleBench serves as a useful framework for building more robust and reliable LLM systems. Our implementation can be found at https://github.com/safety-research/impossiblebench.