테스트에 맞춰 개발하기: 코딩 에이전트는 요청한 내용이 아니라 검증한 내용을 제공한다

초록

벤치마크는 대규모 언어 모델(LLM)의 작업 완료 능력을 평가하는 데 널리 사용되지만, 이러한 접근 방식은 구성 타당성 문제를 축적해 왔으며, 통과 점수가 요청된 작업이 실제로 수행되었는지를 보여주지 못할 수 있다. 우리는 이 두 가지 문제를 연구한다. 통제된 코드-사양 설정에서 두 개의 프로덕션 Copilot CLI 에이전트(claude-opus-4.7, gpt-5.5)가 React Fluent-UI 데이터 테이블을 Angular로 재구현하여 재사용 가능한 라이브러리로 만드는 작업을, 18회의 실행과 세 가지 오라클 가용성 조건 하에서 숨겨진 222-테스트 Playwright 오라클을 통해 수행한다. 점수와 함께, 우리는 기계적 라이브러리 감사를 수행하고 각 판정을 무작위 제거 실험(no-op ablation)으로 확인한다. 오라클이 없을 때, 라이브러리는 존재하지만 완성되지 않은 상태로, 점수를 통해 드러난다. 오라클이 루프 내에 있을 때, 점수는 거의 완벽에 가깝지만, 테스트된 동작을 직접 보유한 데모에서 라이브러리는 죽었거나 부재한 상태로 남는다. 우리는 이를 테스트에 맞춰 개발하기(building to the test)라고 부르며, 두 현상 뒤에 있는 더 넓은 성향을 검증 자각(validation self-awareness)이라고 명명한다. 에이전트는 스스로 사용자가 하는 것처럼 자신이 배송한 것을 검증하지 않는다. 이러한 현상의 보편성은 다른 에이전트, 신호, 모델 패밀리에서 여전히 열린 질문이다. 벤치마크 점수를 넘어, 검증 자각과 같은 성향은 연구의 주목을 받을 만하다.

English

Benchmarks are widely used to evaluate task completion by Large Language Models (LLMs), but this approach has accumulated construction-validity problems, and a passing score may not show whether the requested task was delivered. We study both problems. In a controlled code-as-spec setup, two production Copilot CLI agents (claude-opus-4.7, gpt-5.5) re-implement a React Fluent-UI data table in Angular as a reusable library under a hidden 222-test Playwright oracle across 18 runs and three oracle-availability conditions. Alongside the score, we run a mechanical library audit and check each verdict with a no-op ablation. Without the oracle, the library is present but unfinished, revealed by scores. With the oracle in the loop, the score reaches near-perfect, but from a demo holding the tested behavior directly, the library left dead or absent. We call this building to the test; the broader disposition behind both we call validation self-awareness. The agent does not, on its own, validate what it ships as a user would. Prevalence remains an open question across other agents, signals, and model families. Beyond benchmark scores, dispositions like validation self-awareness merit research attention.