ChatPaper.aiChatPaper

고정된 12B 모델, 검증된 작업에서 최첨단 모델을 압도: 100% 정확도, 0 토큰, 비트 정확, 영원히

A Frozen 12B Beats Frontier Models on Verified Work: 100% Accuracy, 0 Tokens, Bit-Exact, Forever

July 26, 2026
저자: Sietse Schelpe
cs.AI

초록

오늘날 언어 모델을 개선한다는 것은 재훈련을 의미한다: 막대한 연산, 사이클마다 새로운 불투명 모델, 비결정론적 출력. 우리는 반대 경로를 취한다: 모델은 고정된 상태로 유지되며, 검증된 해결책의 지속적 메모리가 그 옆에서 성장한다. 문제 군이 해결되고 정답지를 참조하지 않는 독립적 검증 단계를 통과하면, 해당 군의 모든 새 인스턴스는 제로 생성 토큰으로 비트 정확하게 결정론적으로 응답된다. 네 공급업체의 네 가지 아키텍처(밀집형 및 전문가 혼합형)에 걸친 9개 문제 군의 180개 새로운 인스턴스에서 각각 답변당 제로 생성 토큰으로 180/180을 기록했다: 매개변수 확장과 분리된 실행 중심 역량이다. 음성 대조군은 그 역량을 전적으로 메모리 탓으로 돌린다: 메모리를 비우면 아무것도 해결하지 못한다. 동일한 저장 전 검증 계약이 개방형 추론에도 적용된다: 네 모델 모두에서 일관성 게이트 수락 88/88, 기계 검증 형식 증명, 추론 방법 전이 77/80. 메모리 선택은 1.4마이크로초가 소요되며, 전체 재사용은 36mWh에서 6-23ms 내에 완료된다. 근사 유사도 검색은 정확한 주소 지정이 오류를 전혀 발생시키지 않는 4,500개 항목의 검증 저장소에서 94.3%의 확률로 잘못된 항목을 선택한다. 이 저장소는 또한 출시된 어떤 엔진도 따라잡지 못하는 규모의 작업 컨텍스트로 기능한다: 단일 46GB GPU에서 플랫 메모리로 6,000,000개 토큰의 이동 가능한 윈도우를 제공하며, vLLM은 30,399개 토큰에서 멈추고 SGLang은 32,000개를 넘어서면 조용히 잘라낸다. 발표된 벤치마크에서 경계 모델은 원시 무작위 추론에서 여전히 어떤 12B보다 훨씬 앞서 있다. 그러나 이 시스템이 해결하고 검증한 모든 것에서는 비교가 역전된다: 경계 API 호출은 모든 쿼리에 대해 영원히 새로운 생성 패스를 지불하는 반면, 검증된 재사용은 제로 토큰 비용으로 매번 동일한 비트를 반환한다. 공개 테스트벤치(무료, 속도 제한 접근)가 본 보고서와 함께 제공된다: https://corbenic-galahad-bench.hf.space
English
Improving a language model today means retraining it: enormous compute, a new opaque model each cycle, non-deterministic output. We take the opposite path: the model stays frozen, and a persistent memory of verified solutions grows beside it. Once a problem family is solved and has passed an independent verification step that never consults the answer key, every new instance of that family is answered at zero generation tokens, bit-exact, deterministically. Across 180 fresh instances spanning nine problem families, four architectures from four vendors - dense and mixture-of-experts - each score 180/180 at zero generation tokens per answer: execution-bound capability decoupled from parameter scaling. A negative control attributes the capability fully to the memory: emptied, it solves nothing. The same verify-before-store contract holds for open-ended reasoning: 88/88 consistency-gated acceptances across all four models, machine-checked formal proof, and reasoning-method transfer at 77/80. Memory selection takes 1.4 microseconds; a full reuse completes in 6-23 ms at 36 mWh. Approximate similarity retrieval selects the wrong item 94.3% of the time on a 4,500-item verified store where exact addressing makes zero errors. The store also serves as working context at a scale no shipped engine matches: a 6,000,000-token movable window on a single 46 GB GPU at flat memory, where vLLM stops at 30,399 tokens and SGLang silently truncates past 32,000. On published benchmarks, frontier models remain far ahead of any 12B at raw from-scratch reasoning; on everything this system has solved and verified, the comparison inverts: a frontier API call pays a fresh generation pass on every query, forever, while verified reuse costs zero tokens and returns the identical bits every time. A public testbench with free, rate-limited access accompanies this report: https://corbenic-galahad-bench.hf.space