ChatPaper.aiChatPaper

凍結12Bモデルが検証作業でフロンティアモデルを凌駕:100%精度、0トークン、ビット完全一致、永久に

A Frozen 12B Beats Frontier Models on Verified Work: 100% Accuracy, 0 Tokens, Bit-Exact, Forever

July 26, 2026
著者: Sietse Schelpe
cs.AI

要旨

今日、言語モデルを改善するということは、再訓練を意味する。膨大な計算資源、サイクルごとに新たな不透明なモデル、非決定論的な出力である。我々は逆の経路をとる。モデルは凍結されたままで、検証済みの解の永続的なメモリがその横で成長する。問題ファミリーが解かれ、解答鍵を一切参照しない独立した検証ステップを通過すると、そのファミリーのすべての新しいインスタンスはゼロ生成トークンで、ビット正確に、決定論的に回答される。9つの問題ファミリーにわたる180の新しいインスタンス全体で、4ベンダーからの4つのアーキテクチャ(高密度モデルおよび混合専門家モデル)がいずれも、回答あたりゼロ生成トークンで180/180のスコアを達成した。これは、パラメータスケーリングから切り離された実行限界能力である。ネガティブコントロールは、その能力が完全にメモリに帰属することを示す。メモリを空にすると、何も解けなくなる。同じ検証後保存の契約は、オープンエンド推論にも当てはまる。4モデルすべてで88/88の一貫性ゲート付き受理、機械検証された形式的証明、および77/80の推論手法の転送である。メモリ選択には1.4マイクロ秒かかり、完全な再利用は36mWhで6~23ミリ秒で完了する。4,500項目の検証済みストアにおいて、近似類似性検索は94.3%の確率で誤った項目を選択する一方、正確なアドレッシングではエラーはゼロである。このストアはまた、出荷されたどのエンジンも匹敵しないスケールで動作コンテキストとして機能する。単一の46GB GPU上でフラットメモリによる600万トークンの移動可能ウィンドウを実現し、vLLMは30,399トークンで停止し、SGLangは32,000を超えると静かにトランケートする。公開ベンチマークでは、フロンティアモデルは生のスクラッチ推論において任意の12Bモデルよりもはるかに優れている。しかし、本システムが解決し検証したすべての課題においては比較が逆転する。フロンティアAPI呼び出しは、あらゆるクエリに対して毎回新たな生成パスを支払い続けるのに対し、検証済みの再利用はトークンコストゼロで、毎回同一のビット列を返す。本レポートには、無料でレート制限付きアクセス可能な公開テストベンチが付随する:https://corbenic-galahad-bench.hf.space
English
Improving a language model today means retraining it: enormous compute, a new opaque model each cycle, non-deterministic output. We take the opposite path: the model stays frozen, and a persistent memory of verified solutions grows beside it. Once a problem family is solved and has passed an independent verification step that never consults the answer key, every new instance of that family is answered at zero generation tokens, bit-exact, deterministically. Across 180 fresh instances spanning nine problem families, four architectures from four vendors - dense and mixture-of-experts - each score 180/180 at zero generation tokens per answer: execution-bound capability decoupled from parameter scaling. A negative control attributes the capability fully to the memory: emptied, it solves nothing. The same verify-before-store contract holds for open-ended reasoning: 88/88 consistency-gated acceptances across all four models, machine-checked formal proof, and reasoning-method transfer at 77/80. Memory selection takes 1.4 microseconds; a full reuse completes in 6-23 ms at 36 mWh. Approximate similarity retrieval selects the wrong item 94.3% of the time on a 4,500-item verified store where exact addressing makes zero errors. The store also serves as working context at a scale no shipped engine matches: a 6,000,000-token movable window on a single 46 GB GPU at flat memory, where vLLM stops at 30,399 tokens and SGLang silently truncates past 32,000. On published benchmarks, frontier models remain far ahead of any 12B at raw from-scratch reasoning; on everything this system has solved and verified, the comparison inverts: a frontier API call pays a fresh generation pass on every query, forever, while verified reuse costs zero tokens and returns the identical bits every time. A public testbench with free, rate-limited access accompanies this report: https://corbenic-galahad-bench.hf.space